AI 사이버 방어·교육 도입·공공조달, 확산 전에 정할 운영 기준

오늘의 판

100여 개 기업과 기관이 인공지능을 이용한 사이버 공격에 대비하자는 공동 공개서한을 냈다. 병원과 정수장, 인터넷 기반시설처럼 멈추면 시민 생활에 바로 영향을 주는 서비스를 먼저 지켜야 한다는 요구다. 서한은 새 보안제품을 사는 것보다 오래된 버그와 과도한 권한, 약한 인증, 패치하지 못한 시스템을 먼저 고치라고 강조했다. AI가 만든 코드도 예외 없이 구매·개발 보안기준으로 검사해야 한다고 적었다.1

오늘 국내외 소식은 AI를 더 널리 쓰는 일과 통제장치를 함께 설계해야 한다는 점을 구체적으로 보여준다. OpenAI는 미국 교직원 30만 명 이상에게 교육용 ChatGPT 접근과 교육을 제공하면서 16개 주가 함께 쓰는 개인정보 협약을 마련했다.2 SK텔레콤과 업스테이지를 포함한 14개 기관은 실제 관제 데이터를 이용하는 보안 특화 AI 모델 사업에 참여 신청했다.3

정부 쪽에서는 교육부가 현장 교원 주도로 AI 교과서 16개 과목을 개발하고, 과학기술정보통신부가 독자 AI 모델 평가 세부점수를 공개했다.4 5 재정경제부는 연구개발 성과가 실제 구매로 이어지도록 국가계약 제도를 고치겠다고 발표했다.6 기술을 고르는 기준, 개인정보를 다루는 계약, 시범사업을 평가하는 방식, 연구개발 뒤 구매하는 절차가 한꺼번에 움직인 하루다.

핵심 수치

산업·기술 이슈

AI 공격이 빨라지기 전에 오래된 취약점부터 고친다

OpenAI와 Anthropic, Microsoft, AWS 등을 포함한 100여 개 기업·기관이 사이버 방어 공동행동 공개서한을 발표했다. 서한은 앞으로 수개월 동안 AI를 이용한 공격이 더 널리 퍼지고 정교해질 수 있다고 전망한다. 공격자가 전문기술을 더 싸고 빠르게 쓸 수 있게 되면 인력과 예산이 부족한 병원, 정수장, 지방정부, 인터넷 기반시설이 먼저 압박받을 수 있다는 판단이다.1

제안한 대응은 네 집단으로 나뉜다. 모든 조직에는 가장 위험한 취약점을 고치고 최소권한, 강한 접근통제, 다층 방어를 적용하라고 요구한다. 보안기업에는 최신 AI의 공격 능력을 상대로 방어체계를 계속 시험하고 확인된 수정방법을 공유하라고 했다. 정부에는 위협정보와 사고 대응을 국내외에서 조정하고 예산이 부족한 필수서비스를 지원하라고 제안한다. AI 기업에는 방어 목적의 모델 접근, 자금, 훈련, 현장지원을 제공하고 AI 에이전트의 신원을 추적할 수 있게 하라고 요구했다.

그림 1. OpenAI가 게시한 사이버 방어 공동행동 공개서한 원문 화면이다. 출처: OpenAI 공동 공개서한.1

공공기관이 이 서한에서 바로 가져올 수 있는 일은 새 AI 보안도구를 구매하는 것이 아니다. 먼저 서비스별로 패치가 끝난 장비와 끝나지 않은 장비를 나누고, 관리자 권한을 실제 필요한 사람만 갖고 있는지 확인해야 한다. 운영 중단 때문에 패치할 수 없는 장비는 네트워크 분리나 접근경로 제한 같은 대체 통제를 적용한 뒤 침투시험이나 로그 점검으로 효과를 검증해야 한다. AI가 만든 프로그램 코드도 납품업체가 작성한 코드와 같은 보안검사를 통과해야 한다.

다만 공개서한은 위험 증가를 경고하고 행동 원칙을 제시한 문서다. 공격 증가의 정확한 시점과 규모를 확정한 예측도 아니고, 서명기관이 얼마를 지원할지 정한 이행계획도 아니다. 기관별 위험은 실제 자산과 권한, 외부 연결, 복구능력을 점검해 판단해야 한다.

용어 설명 — 최소권한: 사람과 프로그램이 맡은 일을 처리하는 데 꼭 필요한 권한만 갖도록 제한하는 보안 원칙이다.

용어 설명 — 대체 통제: 장비를 바로 고치기 어렵다면 접근 차단이나 별도 감시처럼 위험을 대신 낮추는 조치를 말한다.

교육용 ChatGPT는 이용 확대와 개인정보 협약을 함께 움직였다

OpenAI는 미국 20개 주 55개 교육구에 ChatGPT for Teachers를 확대해 교직원 10만 명 이상이 추가로 사용한다고 발표했다. 기존 협력을 합치면 30개 주의 100개 이상 초중등 교육기관에서 교직원 30만 명 이상에게 무료 접근과 교육을 제공한다. 서비스는 관리자와 교직원, 교육자 전용이며 검증된 미국 교육자에게 2028년 6월까지 무료다.2

규모보다 눈여겨볼 변화는 공동 개인정보 협약이다. 16개 주가 교육구마다 계약을 처음부터 다시 협상하지 않고 학생 데이터 보호요건을 공통 틀에서 검토할 수 있게 했다. 캘리포니아는 별도 협약으로 포함됐다. OpenAI는 AI가 학습을 대신하는 도구가 아니라 학습을 돕는 도구여야 하며 교실에서의 사용방법은 교육자가 통제해야 한다고 밝혔다.

그림 2. OpenAI가 게시한 ChatGPT for Teachers 교육구 확대 공식 발표 화면이다. 출처: OpenAI.2

공공기관과 학교가 무료 서비스를 검토할 때는 무료라는 사실을 계약검토의 면제사유로 보면 안 된다. 무료기간이 끝난 뒤 요금과 데이터 이전방법, 퇴직·전보자의 계정 회수, 학생정보 입력 범위, 교사가 올린 수업자료의 저작권, 관리자에게 제공되는 이용통계를 정해야 한다. 외부 검색이나 파일연결 같은 부가기능을 누가 승인할지도 필요하다.

이번 발표에는 이용기관과 대상 규모, 개인정보 협약이 나와 있지만 실제 활성사용률, 교사의 업무시간 변화, 학생 학습성과, 잘못된 답변의 비율은 공개되지 않았다. 미국 교육구가 사용하는 협약도 국내 교육법과 개인정보보호 규정에 맞춘 검토를 대신하지 않는다.

보안 특화 AI는 신청 단계부터 실전 데이터와 독립 평가를 내세웠다

SK텔레콤은 업스테이지, 보안기업 9개사, 고려대학교·숭실대학교, 한국정보보호산업협회와 14개 기관 컨소시엄을 구성했다. 과기정통부의 ‘사이버 보안 특화 AI 파운데이션 모델’ 개발 사업에 참여 신청서를 제출한 상태다. SKT의 A.X K 계열과 업스테이지의 Solar Open 계열을 바탕으로 한국어 보안 데이터와 국내 규제환경을 이해하는 모델을 개발한다는 구상이다.3

보안기업은 실제 운영현장에서 쌓은 데이터를 학습에 제공하고 상용제품과 관제환경에서 모델을 시험한다. 두 대학은 모델을 만든 조직과 떨어져 성능과 안전성을 검증하며, 협회는 성과 확산과 재직자 교육을 맡는다. SKT는 국내 주요 관제센터가 하루 최대 1만 건의 경보를 처리한다고 설명했다. 사람이 모든 경보를 같은 깊이로 분석하기 어렵기 때문에 분류와 대응 지원을 자동화하려는 것이다.

그림 3. SK텔레콤 뉴스룸이 게시한 보안 특화 AI 컨소시엄 보도자료 이미지다. 출처: SK텔레콤 뉴스룸.3

경보를 많이 처리한다고 보안이 좋아지는 것은 아니다. 공격이 아닌 행동을 공격으로 잘못 판단하면 정상 업무가 멈출 수 있다. 자동으로 계정을 차단하거나 네트워크를 끊는 기능은 탐지기능보다 훨씬 높은 통제가 필요하다. 어떤 조치는 AI가 추천만 하고 사람이 승인할지, 긴급상황에서 자동조치를 허용한다면 얼마 뒤 누가 재검토할지 정해야 한다. 학습데이터에 개인정보와 영업비밀이 섞이지 않게 반출·익명화 기준도 필요하다.

현재는 사업 참여 신청 단계다. 컨소시엄 선정, 모델 완성, 상용화가 확정된 것은 아니다. 학습데이터의 구체적인 범위와 성능목표, 자동조치 권한도 공개되지 않았다.

용어 설명 — 보안관제센터: 여러 시스템의 경보와 접속기록을 모아 공격 여부를 판단하고 대응하는 조직과 시설이다.

정부·공공 이슈

교원이 AI 교과서의 교육과정 분석부터 집필까지 맡는다

교육부는 초등학교 6개, 중학교 2개, 고등학교 8개 등 AI 관련 16개 과목의 교과서와 교육자료 개발을 지원한다. 현장 교원이 교육과정을 분석하고 단원을 구성하며 원고를 쓰는 전 과정을 주도한다. 교육부와 과기정통부, 10개 시도교육청이 협업하고, 집필위원 등 100여 명이 8월 28일부터 이틀 동안 개발 연수에 참여한다.4

개발 일정도 제시됐다. 2027년 1학기에 학교 현장에서 시범 적용하고, 같은 해 하반기 시도교육청의 인정 심의를 거쳐 2028년 3월부터 수업에 쓰는 계획이다. 변화가 느린 핵심 개념과 원리는 교과서에 담고, 빠르게 바뀌는 기술 동향과 실습은 책이나 웹 교육자료로 따로 만들어 계속 보완한다.

이 구조는 AI 교육의 어려움을 현실적으로 나눈다. 인쇄 교과서를 기술 변화 때마다 다시 만드는 대신 기본원리는 오래 쓰고 실습자료만 빠르게 바꿀 수 있다. 다만 시범 적용에서는 내용 정확성만 검사하면 부족하다. 학생이 생성형 AI에 어떤 개인정보를 넣는지, AI 답을 교사가 얼마나 다시 확인하는지, 이미지와 문장을 만들 때 저작권은 어떻게 설명하는지, 교사가 보완자료를 수정하는 데 시간이 얼마나 드는지 함께 측정해야 한다.

개발과 시범 계획이 발표됐지만 16개 과목의 최종 인정과 학교별 채택 규모는 확정되지 않았다. 교과서를 만들었다는 사실만으로 학생의 AI 이해도나 교원의 업무부담이 개선됐다고 볼 수도 없다.

용어 설명 — 인정교과서: 국정·검정 교과서가 없거나 보완이 필요할 때 교육청의 심의를 거쳐 학교에서 쓰는 교과용 도서다.

독자 AI 모델 세부점수 공개는 평가기준의 무게를 드러냈다

과기정통부는 참여기업의 동의를 거쳐 독자 AI 파운데이션 모델 2차 평가 세부점수를 공개했다. 종합점수는 SKT 70.6점, 업스테이지 69.9점, LG AI연구원 69.0점, 모티프 65.8점이었다. 평가는 벤치마크 40점, 전문가 35점, 사용자 25점으로 구성됐다.5

모티프는 정해진 문제를 푸는 기술성능을 재는 벤치마크에서 24.6점으로 1위였다. 그러나 전문가 평가 27.1점과 사용자 평가 14.1점으로 종합 4위가 됐다. 전문가위원 10명, AI 전문사용자 49명, 일반국민 185명이 평가에 참여했다. 최고 성능 한 항목만으로 최종순위가 정해지지 않았다는 사실을 수치로 확인할 수 있다.

평가를 공공기관 사업에 옮기면 모델 성능, 실제 업무 수행, 안전·신뢰성, 사용자 경험을 따로 봐야 한다. 예를 들어 문서요약 AI라면 정답문제 점수 외에 수치와 날짜를 틀리는 비율, 출처를 찾는 시간, 담당자가 다시 고치는 시간, 개인정보가 포함된 문서의 처리방식을 평가해야 한다. 배점과 평가자료, 이해충돌 방지, 이의제기 절차, 세부점수 공개 범위를 공모 전에 합의하면 결과 발표 뒤의 해석 갈등을 줄일 수 있다.

세부점수 공개는 투명성을 높였지만 평가틀 자체의 타당성을 자동으로 증명하지는 않는다. 이번 지표가 실제 운영 서비스의 품질과 비용을 얼마나 잘 예측하는지는 후속 실증에서 확인해야 한다. 3차 평가 방식과 향후 지원체계도 아직 확정되지 않았다.

용어 설명 — 벤치마크: 여러 AI 모델에 같은 문제와 조건을 주고 성능을 비교하는 표준 시험이다.

공공 거버넌스 이슈

R&D에서 구매까지 잇는 계약은 출구와 중단조건도 함께 설계해야 한다

재정경제부는 연간 238조 원의 공공구매력을 활용해 혁신기술의 첫 수요를 만들겠다는 국가계약 개편방안을 발표했다. 개발·구매 연계형, 성과 목표형, 조달 샌드박스가 3대 혁신 트랙이다. 연합뉴스가 확인한 정부 설명에 따르면 개발 단계에서 실질적인 경쟁을 거친 경우 후속 성과물 구매에서도 경쟁요건을 충족한 것으로 보는 방안을 추진한다. 물량과 단가는 기술의 불확실성을 고려해 구매 시점에 확정한다.6

정부는 AI 로봇을 예로 들었다. 산업부가 연구개발을 지원하고 경찰·소방청이 구매기관으로 참여했다면 개발된 성과물을 약정 수량만큼 재입찰 없이 구매할 수 있게 하는 방식이다. 성과 목표형 계약은 제품의 세부규격을 미리 고정하는 대신 달성할 결과를 제시하고 경쟁적 대화로 방법을 정한다. 조달 샌드박스는 기존 제도가 다루지 못한 계약을 2년 동안 시험한 뒤 효과를 보고 제도화를 검토한다.

연구개발이 끝난 뒤 구매기관을 다시 찾느라 사업이 멈추는 문제는 줄일 수 있다. 반대로 초기 약정이 특정 공급사에 장기간 묶이는 계약이 되지 않도록 주의해야 한다. 성과기준과 시험환경, 목표 미달 때 중단하는 조건, 물량·단가를 확정하는 시점, 유지보수 책임, 소스코드와 데이터의 이전 가능성을 나눠 적어야 한다. 여러 기관이 개발과 구매를 나눠 맡는다면 실증 실패와 안전사고의 책임도 미리 정해야 한다.

이번 발표는 제도 개편 방향을 제시한 단계다. 세부 법령과 계약예규, 정확한 시행일은 후속 자료를 확인해야 한다. AI 로봇 사례는 제도를 설명하기 위한 예시이며 특정 구매계약이 체결됐다는 뜻이 아니다.

용어 설명 — 조달 샌드박스: 기존 계약제도에 맞추기 어려운 방식을 제한된 기간에 먼저 시험하고 효과와 위험을 확인하는 절차다.

교차 분석

오늘 이슈를 함께 보면 도입 규모보다 운영조건이 AI 성패를 가른다는 판단이 선명해진다. 교육용 ChatGPT는 무료 접근만 넓힌 것이 아니라 여러 교육구가 개인정보 요구사항을 함께 검토할 계약 틀을 만들었다. 보안 특화 AI 컨소시엄은 모델 개발뿐 아니라 실제 관제환경의 시험과 대학의 독립 평가를 제시했다. 교과서 개발도 2027년 시범 적용과 인정 심의를 거치도록 했다.

국가계약 개편은 이 흐름의 구매 측면이다. 연구개발과 실증이 끝난 기술을 실제 구매로 연결하려면 구매기관이 초기에 참여해야 한다. 동시에 사이버 공개서한이 지적한 오래된 시스템과 과도한 권한을 새 사업 뒤로 미루면 안 된다. 새 AI가 오래된 취약한 시스템에 연결될수록 공격경로와 장애영향이 커질 수 있기 때문이다.

AI 관련 담당자라면 참고할 만한 적용 항목

리스크와 불확실성

사이버 방어 공개서한은 위험이 커질 수 있다는 공동 경고와 권고다. 공격 증가의 정확한 시점과 참여기관별 지원계획은 확정되지 않았다. OpenAI의 교육기관 확대도 대상 규모는 공개됐지만 실제 이용률과 학습효과, 오류율은 나오지 않았다.

SKT 컨소시엄은 사업 참여 신청 단계다. 선정과 모델 완성, 상용화가 확정된 것이 아니다. AI 교과서 역시 개발·시범 계획이며 최종 인정과 학교별 채택 규모는 남아 있다. 독자 AI 모델의 세부점수는 공개됐지만 평가가 실제 서비스 성과를 얼마나 예측하는지는 운영 결과로 검증해야 한다. 국가계약 개편은 방향 발표 단계이므로 세부 법령과 시행일을 후속 확인해야 한다.

더 깊이 공부하고 싶다면?

1. 패치할 수 없는 핵심 시스템의 대체 통제가 실제 공격에서도 작동하는지 어떻게 검증할 수 있을까?
2. 무료 AI 서비스 계약에서 무료기간 종료와 계정 회수, 데이터 삭제를 어떤 조항으로 남겨야 할까?
3. 보안 AI의 탐지율과 오탐률, 자동조치 권한 사이에서 기관이 정할 수 있는 안전선은 어디일까?
4. AI 모델 평가에서 벤치마크와 실제 업무 수행, 사용자 평가의 배점을 어떻게 정해야 결과를 납득할 수 있을까?
5. 연구개발 성과를 구매로 연결하면서도 특정 공급사 종속을 막을 계약조건은 무엇일까?

---

출처

1. OpenAI 외 서명기관, “A call for collective action on cyber defense,” 2026-08-27. https://openai.com/collective-cyberdefense/
2. OpenAI, “Bringing ChatGPT for Teachers to more U.S. school districts,” 2026-08-26. https://openai.com/index/bringing-chatgpt-for-teachers-to-more-us-school-districts/
3. SK텔레콤 뉴스룸, “SKT, 사이버 보안 특화 AI 모델 개발 도전,” 2026-08-27. https://news.sktelecom.com/229907
4. 교육부·대한민국 정책브리핑, “인공지능(AI) 교과, 교원이 주도하여 교육자료부터 인정교과서까지 만든다,” 2026-08-27. https://www.korea.kr/briefing/pressReleaseView.do?newsId=156775712
5. 과학기술정보통신부·대한민국 정책브리핑, “독자 AI 파운데이션 모델 프로젝트 2차 단계평가 결과를 상세히 공개합니다,” 2026-08-27. https://www.korea.kr/briefing/pressReleaseView.do?newsId=156775825
6. 재정경제부 발표·연합뉴스, “R&D·구매 단절 없앤다…국가계약 개편, 혁신기술 마중물,” 2026-08-28. https://www.yna.co.kr/view/AKR20260828000700002