강한 AI는 권한부터 나눈다: 보안·의료·교육 현장의 새 운영 기준

오늘의 판

Google이 같은 날 두 종류의 Gemini 3.8을 내놨다. 하나는 일상적인 문서·코딩·에이전트 업무에 쓰는 Flash이고, 다른 하나는 소프트웨어 취약점을 찾아 고치는 Flash Cyber다.1 눈에 띄는 점은 보안 모델의 높은 시험 점수만이 아니다. Google은 강한 보안 기능을 일반 사용자에게 곧바로 열지 않고, 정부와 중요 인프라 운영자 등 심사를 통과한 조직에만 제공하기로 했다. 사용자별 인증, 피싱에 강한 다중인증, 접근권한과 직원 사용기록도 참여 조건에 넣었다.

OpenAI는 AI가 기관의 핵심 데이터에 한층 가까이 가는 사례를 보여줬다. ChatGPT for Healthcare가 Epic 전자의무기록과 연결돼 권한이 있는 환자 정보를 불러오고, 9개 공공 의료정보 출처도 한 화면에서 다룰 수 있게 됐다.2 AI가 원장을 직접 읽는 환경에서는 답변의 자연스러움보다 누가 어떤 기록을 읽었는지, 답변이 어느 레코드와 버전을 근거로 했는지, 잘못된 요약을 누가 바로잡는지가 더 중요해진다.

교육 현장에서는 도입 속도와 준비 수준 사이의 간격이 수치로 드러났다. IBM 의뢰로 실시한 미국 조사에서 중·고교 교사의 70% 이상이 교실에서 AI를 매주 쓴다고 답했지만, 충분한 AI 훈련을 받았다는 교육 종사자는 20%에 그쳤다.3 G20 혁신장관회의는 AI 관련 지식재산, 표준, 인력과 공급망을 함께 다루는 6개 축에 합의했다.4 오늘의 공통 질문은 단순하다. 기관이 AI 기능을 열기 전에 데이터 권한, 사용자 훈련, 책임과 국제 기준을 실제 운영 절차로 옮겼는가.

그림 1. Google이 공개한 Gemini 3.8 Flash·Flash Cyber 공식 대표 이미지. 출처: Google 공식 블로그.1

핵심 수치

산업·기술 이슈 1 — Gemini 3.8은 성능과 접근권한을 함께 내놨다

Google은 9월 2일 Gemini 3.8 Flash와 Gemini 3.8 Flash Cyber를 공개했다.1 일반형 Flash는 코딩과 여러 단계를 거치는 추론, 도구를 반복해서 쓰는 에이전트 업무를 겨냥한다. Google 발표에 따르면 HLE-Verified에서 54.9%를 기록했고, 도입 가격은 입력 토큰 100만 개당 0.75달러, 출력 토큰 100만 개당 3.75달러다. 이 가격은 2026년 말까지만 적용되며 2027년 1월부터 각각 1.50달러와 7.50달러로 오른다.

여기서 토큰은 AI가 글을 읽고 만들 때 세는 작은 글자 단위다. 입력 가격이 싸더라도 복잡한 작업에서 모델이 생각 단계를 늘리고 도구를 여러 번 호출하면 전체 토큰과 외부 시스템 호출이 함께 늘어난다. 기관의 비용 시험은 짧은 질문 한 번의 단가가 아니라, 실제 업무 한 건을 끝낼 때까지 발생한 입력·출력 토큰과 도구 호출을 모두 세어야 한다.

용어 설명 — 에이전트: 질문에 답하는 데서 그치지 않고 여러 단계를 계획하고 검색·코드 실행·시스템 입력 같은 도구를 호출해 일을 진행하는 AI를 말한다.

Flash Cyber는 취약점을 발견하고 패치를 만드는 방어 작업에 맞췄다. Google은 C·C++에 한정되지 않은 20개 프로그래밍 언어 내부 시험에서 취약점 발견 성공률이 70%를 넘었다고 밝혔다. 외부 기관 Collinear가 운영하는 CWE-Bench에서는 첫 시도 통과율 47.2%를 기록했다. Chrome 보안팀 사례에서는 큰 상용 모델보다 올바른 패치를 2.6배 더 만들었다고 설명했다. 하지만 이 수치들은 Google 발표와 특정 시험 조건의 결과다. 기관이 가진 오래된 업무시스템, 폐쇄망, 한국어 주석과 복잡한 연계 환경에서 같은 성능이 나오는지는 별도 시험이 필요하다.

Google이 함께 연 Fairwind 프로그램은 강한 사이버 기능을 어떻게 제한할지도 구체적으로 적었다. 정부, 의료·통신·에너지·금융 같은 중요 인프라 운영자, 널리 쓰이는 소프트웨어의 유지관리자 등을 우선 심사한다. 참여 조직은 사용자별 인증과 피싱 방지 다중인증을 적용하고, 내부 보안·사고대응·모의침투 팀에만 권한을 주며 직원의 접근과 사용을 추적해야 한다. 모델 접근을 다른 조직에 나눠주거나 판매하는 것도 금지한다.

공공기관이 보안 AI를 검토한다면 “취약점을 몇 개 찾았나”만으로 도입을 판단하면 안 된다. 승인된 코드 저장소와 시험망에서만 작동하는지, 공격 코드 실행은 어디까지 허용하는지, 사람이 패치를 승인하지 않으면 운영계에 반영되지 않는지, 발견한 취약정보가 외부로 나가지 않는지를 함께 검증해야 한다. 공급사가 제시한 접근 통제를 기관의 계정·권한 체계와 연결할 수 있는지도 계약 전에 확인할 항목이다.

산업·기술 이슈 2 — 의료 AI가 답변창에서 데이터 원장으로 이동했다

OpenAI는 9월 1일 ChatGPT for Healthcare가 Epic의 전자의무기록 환경과 연결된다고 발표했다.2 의료진은 권한이 있는 환자의 예약 메모, 검사 결과, 약물 변화와 전문의 기록을 모아 최근에 무엇이 바뀌었는지 물을 수 있다. 지원되는 환경에서는 ChatGPT를 전자의무기록 화면 안에 넣어 별도 창으로 옮겨 다니지 않고도 쓸 수 있다.

전자의무기록은 환자의 진료·검사·처방 정보를 관리하는 병원의 핵심 원장이다. 검색 시간이 줄 수 있지만, AI가 잘못된 환자나 오래된 기록을 섞으면 문제가 커진다. OpenAI는 기존 권한을 유지하고 근거가 된 차트 정보로 다시 이동할 수 있게 설계했다고 설명했다. 기관이 비슷한 연결을 도입할 때도 AI 계정을 따로 넓게 주는 방식이 아니라 원 시스템의 사용자 권한을 그대로 이어받게 해야 한다. 답변에는 근거 문서의 이름, 작성일, 버전과 원문 위치가 남아야 한다.

용어 설명 — EHR·전자의무기록: 병원이 환자의 진료, 검사, 처방과 후속조치를 전산으로 기록하고 관리하는 시스템이다.

함께 공개한 Healthcare Public Data 플러그인은 ClinicalTrials.gov, CMS Coverage, RxNorm, DailyMed, PubMed 등 9개 공식 의료정보 출처를 구조화해 연결한다. 연구팀은 모집 중인 임상시험의 조건을 비교하고, 약무팀은 최신 의약품 표시와 경고를 확인하는 식으로 쓸 수 있다. 여기서 중요한 점은 ‘공식 출처를 연결했다’와 ‘AI 답변이 항상 정확하다’가 같은 말이 아니라는 것이다. 여러 출처의 기준일과 식별자를 섞어 요약할 때는 최신 버전과 적용 대상을 사람이 다시 확인해야 한다.

OpenAI는 60개국, 49개 언어, 26개 의료 전문분야의 의사들과 70만 건이 넘는 모델 응답을 검토했다고 밝혔다. 연결된 전자의무기록은 진료 전 검토, 투약 검토, 인계 요약 등 27개 사용 사례로 평가했다. 별도의 두 차례 평가에서는 시험한 5개 미국 의료데이터 출처마다 응답의 93% 이상이 정확성 ‘양호’ 이상을 받았다고 설명했다. 이는 실제 환자 안전이나 진료시간 단축을 입증한 임상 결과가 아니라, 공급사가 설계한 과제에서 의사가 응답을 평가한 결과다.

OpenAI는 역할 기반 접근, 통합로그인과 감사로그를 제품 통제로 제시했다. 개인 의료인에게는 전자의무기록 연결을 열지 않고, 조직 관리자에게 연결 기능을 켤 권한을 둔다. 국내 공공기관이 참고할 지점은 제품명이 아니라 구조다. 외부 AI가 민감한 원장을 읽는다면 사용자별 최소 권한, 관리자의 연결 승인, 근거 추적, 접근기록 보관, 잘못된 요약의 정정 절차를 하나의 도입 요건으로 묶어야 한다.

그림 2. IBM이 공개한 미국 K-12 학교 AI 준비도 조사 공식 이미지. 출처: IBM Newsroom.3

정부·공공 이슈 1 — 학교는 AI를 쓰기 시작했지만 설명과 훈련이 늦었다

IBM이 Morning Consult에 의뢰해 9월 2일 공개한 미국 조사에서는 학교의 AI 사용과 준비 수준이 같은 속도로 가지 않았다.3 중학교 교사의 76%, 고등학교 교사의 73%가 교실에서 AI를 적어도 매주 쓴다고 답했다. 초등학교는 45%였다. 고등학교 교사의 45%는 매일 또는 거의 매일 쓴다고 했다. 반면 충분한 AI 훈련을 받았다는 초중고 교육 종사자는 20%였다.

조사는 2026년 7월 미국 성인 2,048명을 대상으로 온라인으로 진행됐다. 교육 종사자 1,019명과 초중고 자녀를 둔 학부모 1,029명이 참여했고, 두 표본의 오차범위는 각각 ±3%포인트다. 미국 표본이므로 국내 학교의 이용률로 바꿔 말해서는 안 된다. 교사가 ‘AI를 쓴다’고 답한 범위도 수업 준비인지, 학생 과제인지, 행정업무인지 세분화된 시스템 기록은 아니다.

학부모 응답은 설명 책임의 빈틈을 보여준다. 77%는 자녀의 교실에서 AI를 어떻게 쓸지 의견을 내고 싶다고 답했지만, 학교가 자녀에게 제공하는 AI 지침을 분명히 이해한다는 응답은 20%였다. 더 명확한 지침이 필요하다는 응답은 51%, 교실 AI 사용의 투명성을 높여야 한다는 응답은 48%였다. 교사는 학생의 AI 의존과 표절을 더 걱정했고, 관리자는 교원 훈련 부족과 도구 비용을 상대적으로 더 많이 지적했다.

IBM은 이 조사와 함께 올가을 뉴욕권 교육감·교육 지도자·교육자 최대 100명이 참여하는 AI 리더 펠로십을 시작한다고 밝혔다. 첫해에는 다른 미국 주로 확대할 계획이다. 아직 프로그램 성과가 나온 것은 아니다. 교육 과정과 최종 프로젝트를 운영하겠다는 계획 단계다.

국내 교육·공공기관이 가져갈 판단은 “AI 교육을 더 많이 하자”보다 구체적이어야 한다. 직원을 대상으로는 단순 기능 교육과 결과 검증·개인정보·저작권 교육을 구분하고, 실제 업무 사례로 숙련도를 확인해야 한다. 학생과 국민에게는 어떤 AI를 어디에 쓰는지, 입력하면 안 되는 정보는 무엇인지, AI 판단에 이의를 제기할 창구가 어디인지 공개해야 한다. 사업 성과표에도 가입자 수뿐 아니라 훈련 이수, 지침 이해도, 오류 신고와 정정에 걸린 시간을 넣을 필요가 있다.

정부·공공 이슈 2 — G20은 AI를 모델 하나가 아닌 정책 묶음으로 봤다

미국 상무부와 백악관 과학기술정책실이 주최한 G20 혁신장관회의가 9월 2일 이틀간의 회의를 마치고 공동 합의문을 발표했다.4 참석 대표 목록에는 대한민국, 유럽연합, 중국, 일본, 영국과 주요 G20 회원국·연합이 포함됐다. 장관들은 신기술이 생산성과 기회를 넓힐 잠재력이 있다는 데 뜻을 모았다.

합의문은 여섯 축을 제시했다. 혁신 친화 정책, 기회와 번영을 위한 기술, 기술인력 개발, AI 관련 지식재산 정책, AI를 위한 표준과 표준을 위한 AI, 산업혁신과 공급망 투자다. 별도의 Carolina Principles는 기초연구 투자, 연구성과가 실제 제품과 서비스로 이어지는 상용화 경로, 신뢰할 수 있는 기술의 도입을 강조했다.

그림 3. G20 혁신장관회의 합의를 발표한 미국 백악관 공식 페이지의 대표 이미지. 출처: 미국 백악관.4

이번 발표만으로 국내 기관에 새 의무가 생기는 것은 아니다. 백악관 본문에는 국가별 이행기한이나 법적 구속력이 제시되지 않았다. 세부 합의의 국내 반영 방식도 각 정부의 후속 정책을 봐야 한다. 따라서 ‘G20이 정했으니 즉시 준수해야 한다’고 과장해서는 안 된다.

그럼에도 공공 AI 사업의 검토표를 넓혀야 한다는 신호는 분명하다. AI 모델의 정확도만 심사하면 데이터와 산출물의 권리, 국제·국내 표준, 담당 인력의 전문성, GPU·클라우드·오픈소스 공급망, 사업 종료 뒤 이전 가능성을 놓친다. 조달 제안요청서에는 학습·입력 데이터와 생성물의 권리, 적용 표준, 핵심 부품과 외부 서비스, 서비스 종료 때 데이터와 기록을 돌려받는 방법을 명시해야 한다. 성과평가에서는 기술 시연뿐 아니라 실제 이용자의 훈련과 운영조직의 대응 능력을 함께 봐야 한다.

공공 거버넌스 이슈 — 강한 기능은 ‘좋은 약관’보다 작동하는 통제가 먼저다

오늘 네 발표는 서로 다른 분야를 다루지만, 공공기관이 확인할 운영 항목은 겹친다. Gemini 보안 모델은 위험한 기능의 접근자를 제한하고 사용기록을 요구한다. 의료 ChatGPT는 원 시스템 권한과 감사로그를 강조한다. 학교 조사에서는 사용자가 늘어난 뒤에야 훈련과 설명이 부족하다는 문제가 드러났다. G20은 표준·지식재산·인력·공급망을 같은 정책 묶음에 넣었다.

문서에 ‘책임 있는 AI’라고 적는 것만으로는 부족하다. 실제 시스템에서는 일반 계정으로 보안 기능을 실행할 수 없는지, 관리자가 승인하지 않은 데이터 연결이 막히는지, 답변에서 근거 원문으로 돌아갈 수 있는지, 사고 뒤 누가 무엇을 했는지 재현할 수 있는지를 시험해야 한다. 이용자에게는 사용 사실과 한계, 정정·이의제기 방법이 보여야 한다. 이런 통제는 도입 뒤 보완하는 부속업무가 아니라 계약과 시험 단계에서 확인할 제품 요구사항이다.

교차 분석

첫째, 모델은 더 강해졌지만 강한 기능일수록 접근 범위는 좁아지고 있다. Google은 사이버보안 전용 모델을 승인된 방어 조직에만 제공한다. OpenAI도 개인 의료인에게 전자의무기록 연결을 열지 않고 조직 관리자와 기존 권한 체계를 전제로 한다. 공공기관의 계정 정책도 ‘모두에게 같은 AI’를 기본값으로 삼기보다 업무 위험에 따라 기능·데이터·도구 권한을 나눠야 한다.

둘째, 사용량은 준비도를 대신하지 못한다. 교실에서 매주 AI를 쓰는 비율이 높아도 충분한 훈련과 학부모의 지침 이해가 낮을 수 있다. 기관에서도 월간 사용자 수가 늘었다는 이유만으로 안전한 정착을 선언하면 안 된다. 이용자가 결과를 검증할 수 있는지, 입력 제한을 이해하는지, 오류를 신고하고 바로잡는 절차를 아는지를 별도로 측정해야 한다.

AI 관련 담당자라면 참고할 만한 적용 항목

리스크와 불확실성

Google의 모델 성능, OpenAI의 의료 응답 평가와 IBM의 학교 조사는 모두 각 기업이 발표하거나 의뢰한 결과다. 독립된 장기 운영 성과로 받아들이면 안 된다. 특히 보안 취약점 탐지율은 코드 종류와 시험 환경에 따라 달라지고, 의료 응답의 정확성 평가는 실제 환자 결과를 뜻하지 않는다.

IBM 조사는 미국 교육 현장의 설문이라 국내 이용률을 추정하는 자료가 아니다. G20 합의도 큰 정책 방향이며 국가별 법령과 기관의 즉시 이행기한을 정한 문서가 아니다. 국내 적용을 판단하려면 개인정보보호법, 전자정부·기록관리 기준, 분야별 법령과 후속 정부 지침을 별도로 대조해야 한다.

더 깊이 공부하고 싶다면?

1. 고위험 AI 기능을 일반 계정과 분리할 때 권한을 어떤 업무 단위로 나눠야 할까?
2. AI가 여러 기관 데이터 원장을 연결할 때 원문 버전과 접근권한을 끝까지 보존하려면 어떤 로그가 필요할까?
3. AI 교육의 성과를 접속자 수가 아니라 검증 능력과 안전한 사용으로 측정하려면 어떤 실습과 지표가 적절할까?
4. AI 조달에서 모델 정확도 외에 지식재산, 표준, 공급망과 종료·이전 조건을 어떻게 평가표에 넣을 수 있을까?

---

출처

1. Google, “Introducing Gemini 3.8 Flash and 3.8 Flash Cyber”, 2026-09-02. https://blog.google/innovation-and-ai/models-and-research/gemini-models/3-8-flash-and-3-8-flash-cyber/

2. OpenAI, “Healthcare organizations can now connect EHR and additional industry data to ChatGPT”, 2026-09-01. https://openai.com/index/chatgpt-connects-health-records-and-healthcare-sources/

3. IBM·Morning Consult, “New IBM Study Finds AI Adoption Is Outpacing K-12 Readiness”, 2026-09-02. https://newsroom.ibm.com/2026-09-02-new-ibm-study-finds-ai-adoption-is-outpacing-k-12-readiness

4. The White House, “G20 Innovation Ministerial Concludes with Consensus Statement”, 2026-09-02. https://www.whitehouse.gov/releases/2026/09/g20-innovation-ministerial-concludes-with-consensus-statement/