신뢰의 기준물에 생성형 AI가 들어온 날

데이터: 검증 원문 5건 · 산업·기술 2건 · 정부·공공 3건 · 기준일 2026년 8월 1일 · 카카오 브리핑 검증 로그 3897813932022294529

오늘의 판: AI 도입의 중심이 기능에서 책임 구조로 이동했다

오늘의 다섯 이슈는 겉으로 보면 지도 이미지 생성, 의료 AI, 정부 데이터센터, 지방정부 책임관, 공공기관 추진단처럼 서로 다른 분야에 흩어져 있다. 그러나 한 줄로 연결하면 같은 질문에 도착한다. AI가 실제 업무와 의사결정에 들어갈수록, 무엇을 할 수 있는지보다 어디까지 맡길지와 누가 책임질지가 더 중요해진다.

구글 어스 사례는 이 질문을 가장 선명하게 보여준다. 생성형 이미지 기능 자체는 기술적으로 매력적이었지만, 서비스가 수십 년 동안 사실확인의 기준 자료로 쓰여 왔다는 맥락을 놓쳤다. 워터마크를 붙였고 다른 이용자의 기본 지도에는 생성 결과가 나타나지 않았지만, 기능은 24시간 안에 철회됐다. 안전장치가 전혀 없어서가 아니라 기존 신뢰 체계와 생성 기능의 경계를 잘못 설계했기 때문이다. 1

공공부문에서도 비슷한 전환이 시작됐다. 행정안전부는 국가정보자원관리원 대전센터의 693개 시스템을 데이터 등급, 업무 중요도, 재해복구, 상호 연계까지 포함해 다시 분석한다. 충남도는 인공지능책임관을 지정해 전략과 사업의 책임선을 세웠다. 축산물품질평가원은 원장 직속 추진단 아래 데이터와 AI 과제기획 분과를 두고 실증에서 본사업까지 관리한다. 세 사례 모두 ‘AI 과제를 더 발굴하자’가 아니라 배치 원칙, 책임자, 전환 절차를 먼저 확정하자는 방향이다. 3 4 5

핵심 수치: 오늘의 변화를 보여주는 다섯 개의 숫자

수치	무엇을 뜻하나	실무적으로 읽을 점
24시간 이내	구글 어스의 생성형 이미지 기능 철회까지 걸린 시간	신뢰 기반 서비스는 출시 후 수정이 아니라 출시 전 경계 설계가 핵심이다.
0~6단계	제안된 의료 AI 자율성·자동화·운용 범위 분류	AI를 제품명이 아니라 실제 권한 수준으로 구분해야 한다.
693개	국정자원 대전센터 전수 분석 대상 정보시스템	인프라 전환은 개별 서버 이전이 아니라 시스템 관계 전체를 다시 보는 작업이다.
약 8개월	국정자원 혁신 ISP 수립 기간	선언이 아니라 데이터 등급·재배치·대체센터를 설계하는 계획 단계가 시작됐다.
2개 분과	축평원 AX 추진단 산하 데이터·AI 과제기획 분과	데이터 준비와 과제 기획을 분리하되 하나의 책임선에서 조정한다.

이 숫자들은 AI 성능 경쟁을 설명하지 않는다. 대신 AI를 조직 안에 넣는 데 필요한 통제의 크기를 보여준다. 기능 출시의 속도는 시간 단위로 빨라졌지만, 공공 인프라와 조직 책임 구조는 수개월에 걸친 분석과 제도 설계가 필요하다. 두 속도의 차이를 인정하지 않으면 현장에서는 기술이 정책과 운영을 앞질러 간다.

산업 이슈 1: 구글 어스 철회가 보여준 ‘기준물 오염’ 위험

구글은 7월 30일 AI 이미지 생성 도구 ‘나노 바나나 2’를 구글 어스의 위성·항공·3D 지도 데이터와 결합하는 기능을 발표했다. 이용자는 특정 위치를 확대해 몇 초 안에 새로운 이미지를 만들 수 있었다. 발표 직후 공개출처정보(OSINT) 전문가와 허위정보 연구자들은 실제 지형·건물 위에 그럴듯한 가짜 장면을 덧씌울 수 있다는 문제를 제기했다. 가자지구의 폭탄 분화구, 이란 핵시설, 사고 현장처럼 보이는 생성 이미지가 공유되면서 우려는 가상 시나리오가 아니라 실제 사례가 됐다. 1

구글은 생성 결과에 AI 워터마크를 붙였고, 다른 이용자가 보는 기본 지도에는 결과가 표시되지 않는다고 설명했다. 그럼에도 기능을 철회한 이유는 구글 어스가 단순 이미지 서비스가 아니기 때문이다. 언론인, 연구자, 조사기관이 의심스러운 사진을 대조하는 기준 자료로 사용해 온 서비스 안에 생성 도구가 들어오면, 가짜를 판별하는 잣대 자체가 의심받게 된다. 워터마크는 개별 결과물의 출처를 알려줄 수 있지만 기준 시스템에 대한 전체 신뢰가 약해지는 문제까지 해결하지 못한다.

공공기관에도 같은 위험이 있다. 통계 대시보드에 AI 전망치를 넣거나, 지도 서비스에 생성형 설명을 붙이거나, 공시 문서에 AI 요약을 제공할 때 원본과 생성 결과가 한 화면에서 같은 권위를 갖는 순간이 생긴다. 이때 필요한 것은 단순한 ‘AI 생성’ 표시가 아니다. 원본 조회 영역과 생성·추론 영역의 시각적 분리, 생성 시각과 모델 버전, 사용 데이터 범위, 결과 저장·공유 이력, 외부 반출 제한을 함께 설계해야 한다.

공공기관 적용 판단: 국민이 사실로 받아들이는 기준 시스템에는 생성 기능을 기본값으로 넣지 않는다. 원본을 훼손하지 않는 별도 실험 공간에서 검증하고, 사용자가 생성 결과임을 놓칠 수 없는 구조를 만든 뒤 제한적으로 연결해야 한다.

산업 이슈 2: 의료 AI 7단계가 던지는 권한 기반 관리 원칙

전문가 5명은 국제학술지 ‘네이처’를 통해 의료 AI를 자율성, 자동화, 운용 범위의 세 축으로 평가하고 0단계부터 6단계까지 분류하는 체계를 제시했다. 0단계는 정보를 정리하거나 모니터링하는 AI, 1단계는 이상 징후를 표시하는 보조 AI, 2단계는 진단·치료 계획을 제안하지만 의료진이 최종 결정을 내리는 의사결정 지원 AI다. 3단계부터 AI가 직접 의사결정자가 되며, 5단계는 병력 청취·검사·처방·합병증 관리까지 수행하는 자율 의사 AI, 6단계는 새로운 데이터로 스스로 진료 방식을 갱신하는 자기학습 의료 AI로 정의된다. 2

이 분류의 가치가 의료 분야에만 있는 것은 아니다. 지금 공공기관의 AI 과제는 대부분 ‘챗봇’, ‘에이전트’, ‘업무지원’ 같은 제품명이나 화면 형태로 분류된다. 그러나 같은 챗봇이라도 법령을 찾아주는 기능과 민원 처리 결과를 결정하는 기능은 위험이 전혀 다르다. 같은 에이전트라도 보고서 초안을 만드는 기능과 내부 시스템에 접속해 지급·정지·승인 처리를 실행하는 기능은 다른 통제가 필요하다.

따라서 공공 AI도 권한에 따라 단계화할 수 있다. 예를 들어 0단계는 검색·요약, 1단계는 이상 탐지와 추천, 2단계는 근거를 제시하는 의사결정 지원, 3단계는 사람의 감독 아래 제한된 자동 처리, 4단계 이상은 여러 시스템을 연결한 광범위 자동 집행으로 볼 수 있다. 단계가 높아질수록 사람의 최종 승인, 설명 가능성, 처리 로그, 중단 권한, 사후 이의제기, 사고 배상 구조를 강화해야 한다.

연구진은 3단계 이상 도구가 일반화되기 전에 규제 등급, 실제 현장 성능의 지속 감시, 의료인 교육, AI 판단 활용 기록, 전용 보험과 안전망을 준비해야 한다고 제안했다. 아직 고도 자율 의료 AI가 널리 쓰이지 않는 지금이 책임 경계를 정할 시점이라는 뜻이다. 공공부문도 자동 집행 기능이 확산된 뒤에 규정을 만들면 이미 형성된 업무 관행과 시스템 의존성을 되돌리기 어렵다.

공공기관 적용 판단: AI 서비스 목록에 ‘기능명’만 기록하지 말고 읽기·추천·작성·승인·집행 중 어떤 권한을 갖는지, 어떤 데이터 등급에 접근하는지, 사람의 승인 없이 어디까지 진행되는지를 함께 등록해야 한다.

정부 이슈: 693개 시스템 재배치는 AI정부의 실제 기반공사다

행정안전부는 한국지능정보사회진흥원, 국가정보자원관리원, KT 컨소시엄과 함께 7월 31일 ‘국정자원 혁신 정보화전략계획(ISP) 수립 사업’ 착수보고회를 열었다. 올해 2월 국가인공지능전략위원회가 발표한 AI정부 인프라 거버넌스·혁신 방향의 후속 조치다. 약 8개월 동안 대전센터의 693개 정보시스템을 전수 분석하고 재배치 전략과 대체 방안을 설계한다. 3

분석 범위는 단순 장비 목록이 아니다. 정보 자원 현황, 업무 특성, 국가 망 보안체계(N2SF)에 따른 데이터 등급, 시스템 중요도, 재해복구 구성, 시스템 간 연계 관계를 함께 본다. 데이터 배치의 기본 원칙도 제시됐다. 기밀(C) 등급은 공공 데이터센터, 민감(S)·공개(O) 등급은 민간 클라우드를 기본으로 하되 업무 중요도와 특성, 장비 노후도 등을 결합해 개별 방안을 구체화한다.

이 접근은 기관별 AI 인프라 계획에도 직접적인 기준이 된다. 많은 AI 사업이 GPU나 클라우드 사용량부터 계산하지만, 실제 배치 결정은 데이터 등급과 시스템 연계가 좌우한다. 공개 데이터로 답변하는 챗봇과 개인 상환정보를 처리하는 업무 에이전트는 같은 클라우드 전략을 쓸 수 없다. 모델은 외부에 있어도 데이터는 내부에 둘 수 있고, 반대로 공개 데이터는 민간 서비스를 적극 활용할 수도 있다. 중요한 것은 기술 브랜드가 아니라 업무·데이터·복구 요구를 묶은 배치 원칙이다.

또 하나의 핵심은 재해복구다. AI 서비스가 업무의 주변 기능일 때는 장애가 불편으로 끝나지만, 의사결정과 자동 처리에 들어가면 장애가 행정 중단으로 연결된다. 모델 API 장애, 벡터DB 손상, 인증 시스템 장애, 외부 공급사 중단을 기존 정보시스템 DR과 같은 수준으로 다룰지 결정해야 한다. ISP 결과가 나오기 전이라도 각 기관은 AI 서비스별 복구목표시간, 대체 업무 절차, 데이터 재처리 기준을 정리할 수 있다.

공공기관 적용 판단: AI 인프라 계획서의 첫 표는 GPU 수량이 아니라 업무 중요도, 데이터 등급, 외부 반출 가능 여부, 시스템 연계, 복구 목표, 공급사 교체 가능성을 담아야 한다.

공공 거버넌스 이슈: 책임관과 추진단은 서로 다른 문제를 푼다

충남도는 홍종완 행정부지사를 첫 인공지능책임관(CAIO)으로 지정했다. CAIO는 AI 기본법과 시행령에 따라 국가인공지능전략위원회 산하 인공지능책임관협의회에 참여하고, 도 내부에서는 AI 정책 수립과 주요 사업을 총괄한다. 충남도는 8월 10일부터 새 행정체계를 본격 운영할 계획이다. 4

이 조치는 AI 책임을 정보화 부서 한 곳에만 두지 않는다는 의미가 있다. AI 정책은 예산, 조직, 데이터, 보안, 법무, 감사, 대민서비스를 가로지른다. 실무 부서가 개별 과제를 추진하더라도 우선순위 충돌과 공통 기준은 기관 대표 수준에서 조정해야 한다. CAIO는 모든 기술 결정을 직접 내리는 사람이 아니라, 서로 다른 책임 주체가 빠지지 않게 만드는 조정 책임자에 가깝다.

축산물품질평가원 사례는 기관 내부 실행구조를 보여준다. 원장 직속 AX 추진단 아래 데이터 분과위원회와 AI 과제기획 분과위원회를 두고, 전략 수립부터 과제 발굴, 실증(PoC), 본사업 전환까지 전주기를 관리한다. AI 전략, 데이터, 보안·윤리, 공공서비스 분야 외부 전문가가 참여하며 분기별 정례회의와 수시 점검회의로 진행 상황을 관리한다. 5

책임관과 추진단은 대체 관계가 아니다. 책임관은 ‘누가 전체 방향과 충돌을 조정하는가’를 해결하고, 추진단은 ‘어떤 절차로 과제를 선별하고 실행하는가’를 해결한다. 책임관만 있고 실무 절차가 없으면 선언에 머문다. 추진단만 있고 대표 책임선이 없으면 부서 간 이해충돌과 예산 우선순위를 정리하기 어렵다.

축평원이 데이터 분과와 AI 과제기획 분과를 나눈 점도 중요하다. AI 과제가 데이터 준비 상태를 무시한 채 시작되면 PoC는 시연으로 끝나고 본사업으로 넘어가지 못한다. 반대로 데이터 정비만 계속하면 실제 서비스 가치가 검증되지 않는다. 두 분과가 별도로 전문성을 유지하면서 원장 직속 추진단에서 함께 판단하는 구조는 이 간극을 줄이기 위한 선택이다.

공공기관 적용 판단: AI 책임관, 데이터 책임자, 보안·개인정보 책임자, 현업 과제 책임자의 역할을 한 장의 RACI 표로 만들고, PoC 착수·중단·본사업 전환의 승인권자를 명시해야 한다.

교차 분석: 세 가지 경계를 먼저 그어야 한다

다섯 이슈를 함께 보면 기관이 우선 그려야 할 경계는 세 가지다.

첫째는 사실과 생성의 경계다. 원본 데이터, 법령, 통계, 지도, 공시처럼 국민이 사실로 받아들이는 정보와 AI가 생성·추론한 결과를 같은 화면과 같은 문체로 제공하면 권위가 섞인다. 생성 결과에는 표시뿐 아니라 원본으로 돌아갈 수 있는 경로, 생성 근거, 버전, 시각, 수정 이력이 필요하다.

둘째는 보조와 결정의 경계다. 의료 AI 7단계 제안처럼 AI가 정보를 보여주는지, 선택지를 추천하는지, 사람 대신 처리하는지에 따라 책임이 달라진다. 공공기관의 자동화율 목표가 높아질수록 이 경계를 건너는 과제가 늘어난다. 자동화율을 성과지표로만 보면 사람 승인과 이의제기가 비용으로 취급될 위험이 있다.

셋째는 실증과 운영의 경계다. PoC에서는 제한된 데이터와 숙련된 담당자가 오류를 보정할 수 있다. 본사업에서는 이용자와 데이터가 늘고 담당자가 바뀌며 외부 시스템 연계가 깊어진다. 축평원의 전주기 관리와 국정자원의 전수 분석은 실증 성공만으로 운영 준비가 끝나지 않는다는 점을 보여준다.

이 세 경계는 별도 문서가 아니라 하나의 운영체계로 묶어야 한다. 데이터 등급이 높고 자동 결정 권한이 크며 운영 범위가 넓은 과제일수록 더 강한 사전 검토와 중단 권한이 필요하다. 반대로 공개 데이터 요약처럼 위험이 낮은 기능에 같은 수준의 통제를 적용하면 도입 속도만 늦어진다. 위험 기반의 차등 관리가 필요한 이유다.

AI데이터전략부 적용 매트릭스

대상	바로 확인할 질문	필요한 산출물	우선순위
현재 AI 과제 목록	각 기능은 검색·추천·작성·승인·집행 중 어디에 해당하는가	AI 권한 단계표	최우선
데이터 연계 과제	사용하는 데이터의 N2SF 등급과 외부 반출 가능 범위는 무엇인가	데이터 배치·반출 기준표	최우선
생성형 대민서비스	원본과 생성 결과가 화면·문체·저장 구조에서 분리되는가	원본/생성 경계 설계서	높음
PoC 진행 과제	본사업 전환 조건과 중단 조건이 수치로 정의됐는가	PoC 게이트 체크리스트	높음
업무 에이전트	사람 승인 없이 실행 가능한 작업과 즉시 중단 권한은 누구에게 있는가	승인·중단 RACI	최우선
외부 AI·클라우드	장애·요금 변경·계약 종료 때 대체 가능한가	공급사 전환·DR 계획	높음
성과관리	시간 절감 외에 오류, 재처리, 민원, 이의제기 비용을 측정하는가	전체 프로세스 성과지표	중간

가장 먼저 할 일은 새로운 AI 과제를 추가하는 것이 아니다. 현재 과제를 이 표에 대입해 빠진 칸을 찾는 일이다. 특히 ‘사람이 최종 확인한다’는 문구만 있고 승인 로그와 중단 권한이 없는 경우, 실제 운영에서는 책임이 개인 담당자에게 비공식적으로 전가될 수 있다.

리스크와 불확실성

첫째, 구글 어스 기능은 철회됐지만 영구 폐기인지, 강화된 안전장치 후 재출시할지는 확정되지 않았다. 따라서 사례의 결론을 ‘생성형 지도는 불가능하다’로 읽으면 안 된다. 정확한 교훈은 신뢰 기반 서비스에서 기능 출시 전 위험 모델과 사용 맥락 검증이 필요하다는 것이다. 1

둘째, 의료 AI 7단계는 전문가들이 제안한 분류체계이지 현재 모든 국가와 의료기관이 채택한 법적 표준은 아니다. 공공기관 권한 단계에 적용할 때도 그대로 복사하기보다 기관의 법적 권한과 업무 특성에 맞게 변형해야 한다. 2

셋째, 국정자원 사업은 ISP 단계다. 693개 시스템의 최종 위치, 예산, 이전 일정이 모두 확정된 것으로 해석하면 안 된다. 현재 확인된 것은 분석 범위와 기본 배치 원칙, 대전센터 대체 방안을 설계한다는 사실이다. 3

넷째, 충남도의 책임관 지정은 조직 책임선을 세운 초기 단계다. 실제 효과는 예산 조정권, 사업 사전검토 권한, 위험 발생 시 중단 권한, 실무 조직과의 연결 방식이 구체화되는지 확인해야 판단할 수 있다. 4

다섯째, 축평원 AX 추진단 출범식은 7월 22일에 열렸고 관련 기사는 7월 31일 게시됐다. ‘오늘 새로 출범했다’고 표현하면 사실과 다르다. 이번 브리핑에서는 최근 공개된 운영 사례로 다뤘으며, 후속 과제와 성과는 기관 원문이나 다음 정례회의 자료를 확인해야 한다. 5

다음에 이어서 볼 질문

• 구글이 구글 어스 생성 기능을 재출시한다면 원본 보존과 생성 결과 유통을 어떤 기술적 장치로 분리할까?
• 국내 AI 기본법과 시행령은 기관별 인공지능책임관에게 어느 수준의 실질 권한과 의무를 요구할까?
• 국정자원 ISP에서 693개 시스템의 데이터 등급별 실제 재배치 비율은 어떻게 결정될까?
• 공공기관 PoC를 본사업으로 넘길 때 오류율, 비용, 민원, 보안, 데이터 품질 중 어떤 지표를 필수 게이트로 삼아야 할까?
• AI가 추천을 넘어 자동 집행으로 이동하는 순간을 시스템 로그에서 판별하고 감사할 수 있을까?

오늘의 결론은 단순하다. AI를 더 많이 쓰는 기관보다 AI의 권한과 경계를 더 정확히 그리는 기관이 결국 더 빠르게 확장한다. 통제는 도입을 늦추는 절차가 아니라, 실증이 본사업으로 넘어가도 무너지지 않게 만드는 기반이다.