공개 AI 로그의 숨은 정보 위험, 중앙부처 도입과 심사 AI의 운영 기준

오늘의 판

공개된 인공지능 작업 기록에서 사람이 읽을 수 없는 암호화 데이터가 민감정보 유출 통로가 될 수 있다는 연구 결과가 나왔다. 연구진은 공개된 인공지능 에이전트 작업 기록 6,708개에서 암호화된 추론 블록 31만5,320개를 복원했다고 밝혔다. 실제 사용자 세션에서는 인증정보를 포함한 민감정보 관련 항목 704개가 발견됐다.2

이 문제는 암호기술이 깨졌거나 인공지능 기업의 서버가 해킹됐다는 뜻이 아니다. 개발자가 외부에 공개한 작업 기록에 암호화된 추론 데이터를 남겼고, 연구진은 이를 같은 업체의 호환 모델이 다시 읽도록 유도했다. 사람이 화면에서 비밀번호를 지웠더라도 원본 응답의 보이지 않는 영역에 정보가 남을 수 있다는 점을 보여준다. 연구진은 주요 사업자에게 문제를 알렸고, 8월 현재 논문에서 쓴 주요 추출 공격은 더는 재현되지 않는다고 설명했다.2

용어 설명 — AI 에이전트: 질문에 답하는 데서 그치지 않고 자료 검색이나 여러 작업을 정해진 순서로 처리하는 인공지능이다.

같은 시기 산업과 공공 현장에서는 인공지능을 실제 업무에 붙이는 움직임이 이어졌다. SK온은 가상공장에서 생산 흐름을 시험해 미국 공장의 물류 처리량을 약 30% 높였다고 밝혔다.1 중앙부처 9곳은 인공지능 검색과 회의록 요약 등을 갖춘 협업도구 도입을 확정했다.3 중소벤처기업부는 창업 지원사업 심사에 인공지능 생성률과 표절 검사를 적용하기로 했다.4 정부는 인공지능 데이터센터의 건축·산업단지 규제를 완화하는 시행계획도 내놨다.5

이 사례들은 각각 다른 사건이다. 다만 실제 운영에 들어갈수록 모델 이름보다 시험 방법과 책임 절차가 중요해진다는 공통점은 분명하다. 제조에서는 적용 전후 처리량을 비교해야 하고, 행정에서는 누가 어떤 자료를 입력할 수 있는지 정해야 한다. 심사에서는 오탐에 이의를 제기할 길이 필요하며, 데이터센터는 규제 완화 뒤에도 전력과 재난복구 조건을 따로 검증해야 한다.

그림 1. 실제 업무 적용 전에 시험환경, 사람 승인, 운영 기록, 사후 검증을 거쳐야 한다는 자체 제작 도식이다. 출처: 본문에 인용한 2026년 8월 12~13일 발표와 기사.

핵심 수치

숫자는 규모를 보여주지만 성과와 안전을 자동으로 증명하지 않는다. 30%라는 개선값에는 무엇을 언제부터 언제까지 측정했는지가 필요하다. 9개 부처라는 도입 수에는 실제 이용률과 오류율이 따라야 한다. 1만 명을 심사하는 인공지능에는 잘못된 표시를 사람이 바로잡을 절차가 필요하다.

산업·기술 이슈

가상공장에서 먼저 실패해 보는 제조 방식

SK온은 실제 공장의 생산라인, 물류 흐름, 설비 배치와 운영 조건을 가상공간에 옮기는 디지털 트윈을 글로벌 생산기지에 적용했다. 신규 설비를 들이거나 생산 모델을 바꾸기 전에 병목과 충돌을 컴퓨터 안에서 먼저 찾는 방식이다. 실제 공장에서 문제가 발생한 뒤 라인을 멈추고 개조하면 비용과 공급 차질이 커지기 때문에, 투자 전 시험이 중요한 제조 의사결정 도구가 된다.1

용어 설명 — 디지털 트윈: 실제 시설이나 업무 흐름을 컴퓨터 안에 본떠 만들어 변경 결과를 미리 시험하는 기술이다.

미국 공장에서는 창고 작업별 우선순위를 가상 환경에서 검증한 뒤 물류 처리량을 약 30% 높였다고 회사가 밝혔다. 헝가리 공장은 무인운반차의 충전 시나리오를 바꿔 물류 처리량을 약 10% 개선했다. 중국 공장에서도 이동 동선과 운영 방식을 손봐 작업시간을 줄이고 가동률을 높였다는 설명이다.1

회사는 2024년 지멘스 디지털 인더스트리 소프트웨어와 업무협약을 맺었고, 미국·헝가리·중국 등 여러 생산거점에 적용할 표준 모델을 구축했다. 다음 단계로는 가상공장에 강화학습을 결합해 물류 우선순위와 이동 경로를 자동 탐색하고, 실제 공장 데이터를 실시간 반영하는 ‘라이브 트윈’을 만들 계획이다. 여기서 강화학습과 라이브 트윈은 앞으로 할 일이지 이미 성과가 확인된 기능은 아니다.1

용어 설명 — 강화학습: 여러 선택을 반복해 보고 보상이 큰 행동을 찾아가도록 인공지능을 훈련하는 방식이다.

공공기관도 이 접근에서 시험 원칙을 가져올 수 있다. 예를 들어 민원 분류 인공지능을 실제 창구에 바로 연결하지 않고 과거 익명 자료로 처리시간, 잘못 분류한 비율, 사람이 다시 분류한 횟수를 먼저 잴 수 있다. 실제 적용 뒤에는 같은 지표를 다시 측정해 개선 여부를 확인한다. 이는 기사에 나온 공공 적용 사례가 아니라 제조 사례에서 도출한 운영 예시다.

보이지 않는 데이터도 공개 로그에서 제거해야 한다

보안 연구진은 오픈AI, 앤트로픽, 구글 계열의 인공지능 연결 기능에서 암호화된 추론 블록이 재사용될 때 내용을 복원할 수 있는 문제를 확인했다. 암호키를 훔치거나 사업자의 서버에 침입한 것이 아니다. 공개된 작업 기록에 남아 있던 암호화 데이터를 같은 업체의 다른 호환 모델에 넣고 다시 출력하도록 유도했다.2

용어 설명 — API: 서로 다른 프로그램이 정해진 방식으로 정보나 기능을 주고받도록 만든 연결 규칙이다.

연구진은 공개 작업 기록 6,708개에서 추론 블록 31만5,320개를 복원했다. 벤치마크용 자료를 뺀 실제 사용자 세션에서는 민감정보 관련 항목 704개가 확인됐다. 그 안에는 API 키 62개, 비밀번호 33개, 접근 토큰 24개, 개인키 7개가 포함됐다. 일부 정보는 사용자가 보는 대화에서는 삭제됐지만 숨겨진 추론 과정에 남아 있었다고 연구진은 설명했다.2

용어 설명 — 벤치마크: 같은 조건에서 여러 기술의 성능을 비교하기 위해 만든 공통 시험문제나 측정 기준이다.

이 결과를 “누구나 챗봇 사용자의 비공개 대화를 볼 수 있다”로 확대하면 안 된다. 공격자는 먼저 외부에 공개된 추론 블록을 확보해야 하고, 이를 처리할 수 있는 같은 업체의 호환 모델에도 접근해야 했다. 실제 공격자가 이 문제를 악용했다는 증거도 확인되지 않았다. 연구진은 사업자에게 내용을 전달했고 주요 추출 공격은 대응 뒤 재현되지 않는다고 밝혔다.2

운영자가 가져갈 조치는 분명하다. 외부에 로그를 공유할 때 눈에 보이는 질문과 답변만 살피면 부족하다. 원본 API 응답, 암호화된 추론 객체, 생각 서명, 인증정보를 함께 제거해야 한다. 실제 서비스에서 나온 원본 응답을 공개 코드 저장소나 공개 데이터셋에 올리지 않는 원칙도 필요하다. 암호화는 저장·전송 보호 수단이지 공개 허가표가 아니다.

그림 2. 화면에 보이는 대화뿐 아니라 원본 응답, 추론 객체, 인증정보까지 외부 공유 전에 제거해야 함을 보여주는 자체 제작 도식이다. 출처: 데일리시큐가 인용한 보안 연구, 2026년 8월 12일.

정부·공공 이슈

중앙부처 9곳이 인공지능 협업도구를 순차 도입한다

삼성SDS는 재정경제부와 기획예산처에 이어 국가보훈부, 산업통상부, 고용노동부, 금융위원회, 재외동포청 등 총 9개 중앙부처가 브리티웍스 도입을 확정했다고 밝혔다. 해당 부처들은 8월까지 순차적으로 서비스를 시작할 예정이다. 행정안전부가 생성형 인공지능 기반 업무관리 플랫폼 ‘온AI’를 올해 하반기까지 40개 이상 중앙행정기관으로 확대한다는 계획과 연결된 도입이다.3

브리티웍스는 인공지능 검색, 지식관리, 문서작성 지원과 메신저, 화상회의, 자료공유를 한 환경에서 제공한다. 모바일에서는 보고와 결재, 화상회의 참여, 회의록 요약을 지원한다고 회사는 설명했다. 국가정보원 보안 수준 ‘상’ 등급을 받은 민관협력형 클라우드 환경을 기반으로 운영한다는 설명도 덧붙였다.3

용어 설명 — 민관협력형 클라우드: 정부가 정한 보안 조건을 갖춘 민간 사업자의 컴퓨터 자원에서 공공 업무 시스템을 운영하는 방식이다.

보안 등급은 중요한 출발점이지만 모든 사용행위를 자동으로 승인하지는 않는다. 기관은 기능별로 입력 가능한 정보 등급을 정해야 한다. 모바일에서 파일을 내려받을 수 있는지, 검색 결과가 기존 문서 권한을 그대로 따르는지, 회의록 요약을 누가 확정하는지, 전보나 퇴직 때 접근권한이 언제 회수되는지도 확인해야 한다.

회의록 요약은 특히 사람의 검토가 필요하다. 인공지능이 발언자의 의도를 잘못 줄이거나 결정되지 않은 내용을 결정사항처럼 쓸 수 있기 때문이다. 확정 전 참석자가 원문과 대조하고, 수정한 사람과 시각을 남기는 절차가 적절하다. 기사에는 부처별 실제 이용자 수, 답변 정확도, 절감시간, 장애·오류 건수가 공개되지 않았다. 공급사가 말한 생산성 향상을 이미 확인된 성과로 받아들여서는 안 된다.3

창업 지원 심사에 인공지능 생성률 검사가 들어간다

중소벤처기업부는 제2차 모두의 창업 프로젝트에서 일반·기술 분야 8천 명과 지역 기반 분야 2천 명 등 총 1만 명을 선발한다고 발표했다. 1차 선발 5천 명의 두 배다. 전체의 80% 이상을 예비창업자로, 70% 이상을 비수도권 창업자로 구성할 계획이다. 공고는 8월 20일 시작하고 10월 초 합격자를 발표한 뒤 11월까지 초기 멘토링을 진행한다.4

보육기관은 119곳에서 170여 곳으로 늘어난다. 신청서 평가항목은 3개에서 최대 6개로 세분화하고, 멘토 3인의 공동심사와 기관별 심의위원회를 의무화한다. 여기에 인공지능 생성률과 외부 자료 표절 여부를 확인하는 검증모델을 적용한다. 플랫폼 보안과 개인정보 관리체계도 개선하고, 국가정보원의 보안성 검토와 개인정보보호위원회의 개인정보 영향평가를 이행할 계획이다.4

인공지능 생성률은 사람이 글을 직접 썼는지 확정하는 증거가 아니다. 문체가 단순하거나 정형화된 글을 잘못 표시할 수 있고, 인공지능이 만든 글을 놓칠 수도 있다. 따라서 점수는 탈락 결정을 자동으로 내리는 기준이 아니라 추가 검토를 여는 신호로 써야 한다. 실제 인용과 표절 근거를 사람이 확인하고 신청자에게 설명 기회를 줘야 한다. 판정에 사용한 원자료와 버전, 검토자의 판단도 남겨야 이의제기를 처리할 수 있다.

기사에는 검증모델의 제품명, 정확도, 오탐률, 판정 기준과 이의제기 절차가 공개되지 않았다. 보안성 검토와 개인정보 영향평가도 완료됐다는 발표가 아니라 앞으로 이행할 계획이다. 사업 시작 전에 이 항목이 실제 운영규정으로 바뀌었는지 확인해야 한다.4

그림 3. 인공지능 표시값을 자동 탈락으로 쓰지 않고 근거 확인, 당사자 설명, 사람 결정, 이의제기로 연결하는 자체 제작 도식이다. 출처: 중소벤처기업부 2차 모두의 창업 추진계획 보도, 2026년 8월 13일.

인공지능 데이터센터의 건축 부담을 낮추는 시행계획

정부는 상주인력이 적은 인공지능 데이터센터의 특성을 반영해 주차장, 승강기, 미술품 설치 부담을 낮추기로 했다. 현재 주차장은 시설면적 400㎡당 1대, 승강기는 거실면적 3,000㎡당 1대가 기준이다. 연면적 1만㎡ 이상 건축물에는 미술품 설치 의무도 있다. 정부는 설치기준 면적을 계산할 때 전산실 면적 등을 제외하고 2027년 3월까지 관련 시행령을 마련할 계획이다.5

산업단지 규제도 함께 바뀐다. 제한된 업종을 뺀 모든 업종이 들어갈 수 있는 ‘제한업종 계획구역’의 한도를 산업용지 30%에서, 신산업이나 재생에너지 사용 기업 유치에 필요하면 최대 50%까지 늘린다. 업종특례지구 지정에 필요한 토지소유자 동의도 3분의 2 이상에서 과반수로 낮출 방침이다.5

이 발표는 규제 방향과 시행계획을 제시한 단계다. 전산실의 구체적인 제외 범위는 시행령이 나와야 확정된다. 규제가 줄어도 데이터센터의 전력 계통 연결, 냉각, 통신망 이중화, 재난복구, 소방, 지역 주민 수용성이 해결되는 것은 아니다. 공공기관이 서비스를 조달할 때는 시설 건립 속도와 별개로 실제 가동일, 예약 자원 보장, 장애 복구시간, 데이터 저장 위치, 에너지 효율을 확인해야 한다.

교차 분석

가상공장 사례와 공공 협업도구 도입은 모두 ‘운영 전에 시험한다’는 원칙으로 연결된다. 제조에서는 물류 충돌과 병목을 가상 환경에서 찾았다. 행정에서는 정보등급, 검색권한, 회의록 오류, 모바일 반출을 실제 전면 도입 전에 시험해야 한다. 시험 항목이 다를 뿐, 실패를 값싸고 안전한 단계에서 발견해야 한다는 구조는 같다.

보안 연구와 창업 심사 계획은 ‘기계가 남긴 표시를 그대로 믿지 않는다’는 원칙을 공유한다. 암호화 표시는 공개 안전을 보장하지 않는다. 인공지능 생성률도 부정행위를 확정하지 않는다. 기술의 표시값 뒤에 원자료 확인, 사람 판단, 이의제기 절차가 붙어야 운영 통제가 완성된다.

데이터센터 규제 완화는 이 두 흐름과 직접 같은 사건은 아니다. 다만 인공지능 서비스를 떠받치는 시설이 빨리 늘어날수록 서비스 조달자는 건물 허가와 실제 운영준비를 구분해야 한다. 설치기준이 완화됐다는 사실을 안정적인 전력과 복구체계가 마련됐다는 뜻으로 읽으면 안 된다.

AI 관련 담당자라면 참고할 만한 적용 항목

적용 예를 하나 들면, 회의록 요약 서비스를 도입할 때 첫 달에는 요약문을 공식 기록으로 자동 전환하지 않을 수 있다. 참석자가 원문과 대조한 뒤 틀린 결정사항, 빠진 책임자, 잘못된 기한을 표시한다. 한 달 동안 수정률과 검토시간을 측정한 뒤 자동화 범위를 결정한다. 이런 단계적 운영은 특정 기사에 나온 사실이 아니라 오늘 사례에서 도출한 실무 예시다.

리스크와 불확실성

SK온의 30%와 10% 개선 수치는 회사가 밝힌 결과다. 측정 기간, 기준선, 물동량 구성과 외부 검증 자료는 기사에 제시되지 않았다. 인공지능 강화학습과 실시간 라이브 트윈은 향후 계획이므로 현재 성과와 분리해야 한다.1

보안 연구는 공개된 작업 기록과 호환 모델 접근이 전제였다. 일반 사용자의 비공개 대화를 무차별적으로 열람할 수 있다는 뜻이 아니며 실제 악용 증거도 확인되지 않았다. 주요 추출 공격은 연구진 통보 뒤 차단됐다고 설명됐다. 다만 이미 공개된 원본 로그를 어떻게 회수하고 점검할지는 조직별로 확인해야 한다.2

중앙부처 협업도구는 도입 기관 수와 제공 기능이 발표됐지만 실제 이용률, 정확도, 절감시간과 오류 건수는 공개되지 않았다. 보안 등급과 실제 업무별 사용승인은 구분해야 한다.3

모두의 창업 검증모델은 제품명, 정확도, 오탐률과 이의제기 절차가 공개되지 않았다. 보안성 검토와 개인정보 영향평가도 계획 단계다.4 데이터센터 전산실 제외 범위 역시 2027년 3월까지 마련할 시행령에서 구체화된다.5

더 깊이 공부하고 싶다면?

• 공개 저장소와 데이터셋에서 인공지능 원본 응답을 자동으로 찾고 차단하려면 어떤 검사 규칙이 필요한가?
• 회의록 요약의 정확도를 단순 문장 유사도가 아니라 실제 결정사항과 책임자 보존 여부로 재려면 어떤 시험표가 적절한가?
• 인공지능 생성률 검사가 불이익 판단에 쓰일 때 최소한 어떤 설명과 이의제기 권리를 보장해야 하는가?
• 데이터센터 건축 규제 완화 뒤 전력·냉각·재난복구 준비를 공개 조달 조건에 어떻게 반영할 것인가?
• 시범사업 전후의 처리시간·오류율·재검토 비용을 같은 방식으로 측정하고 있는가?