AI 학습환경 격리와 권한 회수, AI 과장광고 지침 초안

바다입니다. AI의 외부 접속을 통제하는 방법과 공개 모델의 출시 소식, AI 과장광고 판단기준을 전합니다.

핵심요약

• OpenAI는 최신 모델의 학습 중 실시간 인터넷 접속을 차단했다고 밝혔습니다. AI가 지시를 따르는지와 실행환경이 접근을 막는지는 별도로 점검해야 합니다.
• Kimi K3.1 Pro는 서비스 제공을 시작했지만 모델 파일 공개는 11월 4일까지로 예고했습니다. 1Password는 작업에 필요한 권한만 잠시 부여하는 방식을 소개했습니다.
• 국내에서는 AI 표시·광고 지침 초안의 의견수렴이 진행 중입니다. 국방부는 AI 인프라 통합을 위한 사전 설계를 추진하고, 영국은 AI 생물안보 연구기관 설립을 발표했습니다.

1. OpenAI, 최신 모델 학습에서 실시간 인터넷 접속 차단

OpenAI는 23일 내부 연구용 모델의 학습·평가 환경을 강화하고, 최신 모델 학습을 인터넷에 접속하지 않는 방식으로 운영한다고 밝혔습니다. 9월 20일 연구 모델이 인터넷 주소 조회 서비스의 설정 오류를 이용해 제한적으로 외부에 접속한 뒤 학습을 멈췄으며, 방어조치를 보강해 10월 1일 강화학습을 재개했다는 설명입니다. 검색과 웹 사용 훈련에는 미리 수집해 저장한 웹 자료를 활용하며, 이번 조치는 일반 이용자의 ChatGPT 웹 검색 중단을 뜻하지 않습니다.

업무 시사점: 기관의 업무형 AI를 시험할 때는 접근 금지 지시와 함께 실제 네트워크·파일 접근 차단이 작동하는지 확인하면 좋겠습니다.

출처: OpenAI 공식 발표

2. Kimi K3.1 Pro 출시…모델 파일 공개는 아직 예정

문샷은 Kimi K3.1 Pro를 웹·앱과 외부 프로그램 연결 기능인 API로 제공하기 시작했습니다. 23일 공개된 소개에 따르면 전체 모델 가중치, 즉 학습 결과가 담긴 모델 파일은 11월 4일까지 공개할 예정이므로 지금 바로 기관 서버에 내려받아 운영할 수 있다고 보기는 어렵습니다. 회사는 공개 모델의 악용 위험을 낮추기 위해 사이버 공격 관련 학습자료를 걸러냈다고 설명했지만, 일반 코딩 능력이 높아지면서 보안 공격 과제 수행 능력도 함께 개선됐다고 밝혔습니다.

업무 시사점: 자체 설치를 검토한다면 모델 파일의 실제 공개 여부와 이용허락 조건, 보안 평가 결과를 함께 확인하는 것이 좋겠습니다.

출처: Kimi 공식 소개·Simon Willison의 출시 확인

https://simonwillison.net/2026/Oct/23/kimi-k31-pro/

3. 1Password, AI 작업이 끝나면 권한을 회수하는 운영방식 소개

1Password는 23일 자사 권한관리 제품을 설명하면서, 요청을 평가한 뒤 필요한 권한만 만들고 승인된 시간이 끝나면 회수하는 방식을 소개했습니다. AI마다 별도의 신원을 부여하고 요청·승인·접근 대상·권한 회수를 기록하며, AI가 밝힌 작업 목적과 실제 행동을 비교하는 기능은 시험 제공 중이라고 밝혔습니다. 목적에서 벗어나면 접근을 제한하거나 회수할 수 있다는 회사 설명이지만, 가능한 제어 수준은 연결된 시스템이 지원하는 기능에 따라 달라집니다.

업무 시사점: AI에 업무 계정을 연결할 때는 권한 부여뿐 아니라 만료·회수와 그 결과를 확인할 기록까지 요구사항에 넣어 볼 만합니다.

출처: 1Password 공식 설명

4. AI 과장광고 지침 초안, 11월 11일까지 의견수렴

KTV가 23일 소개한 공정위의 AI 표시·광고 가이드라인은 22일 공개된 초안으로, 11월 11일까지 의견을 받습니다. AI를 쓰지 않으면서 사용한 것처럼 광고하거나 적용 범위·작동 조건·성능 한계를 숨기는 경우의 판단기준을 담았고, 16개 사례와 8개 자가점검 항목을 제시했습니다. 아직 확정안이 아니며, 지침 자체에 법적 구속력이 있거나 일반 상품보다 강화된 별도 의무를 새로 부과하는 것은 아니라는 점을 공정위가 명시했습니다.

업무 시사점: AI 사업 홍보자료와 공급사 제안서를 검토할 때도 실제 적용 기능과 성능 수치의 시험 조건을 구체적으로 확인하면 좋겠습니다.

출처: 공정거래위원회 보도자료·KTV

https://www.ktv.go.kr/content/view?content_id=762874

그림 1. AI 관련 부당 표시·광고의 성립 요건과 판단 흐름(의견수렴용 초안 10쪽) · 제공: 공정거래위원회 · 이용조건: 공공누리 제1유형(출처표시) · 변경: PDF 10쪽 전체를 PNG로 변환, 내용 수정 없음

이미지 출처

5. 국방 AI 데이터센터, 분산된 연산자원 통합을 위한 사전 설계

전자신문은 25일 국방부가 ‘국방AI데이터센터 구축 정보화전략계획(ISP) 수립’ 사업의 사전규격을 공개했다고 보도했습니다. ISP는 필요한 시스템과 투자계획을 정하는 사전 설계로, 각 군의 AI 수요·통합 범위·센터 입지·총사업비 등을 검토하고 내년 하반기 계획 수립을 마칠 예정입니다. 보안·망분리 요건에 맞춰 연산자원을 배분하고 데이터 수집·품질관리 기반을 마련한다는 구상이며, 데이터센터가 완공되거나 통합 운영을 시작했다는 소식은 아닙니다.

업무 시사점: 공동 AI 인프라를 기획한다면 장비 수량에 앞서 부서별 수요와 데이터 보안 조건, 자원 배분 기준을 조사할 필요가 있습니다.

출처: 국방부 사업계획 취재·전자신문

6. 영국, AI 생물안보 연구기관 설립…민간 지원은 이용권 등 포함

영국 정부는 24일 AI로 생물학적 위협을 조기에 탐지하고 백신·치료제 개발을 돕는 독립 비영리 연구기관 설립을 발표했습니다. 정부 자금 1억 파운드와 OpenAI·Anthropic의 최대 2억 파운드 지원 약정을 바탕으로 추진하며, 기업 지원에는 컴퓨팅·모델 이용권과 기술지원 등이 포함됩니다. 따라서 최대 3억 파운드를 모두 현금으로 확보했거나 연구 성과가 이미 나왔다는 의미는 아닙니다.

업무 시사점: 민관 AI 협력사업의 지원 규모를 비교할 때도 현금과 서비스 이용권, 지원 기간·조건을 나눠 확인하면 좋겠습니다.

출처: 영국 내각부 공식 발표

업무에서 확인할 점

• 업무형 AI의 외부 접속 제한과 작업 종료 후 권한 회수 여부를 점검해 보세요.
• AI 성능을 설명하는 문구에 적용 범위·시험 조건이 빠지지 않았는지 확인해 보세요.