AI 외부 검증 확대와 자체 운영 모델, 공공 AI 챌린지·조작물 분석 강화
Anthropic이 외부 평가자에게 내부 위험평가팀에 준하는 접근권을 주기 시작했습니다. 평가 결과의 공개권과 비공개 정보의 경계를 함께 정했습니다.
목차
바다입니다. 외부 AI 평가자의 접근권 확대와 자체 운영 모델, 공공 AI 경진대회·조작물 분석 강화 소식을 전합니다.
핵심요약
- Anthropic이 외부 평가자에게 내부 위험평가팀에 준하는 접근권을 주기 시작했습니다. 평가 결과의 공개권과 비공개 정보의 경계를 함께 정했습니다.
- NVIDIA는 문서·그림을 읽는 공개형 AI와 개인 장비에서 실행하는 모델을 내놓았습니다. 자체 운영 가능성과 실제 기관 업무의 품질·보안은 따로 검증해야 합니다.
- 공공 AI 대전환 챌린지 안내서의 기관별 참가수요조사 기한은 오늘입니다. 경찰은 영상·음성·문자를 함께 분석하고 조작 과정까지 추적하는 역량을 강화합니다.
1. Anthropic, 외부 평가자에게 내부 접근권 부여…발표 거부권은 제한
Anthropic은 15일 비영리 AI 평가기관 METR의 직원 6명에게 회사 장비와 사무공간, 내부 도구·시스템 접근권을 제공하기 시작했다고 밝혔습니다. 접근 수준은 자사 위험평가팀과 대체로 비슷하다고 설명했습니다. 외부에서 완성된 AI에 질문만 던져보는 평가보다 개발사의 실제 안전관리 과정을 가까이서 살피려는 취지입니다.
METR는 위험 수준, 사고, 운영 관행에 대한 분석을 공개할 예정입니다. Anthropic은 발표 자체를 거부할 수 없지만, 사전에 좁게 정한 범주에 해당하는 정보의 삭제는 요구할 수 있습니다. 고객 데이터, 변호사와 의뢰인 사이의 비밀정보, 모델 내부 구조 등이 접근·공개를 제한하는 예로 제시됐습니다.
METR는 비공개 정보를 드러내지 않는 범위에서 삭제 요구의 정당성도 공개적으로 평가할 수 있습니다. 이번 접근권은 계약과 보안 기준을 따르는 전담팀에 한정됩니다.
업무에서 볼 점: 외부 평가자가 실패 기록과 조치 과정까지 확인할 수 있는지 계약을 살펴볼 만합니다. 이번 발표는 평가 체계를 마련한 소식이며, AI의 안전성이 독립적으로 입증됐다는 결과는 아닙니다.
2. NVIDIA, 문서·그림을 읽는 공개형 모델과 로컬 모델 출시
NVIDIA는 15일 ‘Nemotron 3.5 Super VL’을 공개했습니다. 글과 함께 이미지·웹페이지·PDF의 표와 그래프를 읽도록 설계한 AI 모델입니다. 회사는 모델의 학습 결과에 해당하는 가중치와 학습 데이터·방법을 공개하고, 기관이 자체 자료로 추가 학습하거나 자체 장비에 배치할 수 있다고 설명했습니다.
모델 규모는 매개변수 1,200억 개입니다. 매개변수는 AI가 학습한 패턴을 담는 내부 수치로, 개수가 많다고 모든 업무에서 더 정확하다는 뜻은 아닙니다. 회사가 제시한 처리속도와 성능 비교는 특정 평가 조건의 결과이므로 한국어 공문서나 기관 서식에서 같은 성능이 나오는지는 별도로 확인해야 합니다.
개인 장비에서 일을 수행하는 ‘Bolt 74B-A9B 24GB’도 함께 공개했습니다. 모델 내부 수치를 압축하는 방식으로 24GB 메모리에 담도록 설계했으며, NVIDIA의 지원 장비에서 로컬 작업을 수행하는 용도입니다. 더 작은 ‘Bolt E4B 4GB’는 10월 23일 제공 예정입니다.
업무에서 볼 점: 외부로 자료를 보내기 어려운 업무의 시험 운영에 참고할 만합니다. 공개 신청서의 항목·금액을 정확히 읽는지 비교하고, 장비 비용·이용조건·업데이트 담당·오류 수정 시간을 함께 확인하십시오. 로컬 실행만으로 기관 보안 검토가 끝나는 것은 아닙니다.
3. 공공 AI 대전환 챌린지 안내…기관 참가수요조사 기한은 오늘
행정안전부는 15일 ‘2026년 공공 AI 대전환 챌린지’ 안내를 게시했습니다. 중앙·지방정부와 공공기관 직원이 개인 또는 같은 기관 소속 팀으로 참가할 수 있습니다. 첨부 안내서는 기관 AI 담당부서의 참가수요조사서 공문 제출일을 10월 16일로, 신청 목록과 작품 제출 기한을 11월 11일로 적고 있습니다. 오늘 내는 수요조사와 최종 작품 제출은 서로 다른 절차입니다.
경진대회는 자유주제와 지정과제로 나뉩니다. 지정과제는 인수인계를 돕는 ‘업무바통’, 규정·서식에 따라 절차를 안내하는 ‘서무비서’, 규정 제정·개정 초안과 신구조문대비표 등을 돕는 도구입니다. 결선 발표·시연은 11월 25일 고양 킨텍스에서 진행할 예정입니다. 기존 개발물이나 다른 공모전 수상작도 보완해 출품할 수 있다고 안내했습니다.
작품은 소스코드와 실행물 또는 실행 방법을 공공 GitLab에 등록합니다. GitLab은 프로그램 파일과 변경 이력을 관리하는 저장소이며, 이번 대회는 심사위원 열람용으로 비공개 설정하도록 안내합니다. 신청서·구동안내서·시연영상 등은 지정 메일로 별도 제출합니다. 안내서는 개발 단계의 민감자료 사용을 금지하고, 투입한 원본을 수정·이동·삭제하지 않도록 정했습니다.
우수작은 보안검증·품질보증·유지관리를 거쳐 범정부 공동활용 서비스로 제공하는 방안을 검토합니다. 다만 2027년 예산 확보 등에 따라 달라질 수 있습니다. 수상작에는 행정안전부가 복제·수정·배포하고 위탁업체를 통해 활용할 수 있는 무상 사용권을 부여하는 조건도 있으므로 참여 전에 확인해야 합니다.
업무에서 볼 점: 참가 희망자와 수요조사 제출 여부를 오늘 확인하고, 변경 가능한 일정은 최신 공문과 대조하십시오. 출품 도구는 실제 구동, 근거 확인, 원본 보호를 보여주는 데 집중할 만합니다.
출처: 행정안전부 공지·첨부 행사계획 및 안내서, 10월 15일
4. 경찰, AI 조작물 판별과 생성·유포 과정 분석 강화
경찰청 국가수사본부는 15일 ‘AI 불법 조작물 탐지·분석체계 고도화 기본계획’을 발표했습니다. 영상의 진위를 가리는 일과 함께, 어떤 프로그램으로 만들어 어떻게 유포했는지 범행 과정을 분석하는 역량을 강화합니다. 기술·시스템·인력·조직을 아우르는 8개 과제를 추진합니다.
영상·음성·문자를 함께 다루는 ‘멀티모달’ 탐지 기술도 연구하고 있습니다. 입 모양과 목소리가 맞는지, 음성과 자막 내용이 일치하는지 종합적으로 확인하는 방식입니다. 관련 판별 시스템 개발은 2025~2027년, 예산 91억 원의 연구사업입니다. 2026~2029년에는 100억 원 규모로 로컬 AI 모델 대상 포렌식 기술을 개발합니다. 포렌식은 디지털 흔적을 분석해 증거를 확인하는 작업입니다.
이 숫자들은 연구사업의 기간과 예산이며, 현재 탐지 정확도나 범죄 감소 실적은 아닙니다. 경찰은 기존 탐지 시스템을 2024년부터 활용하고 있고, 새 연구의 완료에 따라 수사기관이 공동 활용할 시스템 구축도 추진할 계획이라고 밝혔습니다. 시도경찰청의 AI 전문분석관 운영과 분석 표준절차 정립, 전문가 협력도 함께 추진합니다.
업무에서 볼 점: 기관 사칭 영상·음성은 원본 파일과 수신 경로를 보존해 담당 부서에 전달하도록 점검할 만합니다. 탐지 도구 하나로 진위를 확정하거나 파일을 임의 편집하지 않도록 안내하는 방식입니다. 이는 기관 대응 제안이며 새 법적 의무는 아닙니다.
출처: 경찰청 공식 보도자료·PDF 첨부 원문, 10월 15일
업무에서 확인할 점
- 공공 AI 경진대회 참가 희망자와 기관 수요조사 공문 제출 여부를 확인합니다.
- AI 외부평가 계약은 접근 가능한 자료와 결과 공개·비공개 조건을 함께 봅니다.
- 자체 운영 모델의 품질·보안 점검과 사칭 콘텐츠 원본 보존 절차를 살펴봅니다.