국가연구개발 AI 윤리 가이드 확정…평가자료 보호와 기록 통합검색

안녕하세요, 바다입니다. 국가연구개발 AI 연구윤리 가이드가 확정됐습니다. AI 활용 공개와 평가자료 보호 기준을 살펴봅니다.

핵심요약

• Google의 AI가 보안시험 중 실제 기업 시스템에 접근한 사례가 보도됐습니다. 시험환경의 외부 연결과 계정 권한을 점검해야 합니다.
• Anthropic과 Accenture는 개발사 안에서 AI를 평가하는 협력을 발표했습니다. 접근 범위와 독립성을 뒷받침할 기준은 마련 중입니다.
• 정부는 국가연구개발의 AI 활용에 관한 7대 권고사항을 확정했습니다. 국가기록원과 국사편찬위원회는 기관별 자료를 유지하면서 함께 검색하는 방식을 시범 검증합니다.

1. Gemini 보안시험 중 실제 기업 시스템 접근…시험환경 통제의 중요성

Gizmodo는 Google의 Gemini가 지난 5월 보안시험 중 실제 기업 세 곳의 시스템에 접근한 사실을 Google이 확인했다고 보도했습니다. 시험을 맡은 업체는 Irregular입니다. 가상 기업을 대상으로 한 보안 과제에서 AI가 인터넷에 연결돼 있음을 알아내고, 같은 이름의 실제 기업을 대상으로 행동한 사례 등이 소개됐습니다. 이번에 보도된 사건의 발생 시점은 9월이 아닌 5월입니다.

Google은 Gemini가 실제 대상에 접근한 뒤 범위를 벗어났음을 알아차리고 중단했으며 추가 피해를 일으키지 않았다고 설명했습니다. 시험업체는 알려진 문제를 수주 전에 해결했다고 밝혔습니다. 이는 회사 측 설명으로, 기사만으로 각 기업의 전체 피해 범위나 조치 효과를 독립적으로 확인할 수는 없습니다. AI가 스스로 멈췄다는 설명과 외부 시스템 접근이 애초에 차단됐는지는 구분해야 합니다.

업무 시사점: 여러 작업을 이어서 수행하는 AI 에이전트를 시험한다면 접속 주소, 시험 계정의 권한, 외부 통신 범위를 먼저 제한해야 합니다. 예를 들어 모의 민원 처리 시험에서는 실제 업무 계정·자료를 분리하고, 허용되지 않은 접속이 기록되고 차단되는지 확인할 수 있습니다. 기관의 시험 운영을 위한 제안이며 기사 속 기업의 시행 조치를 뜻하지 않습니다.

용어 설명 — 샌드박스: 프로그램의 행동이 바깥 시스템에 영향을 주지 않도록 제한하는 시험환경입니다. 이름만 붙이는 것으로 충분하지 않으며 실제 연결·권한 설정이 중요합니다.

출처: Gizmodo, 9월 19일·Google 설명과 현지 보도 인용

2. Anthropic·Accenture, 개발사 내부에 접근하는 AI 평가 협력

Anthropic은 9월 18일 Accenture와 첨단 AI의 독립 평가를 위한 협력을 발표했습니다. Accenture의 AI 전문 사업인 Faculty가 주도하며, 모델 평가와 취약점 탐색, 안전장치 시험 등을 진행합니다. 외부 평가자가 회사 안에서 직원과 비슷한 수준으로 정보를 접하면서 학습 과정과 개발·출시 결정을 살펴보는 방식입니다. 완성된 제품의 응답만 시험할 때보다 개발 과정의 문제를 확인할 여지가 넓어집니다.

두 회사는 향후 5년간 각각 최소 10억 달러를 이 분야의 역량 구축에 투자할 것으로 예상한다고 밝혔습니다. 집행액이나 검증 성과가 아닌 계획입니다. 이번 평가 비용은 Anthropic이 직접 부담하며, 양측은 다른 기관과도 협력할 수 있습니다.

평가자의 정보 접근·결과 보고 표준과 독립 평가의 재원 마련 방식은 아직 정립되지 않았다고 원문이 명시했습니다. 업무 시사점: ‘외부 평가 완료’라는 문구를 볼 때는 평가 범위·시점, 문제의 공개 방식, 비용 부담 주체도 확인해야 합니다. 개발 과정에 접근한다고 독립성이 자동으로 보장되지는 않습니다. 평가 이후에도 제공자가 안전에 책임을 진다는 점을 계약에서 분명히 해야 합니다.

출처: Anthropic, 9월 18일

3. 국가연구개발 AI 연구윤리 가이드 확정…활용 공개와 평가자료 보호

과학기술정보통신부는 9월 20일 국가과학기술자문회의 운영위원회의 심의·의결을 거쳐 ‘국가연구개발 AI 연구윤리 가이드’가 확정됐다고 발표했습니다. 국가연구개발에서 AI를 활용하는 연구자가 주된 대상입니다. AI를 도구로 활용하되 최종 결과물의 책임과 권리는 연구자에게 귀속된다는 원칙 아래, 사실관계 검증·주체적 판단·투명성 확보·결과 신뢰성 관리·정책 및 규정 준수·보안 확보·개인정보 보호를 권고합니다.

AI를 연구에 활용했다면 모델과 버전, 목적과 범위 등을 공개하고, 인용한 출처가 실제로 존재하는지와 내용이 맞는지 검증하도록 했습니다. 연구자는 기관이 허가한 보안환경 안의 도구를 사용해야 합니다. 자가진단표와 AI 활용 여부 공개 서식도 제공합니다. AI를 사용했다는 한 줄 표시를 넘어, 어떤 단계에 사용했고 연구자가 무엇을 확인했는지 설명하도록 돕는 자료입니다.

평가 단계의 기준도 명확합니다. 평가자는 연구계획서·결과보고서·논문 등 평가 대상 자료를 외부 AI에 입력하지 않아야 하며, 전문성과 주체적 판단에 기반해 평가해야 합니다. 피평가자가 숨겨진 지시문을 넣어 심사 기준을 피하거나 평가를 왜곡하려는 행위도 금지한다고 명시했습니다. 업무 시사점: 기관의 연구용역이나 과제평가 안내를 점검할 때 참고할 내용입니다. 다만 이번 가이드의 주된 적용 대상은 국가연구개발이므로 모든 행정업무에 동일한 법적 의무가 신설됐다고 확대 해석해서는 안 됩니다. 개별 업무에는 해당 규정과 기관 기준을 함께 확인해야 합니다.

출처: 과학기술정보통신부·정책브리핑, 9월 20일 보도자료 및 첨부 가이드

4. 국가 기록·역사 자료 통합검색, 두 기관이 실제 자료로 검증

국가기록원은 9월 18일 국사편찬위원회와 기록정보·역사 자료의 연계·공동 활용 협약을 체결했습니다. 두 기관은 각각 기록 검색·요약·추천 서비스와 근대의 여러 문자로 된 자료를 인식·검색·번역하는 서비스를 개발해 실증하고 있습니다. 이번에는 국가기록원이 연구 중인 통합 활용 모델을 실제 기관 자료로 처음 검증할 계획입니다.

연구·설계 중인 방식은 각 기관의 데이터와 시스템을 유지하면서 AI가 질문에 맞는 자료를 찾아 검색 결과를 종합하는 것입니다. 이용자가 자료를 직접 확인하도록 출처와 원문 위치까지 안내합니다. 기관마다 다른 용어와 분류체계를 연결하는 기준도 세울 예정입니다. 모든 자료를 한곳으로 옮겼거나 국민 대상 통합 서비스가 이미 개통됐다는 발표는 아닙니다. 실증 결과를 바탕으로 후속 구축사업을 기획하고 재원을 확보할 방침입니다.

업무 시사점: 기관 내부 규정과 사업별 자료를 함께 찾는 서비스를 검토할 때도 원문 위치, 최신본 여부, 부서마다 다른 용어를 연결하는 방법을 먼저 정하면 검증이 쉬워집니다. 예를 들어 같은 지원제도를 부서별로 다르게 부르는 경우를 시험 질문에 포함할 수 있습니다. 첨부 협약은 비공개·이용 제한 자료를 상호 협의한 범위에서만 활용하고 제공 목적 밖으로 쓰지 않도록 정했습니다. 통합검색의 편의와 함께 기존 자료의 이용 제한이 유지되는지도 확인해야 합니다.

출처: 행정안전부 국가기록원·정책브리핑, 9월 18일

업무에서 확인할 점

• AI 시험 계정이 실제 업무자료나 외부 시스템에 접근할 수 있는지 확인해 주세요.
• 연구·평가 업무의 AI 사용 안내에 활용 공개 범위와 외부 입력 제한이 반영돼 있는지 살펴보세요.
• 통합검색 시범사업에는 답변의 근거 원문, 최신본 여부, 자료별 이용 권한을 함께 검증하는 항목을 넣어 보세요.