공공 보안 책임 강화와 데이터 3법 통과, AI 실행 권한·보호 조치 점검

바다입니다. 공공부문 보안 책임 강화와 데이터 법안 통과, 업무를 맡아 실행하는 AI의 권한·보호 장치를 살펴봅니다.

핵심요약

• OpenAI는 상시 작동하는 AI ‘dots’를 순차 제공합니다. 읽기 전용 조사와 실제 실행의 권한을 나누는 설계가 눈에 띕니다.
• 같은 AI도 제공하는 서비스에 따라 보호 조치의 적용 시점이 달랐다는 연구가 보도됐습니다. 계약한 서비스의 실제 조치를 확인해야 합니다.
• 정부는 공공부문 보안 책임·평가를 강화할 계획이며, 국회는 데이터 탐색·공유를 넓히는 법안을 의결했습니다. 발표와 시행을 구분해 준비합니다.

1. OpenAI ‘dots’, 상시 업무 수행과 행동별 승인 규칙 제시

OpenAI는 9월 29일 ‘dots’를 발표했습니다. AI가 자체 클라우드 컴퓨터와 브라우저를 갖고 여러 업무를 이어 수행하는 서비스입니다. 지원 지역의 Pro·Business Premium에 순차 제공하며, Enterprise는 관리자가 베타 기능을 켜야 이용할 수 있다고 설명합니다. 기관별 실제 이용 가능 여부는 계정과 지역에서 따로 확인해야 합니다.

AI 에이전트는 질문에 답하는 데 더해 연결된 도구로 작업을 수행하는 AI를 뜻합니다. dots는 사용자가 연결한 앱을 살펴보는 ‘선제적 조사’ 때 읽기 전용 도구만 사용합니다. 이 단계에서는 메시지를 보내거나 앱 내용을 바꾸고 컴퓨터를 제어할 수 없습니다. 실제 작업에는 행동을 허용하거나 승인을 요구하거나 차단하는 맞춤 규칙을 적용할 수 있다는 설명입니다.

조직의 특정 업무를 전담하는 ‘전문 dot’은 기업용 한정 미리 보기로 시작합니다. 문자 메시지와 여러 dot의 팀 작업은 향후 계획입니다. 소개된 기능의 현재 제공 범위를 구분해야 합니다.

업무 시사점: 민원 답변 초안 작성과 실제 회신 권한을 분리하고, 연결할 자료와 승인 담당자, 중단 방법을 정리할 만합니다. 회사가 제시한 보호 장치는 기관의 보안 검토를 대신하지 않습니다.

출처: OpenAI 공식 발표

2. 같은 모델도 서비스별 보호 조치 달라…추론 노출 연구 후속 보도

THE DECODER는 10월 1일 OpenAI의 모델 복제 시도 차단 발표와 연구진의 후속 검증을 보도했습니다. 대상은 AI가 최종 답을 만들기 전에 처리하는 내부 추론 정보였습니다. 다른 모델의 출력으로 능력을 학습하는 방식을 ‘증류’라고 하는데, 이번 사건은 보호된 추론까지 추출하려 한 시도입니다. 일반 이용자의 대화가 모두 유출됐다는 의미는 아닙니다.

OpenAI는 관련 패턴을 보인 1만 5천 개 이상의 계정을 찾아 7월 28일까지 차단했다고 밝혔습니다. 기사에 나온 추출 요청 수는 성공한 유출 건수가 아닙니다. 회사는 부정 계정 차단과 가입 절차 강화, 암호화된 추론의 부적절한 재사용 차단, 출력 검사 등을 적용했다고 설명했습니다.

연구진은 9월 13일 재시험에서 OpenAI·Anthropic의 직접 제공 서비스에서는 해당 공격이 차단됐지만, Microsoft Azure에서 제공하는 일부 모델에는 통했다고 보고했습니다. 이후 OpenAI 모델의 Azure 접속 경로에는 9월 27일 보호 조치가 추가됐고, Anthropic 모델에서도 28일부터 해당 추출이 재현되지 않았다고 전했습니다. 특정 시점의 시험 결과로, 지금도 모든 경로가 취약하다고 단정할 근거는 없습니다.

업무 시사점: 계약한 모델 이름과 접속 서비스를 함께 관리하고, 공급사에 보안 조치의 적용 날짜·버전·재검증 결과를 요청할 만합니다. 같은 모델을 쓰더라도 다른 서비스의 보안 확인 결과를 그대로 적용해서는 안 됩니다.

출처: THE DECODER

3. 공공부문 보안사고 책임 강화…평가 대상을 2028년까지 확대

행정안전부·국가정보원·인사혁신처·개인정보보호위원회는 10월 1일 ‘공공부문 사이버보안 책임성 강화 방안’을 발표했습니다. 최근 공공분야 사고 상당 부분이 기본 보안수칙 미준수에서 비롯됐다고 분석하고, 관리자와 담당자의 책임을 강화하는 동시에 정보보호 담당자를 지원하겠다고 밝혔습니다.

초기 비밀번호를 바꾸지 않거나 발견된 보안 문제를 장기간 조치하지 않는 행위에 적용할 명확한 처리지침을 마련합니다. 위중한 정보 유출사고에는 감독자 책임을 공무원 징계령 시행규칙 등에 명문화하고 징계 기준을 높일 계획입니다. 이번 발표만으로 모든 기관에 개정된 징계 규정이 이미 적용된다고 안내해서는 안 됩니다.

국가정보원 주관 사이버보안 실태평가 대상은 올해 153개 기관에서 2028년까지 약 2천 개 국가·공공기관으로 확대할 방침입니다. 이는 평가받는 기관 수이며 사고 건수가 아닙니다. 정보 유출사고 감점과 사고 신속조치 지표도 도입합니다. 정보보호 수당 신설, 성과평가 가점 등은 검토 사항으로 제시됐습니다.

업무 시사점: AI 시범사업도 계정과 외부 연결, 저장 자료를 관리 대상에서 빠뜨리지 않아야 합니다. 예를 들어 확인된 취약점의 조치 담당과 기한, 미조치 사유, 관리자에게 보고한 내용을 함께 남길 수 있습니다. AI 담당 부서는 정보보호 부서와 기관에 적용될 평가·지침을 확인하고, 책임 확대에 맞춰 필요한 인력과 예산도 함께 검토할 만합니다.

출처: 행정안전부 공식 보도자료

4. AI·데이터 관련 3법 개정안 통과…데이터 위치 찾기와 공동 활용 확대

이데일리에 따르면 국회는 10월 1일 본회의에서 AI기본법·데이터기본법·연구개발특구법 개정안을 의결했습니다. 여러 곳에 흩어진 데이터를 찾고, 정부 재정으로 만든 AI 학습용데이터를 함께 활용하며, 신기술 실증 절차를 간소화하는 내용입니다. 국회 통과 소식이며 구체적인 시행일은 이 기사에서 확인되지 않습니다.

데이터기본법 개정안은 여러 플랫폼의 ‘소재정보’를 연결하는 통합 데이터 플랫폼의 근거를 마련했습니다. 소재정보는 필요한 데이터가 어디에 있는지 찾는 정보입니다. 데이터 원본을 모두 한곳으로 옮긴다는 뜻은 아닙니다. 과기정통부 장관이 협력을 요청하면 공공기관장은 특별한 사유가 없는 한 협조하도록 했다고 보도됐습니다.

AI기본법 개정안은 국가기관과 정부·지자체의 출연·보조사업 등에서 만든 학습용데이터의 전부 또는 일부를 통합제공시스템에 연계·제공하도록 했습니다. 영업비밀, 제3자 권리, 국가안전보장 등 대통령령으로 정하는 사유는 장관과 협의해 제외할 수 있습니다. 연구개발특구법은 법령상 금지되지 않은 신기술 등의 실증특례를 전문위원회에서 심의·의결할 수 있도록 절차를 간소화했습니다.

업무 시사점: 데이터 구축 사업을 맡은 부서는 재원, 보유 자료, 권리 관계와 공개 제약을 먼저 정리해 둘 만합니다. 예를 들어 외주로 만든 학습자료는 계약상 이용 범위와 개인정보 포함 여부를 함께 확인해야 합니다. 실제 연계 의무와 예외 판단은 공포된 법률·하위 규정·시행일을 확인한 뒤 적용하고, 민감한 자료를 발표만 보고 공개하지 않도록 주의해야 합니다.

출처: 이데일리

업무에서 확인할 점

• AI의 자료 열람·내용 변경·외부 발송 권한을 나누고, 승인과 중단 방법을 확인합니다.
• 계약한 AI 서비스의 보안 조치 적용 범위와 미조치 취약점의 담당·기한을 점검합니다.
• 학습용데이터의 재원·권리·공개 제약을 정리하되, 새 법령의 시행일과 예외 기준부터 확인합니다.