문서 검토 AI의 저장 조건과 수산업 현장 서비스, AI 전환 국민숙의 결과

Google이 문서의 논리와 근거를 점검하는 Deep Review를 공개했습니다. 학습에 쓰지 않는다는 조건과 업로드 문서를 1년 보관한다는 조건을 함께 봐야 합니다.

조회 2추천 0

바다입니다. 문서를 검토하는 AI의 공개와 모델 복제 방어, 수산업 현장 서비스·AI 전환 국민숙의 결과를 전합니다.

핵심요약

Google이 문서의 논리와 근거를 점검하는 Deep Review를 공개했습니다. 학습에 쓰지 않는다는 조건과 업로드 문서를 1년 보관한다는 조건을 함께 봐야 합니다.
Anthropic은 AI의 내부 추론을 빼내는 시도를 줄였다고 발표했습니다. 일부 정상 요청도 차단될 수 있고, 차단 요청에 요금이 붙는 조건이 있습니다.
해양수산부는 사고 예방·지원금 계산·의약품 사용 안내 서비스를 선보였습니다. AI 전환 국민숙의에서는 활용 격차와 일자리 변화에 대한 우려도 확인됐습니다.

1. Google, 문서 검토 AI 공개…학습 제외와 저장 기간은 별개

Google은 14일 복잡한 문서에 검토 의견을 주는 ‘Deep Review’를 공개했습니다. 문장의 논리, 수학적 주장, 뒷받침하는 근거를 살피고 기존 연구와 비교하는 AI 도구입니다. 초안 작성자가 오류를 찾거나 검토자가 확인할 부분을 좁히는 데 쓰도록 설계됐으며, 높은 수준의 최종 판단은 사람에게 맡긴다고 설명했습니다.

출시 시점에는 PDF와 일반 텍스트를 입력할 수 있습니다. 여러 파일을 한꺼번에 검토하는 기능은 앞으로 제공할 예정입니다. 이용자에게 주당 문서 검토 2회를 무료로 제공하고, 이용량이 많으면 Gemini API 키를 연결하는 방식입니다. API 키는 외부 프로그램이 AI 서비스를 이용할 때 쓰는 인증정보입니다. 연결하면 모든 검토가 무료라는 뜻은 아닙니다.

업로드한 문서는 Google 모델의 학습·미세조정·개선에 사용하지 않는다고 명시했습니다. 다만 이용자가 화면에서 다시 볼 수 있도록 1년간 저장합니다. ‘학습에 쓰지 않는다’는 설명만 보고 외부에 문서가 남지 않는다고 이해하면 안 됩니다.

업무에서 볼 점: 공개 보고서로 먼저 시험하고 AI가 지적한 오류를 사람이 대조하는 편이 좋겠습니다. 내부 문서는 기관 보안 기준과 저장·삭제 조건을 확인한 뒤 입력을 판단해야 합니다.

출처: Google Research 공식 블로그, 10월 14일

2. Anthropic, 모델 복제 방어 강화…정상 이용의 영향도 공개

Anthropic은 12일 Claude의 능력을 무단으로 복제하려는 ‘증류 공격’에 대한 방어 방식을 공개했습니다. 증류는 강한 AI의 응답을 다른 모델의 학습에 활용하는 기법이며, 이번 글은 개발사 허락 없이 대량으로 정보를 수집하는 공격을 다룹니다. 특히 답을 만드는 내부 추론 기록을 빼내는 시도에 초점을 맞췄습니다.

회사는 추론 기록의 모델·계정 간 이동 제한, 추출 시도 차단, 반복 계정의 이용 제한을 설명했습니다. 자체 플랫폼에서 공격자가 얻은 추론 데이터가 약 90~99% 줄었다는 초기 근거를 제시했습니다. 이는 회사가 측정한 공격 방어 효과이며, 모든 정보 유출을 같은 비율로 막았다는 결과는 아닙니다.

방어 강화에는 정상 이용자의 불편도 따릅니다. 회사는 일부 개발자가 연결 프로그램을 수정해야 했고, 탐지 장치가 정상 요청을 잘못 차단하는 비율은 0.1% 미만이라고 밝혔습니다. 또 9월 24일부터 이처럼 오탐률이 낮은 특정 분야에서는 응답 전에 차단된 요청에도 다시 요금을 부과한다고 설명했습니다. 효과가 얼마나 오래 유지될지, 정교한 지속 공격에도 통할지는 아직 확정하지 않았습니다.

업무에서 볼 점: 기관의 AI 연계 프로그램은 요청 거절을 무조건 장애로 보고 같은 요청을 반복하지 않도록 점검할 만합니다. 거절 사유를 기록하고 사람에게 넘기는 절차, 반복 호출 상한과 과금 조건을 함께 살펴보십시오. 이는 회사가 공공기관에 제시한 지침이 아닌 운영상 점검 제안입니다.

출처: Anthropic 공식 연구·정책 글, 10월 12일

3. 해수부, 사고 예방부터 지원금 계산까지 현장 서비스 3종 공개

해양수산부는 14일 AI와 공공데이터 등을 활용한 수산업 현장 서비스 3종을 발표했습니다. 사고 통계와 실시간 기상정보를 분석하는 안전 서비스, 예상 폐업지원금 모의계산기, 수산용 의약품 사용을 돕는 안내 서비스입니다. 복잡한 정보를 찾아보고 계산해야 했던 어업인의 불편을 줄이려는 취지입니다.

안전 서비스는 어선원에게 카카오 알림톡 등으로 사고 예방 정보를 보내고, 안전감독관에게 고위험 어선의 특별점검 정보를 제공합니다. 일반 이용자는 ‘조업정보알리미’ 앱의 ‘조업 안전해(海)’ 기능에서 출어 해역의 위험도를 확인할 수 있습니다. 별도 앱 설치 없이 바로 연결하는 기능은 추가 개발 예정입니다. 위험 정보를 제공한다는 사실과 실제 사고가 줄었다는 성과는 구분해야 합니다.

‘척척감척’은 선령·톤수·어획량·판매단가·어업경비 등을 입력하면 법령의 계산식을 적용해 예상 폐업지원금을 보여줍니다. 결과는 참고용이고 최종 금액은 전문가 감정평가로 확정됩니다. ‘수산물 헬스케어 알리미’는 사진·음성·검색으로 약품 정보를 찾고 적정 투여량과 예상 출하 가능일을 계산하도록 돕습니다. 모든 기능을 생성형 AI가 판단하는 서비스로 묶어 이해하지 않는 것이 좋겠습니다.

일부 서비스에는 직원이 AI를 활용해 직접 개발에 참여했습니다. 해수부는 정확성과 편의성을 보완하고 보안성을 점검할 계획입니다. 사고 감소율이나 업무시간 절감 실적은 제시하지 않았습니다.

업무에서 볼 점: 기관의 지원금·자격 안내도 규정에 따른 계산과 AI 설명을 구분해 설계하는 데 참고할 만합니다. 예를 들어 계산 결과 옆에 적용 기준일과 참고용 여부를 표시하고, 최종 결정 담당자를 안내하는 방식입니다. 직원이 만든 도구를 정식 서비스로 운영할 때는 규정 변경 반영과 유지보수 담당도 정해야 합니다.

출처: 해양수산부 공식 보도자료·PDF 첨부 원문, 10월 14일

이미지 출처

4. AI 전환 국민숙의 결과…활용 격차 우려와 재교육 책임 확인

기본사회 공론화전문위원회는 14일 국민숙의단 토론회 결과를 발표했습니다. 자료와 강의를 접하고 토론한 뒤 의견을 내는 과정에 223명이 참여했고, 만 15~34세를 102명 포함했습니다. 9월 19~20일 토론회를 거쳐 세 차례 설문을 실시했습니다.

발표에 따르면 AI 활용 격차가 심각하다는 응답은 70%에서 숙의 후 88%로 높아졌습니다. 기업이 재교육과 고용 전환 지원에 더 큰 책임을 져야 한다는 데는 93%가 동의했습니다. 이 숫자는 학습·토론에 참여한 숙의단의 인식이며, 국내 전체 일자리의 대체율이나 국민 전체의 단순 찬반 비율로 읽어서는 안 됩니다. 결과에는 전국 인구 분포를 반영한 가중치가 적용됐습니다.

향후 국민숙의단 22명과 전문가 22명으로 구성된 정책의제기획단이 10월 18일과 31일 워크숍을 진행합니다. 정책제안서는 11월 초 숙의단 확인을 거쳐 11월 안에 위원회로 제출할 예정입니다.

업무에서 볼 점: AI 교육에는 사용법과 함께 업무 변화에 대한 걱정을 듣는 시간도 마련할 만합니다. 교육 전후로 맡길 수 있게 된 일과 여전히 불안한 일을 물어 직무별 어려움을 살펴보십시오.

출처: 기본사회 공론화전문위원회 공식 브리핑 속기록, 10월 14일

업무에서 확인할 점

AI 문서 검토 도구는 학습 이용 여부와 저장 기간을 따로 확인합니다.
AI 요청이 거절될 때 자동 반복하지 않도록 호출 상한·과금·담당자 연결 절차를 살펴봅니다.
지원금 모의계산에는 참고용 표시와 최종 결정 절차를, 직원 AI 교육에는 직무별 어려움을 듣는 과정을 넣어봅니다.