복지급여 조사에 AI 보조 시범…외부 업무 실행·음성 생성과 개인정보 기준

안녕하세요, 바다입니다. 복지급여 확인조사에 AI 보조기능이 시범 도입됩니다. 외부 AI의 업무 실행과 음성 생성, 개인정보 처리기준 논의도 함께 전합니다.

핵심요약

• 아마존은 판매자가 쓰던 AI에서 재고·가격 업무를 처리하도록 연결 기능을 공개했습니다. 실행 전 승인과 작업 기록을 함께 제공합니다.
• 구글은 글을 음성으로 읽는 새 모델을 발표했습니다. 다양한 목소리를 만드는 기능과 함께 목소리 주인의 동의 확인을 요구합니다.
• 국내에서는 실행형 AI의 개인정보 처리기준을 논의하고, 복지급여 조사에 자료 분석·안내 보조기능을 시험합니다. 확정된 제도와 시범사업을 구분해 살펴봅니다.

1. 아마존, 외부 AI에서 판매 업무 실행…사람 승인과 기록도 함께

아마존은 9월 23일 판매자용 AI 비서 ‘Seller Assistant’의 기능 확대와 외부 AI 연결 도구를 발표했습니다. 판매자는 Amazon Quick이나 Claude에서 상품 정보, 재고, 판매 분석을 확인하고 업무를 처리할 수 있습니다. 연결 도구는 미국 아마존 판매자를 대상으로 시험 운영하며, 해외 확대는 앞으로 추진합니다.

새 자동화 기능은 판매자가 접속하지 않아도 재고나 가격 변화를 계속 살피고 대응안을 준비합니다. 판매자는 제안만 받을지 실제 작업까지 맡길지 선택하며, 작업 실행 전 내용을 검토하고 승인합니다. 아마존은 외부 AI 연결에도 접근 범위 제한, 사람의 승인, 전체 작업 기록을 적용한다고 밝혔습니다. 가격 책정 방식이나 재고 주기 등을 다음 대화에도 기억하는 기능도 소개했습니다.

업무에 참고할 점은 ‘어떤 자료를 볼 수 있는가’와 ‘무엇을 바꿀 수 있는가’를 나눠 정하는 방식입니다. 예를 들어 내부 문서 검색을 허용했더라도 공문 발송이나 시스템 정보 변경은 따로 승인하도록 설계할 수 있습니다. 이는 공공기관 적용을 위한 제안입니다. 아마존의 판매자용 기능이 국내 공공업무에 적합하다는 인증을 받았다는 뜻은 아닙니다.

용어 설명 — 플러그인: AI에 다른 서비스의 자료나 기능을 연결하는 추가 도구입니다. 연결 범위에 따라 조회뿐 아니라 정보 변경도 가능해집니다.

출처: Amazon 공식 발표

2. 구글, 새 음성 생성 모델 공개…목소리 복제에는 동의 확인

구글은 9월 23일 Gemini 3.8 Flash TTS와 Flash-Lite TTS를 발표했습니다. 글을 자연스러운 음성으로 바꾸는 모델로, 문장별 말투와 속도 등을 지시할 수 있습니다. 회사 설명에 따르면 100개가 넘는 언어·방언과 2,000개 이상의 준비된 목소리를 지원합니다. 이 숫자는 선택 가능한 언어와 목소리의 규모이며, 한국어 행정용어를 정확하게 읽는다는 평가 결과는 아닙니다.

본인 또는 사용 권한이 있는 목소리는 30초 음성 견본으로 재현할 수 있다고 안내했습니다. 이때 원래 화자와 일치하는 음성 동의 녹음을 요구합니다. 생성 음성에는 AI가 만든 자료임을 식별하도록 SynthID라는 표시를 넣습니다. 개발자 도구에서는 이날부터 순차 제공하지만 기업용 Gemini Enterprise의 API 제공은 추후 예정이라고 구분했습니다.

공공기관에서는 안내문을 음성으로 제공하는 작업에 참고할 만합니다. 예를 들어 신청기한·금액·전화번호를 담은 안내를 만들 경우, 자연스러운 목소리만 듣고 통과시키지 말고 원고의 숫자와 발음이 맞는지 확인해야 합니다. 직원이나 민원인의 목소리를 견본으로 사용할 때는 동의 대상과 사용 목적을 별도로 확인하는 것이 좋습니다. 이는 서비스 활용 시 점검할 사항이며, 이번 발표가 국내 개인정보·음성 권리 검토를 대신하지는 않습니다.

용어 설명 — TTS: 글을 음성으로 바꾸는 기술입니다. API는 기관의 프로그램이 외부 서비스 기능을 호출하는 연결 방식입니다.

출처: Google 공식 발표

3. 개인정보위, 실행형 AI의 권한·기억·책임 기준 논의

개인정보보호위원회는 9월 23일 AI 프라이버시 민·관 정책협의회 전체회의를 열었습니다. 7~8월 국내외 AI 개발·도입 기관 15곳을 인터뷰한 결과, 악성 지시문에 AI가 속는 문제와 지나치게 넓은 권한이 주요 위험으로 제시됐습니다. 15곳은 인터뷰 참여 기관 수로, 피해가 발생한 기관 수가 아닙니다.

참여 기관들은 AI가 스스로 처리할 일과 사람 승인이 필요한 일의 구분, 참여 주체별 책임, 작업 기록과 기억에 담긴 개인정보의 보관·파기 기준이 필요하다고 의견을 냈습니다. 논의 결과는 올해 말 공개 예정인 ‘에이전틱 인공지능 개인정보 처리 안내서’와 제도 혁신방안에 반영할 계획입니다. 이번 회의에서 최종 안내서나 세부 보관기간이 확정된 것은 아닙니다.

기관에서는 도입하려는 AI가 원문 파일 외에 어떤 정보를 남기는지부터 정리해 볼 수 있습니다. 예를 들어 상담 내용을 요약한 기억, 사용자가 입력한 질문, 외부 도구를 호출한 기록도 점검 대상으로 두는 방식입니다. 화면에서 대화를 지웠을 때 관련 기록이 어디까지 삭제되는지 공급사에 확인하면, 향후 안내서가 나왔을 때 현재 운영과 비교하기가 수월합니다. 구체적인 삭제 절차는 해당 서비스의 계약과 실제 기능을 확인해야 합니다.

용어 설명 — 에이전틱 AI: 목표를 받아 여러 단계를 계획하고 도구를 사용해 일을 수행하는 AI입니다. 프롬프트 인젝션은 읽어 들인 자료 등에 악성 지시를 숨겨 AI가 엉뚱한 행동을 하도록 유도하는 공격입니다.

출처: 개인정보보호위원회 보도자료

4. 복지급여 확인조사에 AI 보조기능 시범 운영

보건복지부는 10월 1일부터 12월 31일까지 하반기 사회보장급여 정기 확인조사를 실시한다고 밝혔습니다. 이번 하반기 조사는 11종 복지사업을 대상으로 하며, 141개 금융기관과 20개 공공기관에서 입수한 소득·재산정보 69종을 활용합니다. 연간 확인조사 제도 전체는 13개 사업을 다루지만, 두 사업은 상반기에만 조사하므로 하반기 대상과 구분해야 합니다.

이번에는 ‘AI 정책실험실’ 참여 지방정부와 연계해 AI 보조기능도 시험합니다. 이의신청 때 제출한 통장거래내역의 패턴 분석, 수급자별 참고자료 조회, 조사 결과와 이의신청 방법을 쉽게 안내하는 기능입니다. 복지부는 공무원의 업무를 보조하는 수단으로 제한적으로 활용할 계획이라고 명시했습니다. AI가 수급 자격을 독자적으로 결정하거나 전국에서 전면 운영된다는 발표는 아닙니다.

자료의 최신성도 바뀝니다. 상시근로소득 판정에서 조사 시점과 자료 생성 시점의 차이가 1년을 넘는 국세청 종합소득을 제외합니다. 이미 끊긴 소득을 반복해서 소명해야 했던 부담을 줄이려는 조치입니다. 장학·복지 심사업무에서도 AI 도입을 검토한다면, 자료 생성 시점과 현재 상황의 차이, 담당자 검토, 신청인의 소명 기회를 함께 설계하는 참고 사례로 볼 수 있습니다. 처리시간 감소나 정확도 개선 수치는 이번 자료에 제시되지 않았습니다.

출처: 보건복지부 보도자료

업무에서 확인할 점

• 외부 AI에 연결할 업무 한 가지를 골라 조회·수정·발송 권한과 사람의 승인 지점을 나눠 적어봅니다.
• AI가 저장하는 대화·요약 기억·작업 기록의 위치와 삭제 조건을 공급사 설명 및 계약에서 확인합니다.
• 심사·안내 보조기능은 자료의 기준일, 원문 근거, 담당자 확인, 이의신청 안내가 함께 제공되는지 살펴봅니다.