47개 부처 업무 AI와 5대 분야 상담이 시작될 때, 성능보다 먼저 정할 것

오늘의 판

행정안전부가 복지·안전·세금·농업·식약 5대 분야에 24시간 인공지능 상담체계를 만들고, 공무원의 법령 검토와 보고서 작성을 돕는 ‘온AI’를 올해 12월까지 47개 중앙부처에 도입하겠다고 밝혔다. 국민이 만나는 상담 창구와 공무원이 쓰는 내부 업무도구를 한 전략 안에서 함께 넓히겠다는 계획이다.3

도입 대상이 크게 늘어나는 만큼 이제 질문도 달라져야 한다. AI를 몇 곳에 설치했는지만 볼 것이 아니라 틀린 안내를 누가 바로잡는지, 사람이 다시 검토해 달라는 요청을 어디에서 받는지, 시스템이 멈췄을 때 어떤 업무부터 복구하는지를 서비스별로 정해야 한다. 정부는 공공 AI 영향평가와 연 1회 장애훈련을 제시했지만, 상담 분야별 정확도와 사람에게 넘기는 기준은 이번 발표에서 공개하지 않았다.3

같은 날 산업 현장에서는 AI를 움직이는 반도체와 AI가 사람에게 미치는 영향을 평가하는 방법이 함께 등장했다. OpenAI는 첫 자체 추론칩의 측정 결과를 공개했고, Anthropic은 이용자의 정서와 건강에 미치는 영향을 독립적으로 평가할 연구에 500만 달러를 지원한다고 발표했다.1 2 하나는 같은 전력으로 더 많은 답을 만드는 문제이고, 다른 하나는 그 답이 긴 대화 속에서 사람에게 해가 되지 않는지 살피는 문제다.

핵심 수치

숫자는 서로 다른 대상을 잰다. 칩의 배수는 정해진 시험에서 얻은 성능값이고, 47개는 도입 범위다. 500만 달러는 연구 지원 규모이며, 3년은 정책 목표 기간이다. 이를 한 줄에 놓고 “AI가 그만큼 좋아졌다”고 해석하면 실제 진행 단계를 놓친다.

산업·기술 이슈

OpenAI의 첫 자체 추론칩, 전력과 응답시간을 함께 겨냥했다

OpenAI는 자체 설계한 첫 추론용 반도체 ‘Jalapeño’의 초기 측정 결과를 8월 25일 공개했다. 추론은 AI가 학습을 마친 뒤 이용자의 질문을 읽고 실제 답을 만드는 과정이다. 대화형 AI와 여러 단계를 연속으로 처리하는 업무용 AI에서는 한 단계의 지연이 다음 단계로 누적되기 때문에, 단순한 최고 처리량만큼 답변이 끝날 때까지 걸리는 시간도 중요하다.1

용어 설명 — 추론칩: 학습이 끝난 AI가 실제 질문에 답하도록 계산을 수행하는 데 맞춘 전용 반도체다.

OpenAI는 SemiAnalysis가 만든 공개 시험인 InferenceX에서 GPT-OSS 120B, DeepSeek R1 670B, Kimi K2.5 1T를 돌렸다. 회사 발표에 따르면 비교한 상용 시스템보다 와트당 처리한 AI 작업이 1.51.9배 많았고, 질문이 들어온 뒤 답변이 끝날 때까지 걸린 시간은 1.73.6배 짧았다. 매우 빠른 상호작용이 필요한 조건에서는 성능이 2.1~4.1배 높았다고 밝혔다.1

용어 설명 — 벤치마크: 여러 시스템에 같은 과제와 조건을 적용해 성능을 비교하는 공통 시험이다.

칩의 정격 전력은 700와트다. 다만 OpenAI는 시험 중 계속 측정된 전력이 550와트 이하였다며, 칩 한 개의 속도가 아니라 전력 한 단위로 끝낸 유용한 작업량을 비교해야 한다고 설명했다. AI 서비스는 같은 시간에 많은 이용자에게 답해야 하므로, 빠른 답과 많은 처리량 사이에서 한쪽을 포기하지 않는 설계를 강조한 것이다.1

그림 1. OpenAI가 공식 발표에서 공개한 Jalapeño 추론칩이다. AI 서비스의 비용을 칩 가격만이 아니라 전력과 응답시간까지 함께 봐야 하는 이유를 보여준다. 출처: OpenAI.

개발 과정에도 AI를 썼다. OpenAI는 초기 설계에서 생산용 설계를 확정하는 ‘테이프아웃’까지 9개월이 걸렸으며, 산술회로 최적화와 설계 검증의 반복 시간을 AI로 줄였다고 밝혔다. 선택한 일부 연산 블록에서는 AI가 만든 구현이 기존 전문가 구현보다 1.5~1.8배 빨랐다고 설명했다. 이 배수는 전체 모델이 아니라 일부 블록에만 적용된다는 점을 회사도 분명히 했다.1

기관이 이 칩을 당장 구매할 수 있다는 뜻은 아니다. OpenAI는 올해 말 자체 컴퓨팅 인프라에 배치를 시작할 계획이며, 생산 검증과 소프트웨어 안정화, 더 많은 모델 시험을 계속하고 있다. 실제 가격, 국내 조달 가능성, 대규모 운영의 고장률은 공개하지 않았다. 도입 검토에서는 공급사가 제시한 최고 수치를 그대로 비교하지 말고, 기관이 쓰는 문서 길이와 동시 이용자 수를 반영해 같은 응답시간 조건에서 전력·처리량·실패율을 다시 재야 한다.

Anthropic은 한 번의 답보다 긴 대화에서 생기는 위험을 보려 한다

Anthropic은 AI가 이용자의 웰빙에 미치는 영향을 측정할 독립 연구에 500만 달러를 지원한다고 발표했다. 선정된 연구자는 자금과 Anthropic 모델 접근권, 기술 지원을 받는다. 회사는 연구자가 독립적으로 일하고 결과를 개발자와 연구자가 다시 사용할 수 있는 공개 프로젝트로 내놓게 하겠다고 밝혔다.2

용어 설명 — 웰빙: 이 발표에서는 이용자의 정서적 안정과 건강한 상태를 함께 가리킨다.

평가 대상은 대화 한 번의 정답 여부보다 넓다. 힘든 이용자가 처음부터 자해 생각이나 위기 상황을 직접 말하지 않을 수 있고, 앞에서는 무난했던 조언이 대화 맥락이 쌓인 뒤에는 해로워질 수 있기 때문이다. 예를 들어 체중 감량을 묻는 일반적인 질문에 식단과 운동을 안내하는 답은 자연스러울 수 있다. 하지만 이전 대화에서 섭식장애 위험이 드러났다면 같은 답이 위험을 키울 수 있다.2

Anthropic은 평가가 무엇을 통과와 실패로 볼지 먼저 밝히고, 임상가와 심리학자 같은 분야 전문가가 설계와 검증에 참여해야 한다고 제안했다. 위험한 요구를 지나치게 받아들이는 경우만 볼 것이 아니라, 도움이 필요한 정상적인 요청까지 막는 경우도 함께 시험해야 한다. 자동으로 답을 채점하는 도구가 실제 전문가의 판단과 맞는지도 확인해야 한다고 했다.2

그림 2. Anthropic이 연구 지원 프로그램과 함께 공개한 공식 일러스트다. 이 프로그램은 짧은 정답 평가를 넘어 여러 차례 대화에서 이용자의 상태가 어떻게 달라지는지 측정하려 한다. 출처: Anthropic.

공공부문에서는 복지상담, 청소년 지원, 민원 안내처럼 이용자의 상황이 대화 중에 드러나는 서비스에 바로 닿는 문제다. 시험 시나리오를 한 문답으로 끝내지 말고 위험 신호가 조금씩 커지는 여러 차례 대화로 만들어야 한다. 사람 상담으로 넘기는 조건과 긴급 연락처 안내, 상담 이후 기록을 누가 검토할지도 정해야 한다. 반대로 AI가 안전을 이유로 정상적인 상담까지 계속 거절하는 비율도 따로 재야 한다.

아직 성과가 나온 것은 아니다. 신청 마감은 9월 21일이고, 전체 제안서를 낼 대상자는 10월 5일 통지될 예정이다. 어떤 연구가 선정되고 평가도구가 실제 제품을 얼마나 바꿀지는 확인되지 않았다. 독립 운영 역시 회사가 밝힌 원칙이므로, 연구 주제 선정과 결과 공개 범위를 이후에 살펴봐야 한다.

정부·공공 이슈

AI민주정부 전략은 국민 상담과 공무원 업무를 동시에 넓힌다

행정안전부는 8월 25일 국무회의에서 ‘세계 최고의 AI민주정부 실현 전략’을 보고했다. 가장 먼저 국민이 체감할 변화로 복지·안전·세금·농업·식약 5대 분야의 24시간 AI 상담체계를 제시했다. 돌봄서비스, 납세, 감염병 증상과 예방, 식생활 정보 등을 시간과 장소에 관계없이 상담하게 한다는 계획이다.3

2027년부터는 정부24·국민비서·혜택알리미를 연계한 ‘AI국민비서’를 한 창구에서 제공할 계획이다. 공공서비스를 정해진 구성으로 나눠 카카오와 네이버 같은 민간 플랫폼에서도 쓸 수 있게 개방하고, 재난안전 정보는 국민안전24로 모아 22개 언어로 제공한다. 국민이 낸 정책 아이디어를 분류하고 기존 정책과 비교하는 ‘모두의 광장’과 온라인 숙의 공간도 추진한다.3

공무원이 쓰는 내부 도구도 넓어진다. 온AI는 법령 검토, 보고서 초안 작성, 예산 검색을 지원하는 업무관리시스템이다. 정부는 이를 2026년 12월까지 47개 중앙부처에 도입하고, 공무원이 필요한 AI 서비스를 직접 개발하는 AI정부실험실을 운영할 계획이다. 의약품 심사, 건축허가, 치안, 기상예측, 조달 제안요청서 작성처럼 부처별 업무에 맞춘 서비스도 확대한다.3

용어 설명 — 데이터 파이프라인: 여러 기관의 자료가 필요한 곳으로 이어지도록 수집·정리·전달하는 체계다.

기반 계획에는 모든 공무원의 AI 교육, AI 전문인재 2만 명의 단계적 육성, 공공데이터 Top 100 조기 개방이 포함됐다. 중앙부처·공공기관·지방자치단체가 데이터를 공유하는 범정부 데이터 파이프라인은 9월 개통할 계획이다. 공공 AI 윤리기준과 영향평가를 도입하고, 중요 시스템의 장애에 대비한 실전훈련을 연 1회 의무화하는 내용도 담겼다.3

용어 설명 — AI 영향평가: AI를 도입하기 전에 기대효과와 개인정보 침해 가능성, 책임 소재를 미리 살피는 절차다.

계획의 넓이와 서비스의 완성도는 구분해야 한다. 47개 부처에 도구가 들어간다는 사실만으로 업무가 빨라졌거나 오류가 줄었다고 볼 수 없다. 5대 상담체계의 서비스별 개통일, 답변 정확도, 상담원이 넘겨받는 조건, 국민이 이의를 제기하는 절차도 공개 원문에서는 확인되지 않았다. 실제 운영에서는 민원 유형별로 AI가 답하지 말아야 할 범위와 사람의 최종 판단 지점을 먼저 정해야 한다.

K-문샷 휴머노이드는 로드맵을 확정하기 전 의견을 모으는 단계다

과학기술정보통신부는 8월 25일 산학연 전문가 간담회를 열어 ‘K-문샷 AI 휴머노이드 미션’ 로드맵안을 공유했다. 정부가 제시한 목표는 AI 모델과 핵심부품 개발부터 현장 시험과 양산까지 역량을 모아 3년 안에 세계 최고 수준의 국가대표 K-휴머노이드 플랫폼을 확보하는 것이다.4

휴머노이드는 사람과 비슷한 몸 구조로 주변을 보고 판단하며 움직이는 로봇이다. 제조·물류뿐 아니라 돌봄과 재난 현장까지 적용 가능성이 거론된다. 그러나 사람과 같은 공간에서 움직이는 만큼 소프트웨어의 오답이 화면에만 남지 않고 충돌이나 낙상 같은 물리적 사고로 이어질 수 있다.

용어 설명 — 휴머노이드: 사람과 비슷한 몸 구조를 갖추고 주변을 인식하며 움직이는 로봇이다.

정부는 2027년부터 ‘Next-X 휴머노이드 챌린지’를 추진할 계획이다. 국내에서 개발한 휴머노이드를 공모·평가해 후보를 뽑고, 개발을 지원한 뒤 국가대표급 플랫폼을 최종 선정하는 방식이다. 간담회에서는 핵심 원천기술과 학습 데이터 확보, 산학연 협력, 연구성과의 산업화와 해외 진출을 논의했다.4

그림 3. 과학기술정보통신부 보도자료 첨부파일에 포함된 K-문샷 AI 휴머노이드 미션 행사 포스터다. 이번 발표가 완성품 공개가 아니라 로드맵 의견수렴 단계임을 보여준다. 출처: 과학기술정보통신부.

용어 설명 — 실증: 연구실에서 만든 기술을 실제 현장에 적용해 안전성과 쓸모를 확인하는 시험이다.

이 로드맵은 아직 확정안이 아니다. 과기정통부는 현장 의견과 관계부처 협의를 반영해 다음 달 과학기술관계장관회의에서 최종 확정·발표할 계획이다. 이번 자료에는 전체 사업비, 로봇의 세부 성능 기준, 실증 장소, 양산 규모가 담기지 않았다.4

향후 공공시설이나 돌봄·재난 현장에서 시험한다면 평균 작업 성공률만으로 후보를 고르기 어렵다. 사람이 접근했을 때 즉시 멈추는지, 통신이 끊겨도 안전한 자세를 유지하는지, 누가 원격으로 정지할 수 있는지, 사고 영상과 센서 기록을 얼마나 보관하는지를 시험해야 한다. 학습 데이터와 현장 기록의 권리, 부품 교체와 소프트웨어 업데이트 책임도 조달조건에 들어가야 한다.

교차 분석

오늘 발표에서 함께 볼 만한 지점은 ‘최고 성능’과 ‘운영 가능한 성능’의 차이다. Jalapeño는 칩의 최고 처리량뿐 아니라 전력과 요청 전체 지연시간을 함께 제시했다. 상담형 AI 연구는 한 번의 모범답안보다 긴 대화에서 위험을 알아채는지를 보려 한다. 공공 AI와 휴머노이드도 설치 수나 평균 성공률을 넘어, 오류가 생겼을 때 사람이 개입하고 복구하는 조건을 같이 측정해야 한다.

다만 네 발표의 진행 단계는 다르다. Jalapeño는 회사가 측정한 초기 결과이고, 웰빙 연구는 지원 프로그램 출범 단계다. AI민주정부는 정부 전략이 보고된 상태이며, 휴머노이드 로드맵은 의견수렴 뒤 최종안을 확정할 예정이다. 계획·시험·배치를 같은 수준의 성과로 묶어 평가해서는 안 된다.

AI 관련 담당자라면 참고할 만한 적용 항목

AI 인프라를 비교한다면 기관이 실제로 쓰는 긴 문서와 동시 이용자 수를 반영한 시험을 만든다. 같은 답변 품질과 응답시간을 맞춘 뒤 시간당 처리량, 전력 사용량, 실패 후 복구시간을 공급사별로 비교해야 한다. 자체 시험 수치와 기관 검증 수치는 표에서 분리한다.

상담형 AI는 위험 신호가 조금씩 드러나는 여러 차례 대화로 시험한다. 위험한 조언을 받아들이는 오류와 정상적인 질문까지 막는 오류를 각각 세고, 사람 상담으로 넘긴 뒤 맥락이 정확히 전달되는지도 확인한다. 이용자가 AI 판단에 이의를 제기하고 기록을 정정할 수 있는 창구가 화면에서 바로 보이는지도 점검할 만하다.

업무용 AI는 부처나 기관별 설치 여부보다 권한을 본다. AI가 읽을 수 있는 문서 등급, 초안을 만들 수 있는 범위, 전자결재에 올릴 수 있는 조건, 최종 승인자를 구분한다. 운영 중 오류와 민원을 다시 영향평가에 반영하는 주기도 정해야 한다.

로봇 실증은 정상 작동만 보여주는 시연으로 끝내지 않는다. 사람의 갑작스러운 접근, 센서 오류, 통신 끊김, 배터리 부족, 원격정지 실패를 포함한 사고 시나리오를 먼저 만든다. 시험 결과는 작업 성공률과 안전 정지 성공률을 나눠 기록해야 한다.

리스크와 불확실성

OpenAI의 성능 배수는 자체 측정 결과다. InferenceX라는 공개 시험을 사용했지만, 비교 시스템의 구성과 기관의 실제 업무 조건이 같지는 않다. 대규모 배치에서의 고장률, 가격, 공급 일정은 더 확인해야 한다.

Anthropic의 지원 프로그램은 독립 평가를 약속했지만 아직 선정 연구와 결과가 없다. 연구자가 회사에 불리한 결과도 같은 범위로 공개할 수 있는지, 평가 결과가 실제 모델 변경으로 어떻게 이어지는지는 추후 확인 대상이다.

AI민주정부 전략은 서비스별 세부 일정과 품질 기준이 남아 있다. 특히 복지·세금처럼 권리와 의무에 영향을 주는 상담은 잘못된 답변의 정정 절차와 사람의 재검토가 서비스 개통 전에 구체화돼야 한다.

K-문샷 휴머노이드 미션은 다음 달 최종 로드맵 발표를 앞둔 의견수렴 단계다. 3년 목표를 달성했는지는 플랫폼 선정 기준과 현장 안전시험, 양산 가능성까지 확인해야 판단할 수 있다.

더 깊이 공부하고 싶다면?

• AI 반도체의 와트당 처리량을 기관의 전기료와 서비스 비용으로 바꾸려면 어떤 운용 자료가 더 필요한가?
• 긴 상담 대화에서 위험이 커지는 과정을 시험할 때 개인정보를 침해하지 않는 평가자료는 어떻게 만들 수 있는가?
• 5대 분야 AI 상담에서 사람이 반드시 최종 답해야 하는 질문은 어떤 기준으로 나눠야 하는가?
• 공공기관이 휴머노이드 실증을 발주할 때 작업 성공률과 별도로 요구할 최소 안전지표는 무엇인가?