AI 안전평가·인프라 투자·공공 발주와 국가자산 데이터의 오늘

오늘의 판

오늘은 성격이 다른 다섯 소식을 차례로 본다. POSTECH은 원본 데이터를 한곳에 모으지 않고도 잘못된 정답표를 찾는 연구를 발표했다. 한국과 미국의 AI 모델 안전평가 체계는 출시 전 접근권에서 차이를 보였다. 우정사업본부와 한국산업은행은 1조 원 규모 AI 인프라 펀드 조성에 합의했다. 정부는 AI·소프트웨어 사업비 산정 기준과 국가자산 데이터 관리체계도 손질하고 있다.

이 사건들을 하나의 거대한 변화로 묶을 필요는 없다. 연구 논문, 자율 평가체계, 업무협약, 정책 로드맵, 법·시스템 개편 계획은 서로 다른 단계에 있기 때문이다. 오늘 읽을 때는 발표의 크기보다 현재 무엇이 확인됐고 다음에 어떤 증거가 필요한지를 구분하는 편이 정확하다.

핵심 수치

숫자의 단위도 서로 다르다. 0.86은 연구 상관관계이고, 42종은 평가 대상 모델 수이며, 1조 원은 펀드 목표액이다. 이를 한 줄에 놓고 규모만 비교하면 사건의 의미를 놓치기 쉽다.

산업·기술 이슈

원본 데이터를 모으지 않고 라벨 오류를 찾는 연구

POSTECH 김광인 교수 연구팀은 원본 데이터를 중앙 서버에서 직접 열어보지 않고도 잘못된 라벨 가능성이 큰 항목을 고르는 GPAEC 알고리즘을 개발했다고 6일 밝혔다. 이 연구는 AAAI 2026 메인 테크니컬 트랙 논문으로 게재됐다.1

라벨은 AI 학습데이터에 붙이는 정답표다. 고양이 사진에 ‘강아지’라는 라벨이 붙으면 모델은 잘못된 규칙을 배울 수 있다. 데이터가 수백만 건이면 사람이 모든 라벨을 다시 확인하기 어렵다. 그래서 오류일 가능성이 크고, 고쳤을 때 학습 품질을 많이 높일 항목부터 골라내는 ‘능동 오류 정정’이 필요하다.

연구팀은 각 데이터가 모델을 어느 방향으로 바꾸려 하는지 보여주는 ‘가중치 기울기’에 주목했다. 원본 사진이나 문서를 보는 대신 이 신호를 비교해 다른 데이터와 유난히 동떨어진 항목을 찾는 방식이다. 기사에 따르면 동떨어진 정도와 라벨 오류 확률의 상관관계는 0.86이었다. 알고리즘은 비슷한 오류만 거듭 고르지 않도록 서로 다른 유형을 선택하고, 기관이 보고한 성적과 실제 기울기가 어긋날 때 믿기 어려운 보고를 걸러내도록 설계됐다.1

그림 1. 원본 데이터를 중앙에 모으지 않고 라벨 오류 후보를 찾는 연구를 이끈 김광인 POSTECH 교수다. 사진은 연구성과를 소개한 원문에 실렸다.

공공부문에서 이 방식이 관심을 끄는 이유는 데이터 이동을 줄일 가능성 때문이다. 예를 들어 여러 병원이 환자 원문을 서로 넘기지 않은 채 공동 모델을 학습하거나, 기관별 비공개 문서를 그대로 둔 채 데이터 품질을 함께 점검하는 장면을 검토할 수 있다. 다만 이는 활용 예시이지 이번 연구가 곧바로 의료·행정 현장에 도입됐다는 뜻은 아니다.

‘원본을 공유하지 않는다’는 표현도 ‘아무 정보도 새지 않는다’는 뜻으로 바꾸어 읽으면 안 된다. 기울기 같은 중간 정보에서 원문 특성을 추정할 수 있는지, 악의적인 참여자가 신호를 조작할 수 있는지, 통신비용이 어느 정도인지 별도 시험이 필요하다. 기사에는 데이터셋별 성능과 비교 기준이 모두 제시되지 않았다. 기관은 논문 수치보다 자체 데이터로 재현시험을 하고, 개인정보 영향과 공격 가능성을 함께 살펴야 한다.

출시 전 AI 모델을 누가 어떻게 시험하는가

과학기술정보통신부에 따르면 한국 AI안전연구소는 국내외 출시 모델 42종을 평가했지만 출시 전에 모델을 평가한 사례는 없었다. 연구소는 공격형 사이버 분야를 포함해 상용 모델을 시험한다. 과기정통부는 가능한 범위에서 출시 후 평가 결과 공개를 늘리겠다고 밝혔지만, 미국식 사전평가 도입 여부에는 답하지 않았다.2

사전평가는 기업이 아직 공개하지 않은 모델에 정부 평가팀이 접근해 위험 능력을 확인하는 절차다. 기사에 따르면 미국은 일정 수준 이상의 해킹 능력을 지닌 모델을 대상으로 외부 협력사 공개 전 최대 30일간 정부 평가팀에 접근권을 주는 자율 체계를 운영한다. 오픈AI, 앤트로픽, 구글 딥마인드, 마이크로소프트, xAI 등 5개사가 미국 AI표준혁신센터의 출시 전 평가에 참여하고 있다.2

그림 2. 기사에서 확인된 한국의 출시 후 평가 42종과 미국 자율 출시 전 평가의 최대 30일·참여 기업 5개사를 비교했다. 평가 범위가 다른 수치를 같은 성과처럼 비교하지 않도록 직접 구성한 도식이다.

한국의 현행 AI기본법에는 정부가 출시 전 모델을 직접 시험하는 절차가 없다. 그렇다고 한국의 모든 모델이 검증되지 않았고 미국의 모든 모델은 안전하다고 결론낼 수는 없다. 미국 체계는 자율 참여이고 모든 모델을 포괄하지 않는다. 한국의 42종 평가는 출시 후 시험이며, 출시 전 접근권과 역할이 다르다. ‘평가를 받았다’는 한 문장보다 평가 시점, 시험 범위, 결과 공개 여부를 확인해야 한다.

공공기관이 상용 모델을 도입할 때 국가 단위 사전평가가 있더라도 기관별 검수는 남는다. 내부 문서를 검색하는 모델과 공개 민원을 안내하는 모델은 데이터와 피해 경로가 다르다. 모델이 외부 도구를 부르는지, 개인정보와 비공개정보를 어디로 보내는지, 권한을 넘어선 행동을 하면 누가 중단하는지, 사고 사실을 공급사가 언제 통보하는지 계약에 적어야 한다. 공통 안전평가는 기관의 실제 업무시험을 대신하지 않는다.

정부·공공 이슈

1조 원 AI 인프라 펀드, 지금은 협약 단계

우정사업본부와 한국산업은행은 5일 서울 여의도 산업은행 본점에서 AI 인프라 금융 협력 체계 구축 업무협약을 맺었다. 두 기관은 1조 원 규모 펀드에 공동 출자하고 차세대 데이터센터와 에너지 인프라 등 첨단 인프라 사업에 투자할 예정이라고 밝혔다. 우량 프로젝트 발굴과 공동투자에도 협력하기로 했다.3

그림 3. 박인환 우정사업본부장과 박상진 한국산업은행 회장이 AI 인프라 펀드 조성 업무협약을 체결하는 모습이다. 우정사업본부가 제공한 사진이다.

여기서 1조 원은 목표 규모다. 기관별 출자액, 민간 자금의 참여 비중, 펀드 결성 시점, 투자 대상과 집행 일정은 기사에서 확인되지 않았다. 업무협약을 맺었다는 사실과 펀드가 실제로 결성됐다는 사실, 개별 데이터센터에 자금이 집행됐다는 사실은 구분해야 한다.

AI 인프라는 서버 구매만으로 완성되지 않는다. 데이터센터가 사용할 전력과 용수, 통신망, 냉각 방식, 재난 대비, 지역 주민과의 조정, 장기간 운영비가 함께 맞아야 한다. 공공자금이 참여한다면 약정액과 납입액, 집행액을 따로 공개하고 투자 성과도 건물 규모가 아니라 실제 제공한 연산자원, 가동률, 에너지 효율, 이용자 접근성으로 측정할 필요가 있다.

생성형 AI와 에이전트 시대의 공공 사업비 산정

과기정통부는 AI·소프트웨어 사업 대가산정 체계의 중장기 개선 로드맵을 9~10월 공개하는 것을 목표로 검토하고 있다. 정부는 지난 5월 한국인공지능·소프트웨어산업협회와 산업계·학계·연구계 전문가가 참여하는 전담반을 출범시켰다.4

현재 협회 가이드는 AI 서비스 이용료, 맞춤화 작업비, 구축·개발비를 나누고 데이터 수집·정제·가공, 모델 최적화와 파인튜닝, 검증·안정화 같은 AI 특화 작업도 반영한다. 정부가 추가 보완을 검토하는 이유는 생성형 AI와 AI 에이전트가 등장하고, AI 개발도구가 소프트웨어 개발 과정 자체를 바꾸고 있기 때문이다.4

AI 에이전트는 질문에 답하는 데서 그치지 않고 정해진 도구를 불러 여러 단계의 일을 수행하는 시스템을 말한다. 이런 사업은 계약 전에 전체 작업량을 정확히 예측하기 어렵다. 실제 기관 데이터를 넣은 뒤에야 중복과 오류가 얼마나 많은지, 추가 정제와 학습이 얼마나 필요한지 드러날 수 있다. 운영 중 모델이나 가격정책이 바뀌면 재검증도 필요하다.

공공 발주에서는 이를 ‘AI 구축’ 한 줄로 묶기보다 데이터 진단, 정제, 모델 적용, 안전성·성능 검증, 사용자 교육, 운영 중 변경관리로 나누는 편이 낫다. 각 단계의 완료 조건과 산출물, 재작업 기준을 적어야 발주기관은 무엇을 검수할지 알고 수행사는 숨은 과업 비용을 설명할 수 있다. 다만 구체적인 신규 사업 유형과 산정 공식은 아직 논의 중이다. 9~10월도 목표 시점이지 확정 발표일이 아니다.

국가자산을 데이터화하고 AI로 지원한다는 계획

재정경제부는 6일 ‘국가자산 관리체계 대전환 추진방향’을 발표했다. 정부는 현행 국유재산법을 전면 개정해 국가자산 기본법을 만들고, 국유재산정책심의위원회를 국가자산관리위원회로 확대 개편할 계획이다. 중앙관서별 국가자산책임관도 두겠다고 밝혔다.5

정부는 연내 국가·지방정부·공공기관의 자산정보를 디지털예산회계시스템인 dBrain+에 연계해 데이터화하고 AI 기반 업무지원 기능을 마련할 계획이다. 2027년에는 AI 기반 국가자산 전용 데이터베이스인 가칭 K-Asset 클라우드 구축을 추진한다.5

기사에 제시된 자산 규모는 부동산 711조1000억 원, 지식재산 2조3000억 원, 증권·출자 328조7000억 원, 가상자산 780억 원이다. 전체 국유재산은 1400조 원 이상으로 설명됐다. 이 숫자들은 자산 유형별 집계이므로 단순히 더해 전체와 맞추는 방식으로 읽으면 안 된다. 평가 기준과 집계 시점이 같은지도 확인해야 한다.5

국가자산을 AI로 지원하려면 먼저 데이터의 뜻을 맞춰야 한다. 같은 건물도 취득가, 장부가, 시장가가 다르고 지식재산은 활용 가능성과 권리 상태가 계속 변한다. 기관별 입력 기준과 갱신주기가 다르면 AI는 정교한 계산을 하더라도 비교할 수 없는 값을 섞을 수 있다. 자산 정의, 평가시점, 변경이력, 접근권한, 추천 근거와 최종 승인자를 시스템 설계에 함께 넣어야 한다.

AI가 유휴자산 활용 후보를 추천하는 장면은 생각해 볼 수 있다. 그러나 이는 검토할 수 있는 예시일 뿐 이번 발표에서 확정된 기능은 아니다. 법적 제한, 지역 수요, 유지비와 공익성을 사람이 함께 판단해야 한다. 기본법 제정 시점과 K-Asset 클라우드의 예산, 세부 기능, 데이터 접근권한은 아직 확인되지 않았다.

교차 분석

다섯 사건에서 실제로 함께 볼 만한 판단은 두 가지다. 하나는 AI 품질이 모델 점수만으로 정해지지 않는다는 점이다. POSTECH 연구는 학습데이터의 라벨을 보고, 안전평가 기사는 출시 전 접근권과 시험 절차를 본다. 대가체계 개편은 데이터 정제와 재검증을 비용으로 인정할지 묻는다. 서로 다른 사건이지만 데이터 품질, 시험, 계약이 이어져야 운영 품질이 만들어진다는 연결은 분명하다.

다른 하나는 발표한 금액과 시스템 이름보다 단계 증거가 중요하다는 점이다. 1조 원 펀드는 협약에서 결성, 납입, 집행으로 넘어가야 한다. K-Asset 클라우드는 계획에서 법적 근거, 데이터 표준, 구축, 실제 이용으로 이어져야 한다. 각 단계의 날짜와 책임자, 산출물을 남기지 않으면 큰 숫자와 새 이름만 남고 성과를 검증하기 어렵다.

AI 관련 담당자라면 참고할 만한 적용 항목

이 표는 기사에 나온 사업의 확정 지침이 아니다. 공개된 사실을 바탕으로 공공 AI 업무에서 검토할 수 있는 항목을 정리한 것이다. 실제 적용 때는 기관의 법적 권한, 개인정보 처리 근거, 보안등급과 조달규정을 먼저 확인해야 한다.

리스크와 불확실성

POSTECH 연구의 0.86이라는 상관관계가 어떤 데이터셋과 조건에서 나왔는지, 기관별 실제 데이터에서도 재현되는지는 추가 확인이 필요하다. 원본을 공유하지 않는 방식이 중간 신호를 통한 정보 추정까지 막는지도 별도 검증 대상이다.

한국의 출시 전 AI 평가 제도는 도입 여부와 일정이 정해지지 않았다. 미국 체계도 자율 참여여서 모든 고성능 모델을 포괄한다고 단정할 수 없다. 국가 평가가 생기더라도 기관별 업무와 권한을 반영한 검수가 사라지는 것은 아니다.

AI 인프라 펀드는 기관별 출자액, 결성 시점, 민간 자금 비중과 투자 대상이 공개되지 않았다. AI·SW 대가체계의 구체 공식도 논의 중이다. 국가자산 기본법의 제정 일정과 K-Asset 클라우드의 예산·기능·권한도 확정된 것으로 보기 어렵다. 향후 발표에서는 목표와 실제 집행 결과를 따로 확인해야 한다.

더 깊이 공부하고 싶다면?

1. 분산학습에서 가중치나 기울기 정보로 원본 특성을 추정하는 공격은 어떤 방식으로 시험하는가?
2. 출시 전 국가 안전평가와 기관별 조달 검수는 시험 항목과 책임을 어떻게 나누는 것이 좋은가?
3. AI 에이전트 사업에서 데이터 정제, 도구 연동, 운영 중 모델 변경 비용을 계약서에 어떻게 표현할 수 있는가?
4. 공공 AI 인프라 펀드의 성과를 투자액 외에 연산자원 접근성·가동률·에너지 효율로 측정하려면 어떤 공개 지표가 필요한가?
5. 국가자산 AI 추천에서 잘못된 평가나 누락이 발생했을 때 데이터 작성기관, 시스템 운영자, 최종 의사결정자의 책임을 어떻게 기록할 것인가?