국가 AI 연구용 GPU 공급과 공공 AI 운영 기준의 오늘

오늘의 판

국가가 지원하는 AI 연구용 최신 계산장치가 7월 20일부터 실제 서비스에 들어갔다. 삼성SDS는 과학기술정보통신부와 정보통신기획평가원이 추진하는 사업에서 복수 공급사 가운데 1순위로 선정됐고, 대학과 정부출연연구기관 등에 H100과 B300 기반 자원을 제공한다고 밝혔다. 사업 규모는 약 153억원, 지원 기간은 2027년 3월까지다.1

장비 공급이 시작됐다는 사실만큼 중요한 질문은 누가 얼마나 안정적으로 쓸 수 있느냐다. 여러 연구팀이 같은 계산장치를 나눠 쓰면 대기시간과 배정 우선순위가 연구 일정에 직접 영향을 준다. 민감한 연구데이터를 어디에 저장하는지, 지원 종료 뒤 결과물과 개발환경을 어떻게 옮길지도 미리 정해야 한다. 기사에는 수혜기관 수와 기관별 배정량이 공개되지 않았다.

용어 설명 — GPU: AI가 학습하거나 답을 만들 때 필요한 많은 계산을 동시에 빠르게 처리하는 반도체다.

용어 설명 — H100·B300: 엔비디아가 만든 AI 계산용 GPU 제품군의 이름으로, B300은 더 최근 세대에 속한다.

그림 1. 약 153억원 규모의 지원사업에서 공급사, 연구기관, 연구자가 어떤 자원과 운영 조건을 확인해야 하는지 보여준다.

핵심 수치

숫자는 서로 다른 대상을 잰다. 153억원은 사업비이고, 30MW는 데이터센터가 받아 쓸 수 있는 전력 규모다. 둘을 AI 성능이나 이용자 수로 바꿔 읽으면 안 된다. 18개월은 토론회에서 제기된 공공 발주 기간의 문제를 설명하는 수치이지 모든 사업에 일률적으로 적용되는 법정 기간이 아니다.

산업·기술 이슈

국가 AI 연구용 B300 자원, 발표를 넘어 서비스 단계로

삼성SDS는 7월 20일부터 국가 AI 연구용 GPU 서비스를 시작했다고 8월 11일 밝혔다. 대학과 정부출연연구기관처럼 자체 대규모 시설을 갖추기 어려운 연구기관이 큰 AI 모델을 연구할 수 있도록 계산장치를 빌려주는 사업이다. 공급 범위에는 GPU뿐 아니라 중앙처리장치, 메모리, 저장공간, 네트워크, 개발환경이 포함된다.1

용어 설명 — 대규모언어모델: 많은 문장을 학습해 질문에 답하고 글을 만드는 AI의 핵심 프로그램이다.

용어 설명 — 클러스터: 여러 대의 계산장치를 연결해 하나의 큰 자원처럼 함께 쓰는 구성이다.

연구기관 입장에서는 장비 세대보다 서비스 조건을 먼저 확인해야 한다. 예를 들어 같은 B300을 쓰더라도 동시에 몇 장을 쓸 수 있는지, 예약한 시간을 보장받는지, 장애가 났을 때 얼마나 빨리 복구되는지에 따라 연구 속도가 달라진다. 연구데이터의 보관 위치와 접근 권한, 외부 반출 승인, 사용기록 보존도 계약과 운영지침에 들어가야 한다.

이번 발표는 자원 공급이 시작됐다는 사실을 확인해 준다. 다만 몇 개 기관이 선정됐는지, 기관별로 얼마만큼의 GPU를 배정받았는지, 연구 대기시간이 얼마나 줄었는지는 아직 알 수 없다. 향후 사업 평가는 단순 사용시간보다 연구 착수까지의 대기시간, 완료된 실험 수, 중단·재실행 비용을 함께 보는 편이 정확하다.

NHN의 실적에 잡힌 AI 인프라 수요

NHN은 2026년 2분기 연결 매출 7579억원과 영업이익 579억원을 기록했다고 발표했다. 전년 동기보다 각각 25.3%, 164.1% 늘었다. 기술 부문 매출은 B200 기반 GPU 임대서비스 확대에 힘입어 52.9% 증가한 1598억원이었다. AI 인프라가 계획이나 투자 발표에 머물지 않고 기업 실적에 반영되기 시작했다는 점을 확인할 수 있다.2

NHN클라우드는 2027년까지 최소 30MW 규모의 AI 데이터센터를 추가 확보하고 기존 시설에 B300 이상 장비를 늘릴 계획이다. 여기서 30MW는 데이터센터가 수용할 전력의 크기다. 건물과 전력을 확보해도 GPU 반입, 냉각 시험, 통신망 연결, 서비스 안정화가 끝나야 실제 고객이 쓸 수 있다. 기사에는 추가 시설의 입지와 정확한 가동일, 공공기관에 배정할 물량이 나오지 않았다.

용어 설명 — 서비스형 GPU: 기관이 비싼 계산장치를 직접 사지 않고 필요한 기간과 수량만큼 원격으로 빌려 쓰는 방식이다.

용어 설명 — MW(메가와트): 데이터센터가 받아 사용할 수 있는 전력 규모를 나타내는 단위다.

그림 2. 전력과 공간 확보 계획이 실제 AI 서비스로 이어지기까지 장비 반입, 시험, 연결망, 운영 안정화가 필요함을 보여준다.

공공기관이 계산자원을 조달할 때는 최신 제품명만 비교해서는 부족하다. 계약기간 동안 예약 자원이 보장되는지, 사용량이 몰릴 때 성능이 떨어지는지, 장애 시 다른 시설로 옮길 수 있는지, 데이터 삭제를 어떻게 증명할지를 물어야 한다. 장기계약이라면 가격 인하나 새 장비 교체 조건도 함께 정해야 공급사 종속을 줄일 수 있다.

정부·공공 이슈

AI는 반년마다 바뀌는데 공공 계약까지 최소 18개월

8월 10일 국회의원회관에서 열린 ‘공공AI도입을 통한 국가 AI대전환 촉진 2차 국회토론회’에서는 현행 공공 소프트웨어 발주체계가 AI의 변화 속도를 따라가기 어렵다는 지적이 나왔다. 디지털데일리 보도에 따르면 사업 기획부터 계약까지 최소 18개월, 대형 사업은 4년 가까이 걸릴 수 있다는 진단이 제시됐다.3

참석자들은 기존 대가 산정 방식이 데이터 정리, AI 학습과 검증, 지속적인 운영비를 충분히 담지 못한다고 짚었다. 일반 소프트웨어는 정해진 기능을 몇 개 구현하는지 중심으로 비용을 계산할 수 있지만, AI는 자료의 품질을 점검하고 결과를 반복 검증하는 일이 큰 비중을 차지한다. 서비스가 시작된 뒤에도 모델과 데이터가 바뀌므로 일회성 구축비만으로 전체 비용을 설명하기 어렵다.

용어 설명 — 대가 산정: 사업에 필요한 인력, 기술, 자료 정리, 운영비를 계산해 계약 금액의 근거를 만드는 절차다.

용어 설명 — 기능점수: 소프트웨어가 제공하는 기능의 종류와 복잡도를 기준으로 개발 규모와 비용을 추정하는 방식이다.

현재는 토론회에서 문제와 개선 방향을 논의한 단계다. 구체적인 법령 개정안이나 시행일이 확정된 것은 아니다. 따라서 발주기관이 당장 할 일은 절차가 바뀌기를 기다리는 게 아니다. 시범사업에서 통과해야 할 정확도와 처리시간, 사람이 다시 확인한 비율을 먼저 정하고, 모델 교체가 필요할 때의 승인·검수 절차를 계약서에 넣어야 한다. 데이터 정리비, 운영비, 보안점검비도 구분해 두어야 어느 단계에서 비용이 늘었는지 추적할 수 있다.

대구시교육청의 ‘충실이’, 규정 검색을 업무지원으로 바꾼다

대구시교육청과 대구시교육청공무원노동조합은 8월 10일 교육행정 업무지원 AI ‘충실이’ 운영 협약을 맺었다. 이 서비스는 업무매뉴얼, 지침, 조례, 규칙 등 최신 교육행정 자료를 바탕으로 질문에 답하도록 설계됐다. 신규·저연차 공무원이 규정을 찾고 현장 업무를 처리할 때 돕는 것이 목적이며 9월 1일부터 운영할 예정이다.4

협약에는 대구시교육청이 공개한 행정자료 활용과 개인정보 보호·보안 규정 준수 내용이 포함됐다. 이것은 중요한 출발점이지만, 기사만으로는 어떤 자료까지 넣을 수 있는지, 대화기록을 얼마나 보관하는지, 잘못된 답변을 누가 고치는지 알 수 없다. 이용 대상 인원과 정확도 목표도 공개되지 않았다.

규정 안내형 AI의 품질은 답이 자연스러운지가 아니라 근거를 찾을 수 있는지로 판단해야 한다. 답변 옆에 문서명, 개정일, 해당 조항을 보여주고 이전 버전 자료는 검색 대상에서 제외해야 한다. 직원이 오류를 신고하면 담당 부서가 원문을 고치거나 답변 생성 규칙을 수정하고, 변경 내역을 남기는 절차도 필요하다.

그림 3. 직원 질문이 최신 규정 검색, 근거 표시, 사람의 최종 확인, 오류 정정으로 이어져야 함을 보여준다.

성과지표도 이용횟수만으로는 부족하다. 규정을 찾는 데 걸린 시간이 얼마나 줄었는지, 잘못 안내한 건수가 몇 건인지, 직원이 원문을 다시 확인한 비율이 얼마인지 함께 측정해야 한다. 이용이 늘어도 재검증 시간이 더 길어졌다면 업무효율이 개선됐다고 말하기 어렵다.

공공 거버넌스 이슈

‘유령 판례’를 막는 장치는 AI 사용 사실과 근거를 남기는 것

법원은 2026년 2월 사법정보공개포털에 허위 사건번호 확인 기능을 추가하고 ‘법관을 위한 AI 가이드북’을 발간했다. 뉴스핌 보도에 따르면 가이드북은 AI가 없는 사실을 만들어 내는 오류, 데이터 편향, 개인정보 침해와 보안 위험, 질문 작성의 기본 원칙을 다룬다.5

법원행정처는 2025년 11월부터 2026년 3월까지 ‘AI 활용 허위 주장·증거 제출 대응 태스크포스’를 운영했다. 이를 바탕으로 법원 제출서류에 AI 활용 사실을 표시하도록 하는 대법원 규칙 개정을 검토하고 있다. 법원행정처는 해당 개정이 아직 검토 단계이며 확정되지 않았다고 설명했다.

용어 설명 — AI 환각: AI가 실제로 없는 사실, 사건번호, 출처를 그럴듯하게 만들어 내는 오류다.

용어 설명 — 태스크포스: 특정 문제를 일정 기간 집중적으로 검토하고 해결안을 만드는 임시 조직이다.

대검찰청은 기사 취재에 형사사법정보시스템 등에 출처 기반 답변생성을 적용하고, 외부 인터넷과 물리적으로 분리한 내부 시스템을 구축할 계획이라고 밝혔다. 출처 기반 답변생성은 관련 판례나 법령을 먼저 찾고 그 자료를 바탕으로 답을 만드는 방식이다. 아무 근거 없이 답을 만드는 위험을 줄일 수 있지만, 검색한 원문이 오래됐거나 질문과 맞지 않으면 오류는 남는다.

용어 설명 — 출처 기반 답변생성: AI가 먼저 관련 원문을 찾은 뒤 그 자료 범위에서 답하도록 하는 방식이다.

허위 사건번호 확인 기능도 서류 전체의 사실성을 보증하지 않는다. 중요한 판단에 쓰는 문서라면 AI 사용 여부, 참조한 원문, 작성자, 최종 검토자와 검토 시각을 남겨야 한다. 사건번호와 법령 조항은 국가법령정보센터나 사법정보공개포털의 원문과 다시 대조하는 절차가 필요하다.

교차 분석

오늘 확인된 사건들은 하나의 기술 유행으로 묶기보다 두 가지 운영 질문으로 함께 볼 수 있다. 첫째, 자원을 공급하거나 서비스를 여는 시점과 실제 성과가 확인되는 시점은 다르다. GPU 지원과 데이터센터 증설은 이용 가능한 기반을 넓히지만, 배정량·대기시간·가동률을 확인해야 연구성과로 이어졌는지 판단할 수 있다.

둘째, AI 사업의 비용과 책임은 구축 단계에서 끝나지 않는다. 공공 발주 토론회가 지적한 데이터 정리·검증·운영비, 교육행정 AI의 최신 규정 관리, 사법 AI의 원문 대조는 모두 서비스가 열린 뒤 계속 발생하는 일이다. 계약서와 성과지표가 이 운영비용을 빼놓으면 초기 도입은 빨라도 안정적인 업무로 자리 잡기 어렵다.

AI 관련 담당자라면 참고할 만한 적용 항목

시범사업을 시작하기 전에 이 항목을 정하면 종료 시점의 판단도 쉬워진다. 목표를 달성하면 본사업으로 옮기고, 근거 표시나 데이터 통제가 미흡하면 범위를 줄이거나 중단하는 기준으로 쓸 수 있다. 특정 공급사의 제품명보다 기관이 지켜야 할 결과와 책임을 먼저 적는 것이 중요하다.

리스크와 불확실성

삼성SDS 사업의 수혜기관 수와 기관별 GPU 배정량은 공개되지 않았다. NHN의 30MW 추가 확보 계획도 입지와 정확한 가동일이 나오지 않았다. 두 발표 모두 공급 기반의 확대를 보여주지만, 공공기관이 실제로 언제 얼마나 사용할 수 있는지는 별도 확인이 필요하다.

공공 AI 발주체계 개선은 토론회 논의 단계다. 대가체계나 계약절차가 바뀌었다고 단정하면 안 된다. 법원 제출서류의 AI 활용 표시 역시 규칙 개정을 검토 중일 뿐 확정되지 않았다. 대구시교육청 ‘충실이’는 9월 운영 예정이므로 정확도와 시간 절감 효과는 운영 뒤 측정해야 한다.

더 깊이 공부하고 싶다면?

• 국가 AI 연구용 GPU는 기관별로 어떤 기준과 단위로 배정되는가?
• 30MW 데이터센터 계획이 실제 서비스 가동으로 넘어갔는지 무엇으로 확인할 수 있는가?
• 공공 AI 사업비에서 데이터 정리·검증·지속 운영비를 어떻게 분리할 것인가?
• 규정 안내 AI가 오래된 문서를 인용했을 때 누가 어떤 기한 안에 정정할 것인가?
• AI를 활용한 중요 문서에 사용 사실과 최종 검토자를 어떤 형식으로 남길 것인가?