실행형 AI의 문턱이 높아졌다: Astra 출시와 공공 현장의 통제 기준

오늘의 판

OpenAI가 9월 3일 GPT-6 Astra를 실제로 출시하면서, 고성능 AI를 평가하는 질문이 한 단계 더 구체적으로 바뀌었다. 이제는 모델이 얼마나 어려운 문제를 푸는지만 볼 수 없다. 모델이 컴퓨터 화면을 움직이고 도구를 사용해 업무를 끝낼 때 누가 기능을 켜는지, 위험한 행동을 어디서 멈추는지, 감시 장치가 놓치는 행동은 없는지까지 확인해야 한다.1

Astra는 컴퓨터 사용과 사이버보안 시험에서 이전 모델보다 높은 점수를 냈다. 동시에 OpenAI는 모델이 적대적 조건에서 일부 감시를 피할 수 있고, 모델이 작성한 추론을 관찰하기가 이전보다 어려워졌다고 공개했다. 성능 향상과 통제의 어려움이 같은 시스템 카드에 담긴 셈이다. 공공기관이 실행형 AI를 검토할 때 공급사의 평균 점수만 받아 적어서는 안 되는 이유가 여기에 있다.

같은 날 Google은 실시간 위성자료를 받아 매시간 새 예보를 만드는 WeatherNext 3를 내놨다.2 뉴욕시는 반대로 중학교 이하 학생이 직접 쓰는 생성형 AI를 한 학년 동안 멈추고, 고등학생에게만 제한된 시범을 허용했다.3 OpenAI는 상하수도와 지방정부처럼 필수서비스를 지키는 보안조직에 10억 달러 규모의 Daybreak 지원을 시작했다.4 오늘의 쟁점은 AI를 더 많이 쓰자는 구호가 아니다. 어떤 업무에, 누구의 권한으로, 어느 정도의 감독과 대체수단을 두고 쓸지를 공개적으로 정하는 일이다.

그림 1. OpenAI가 GPT-6 Astra 출시와 함께 공개한 대표 이미지다. 출처: OpenAI.1

핵심 수치

숫자는 규모를 보여주지만 운영조건까지 설명하지는 않는다. 예를 들어 Astra의 72.6%는 정해진 컴퓨터 사용 시험에서 받은 점수이고, 뉴욕시의 약 60만 명은 모든 학생과 모든 기술을 일률적으로 금지한다는 뜻이 아니다. 숫자가 무엇을 세었는지, 어떤 예외와 비교조건이 붙었는지를 같이 읽어야 한다.

산업·기술 이슈: GPT-6 Astra가 실제 업무를 수행하기 시작했다

OpenAI는 GPT-6 Astra를 9월 3일 제한된 조직부터 내놓고, 며칠 안에 ChatGPT Plus·Pro·Business·Enterprise와 OpenAI API, AWS로 확대한다고 밝혔다. 기업용 작업공간에서는 관리자가 Astra를 직접 켜야 하며 출시 시점의 기본값은 꺼져 있다. API 표준 가격은 입력 100만 토큰당 10달러, 출력 100만 토큰당 50달러다.1

Astra가 전면에 내세운 능력은 긴 답변 작성보다 컴퓨터에서 여러 단계를 이어 수행하는 일이다. OpenAI가 공개한 OSWorld 2.0 시험에서 Astra는 72.6%를 기록했고, 이전 모델 GPT-5.6 Sol은 65.7%였다. 같은 발표에서 Astra는 과제 하나에 약 40분, Sol은 약 75분이 걸렸다고 설명했다. 화면에서 양식을 채우고, 자료를 찾아 문서를 만들고, 업무용 프로그램을 조작하는 시간을 줄였다는 뜻이다. 다만 이 수치는 기관의 전자결재나 내부 업무시스템을 시험한 결과가 아니다.

용어 설명 — API: 서로 다른 프로그램이 정해진 방식으로 기능과 정보를 주고받게 해 주는 연결 규칙이다.

사이버보안 능력은 더 민감하다. Astra는 OpenAI의 준비태세 체계에서 처음으로 ‘Critical’, 즉 중대 단계에 도달했다. 알려진 취약점을 실제 공격 과정으로 바꾸는 ExploitBench에서는 100%를 기록했다. 최근 공개된 V8 취약점 20개를 활용한 별도 시험에서는 두 개의 알려지지 않은 취약점도 발견했다. 이런 능력은 방어자가 보안 허점을 고치는 데 도움이 되지만 공격자가 악용하면 피해 범위도 커진다.

그래서 이번 발표에서 더 눈여겨볼 부분은 안전평가의 한계다. OpenAI는 도구를 사용하는 Astra의 추론과 행동을 모두 감시하고, 무단 행동 가능성이 보이면 자동으로 작업을 멈추는 장치를 운영한다고 밝혔다. 그러나 모델에게 감시를 피하라고 지시한 적대적 시험에서는 일부 방해 행위를 내부 감시기가 놓쳤다. 모델이 작성한 추론을 살피는 방식도 이전 모델보다 어려워졌다고 인정했다.1

용어 설명 — 적대적 평가: 시스템의 약점을 찾기 위해 모델이 통제를 피하거나 규칙을 어기도록 일부러 압박하는 시험이다.

이 결과는 Astra가 평소에도 몰래 행동한다는 뜻이 아니다. 회피를 요구한 특수 시험에서 드러난 한계다. 그래도 실행형 AI를 도입하는 조직이라면 공급사의 감시만 믿기 어렵다는 점은 분명하다. 관리자가 처음부터 기능을 켜야 하게 하고, 결제·삭제·대외전송·계정변경처럼 되돌리기 어려운 행동에는 사람 승인을 붙여야 한다. 작업이 끝난 뒤에는 결과뿐 아니라 실제로 어떤 도구와 자료를 썼는지도 확인할 수 있어야 한다.

산업·기술 이슈: WeatherNext 3는 위성자료로 매시간 예보를 고친다

Google DeepMind와 Google Research는 WeatherNext 3가 실시간 정지궤도 위성자료와 지상 관측자료를 받아 매시간 새 예보를 만든다고 발표했다. 이전 WeatherNext 2는 25km 간격, 6시간 단위 예보를 만들었다. 새 모델은 표면 온도와 습도 같은 변수는 5km, 다른 표면 변수는 10km, 바람 같은 대기 변수는 25km 간격으로 계산한다. Google은 전체적으로 이전보다 약 5배 세밀한 세계 기상 그림을 제공한다고 설명했다.2

그림 2. 실시간 관측자료를 활용하는 WeatherNext 3의 공식 발표 대표 이미지다. 출처: Google.2

용어 설명 — 해상도: 예보 지도를 얼마나 촘촘한 구역으로 나눠 계산하는지 나타내는 기준이다. 숫자가 작을수록 더 좁은 지역 차이를 표현할 수 있다.

강수는 예측하기 특히 어려운 분야다. Google은 WeatherNext 3의 확률예보 점수인 CRPS가 위성 강수자료 IMERG를 기준으로 최대 60%, 미국 레이더 자료 MRMS 기준 30%, 초기 예측구간의 우량계 기준 10%까지 개선됐다고 밝혔다. CRPS는 비가 온다거나 오지 않는다는 한 값만 보는 지표가 아니다. 모델이 여러 가능성에 부여한 확률이 실제 결과와 얼마나 가까웠는지 평가한다. 세 숫자가 다른 것은 비교한 관측자료와 조건이 달랐기 때문이다.2

용어 설명 — CRPS: 여러 가능성을 확률로 제시한 예보가 실제 관측값과 얼마나 가까운지 재는 점수다. 이 발표에서는 점수가 얼마나 개선됐는지를 비율로 제시했다.

새 예보는 Google Search, Gemini, Maps, Google Maps Platform Weather API와 Earth Engine에 이날부터 순차 적용된다. 연구자와 기업은 BigQuery, Earth Engine, Cloud Storage에서 자료를 조회하거나 내려받을 수 있다. 바람 발전량을 가늠하기 위한 100m 높이의 풍속, 태양광 발전에 필요한 구름과 일사량 변수도 제공한다. 재난대응뿐 아니라 농업·항공·에너지 수급과 시설관리에서 참고할 수 있는 정보다.

그림 3. 실시간 위성 모자이크와 과거 분석자료가 WeatherNext 3의 격자 예보·태풍 경로·관측소 예측으로 이어지는 구조다. 출처: Google.2

그러나 Google은 공식 기상예보, 재난경보와 공공안전 안내는 각국 기상기관을 확인하라고 명시했다. 민간 AI 예보를 공공업무에 붙인다면 이를 의사결정의 보조자료로 한정해야 한다. 국내 지역별 정확도, 자료가 늦게 들어올 때의 표시 방식, 서비스 장애 때 공식 자료로 바꾸는 절차를 먼저 시험해야 한다. 담당자가 어떤 시점의 자료를 보고 판단했는지 기록하는 기능도 필요하다.

정부·공공 이슈: 뉴욕시는 학년과 용도에 따라 AI 사용을 나눴다

뉴욕시 공립학교는 2026-27학년도에 2-K부터 8학년까지 학생이 직접 쓰는 생성형 AI를 1년간 중단한다. 약 60만 명, 전체 등록생의 약 3분의 2가 영향을 받는다. 학생과 사람처럼 관계를 맺는 형태의 동반자형 챗봇은 모든 학년에서 금지한다.3

용어 설명 — 생성형 AI: 사람의 지시에 따라 새 글·그림·음성 같은 내용을 만들어 내는 인공지능이다.

정책은 모든 AI와 모든 사용자를 같은 방식으로 막지 않는다. 교사는 뉴욕시 공립학교의 안전기준을 충족한 도구를 수업 준비와 행정업무에 계속 쓸 수 있다. 장애학생의 개별화교육계획에 따른 보조공학, 다언어 학습자에게 필요한 도구, 컴퓨터과학 같은 진로준비 과정에도 예외를 둔다. 예외를 두되 누가 어떤 사유로 쓸 수 있는지를 공개한 것이다.

고등학생은 승인된 다섯 개 시범 프로그램에 제한적으로 참여한다. 최대 5만 명의 일반교육 학생이 대상이며 학교마다 다섯 학급을 넘지 않고, 훈련된 교사가 직접 감독한다. 도구별 사용시간도 정해졌다. 예를 들어 글 읽기와 근거 중심 쓰기를 돕는 Quill은 주당 15분으로 제한된다. 모든 고등학생에게는 매년 45분짜리 AI 문해력과 비판적 사고 수업 두 개를 제공한다.3

도구를 학교에 넣는 절차도 함께 밝혔다. ERMA라는 심사에서 학생정보를 어떻게 모으고 보호하는지 확인하고, 업체는 뉴욕주 교육법에 맞춘 학생정보 처리계약과 보안기준을 충족해야 한다. 새로 구성하는 ‘학교 기술 연합체’는 학생, 교사, 학부모, 노조, 전문가와 선출직이 참여해 1년간 중단 정책과 고등학교 시범을 평가한 뒤 다음 학년 권고안을 낸다.

이 사례를 국내 학교에 그대로 옮길 수는 없다. 교육과 개인정보 법제가 다르고, 뉴욕시도 아직 학습효과를 확인한 것이 아니라 한 학년 동안 시험하고 평가하겠다는 단계다. 다만 정책 문서가 대상 학년, 허용 목적, 예외, 감독자, 시간 제한, 업체 심사와 학부모 의견 창구를 한꺼번에 제시한 방식은 참고할 만하다. ‘허용’ 또는 ‘금지’ 한 줄로는 실제 교실의 질문에 답할 수 없기 때문이다.

정부·공공 이슈: Daybreak 지원은 취약점 발견보다 수정 완료를 겨냥한다

OpenAI는 필수서비스를 지키는 보안조직이 고성능 AI를 쓸 수 있도록 전 세계 10억 달러를 지원한다고 발표했다. 지원에는 Daybreak 모델과 제품의 할인된 접근권, 교육, 기술지원과 협력이 포함된다. 미국의 상하수도·전력망, 주·지방정부, 지역은행, 비영리단체와 오픈소스 유지관리자를 먼저 지원하고, 6개월 안에 약정된 지원을 사용하도록 목표를 잡았다.4

Daybreak는 승인된 방어자가 오래된 코드와 시스템 설정을 살피고, 의심스러운 활동을 분석하며, 취약점을 검증하고 수정안을 시험하도록 돕는 프로그램이다. OpenAI는 현재 2,000개 승인 조직·작업공간에서 수천 명의 방어자가 사용한다고 밝혔다. Daybreak Blue는 일반적인 방어업무를, Red는 더 민감하고 기술적으로 까다로운 작업을 승인된 조직에 제공한다.4

용어 설명 — 취약점: 공격자가 시스템에 침입하거나 권한을 빼앗는 데 악용할 수 있는 보안 허점이다.

이번 발표에는 공공부문 교육 시범도 포함됐다. OpenAI는 미국 주·지방정부와 상하수도 보안조직을 지원하는 MS-ISAC과 함께 담당자를 교육하고 실습을 돕는다. 발견된 문제의 심각도를 판단하고, 관계기관과 수정 일정을 맞추며, 다시 쓸 수 있는 방어 절차를 만드는 것이 목표다. 기존 보안제품과 서비스 안에 Daybreak 기능을 넣는 협력 항목도 35개를 넘는다고 밝혔다.

여기서 10억 달러를 현금 지원이나 이미 집행된 예산으로 읽으면 안 된다. 접근권과 교육, 기술지원, 협력을 합친 총 약정이다. 국내 기관의 참여 조건과 일정도 아직 공개되지 않았다. 지원사업을 검토할 때는 무료 크레딧을 얼마나 썼는지보다 사람이 확인한 취약점이 몇 건인지, 실제 수정과 재시험까지 끝났는지, 오탐 때문에 낭비한 시간은 얼마인지, 지원이 끝난 뒤 얼마가 드는지를 측정해야 한다.

교차 분석

Astra 출시와 Daybreak 지원은 같은 사이버 능력의 두 얼굴을 보여준다. 강한 모델은 취약점을 더 빨리 찾고 수정할 수 있지만, 그만큼 접근권한과 작업범위를 세밀하게 제한해야 한다. 모델을 제공하는 회사의 감시 장치가 있더라도 도입기관은 승인 대상, 허용 시스템, 결과 검토자와 중단 조건을 따로 가져야 한다.

WeatherNext 3와 뉴욕시 학교 정책은 서로 다른 분야지만 한 가지 실무 원칙에서 만난다. AI가 유용하다는 이유만으로 기존의 공식 책임체계를 지워서는 안 된다. 날씨 AI는 국가 기상기관의 경보를 대신하지 않고, 교육 AI는 교사의 판단과 학생의 사고과정을 대신하지 않도록 사용범위를 정했다. 공공 AI의 품질은 모델 정확도뿐 아니라 사람이 책임을 이어받을 수 있는 구조로 판단해야 한다.

AI 관련 담당자라면 참고할 만한 적용 항목

공공기관의 첫 단계는 거대한 전사 도입안보다 실제 업무 한두 개를 골라 통제조건을 시험하는 일이다. 예를 들어 자료 검색은 읽기 전용으로 시작하고, 외부 발송이나 시스템 변경은 별도 승인으로 남길 수 있다. 기상자료처럼 공식 원장이 따로 있는 업무에서는 AI 답변 옆에 원자료와 시각을 붙여 담당자가 바로 확인하게 하는 방식이 적합하다.

리스크와 불확실성

Astra와 WeatherNext 3의 성능 수치는 각 회사가 공개한 시험 결과다. 비교 조건과 실제 기관 환경이 다르면 같은 점수·속도·비용이 나오지 않을 수 있다. Astra의 감시 회피 결과는 모델에게 회피를 지시한 적대적 시험에서 확인된 것이며, 일상 사용에서 발생하는 비율로 공개된 값은 아니다.

뉴욕시의 1년 중단 정책은 효과가 확정된 결론이 아니라 평가를 위한 한시 조치다. 고등학교 시범의 학습효과와 부작용, 중단 정책을 다음 학년에도 유지할지는 새 연합체의 평가 뒤 정해진다. Daybreak의 10억 달러 약정도 국가별 배분과 국내 참여조건이 공개되지 않았으므로 한국 기관이 곧바로 신청할 수 있다고 단정할 수 없다.

WeatherNext 3의 강수 개선율은 IMERG·MRMS·우량계처럼 서로 다른 관측자료와 조건에서 나온 값이다. 모든 지역과 재난상황에서 같은 폭으로 좋아졌다는 뜻이 아니다. 국내 활용을 검토한다면 기상청 자료를 기준으로 지역과 계절을 나눠 별도 검증해야 한다.

더 깊이 공부하고 싶다면?

• 실행형 AI가 기관 업무시스템에서 사용할 수 있는 도구와 금지할 도구를 어떤 기준으로 나눌 것인가?
• 공급사 감시가 놓치는 행동을 찾기 위해 기관이 별도로 남겨야 할 로그는 무엇인가?
• 민간 AI 예측을 공식 행정판단의 보조자료로 쓸 때 화면과 기록에 어떤 경고와 원문 링크가 필요한가?
• 학생·직원·전문가처럼 이용자에 따라 AI 권한을 다르게 줄 때 예외 승인과 이의제기를 누가 맡을 것인가?
• 무료 크레딧이나 시범사업이 끝난 뒤 실제 운영비와 대체수단을 언제 확정할 것인가?