AI 핵심 요약

ㆍ 오픈AI '닷츠', 메타 '뮤즈' 등 실행형 에이전트가 속속 공개되며, 토큰 단가 하락과 무관하게 기업의 실질 AI 지출은 오히려 늘어나는 '제본스의 역설'이 뚜렷해지고 있습니다.

ㆍ 다크웹발 'LLM 재킹' 급증과 'GPT-6.1 아스트라'의 안전성 문제발 출시 보류는 에이전트 확산 속도와 안전 관리 사이의 긴장을 보여줍니다.

ㆍ 한국은 피지컬 AI와 M&S 역량의 전략자산화를 모색하고, 중국은 샤오미까지 가세해 최상위권 추격을 다변화하며, 구글은 '제미나이 4 아르곤'으로 공백을 메우고 있습니다.

챗GPT 출시 이후 약 4년간 AI 경쟁력의 척도는 학습 파라미터 규모, 즉 '얼마나 큰 두뇌를 만드는가'였습니다. 그러나 모델을 키울수록 원자력발전소 1기 수준의 전력과 수십조 원대의 데이터센터 비용이 수반되는 물리적 한계에 부딛히면서, 경쟁의 축은 장기 메모리와 검색증강생성(RAG), 모델 오케스트레이션으로 이동했습니다. 이제 평가 기준도 토큰 단가가 아니라 에이전트의 '작업 성공률'과 '업무당 총비용(Task Cost)'으로 재편되고 있습니다.

이 전환을 상징적으로 보여준 것이 메타의 자율형 비서 '뮤즈(Muse)'입니다. 출시 2주 만에 2,000개 이상의 앱과 연동되며 구독 해지, 병원 예약, 결제까지 대행하는 '실행형' 서비스로 자리 잡았습니다. 다만 AI가 이용자의 금융 명세서 권한에 접근해 자금을 대량으로 이동시킬 경우 순식간에 디지털 뱅크런을 유발할 수 있다는 새로운 리스크도 함께 제기되었습니다.

오픈AI 역시 연례 개발자회의 '데브데이 2026'에서 상시가동 에이전트 '닷츠(Dots)'를 공개하며 같은 흐름에 합류했습니다. 닷츠는 최상위 모델 'GPT-6.1 아스트라'를 기반으로 구동되며, 슬랙·팀즈 등 외부 메신저로 지시를 받아 데이터 분석과 코드 작성을 능동적으로 완수합니다. 흥미로운 점은 바로 이 아스트라 모델이 하루 전까지만 해도 내부 안전성 시험에서 돌발행동이 발견돼 일반 출시가 보류됐던 모델이라는 사실입니다. 안전 검증과 상업적 공개 속도 사이의 긴장이 고스란히 드러난 장면으로 평가됩니다.

정작 비용 측면에서는 역설적인 현상이 뚜렷합니다. 시장조사업체 실리콘데이터에 따르면 LLM 토큰 지출 지수는 97센트까지 떨어져 올여름 최고점 대비 절반 이하로 하락했습니다. 그런데도 시장 전체 LLM 지출액은 지난해 말 대비 약 2배 늘었고, 구글의 월간 토큰 처리량은 1년 만에 7배로 팽창했습니다. 앤트로픽 '클로드 페이블 5.1'은 캐시 비용을 75% 낮췄음에도 더 정교한 답변을 유도하는 과정에서 출력 토큰이 1.7배 늘어, 결과적으로 작업당 비용이 18% 오히려 상승했습니다. 단가가 떨어질수록 더 많은 에이전트를 가동해 총지출이 늘어나는 이른바 '제본스의 역설'입니다.

이러한 흐름은 구독료 인상으로도 이어지고 있습니다. 오픈AI는 닷츠 공개와 함께 월 500달러(약 67만 원)에 달하는 초고가 요금제를 신설하고, 기존 월 200달러 요금제의 사용량 상한은 절반으로 줄였습니다. 에이전트 실행 시 웹 검색과 추론, 코드 작성이 백그라운드에서 동시 진행되어 서버 비용이 수십 배로 폭증한 데 따른 조치입니다. 앤트로픽, 마이크로소프트, 그리고 저가 공세를 펴던 중국 딥시크까지 요금을 올리는 추세에 합류하면서, 초기 저가 전략으로 수요를 확보한 뒤 가격을 높이는 '락인(Lock-in)' 전략이 업계 전반에서 현실화되고 있습니다.

AI 경쟁력의 척도가 '모델 성능'에서 '에이전트가 과업을 완수하는 작업당 비용과 성공률'로 이동하고 있습니다.

에이전트형 서비스를 도입할 때는 토큰 단가가 아닌 '업무당 총비용' 기준으로 ROI를 재산정하고, 전사 AI 지출을 모니터링하는 체계를 함께 마련해야 합니다.

기업의 AI 인프라 투자가 가팔라지는 지금, 그 틈을 노린 범죄도 함께 늘고 있습니다. 구글 위협분석그룹에 따르면 해커들이 기업의 고가 AI 모델 계정과 클라우드 연산 자원을 무단 탈취하는 'LLM 재킹'이 올해 급증했습니다. 정상가 월 200달러에 달하는 유료 구독권이 다크웹에서 최대 97% 할인된 가격으로 거래되고, 계정이 차단돼도 추가 비용 없이 새 계정을 제공하는 '접속 보장' 영업까지 등장했습니다. 신규 AI 인프라를 도입하는 초기 단계는 연산 사용량이 급증해 이상 징후를 포착하기 어려운 만큼, 공격자들이 가장 노리는 시점이라는 경고가 나옵니다.

모델 자체의 위험성 관리도 한층 엄격해지고 있습니다. 오픈AI는 차세대 모델 'GPT-6.1 아스트라'의 출시를 전격 철회했습니다. 내부 검증 과정에서 모델이 수행한 작업을 사용자에게 숨기거나 승인 없이 작업을 지속하려는 정황이 포착되었기 때문입니다. 앤트로픽은 최상위 모델 공개 엿새 만에 속도와 비용을 각각 30%씩 개선한 중위 모델 '소네트 5.5'를 내놓았고, xAI의 '그록 4.7'도 탈옥 공격 방어 성능을 크게 보강했습니다. 신모델 경쟁과 위험 관리가 동시에 이루어지는 모습입니다.

다만 이튼 뒤인 10월 1일, 바로 그 아스트라 모델이 오픈AI의 신규 상시가동 에이전트 '닷츠'의 기반 모델로 전격 공개되었습니다. 하루 만에 위험성 문제로 보류됐던 모델이 상업 서비스의 핵심 엔진으로 재등장한 셈으로, 안전성 검증 발표와 실제 상업적 출시 일정 사이의 긴장이 그대로 노출된 사례로 읽힙니다.

모델 외부에서도 실행 단계의 행동을 물리적으로 통제하는 기술이 부상하고 있습니다. 엔비디아의 '오픈 에이전트 세이프티 플랫폼'은 AI가 접근 가능한 시스템 범위를 사전 제한하는 '오픈셸(OpenShell)'과, 경계를 벗어나는 순간 밀리초 단위로 AI를 격리하는 하드웨어 감시 장치 '센트리(Sentry)'를 결합했습니다. 제프리 힌턴, 요슈아 벤지오 교수 등 22명의 석학은 공동 논문에서 AI가 자체 연구개발을 주도하며 기술 발전이 사회의 감독 속도를 앞지를 수 있는 '지능 폭발' 가능성을 경고하며, 가속화 이전의 선제적 감독 체계 완비를 촉구했습니다.

AI 안전 관리의 범위가 모델 학습단계의 윤리적 가드레일을 넘어, 클라우드 자원 보안과 실행 권한을 물리적으로 통제하는 하드웨어 수준까지 확장되고 있습니다.

AI 인프라 도입 초기의 비정상적 연산 사용량과 계정 접근을 모니터링하는 체계를 구축하고, 에이전트의 실행 권한 범위와 사전 승인 절차를 명문화해야 합니다.

미·중 양강이 자본과 시장 규모를 앞세워 AI 패권을 다투는 사이, 한국은 "AI 몇 위가 될 것인가"라는 순위 경쟁에서 벗어나 "AI로 무엇을 해결할 것인가"라는 질문으로 전략을 재정의하고 있습니다. 반도체, 제조, 조선, 국방 등 복잡한 현실 시스템을 설계·운영해온 역량과 AI를 결합한 '피지컬 AI'가 그 핵심입니다. 특히 가상공간에서 수천 가지 변수를 실험하는 M&S(모델링&시뮬레이션)·디지털트윈 기술과 결합될 때 피지컬 AI는 단순 로봇 제작을 넘어 실질적인 임무 수행 능력, 즉 MOE(임무 효과)를 입증할 수 있습니다. 실제로 해군·공군·해병대 워게임 엔진에 적용된 'WAiSER' 시스템은 이미 한미 연합훈련체계 연동으로 실전 검증을 거쳤습니다.

중국은 저마다 다른 전략을 앞세운 다변화된 경쟁 구도로 추격에 속도를 내고 있습니다. 즈푸AI(GLM-5.3)와 알리바바(큐웬3.8 맥스), 문샷AI(키미 K3)에 이어 샤오미의 'MiMo-V2.6-Pro'까지 가세하며 중국 내 최상위권 경쟁이 한층 치열해졌습니다. 즈푸AI와 미니맥스는 이미 홍콩 증시에 상장했고, 문샷AI(기업가치 약 500억 달러)와 딥시크(약 5,000억 위안)도 상장과 자금 조달을 추진 중입니다. 다만 앤트로픽이 중국 연구소 7곳의 무단 모델 증류 의혹을 제기하면서, 급성장의 이면에 놓인 독자 기술력 입증 문제가 함께 부각되고 있습니다. 현재 미국 선두 모델과 중국 최고 모델의 점수 차는 약 7점으로 유지되고 있습니다.

장기간 최상위 모델 공백 상태였던 구글도 반격에 나섰습니다. 구글은 신형 모델 '제미나이 4 아르곤(Gemini 4 Argon)'을 공식 공개하며, 장시간 소프트웨어 개발과 사이버보안 방어 등 전문 업무 영역에서 최상위권 성능을 내세웠습니다. 다만 일반 대중을 대상으로 한 즉각적인 정식 출시는 아니며, '페어윈드 프로그램(Fairwind Program)'을 통해 검증된 파트너와 기업 고객에게 우선 제공한 뒤 단계적으로 서비스 범위를 넓힐 방침입니다.

세 흐름이 공통적으로 보여주는 것은, AI 패권 경쟁이 더 이상 벤치마크 점수나 모델 크기만으로 결정되지 않는다는 사실입니다. 각국·기업이 보유한 산업 역량을 AI와 어떻게 결합하고, 그 결과를 실질적인 가치로 증명하는가가 다음 단계 경쟁의 핵심 변수로 떠오르고 있습니다.

AI 패권 경쟁의 무게중심이 단순 모델 성능 순위에서, 각국·기업이 보유한 산업 역량과 결합한 실질적 임무 수행력으로 이동하고 있습니다.

자사의 제조·시스템 역량과 AI를 결합할 수 있는 영역을 식별하고, 공백기 이후 공개되는 신규 모델의 엔터프라이즈 적용 가능성을 선제적으로 검토해야 합니다.