AX 매거진 10월 5주차

이번 주 AI 업계는 세 갈래의 흐름으로 요약됩니다. 공격과 방어 모두에서 AI가 속도를 좌우하는 보안 전쟁, 더 싸고 빠른 모델로 경쟁 구도를 바꾸는 비용 효율화, 그리고 스스로 업무를 먼저 파악해 처리하는 능동형 에이전트의 확산입니다.

유럽 정부기관 서버가 PHP 취약점을 파고든 자율형 AI 에이전트에 단 2시간 만에 뚫리고, 서울에서는 생성형 AI와 자율 침투 도구를 악용해 820만 건의 개인정보를 빼낸 일당이 검거됐습니다. 공격과 수사라는 서로 다른 목적에 AI가 동시에 투입된 셈입니다.

오픈AI는 최상위 모델과 대등한 성능을 10분의 1 가격, 3배 속도로 내놓은 'GPT-6.1 테라'를 공개했고, 중국 문샷AI도 코딩 평가에서 이를 앞서는 '키미 K3.1 프로'로 맞섰습니다. 모델 경쟁의 기준이 최고 성능에서 성능 대비 비용으로 옮겨가고 있습니다.

애플 '시리 AI'는 한국어 지원을 시작하며 화면 맥락까지 읽어 여러 앱을 넘나들며 작업을 처리하고, 앤트로픽 '클로드 듀엣'은 사용자 요청 없이도 먼저 상황을 파악해 알립니다. 응답하던 AI 비서가 선제적으로 움직이는 비서로 진화하고 있습니다.

공격과 방어 모두를 집어삼킨 AI 속도의 역설

글로벌 보안기업 팰로앨토네트웍스의 위협 분석 조직 유닛42는 지난 23일(현지시간) 보고서에서, 유럽의 한 정부기관 웹 서버가 PHP의 치명적 결함 'PHP2셸(PHP2Shell)'을 파고든 해커에게 뚫린 사례를 공개했습니다. 해커는 로그인 없이 조작된 신호 하나로 서버 문을 연 뒤 관리자급 계정의 비밀번호 해시와 2차 인증 비밀값을 빼내고 최고 관리자 권한 탈취를 시도하는 데까지 걸린 시간이 단 2시간이었으며, 서버에 남은 명령어마다 기계 판독용 특수 기호가 붙어 있어 사람 개입 없이 자율형 AI 에이전트가 공격을 주도한 것으로 추정됩니다. 국내에도 이 취약점에 노출된 인터넷 서버가 약 11만 대(세계 6위)로 추산되는 가운데, 북한 연계 해킹 그룹의 전세계 공격 건수는 올해 상반기 99건으로 직전 반기(87건) 대비 13.8% 늘었고 이 중 한국을 직접 겨냥한 공격이 19건으로 세계 1위였으며, 고유 악성코드도 76종(중국 55종, 러시아 30종)에 달해, 이스라엘군 최고정보보호책임자 출신 드로르 카슈티 스위트시큐리티 대표는 "악성 AI는 보안팀이 문제를 고치는 속도보다 훨씬 빠르게 약점을 파고든다"고 경고했습니다.

서울경찰청 사이버수사과는 생성형 AI와 자율 침투 도구 '아르텍스(ARTEX)'를 악용해 지난해 9월부터 최근까지 13개월간 국내 학원·병원·골프장·대학·대기업 계열사 등 90여 개 업체의 전산망에 침입해 개인정보와 업무자료 약 820만 건을 탈취한 뒤 38개 업체에 총 3억 6000만 원을 요구한 일당 7명을 검거했다고 밝혔습니다. IT 비전공자로 블로그와 유튜브를 통해 해킹을 독학한 32세 총책 A씨는 지난 8월 31일부터 이달까지 약 60개 업체를 AI로 해킹했으며, 경찰 역시 통화·계좌 내역 등 수사자료 약 52만 건과 수천만 줄의 해킹 기록을 자체 AI 분석 도구에 입력해 수사 착수 4개월 만에 총책을 특정해 체포했습니다. 경찰 관계자는 "생성형 AI의 발달로 사이버범죄의 진입장벽이 낮아지고 있다는 점을 보여주는 사건"이라고 밝혔습니다.

유럽의 서버 침해와 서울의 검거 사건은 공격과 수사라는 반대 방향에서 같은 결론을 가리킵니다. 결국 관건은 AI 도입 여부가 아니라, 공격자보다 먼저 AI로 탐지·대응하는 체계를 얼마나 빨리 갖추느냐입니다.

최고 성능 아닌 최적 가격, 모델 경쟁의 셈법 전환

오픈AI는 26일(현지시간) 이미지·화면을 이해하고 실제 애플리케이션을 조작하는 최신 모델 'GPT-6.1 테라(Terra)'를 공개했습니다. 표준 API 가격은 기존 GPT-5.6 테라와 GPT-6.1 솔(Sol)보다 50% 저렴한 입력 토큰 100만 개당 1달러, 출력 토큰 100만 개당 5달러이며, 전문 업무 수행 능력을 평가하는 '에이전트 라스트 이그잼'에서는 최상위 모델 GPT-6 아스트라와 대등한 성능을 내면서도 토큰당 가격은 10분의 1, 속도는 3배 이상 빨랐습니다. 사실 오류율도 낮은 추론 설정에서 기존 53.6%에서 16.7%로, 최대 추론 설정에서는 4.3%까지 낮아졌고, 코딩 평가 '터미널 벤치 4.0'에서도 50.3%의 문제 해결률로 기존 모델(21.5%)의 두 배 이상을 기록했습니다.

중국 문샷AI는 지난 23일 코딩 능력 평가 '터미널 벤치 4.0'에서 65.7%를 기록해 오픈AI 'GPT-6 아스트라'(58.2%)를 앞서고 앤트로픽 '클로드 오퍼스 5.5'(66.4%)에 근접한 '키미 K3.1 프로'를 출시했습니다. 약 3조 개 매개변수를 갖춘 이 모델은 한 번에 최대 100만 토큰을 처리하며 게임·3D 모델 제작과 재무제표 분석 등 복잡한 업무까지 지원하고, 잘못된 정보 생성 비율도 기존 키미 K3의 23.4%에서 8.3%로 낮췄는데, 이는 일반 사용 환경이 아닌 오류가 발생하기 쉬운 문제를 모은 별도 평가 결과입니다. 문샷AI는 모델 가중치를 공개하는 오픈웨이트 방식을 유지하며 전체 가중치는 11월 4일까지 배포할 예정이라고 밝혔습니다.

오픈AI와 문샷AI는 '최고 성능'이 아니라 '성능 대비 비용'을 앞세운다는 같은 셈법을 택했습니다. 고비용 최상위 모델의 전면 도입보다, 작업 특성에 맞는 가성비 모델을 골라 쓰는 운영 전략이 기업의 AI 비용 구조를 가를 변수로 떠오르고 있습니다.

묻지 않아도 먼저 움직이는 AI 비서의 시대

애플은 27일 iOS 27.2 업데이트를 통해 새롭게 개발한 '시리 AI'의 한국어 지원을 시작했습니다. 시리 AI는 사용자의 메시지·이메일·사진에서 필요한 정보를 찾고 현재 보고 있는 화면까지 이해해, 결혼식 웹사이트를 보면서 장소를 포함한 일정을 캘린더에 등록해 달라고 요청하면 화면 정보를 파악해 처리하는 식으로 왓츠앱·오더블·투두이스트 등 여러 앱을 넘나들며 작업을 수행합니다. 구글·제미나이 모델과의 협업으로 개발한 '애플 파운데이션 모델'이 적용됐으며, 기기에서 처리 가능한 작업은 외부로 보내지 않고 더 높은 연산이 필요할 때만 비공개 클라우드 컴퓨팅을 활용해 개인 데이터를 저장하지 않는다고 설명했습니다.

앤트로픽은 지난 21일(현지시간) 메타 '뮤즈', 오픈AI '닷츠'와 경쟁할 업무용 AI 에이전트 '클로드 듀엣(Claude Duet)'의 연구용 미리보기를 공개했습니다. 최신 모델 '클로드 오퍼스 5.5'를 기반으로, 매일 아침 연결된 앱에서 중요 사항을 추려 브리핑하고 몇 시간 간격으로 계정을 확인해 주의가 필요한 일이 생기면 먼저 알리며, 클로드 마켓플레이스의 6000개 이상 커넥터로 지메일·슬랙·퀵북스·허브스팟·쇼피파이 등 실무 앱과 연동됩니다. 다만 메시지 전송과 결제, 문서 서명 등 중요 작업은 실행 전 사용자 승인을 반드시 거치고 증권 거래와 계좌 간 자금 이체는 승인 여부와 관계없이 허용하지 않으며, 마이크 크리거 앤트로픽 랩스 공동 책임자는 "언제 먼저 나서야 하는지, 언제 사용자를 대신해 행동해야 하는지 판단하는 능력을 갖출 수 있다"고 설명했습니다.

시리 AI와 클로드 듀엣은 사용자가 지시하기 전에 먼저 상황을 파악해 대응한다는 공통점을 지닙니다. AI 에이전트 경쟁이 '얼마나 잘 답하는가'에서 '얼마나 먼저, 안전하게 움직이는가'로 넘어가고 있음을 보여줍니다.