AX 매거진 10월 3주차

이번 주 AI 업계에서는 위험 경고와 반박이 공개적으로 맞붙었고, 에이전트는 일상과 업무 영역을 더 깊숙이 파고들었으며, 데이터와 인프라를 둘러싼 민관의 선점 경쟁이 동시에 펼쳐졌습니다.

구글 딥마인드 허사비스 의장은 2년 내 대형 AI 보안사고를 경고했고, 'AI 3대 대부' 얀 르쿤은 같은 시기 속도조절론을 '연극'이라 반박했습니다. 그 사이에서 브루킹스연구소는 자율 실행 사고에 대한 책임 구조 공백을 지적했습니다.

메타의 '뮤즈'는 식당 예약과 결제까지 대행하는 생활형 에이전트로, 카카오의 '모두의 AI'는 34개 기업·기관이 결합한 플랫폼으로 각각 일상 속 자리를 넓히고 있습니다.

한편 글로벌 기업들은 비용과 보안을 이유로 자체 AI 서버 구축을 늘리고, 정부는 공공 AI 학습데이터를 민간이 쓸 수 있도록 개방하는 제도를 마련하며 각자의 방식으로 AI 인프라 경쟁에 나서고 있습니다.

AI 위험 경고와 반박 사이, 비어있는 책임의 자리

구글 딥마인드 데미스 허사비스 의장은 아일랜드 더블린의 AI 콘퍼런스에서, 최근 드러난 AI 보안 사고들은 시스템이 아직 강력하지 않다는 점을 알려주는 '조기 경고사격'에 불과하며, 안전 조치가 미흡할 경우 향후 2년 이내에 비할 바 없이 중대한 AI 보안 사고가 발생할 수 있다고 경고했습니다. 그는 AI 기업들이 신규 모델을 출시하기 전 인터넷과 차단된 '샌드박스' 환경에서 성능과 안전성을 선제적으로 검증할 것과, 원자력 분야의 모범 사례처럼 기술 혁신과 안전성 통제의 균형을 맞추는 국제 AI 표준기구 창설을 제안했습니다.

바로 다음 날 방한한 '컴퓨팅의 노벨상' 튜링상 수상자이자 'AI 3대 대부' 중 한 명인 얀 르쿤 AMI랩스 회장은 정반대의 진단을 내놓았습니다. 그는 서울에서 열린 인터뷰에서 "모두가 연극을 하고 흉내만 내고 있다. 심지어 앤트로픽도 그렇다"며, 기업들의 속도 조절 주장은 실질적인 위험 방지 목적이 아니라 정부를 두렵게 만들어 주도권을 잡기 위한 마케팅이자 로비라고 직격했습니다. 그는 현재의 대형언어모델이 대중이 우려하는 수준으로 위험하거나 의식을 가진 상태가 아니라고 선을 그었고, 기본 파운데이션 AI 모델은 인류의 지식 확산을 위해 오픈소스로 개방되어야 한다는 입장을 밝혔습니다.

같은 시기 브루킹스연구소는 두 거장의 공개 논쟁과는 별개로, 보다 실무적인 공백을 짚었습니다. AI 에이전트의 컴퓨터 작업 정확도는 2025년 12%에서 66.3%로 급등해 인간 평균과의 격차를 6%포인트로 좁혔고, 시장 규모도 2025년 80억 달러에서 2034년 1,990억 달러로 성장할 전망입니다. 그런데 EU 인공지능법의 고위험 분야 적용이 2027~2028년으로 유예되면서, 약 16개월의 법적 공백기 동안 사람이 결과를 검토하던 기존 방식 대신 에이전트가 실행하는 과정 자체를 실시간으로 추적하는 '런타임 거버넌스' 체계를 기업과 조직이 스스로 갖춰야 하는 과제가 남았습니다. 보고서는 사전 권한 상한 설정, 상시 감시, 과정 중심 평가, 샌드박스 인센티브, 개방형 표준 도입이라는 다섯 가지 처방을 제시했습니다.

일상과 업무 속으로 번지는 AI 에이전트 생태계

메타, 오픈AI, 구글 등 주요 빅테크들이 잇달아 실행형 서비스를 내놓으며 AI는 단순 답변을 넘어 직접 행동하는 '비서'로 진화하고 있습니다. 그중 소비자 시장에서 가장 뜨거운 반응을 이끌어낸 것은 메타의 '뮤즈(Muse)'입니다. 뮤즈는 페이스북, 인스타그램, 왓츠앱 등 수십억 명이 쓰는 소셜 플랫폼 데이터와 연계해 사용자의 취향을 정밀하게 파악하고, 이메일 정리와 항공권·숙소 예약, 식당 예약과 결제, 안 쓰는 구독 해지까지 일상의 복잡한 업무를 채팅 한마디로 대행합니다. 다만 AI가 쇼핑과 결제 영역까지 파고들면서 일부 쇼핑몰이 접근을 차단하는 등 플랫폼 간 갈등도 함께 나타나고 있습니다.

카카오도 올해 말 대화 기반 서비스 검색·예약·실행 플랫폼 '모두의 AI'를 정식 출시하고, 월간 활성 이용자(MAU) 500만 명 달성을 목표로 내걸었습니다. 이 프로젝트는 LG유플러스의 GPU 운영, LG AI연구원의 '엑사원' 모델 지원 등 컨소시엄 15개사와 얼라이언스 19개사, 총 34개 기업·기관이 결합한 대규모 협력 체계로 추진되며, 내년부터는 사용자가 대화로 역할과 정보, 업무 순서를 설정하는 '1인 1에이전트'도 단계적으로 도입할 계획입니다.

한편 오픈AI와 앤트로픽은 문서·프레젠테이션·디자인·회의록 등 오피스 업무 기능을 자사 플랫폼에 직접 탑재하기 시작했습니다. 앤트로픽은 감마·캔바 등 외부 서비스와 연동을 유지하면서도 '클로드 디자인·독스·슬라이드'를 자체 공개했고, 오픈AI는 '페이지', '협업 슬라이드', '미팅' 기능을 선보여 오랜 협력 관계인 마이크로소프트 오피스 및 회의록 전문 서비스(Read AI, Otter.ai 등)의 영역을 직접 압박하는 모양새가 됐습니다.

데이터와 인프라를 둘러싼 민관의 선점 경쟁

AI가 기업 전체의 상시 업무 인프라로 자리 잡으면서, 외부 클라우드 대신 자체 AI 서버와 데이터센터('AI 팩토리')를 직접 구축하려는 움직임이 확산되고 있습니다. 글로벌 컨설팅 기업 딜로이트 조사에 따르면 연매출 5억 달러 이상 미국 기업 515곳 중 64%가 이미 자체 AI 팩토리를 구축 중이며, 2028년에는 이 비율이 88%까지 오를 전망입니다. 조사 대상 기업의 67%가 월 10억 개 이상의 토큰을 소비하고 있어, 사용량이 누적될수록 클라우드 구독보다 자체 운영이 비용 면에서 유리해지는 구조입니다. 실제로 제약사 일라이릴리는 엔비디아 블랙웰 울트라 1,016개를 탑재한 자체 수퍼컴퓨터로 신약 유전체 분석을 진행하고 있고, 로슈는 자체 시설과 클라우드를 결합한 GPU 3,500여 개 규모의 하이브리드 인프라를 운용합니다. 국내에서도 삼성SDS 조사 결과 대기업의 43%가 자체 AI 솔루션 구축을 선호해 중견기업(27%)보다 높은 비중을 보였습니다.

같은 시기 정부도 공공 영역의 AI 데이터를 민간이 활용할 수 있도록 제도를 정비했습니다. 과학기술정보통신부는 정부사업 수행 과정에서 산출된 AI 학습용 데이터를 통합 플랫폼 'AI허브'에 연계·제공하도록 의무화하는 'AI기본법' 및 '데이터산업법' 개정안을 국무회의에서 통과시켰습니다. 이를 통해 자체적으로 고품질 데이터를 구하기 어려웠던 대학과 스타트업·중소기업도 대규모 학습 데이터에 접근할 길이 넓어집니다. 다만 영업비밀, 개인정보, 저작권, 국가안전보장과 관련된 사유가 있으면 예외가 허용되며, 개정안은 공포 후 6개월이 지난 2027년 4월부터 시행될 예정입니다.

본 콘텐츠는 공개된 사실 및 정보를 바탕으로, 당사의 편집 기준에 따라 생성형 인공지능(AI)에 의해 생성되었습니다. 최종 내용은 원문 대조 및 검수를 거쳐 발행하며, 참고한 각 자료의 저작권은 해당 저작권자에게 있습니다.