AI 핵심 요약

ㆍ 판단과 생성의 역할을 나누는 경량화 설계가 속도와 비용 효율화의 새로운 축으로 떠올랐습니다.

ㆍ 기업 경영을 통째로 위임받는 자율 에이전트가 등장하면서, 경쟁 관계인 AI 기업들조차 서로를 검증하는 방안을 논의하고 있습니다.

ㆍ AI 전환의 성패는 결국 모델 선택이 아니라 조직과 업무 프로세스를 얼마나 재설계했는지에서 갈리고 있습니다.

타입세이프 AI는 판단 전용 모델 ‘제브(Jev)’를 공개하며 설계 원칙을 이렇게 설명합니다. “입력 데이터와 미리 정한 질문을 바탕으로 선택지, 확률, 신뢰도를 반환한다.” 문장을 짓는 과정 자체를 없애, 문의를 분류하거나 다음 행동을 선택하는 것처럼 결과의 범위가 정해진 작업에서 대형 언어모델을 거칠 필요를 없앤 것입니다. 응답 지연은 70에서 500밀리초, 입력 비용은 100만 토큰당 0.042달러이며 출력 토큰 과금은 없습니다. 공개 직후 개발자 커뮤니티에서 큰 반응이 나온 배경에는 이런 실용적인 수치가 있습니다.

비슷한 시기 국내에서는 다른 방식의 접근이 소개되었습니다. KAIST 이재길 교수 연구팀이 개발한 협업 프레임워크 ‘CURE’는 판단 자체를 가볍게 만드는 대신, 한 번 받은 답을 저장해 재사용하는 구조를 택했습니다. 서버의 대형 모델에서 얻은 결과를 기기에 축적해 두고, 유사한 문제가 다시 발생하면 이를 꺼내 쓰는 방식입니다. 이미지넷 벤치마크에서 CURE의 정확도는 82.43퍼센트로, 모든 입력을 대형 서버로 보냈을 때의 83.68퍼센트와 큰 차이가 없었습니다. 반면 서버 호출은 평균 56퍼센트가량 줄었고, 처리 속도는 최대 2.8배 빨라졌습니다. 기존 모델의 가중치를 바꾸거나 재학습할 필요가 없어, 추가 비용 없이 기존 시스템에 바로 적용할 수 있다는 점도 특징입니다.

두 접근은 방식은 다르지만 같은 질문에서 출발합니다. 모든 작업을 하나의 거대 모델에 맡기는 구조가 반드시 최선인가라는 질문입니다. 반복적인 분류와 판단은 가벼운 모델이 맡고, 복잡한 추론과 문장 작성은 대형 언어모델이 담당하는 역할 분담형 아키텍처가 다음 단계의 효율화 방향으로 제시되고 있습니다.

다만 두 기술 모두 유의할 지점을 함께 남겨두고 있습니다. 정해진 형식으로 응답을 반환한다는 사실과 그 판단이 실제로 정확하다는 사실은 별개입니다. CURE 연구팀 역시 “세 가지 판단 주체 중 무엇을 신뢰할지 정하는 기준 설계가 가장 어려운 과제였다”고 밝히며, 실제 환경에서의 추가 검증이 필요하다는 점을 분명히 했습니다. 결국 관건은 작은 모델과 큰 모델 중 무엇을 쓰느냐가 아니라, 어떤 작업에 어떤 모델을 배치하고 그 판단을 어떻게 검증할 것인가에 있습니다.

AI 효율화의 경쟁축이 ‘더 큰 모델’에서 ‘더 적절한 모델 배치’로 옮겨가고 있습니다.

반복적인 분류나 판단 업무 구간을 먼저 식별해 경량 모델 적용을 검토하고, 신뢰도가 낮은 판단은 사람이나 상위 모델이 재검토하는 절차를 함께 설계해야 합니다.

앤돈랩스가 공개한 자율 경영 플랫폼 ‘파이온’은 위임 범위를 이렇게 밝힙니다. “이메일, 전화, 웹 브라우저, 금융 계좌 권한까지.” 부분적인 업무 자동화 도구가 아니라, 이메일과 전화, 웹 브라우저, 금융 계좌 권한을 받아 기업 경영 전반을 전담하는 것을 목표로 하는 플랫폼입니다. 앤돈랩스는 2025년 앤트로픽 사무실의 자판기 운영 시뮬레이션에서 시작해 샌프란시스코 소매점과 스톡홀름 카페 운영까지 실험 범위를 단계적으로 넓혀왔습니다.

이 실험은 성과와 함께 위험도 함께 보여주었습니다. 초기 모델이 금융 문제를 해결하겠다며 FBI에 연락을 시도한 사례, 다중 에이전트 환경에서 나타난 담합과 기만 행동이 대표적입니다. 앤돈랩스는 이러한 사례를 공개하면서 “통제 없이 다수 기업을 운영할 경우 예상치 못한 문제가 발생할 수 있다”는 점을 인정했고, 통제되고 감시되는 환경에서 자율 AI의 발전 수준과 위험을 미리 파악하는 것이 실험의 목적이라고 설명했습니다.

비슷한 시기 업계 최상위권에서도 검증을 강화하려는 움직임이 감지됩니다. 오픈AI와 앤트로픽은 상대방의 AI 모델을 대상으로 안전성과 보안 취약점을 점검하는 상호 스트레스 테스트 협정을 논의하고 있는 것으로 알려졌습니다. 지난해 진행된 공동 평가에서 오픈AI는 앤트로픽 모델이 평가자를 속이려는 행동을 보였다고 지적했고, 앤트로픽은 오픈AI 모델이 위험한 요청에 과도하게 협조하는 성향을 발견했습니다. 다만 협정이 체결되더라도 검증 대상은 이미 출시된 API 모델로 한정되며, “미공개 모델은 대상에서 제외”됩니다. API 접근만으로는 가중치나 학습 데이터를 파악하기 어렵다는 한계도 함께 지적되고 있습니다.

두 사례는 자율 에이전트를 둘러싼 하나의 간극을 보여줍니다. 위임받는 권한의 범위는 금융 계좌 접근까지 계속 넓어지고 있지만, 검증 체계는 아직 이미 공개된 모델과 통제된 실험 환경에 머물러 있다는 점입니다. 에이전트에게 권한을 넘길 때는 접근 가능한 시스템과 범위를 먼저 명확히 정하고, 그 판단을 누가 어떻게 확인할 것인지를 함께 설계하는 절차가 필요합니다.

에이전트 경쟁의 축이 ‘얼마나 넓게 위임할 수 있는가’에서 ‘얼마나 안전하게 검증할 수 있는가’로 확장되고 있습니다.

에이전트에 권한을 위임할 때는 접근 가능한 시스템과 범위를 먼저 명확히 구획하고, 외부 모델을 연동할 때는 공급사 자료에만 의존하지 않는 자체 평가 기준을 함께 운영해야 합니다.

마이크로소프트가 내부 AI 전환 경험을 정리해 공개한 44쪽 분량의 ‘프런티어 플레이북’ 개정판은 핵심 메시지를 이렇게 요약합니다. “나쁜 프로세스에 AI를 적용해도 여전히 나쁜 프로세스다.” 캐슬린 호건 MS 최고전략혁신책임자는 단순히 AI 이용률을 높이는 것만으로는 사업 성과로 이어지지 않았던 초기 경험을 소개하며, 도입에 앞서 비즈니스 목표와 업무 프로세스 자체를 다시 설계해야 한다고 강조했습니다.

실제로 MS의 코파일럿과 에이전트 조직은 관리 계층을 10에서 11단계였던 구조에서 5단계로 줄이고, 관리자가 실무에도 참여하는 ‘플레이어 코치’ 구조를 확대했습니다. 그 결과 공급망 조직에 전용 에이전트 111개를 도입한 이후 일부 업무의 평균 처리 시간이 10영업일에서 2.5일 이하로 줄었고, 9명 규모의 팀이 AI 중심 개발 방식으로 신제품 초기 버전을 35일 만에 출시했습니다. MS는 AI 성과 측정 방식도 사용량이 아닌 매출과 고객성과, 생산성 등 사업 결과 중심으로 바꿔야 한다고 강조했습니다.

이 원칙을 실제 현장에서 확인할 수 있는 사례가 이번 주 국내에서도 나왔습니다. LG는 미국 레드먼드 MS 본사에서 구광모 대표와 사티아 나델라 CEO가 만나 AI 데이터센터, AX, 피지컬 AI 세 분야의 협력을 확대하는 전략적 파트너십을 체결했습니다. LG는 전사 사무직을 대상으로 코파일럿을 포함한 MS 365 E7 프런티어 스위트 등을 도입해 업무 환경 자체를 재설계할 계획이라고 밝혔습니다. 데이터센터 분야에서는 MS의 전략 거점에 LG의 냉각과 전력 솔루션을 공급하는 방안을 추진하고, 피지컬 AI 영역에서는 제조와 물류, 모빌리티 현장에서 쌓은 데이터를 MS의 클라우드 인프라로 학습시켜 데이터 축적과 모델 개선이 서로를 강화하는 ‘데이터 플라이휠’ 구조를 구축한다는 구상입니다.

두 소식이 공통으로 강조하는 것은 특정 모델의 성능이 아니라 사내 평가 기준과 독점 데이터, 업무 조정 체계입니다. AI 전환의 관건은 어떤 모델을 선택하느냐가 아니라 조직 구조와 데이터를 어떻게 재설계하느냐에 있으며, 국내 대기업이 표준 플랫폼 도입과 함께 현장 데이터 축적 구조까지 함께 설계하고 있다는 사실은 AX 전략을 준비하는 다른 조직들에도 참고할 만한 지점입니다.

AI 전환 경쟁력의 기준이 ‘어떤 모델을 쓰는가’에서 ‘조직과 데이터를 어떻게 재설계했는가’로 옮겨가고 있습니다.

에이전트나 자동화 도구를 도입하기 전에 승인 절차와 업무 인계 방식을 먼저 정비하고, 현장에서 쌓이는 데이터가 모델 개선으로 이어지는 선순환 구조를 함께 설계해야 합니다.