오늘을 넘어 미래의 가치를 만드는 더존ICT그룹의 소식을 만나보세요.
추가 학습 없이 AI가 고친 AI, 수학 점수 7.9%→48.1%
넘쳐나는 전 세계 AI 이슈, 핵심만 골라 ‘ONE AI’가 브리핑해 드립니다
MIT 연구진이 공개한 연구에 따르면 GPT-6 Astra는 소형 Qwen 모델의 가중치 중 0.016%만 직접 편집해 수학 문제 벤치마크 MATH-500 점수를 7.9%에서 48.1%로 높였으며, 이 과정에는 경사 기반 학습이나 별도의 훈련 루프가 사용되지 않았습니다①.
같은 'Weight-Space Programming' 연구에서 GPT-6 Astra는 신경망의 원시 가중치만 보고 그 네트워크가 어떤 작업을 위해 훈련됐는지 파악했고, 환경 피드백 없이 게임을 플레이하는 소형 신경망을 처음부터 작성했습니다. 이렇게 작성된 네트워크는 강화학습 기법 PPO로 1억 스텝 동안 학습한 네트워크보다 높은 성능을 보였으며, 연구진은 이러한 능력이 별도로 최적화된 적이 없는데도 나타났다는 점에 주목했습니다②.
이번 연구에서 신경망의 성능 변화는 반복 학습이 아니라, 다른 LLM이 모델 내부의 수치인 가중치를 직접 읽고 고치거나 새로 쓰는 방식으로 만들어졌습니다.
다만 두 결과의 비교 기준은 서로 다릅니다. Qwen 모델 실험은 편집 전 점수와 비교한 변화이고, 게임 신경망 실험은 PPO로 1억 스텝 학습한 네트워크와 비교한 결과입니다②. 대상도 소형 Qwen 모델과 소형 게임 신경망이었고 수학 성능은 MATH-500 한 벤치마크에서 측정된 값이므로, 이번 결과는 이 범위 안에서 확인된 사례로 볼 수 있습니다.
Unsloth는 DeepSeek-V4.1을 512K 컨텍스트로 테스트해 ISTA의 양자화 기법 GSQ-RCO보다 10~20% 높은 성능을 기록했다고 발표했습니다. 검증용 벤치마크 데이터는 기존 1.3B 토큰에서 35.1B 토큰으로 27배 늘렸고, 이 조건에서 GSQ-RCO의 IQ1_M이 주장한 복원율 98.7%는 97.24%로 측정돼 p값 0.0013의 통계적 차이가 제시됐습니다. 반면 IQ2_XS의 복원율 100% 주장은 p값 0.21로 타당성이 인정됐다고 밝혔습니다①.
MiniMax는 428B 모델 M3.1 Flash(252.4GB)를 커뮤니티가 10일 만에 93GB까지 압축한 데 감사 인사를 전했으며, 같은 소식에서 SAGE-EXL3는 상위 1 정확도 96.89%를 기록한 것으로 제시됐습니다②.
이번 사례들에서 모델 용량을 줄이는 양자화·압축의 결과는 얼마나 작아졌는지만이 아니라, 압축 뒤 품질을 어떤 수치로 측정했는지와 함께 제시됐습니다.
Unsloth 사례에서는 같은 IQ1_M 압축본을 두고 주장값 98.7%와 재측정값 97.24%가 달랐고, IQ2_XS는 주장과 부합하는 결과가 나왔습니다①. 즉 압축본의 품질 수치는 발표한 측의 값과 다른 측이 더 큰 데이터로 다시 잰 값이 다르게 나올 수 있습니다. 또 복원율과 상위 1 정확도는 서로 다른 지표여서 두 사례의 숫자를 직접 비교할 수는 없습니다.
압축 모델을 비교할 때 품질 수치가 어떤 지표인지, 측정에 쓰인 데이터 규모가 얼마인지, 다른 측의 재측정 결과가 있는지를 확인 항목에 포함할 수 있습니다.
한 사용자는 Qwen 3.8 27B가 물리 문제를 푸는 도중 스스로 Blender MCP 도구에 접근해 파이썬 코드를 작성·실행하며 계산을 가속화했다는 사례를 공유했습니다①.
다른 사용자는 RTX 5090 환경에서 이 모델을 OpenCode와 조합해 코딩 지식 없이 인보이스 데스크톱 앱을 직접 만들었다고 밝혔습니다. 작업 중 평균 속도는 초당 80~90토큰이었고, 입력 2억 9,400만 토큰과 출력 126만 토큰을 처리했다고 전했습니다②.
이번 사례들에서 27B 규모의 Qwen 모델은 질문에 답하는 데 그치지 않고, 외부 도구와 연결돼 코드를 쓰고 실행해 결과물을 내는 작업에 쓰였습니다.
다만 두 사례 모두 개별 사용자가 자신의 환경에서 공유한 경험이며 공식 성능 평가는 아닙니다. 초당 80~90토큰이라는 속도도 RTX 5090이라는 특정 하드웨어에서 나온 값으로②, 다른 환경에서도 같은 결과가 나온다고 볼 근거는 이번 자료에 없습니다.
Sam Altman은 올해 초만 해도 AI가 가장 뛰어난 과학자들보다 똑똑하지 않았지만 지금은 대부분의 경우 그들보다 똑똑하다고 말했으며, 올해 초에는 불가능했던 화이트칼라 업무의 상당 부분을 이제 AI가 수행할 수 있다고 덧붙였습니다①.
Anthropic은 SEC 제출 문서에서 미래 모델이 AI 주도 연구로 AI 발전 속도를 두 배로 끌어올리는 임계점에 '곧' 도달할 수 있다고 경고했으며, 이러한 가속이 실제로 일어난 뒤에야 이를 감지할 가능성이 있다고 인정했습니다②.
같은 AI의 연구 역량을 다루더라도, 한쪽은 지금의 능력에 대한 발언이고 다른 쪽은 아직 일어나지 않은 가능성을 위험 요인으로 적은 문서입니다.
두 내용 모두 AI 기업 측이 스스로 내놓은 평가로, 이번 자료에는 외부에서 측정한 결과가 함께 제시되지 않았습니다. Altman의 발언은 과학자와의 비교와 화이트칼라 업무 수행 범위를 말하고, Anthropic의 문서는 AI 발전 속도가 두 배가 되는 시점과 그 시점을 사후에야 알아챌 수 있다는 한계를 다룹니다②. 따라서 같은 연구 역량 논의 안에서도 현재 능력에 대한 주장과 미래 위험에 대한 고지는 서로 다른 성격의 근거로 구분해 읽을 수 있습니다.
본 콘텐츠는 공개된 사실 및 정보를 바탕으로, 당사의 편집 기준에 따라 생성형 인공지능(AI)에 의해 생성되었습니다. 최종 내용은 원문 대조 및 검수를 거쳐 발행하며, 참고한 각 자료의 저작권은 해당 저작권자에게 있습니다.
운영용이던 화웨이 칩, DeepSeek V5 학습까지 맡는다
2026.11.04AI 실행 프로그램을 바꾸면 빨라질까, 엇갈린 사용자 보고
2026.11.02