오늘을 넘어 미래의 가치를 만드는 더존ICT그룹의 소식을 만나보세요.
[AI트렌드] OpenAI Astra, 수학 10대 난제를 풀다, AI가 수학자를 대체하는 날
OpenAI의 Astra 훈련 모델이 수학, 양자복잡도, 이론 컴퓨터과학 분야에서 오랫동안 미해결 상태였던 10개의 주요 난제를 풀어냈습니다. 이 성과는 커뮤니티에서 수학 분야의 'ANSI(인공 협소 초지능)' 수준에 도달했다는 평가를 받고 있습니다. 한편 Anthropic의 한 직원이 자사 모델 Fable을 활용해 Astra가 제시한 10개의 증명 중 5개를 독립적으로 재 현하는 데 성공했습니다. 이는 Astra의 증명 결과에 일정 수준의 검증 가능성이 있음을 시사합니다.
이번 성과는 AI가 인간 수학자의 능력을 실질적으로 넘어서기 시작했다는 신호로 받아들여지며, "수학자는 미 래에 AI의 결과를 해석하는 성직자 같은 역할로 전락할 것인가"라는 근본적인 질문을 불러일으키고 있습니다. 수학계 내부에서도 AI 발전이 가져올 직업적·학문적 위기감이 확산되고 있으며, 인간 지성과 AI의 역할 분담에 대한 사회적 논의가 본격화될 것으로 보입니다.
DeepSeek V4 Flash 0731 출시 이후 로컬 구동 커뮤니티에서 다양한 하드웨어 조합과 양자화 설정에 대한 벤 치마크 결과가 활발하게 공유되고 있습니다. 특히 KV 캐시를 BF16에서 Q8로 양자화할 경우 평균 PPL이 5.839 에서 5.877로 상승하고, KL 발산 평균이 0.145로 Qwen 397B의 0.0035 대비 약 41배 높게 나타나 품질 손실 이 상당하다는 분석이 주목을 받고 있습니다. 반면 Qwen 397B는 동일한 Q8 KV 양자화에서 PPL 변화가 거의 없어 모델 간 특성 차이가 뚜렷하게 드러났습니다. 성능 최적화 측면에서는 CUDA 버전을 13.3에서 13.1로 다운그레이드하면 프리필/PP 속도가 100~150 t/s 향 상된다는 팁이 공유되었습니다. 이는 CUDA 13.2부터 top-k 연산에 DeviceTopK가 사용되면서 행렬 연산 외 오버헤드가 증가하기 때문입니다. 하드웨어별 구동 결과로는 M1 Ultra 128GB에서 IQ3_XXS 양자화로 16 t/s, RTX A6000 48GB + 256GB DDR4 환경에서 Q8_K_XL로 17.2 t/s, AMD MI50 3장(96GB)으로 약 15 t/s가 보고되었으며, DGX Spark에서 2비트 양자화로 MTP 활성화 시 단일 요청 기준 25.2 t/s를 달성했습니다. 또한 추론 노력(effort) 모드와 관련해 Low 모드가 High 모드보다 오히려 더 많은 토큰(평균 1,349 토큰)을 사용하 는 역전 현상도 확인되었습니다.
155GB 규모의 MoE 모델을 소비자·준전문가 하드웨어에서 실용적으로 구동하는 방법이 빠르게 집단 지성으 로 정리되고 있어, 대형 모델의 로컬 운용 진입 장벽이 실질적으로 낮아지고 있습니다. KV 캐시 양자화 품질 저 하, CUDA 버전별 성능 차이, 프롬프트 캐시 설계 주의사항 등 실전 운용 노하우가 축적되면서, 향후 유사 모델 의 로컬 최적화 기준점으로 활용될 수 있습니다.
한 개발자가 Kimi K3의 아키텍처를 심층 분석한 기술 블로그를 공개했습니다. 분석 내용에는 Kimi Delta Attention(KDA), Attention Residuals, Stable LatentMoE, Quantile Balancing, NoPE, 100만 토큰 컨 텍스트 지원, RL 학습 파이프라인, 인프라 및 서빙 최적화 등 핵심 기술 요소들이 포함되어 있습니다. 또 다른 개발자는 C99로 직접 추론 엔진을 구현해 8GB RAM 환경에서 Kimi K3를 구동하는 데 성공했습니다. 체크포인트 1.56TB 중 93%가 라우팅 전문가(routed experts)로 구성되어 있으며, 토큰당 896개 중 16개의 전문가만 활성화되는 구조를 활용해 전문가 가중치를 NVMe에서 온디맨드로 읽어오는 방식을 사용했습니다. 역양자화 없이 4비트 형태로 직접 연산하며, 8GB 환경에서는 약 33초/토큰, 128GB 환경에서는 약 20초/토큰 의 속도를 기록했습니다. BLAS나 프레임워크 없이 C 파일 6개, libm과 OpenMP만으로 176KB 바이너리를 완 성했습니다.
2.78조 파라미터라는 초대형 오픈웨이트 모델이 일반 소비자 수준의 하드웨어에서도 구동 가능하다는 점이 입 증되어, 대형 모델의 로컬 활용 가능성에 대한 새로운 시각을 제시합니다. MoE(Mixture of Experts) 구조의 희 소 활성화 특성을 창의적으로 활용한 이번 구현은 초거대 모델 접근성 확대와 경량 추론 엔진 연구에 중요한 참 고 사례가 될 것입니다.
NeurIPS 2026 논문 심사 과정에서 다수의 저자들이 리뷰어와 AC로부터 아무런 응답을 받지 못하는 상황을 겪 고 있습니다. 일부 저자들은 공식 토론 기간(7월 27일 AoE) 이전에 "Rebuttal" 버튼을 통해 반박문을 제출했는 데, 이 경우 리뷰어에게 알림 이메일이 전송되지 않아 사실상 반박문이 묻혀버린 것으로 추정됩니다. 평균 점수 3점을 받은 한 논문의 경우, 메타리뷰가 비교적 긍정적인 내용으로 마무리되었음에도 불구하고 리뷰 어 중 누구도 강력한 반박에 응하지 않았습니다. 저자들은 메타 코멘트 작성, 리뷰어 리마인더 발송, PC(Program Chair) 이메일 문의 등 가능한 모든 수단을 동원했지만, 토론 기간 마감을 하루 앞두고도 여전히 침묵만 돌아오고 있습니다.
NeurIPS는 AI 분야 최정상급 학술대회로, 공정하고 투명한 리뷰 프로세스는 연구자들의 신뢰를 유지하는 핵심 요소입니다. 이번 사태는 시스템적 알림 오류와 리뷰어·AC의 책임 부재가 맞물려 발생한 구조적 문제로, 향후 학술대회 운영 방식 전반에 대한 개선 논의를 촉발할 것으로 보입니다.
중국 반도체 기업 DFSX가 NVIDIA의 최신 AI 가속기 GB200을 크게 앞서는 메모리 대역폭 성능을 갖춘 신규 AI 칩을 공개했습니다. 해당 칩은 GB200 대비 약 2배에 달하는 메모리 대역폭을 제공하며, 대규모 언어 모델 (LLM) 추론 작업처럼 메모리 병목이 핵심 제약 요소인 워크로드에서 특히 유리한 성능을 발휘할 수 있습니다. 메모리 대역폭은 GPU가 초당 얼마나 많은 데이터를 처리할 수 있는지를 결정하는 핵심 지표로, 이 수치가 높을 수록 대형 모델의 토큰 생성 속도와 배치 처리 효율이 크게 향상됩니다. DFSX의 이번 발표는 미국의 대중국 반 도체 수출 규제 속에서도 중국 자체 AI 하드웨어 기술이 빠르게 성숙하고 있음을 보여주는 사례입니다.
미국의 수출 통제로 첨단 NVIDIA 칩 접근이 제한된 상황에서 중국이 독자적인 고성능 AI 가속기 개발에 성공하 고 있다는 점은 글로벌 AI 인프라 패권 경쟁의 판도를 바꿀 수 있는 신호입니다. 특히 메모리 대역폭이라는 핵심 성능 지표에서 NVIDIA를 앞선다는 주장은 AI 하드웨어 시장에서 중국 기업들의 기술 자립도가 예상보다 빠르게 높아지고 있음을 시사합니다.
ByteDance가 최신 영상 생성 모델인 Seedance 2.5를 공개하며 "원테이크 생성(One-take Creation)"과 "유연한 레퍼런싱(Flexible Referencing)" 기능을 핵심 특징으로 내세웠습니다. 이 모델은 자사 학습 앱 Gauth에 직접 통합되어, 과학·역사 등 복잡한 주제에 대한 애니메이션 학습 가이드를 실시간으로 자동 생성하 는 데 활용되고 있습니다. 기존에는 정적인 다이어그램이나 수동 영상 편집에 의존했던 교육 콘텐츠 제작 방식을, AI 영상 모델이 대체하 는 형태입니다. 다만 복잡한 개념을 시각적으로 표현할 때 AI가 세부 내용을 잘못 묘사하는 '환각 (hallucination)' 문제가 발생할 수 있다는 우려도 제기되고 있습니다.
AI 영상 생성 모델이 단순한 창작 도구를 넘어 교육 콘텐츠 대량 생산이라는 실용적 비즈니스 워크플로우에 본격 적용되기 시작했다는 점에서 주목할 만한 사례입니다. ByteDance가 자체 모델을 자사 서비스에 직접 내재화 하는 수직 통합 전략을 취하고 있어, AI 모델 개발과 서비스 활용의 결합이 교육 산업 전반에 미칠 파급력이 클 것으로 예상됩니다.
테네시주의 미성년 여학생들이 자신들의 동의 없이 AI 도구를 이용해 제작된 성적 딥페이크 이미지로 피해를 입 었다며, xAI의 Grok과 이미지 생성 AI 기업 Stability AI를 상대로 소송을 제기했습니다. 해당 소송은 AI 생성 도 구가 실제 인물의 이미지를 악용한 비동의 성적 콘텐츠 제작에 사용될 수 있다는 심각한 문제를 법적 쟁점으로 공식화한 사례입니다. 이 사건을 계기로 AI 규제에 회의적이었던 일부 커뮤니티 구성원들조차 "역시 AI 규제가 필요할 수도 있다"는 반 응을 보이며 규제 논의가 재점화되고 있습니다.
미성년자를 포함한 실제 피해자가 AI 딥페이크로 인해 법적 구제를 요청하는 사례가 등장함으로써, AI 생성 콘 텐츠에 대한 법적 책임 소재와 플랫폼 규제의 필요성이 본격적인 사회적 의제로 부상하고 있습니다. 이번 소송 은 AI 기업들이 자사 도구의 악용 가능성에 대해 어느 수준까지 법적 책임을 져야 하는지를 판가름하는 중요한 선례가 될 수 있습니다.