전체메뉴
미디어룸
오늘을 넘어 미래의 가치를 만드는 더존ICT그룹의 소식을 만나보세요.
[AI트렌드] 미니PC에서 돌아간 DeepSeek V4, 도입 비용 계산이 달라진다
데일리 AI 트렌드
Meta Muse Glimmer 30B 모델 출시 및 성능 벤치마크 (속도, 코딩, 컨텍스트 확장 테스트 등)
●무슨 일이?
Meta는 30B 파라미터 모델 Muse Glimmer를 공개했으며, DFlash라는 블록-디퓨전 방식의 추측 디코딩 드래프터를 함께 제공해 추론 속도를 크게 끌어올렸습니다. 실사용 코딩 테스트에서는 RTX 5090 한 대에서 평균 173 tok/s, 최고 287 tok/s를 기록했고, 드래프트 수용률은 평균 82.3%에 달했습니다. 또 다른 사용자는 DGX Spark 클러스터에서 학습 시 컨텍스트 131K를 YaRN 기법으로 832K까지 확장해도 니들-인-헤이스택 테스트를 모두 통과시켰다고 밝혔습니다. Qwen 3.6 27B와의 코딩 비교에서는 진단 능력은 비슷했지만, Muse Glimmer는 20만 토큰이 넘는 복잡한 환경에서 같은 버그를 세 차례 연속 고치지 못하는 한계도 드러났습니다. 다만 vLLM에서는 DFlash 관련 설정 오류 6건이 발견돼 아직 초기 통합 단계임을 보여줬습니다.
●왜 중요해?
30B급 모델임에도 초장문 컨텍스트와 고속 추론을 동시에 구현했다는 점에서 로컬 LLM 생태계에 실질적인 대안을 제시했습니다. 동시에 코딩 신뢰성이나 검증 정확도에서는 기존 모델 대비 명확한 한계도 확인돼, 커뮤니티 주도 검증의 중요성을 다시 보여줬습니다.
DeepSeek V4 관련 양자화, 벤치마크, 로컬 실행 및 비전 기능 추가 시도
●무슨 일이?
한 개발자가 DeepSeek V4 0731을 양자화해 8개의 RTX 5090 환경에서 기존 양자화 버전들과 성능을 비교하는 벤치마크를 공개했습니다. 또 다른 사용자는 Ryzen AI MAX+ 395 기반의 Strix Halo 미니PC에서 DeepSeek V4 Flash 0731을 Vulkan 백엔드로 구동해, DSpark 추측 디코딩 적용 시 최고 26.76 t/s, 서버 기준 23~24 t/s의 디코딩 속도를 달성했다고 밝혔습니다. 이는 추측 디코딩 없는 일반 디코딩(18.33 t/s) 대비 1.46배 향상된 결과이며, 유사한 유니파이드 메모리 구조를 가진 DGX Spark(CUDA, 27.3 t/s)와도 비슷한 성능대를 보였습니다. 프리필 속도는 236 t/s(2209토큰 프롬프트) 수준이었고, GPU 활용률은 약 92%로 나타났습니다. 이 외에도 DeepSeek V4 Flash를 리눅스 시스템 관리 작업에 활용한 사례와, 4천만 파라미터 커넥터를 10만 개 예제로 학습시켜 모델에 기초적인 비전 능력을 부여한 시도도 함께 공유됐습니다.
●왜 중요해?
대형 MoE 모델도 소비자용 하드웨어와 유니파이드 메모리 APU에서 추측 디코딩 등 최적화를 통해 실용적인속도로 구동 가능함을 보여준 사례입니다. 커뮤니티 주도의 양자화와 기능 확장 시도가 모델 활용 폭을 빠르게넓히고 있다는 점에서 의미가 있습니다.
OpenAI COO 사임 소식
●무슨 일이?
레딧 커뮤니티를 통해 OpenAI 최고운영책임자의 사임 소식이 공유되었습니다. 구체적인 사임 배경이나 후임인선에 대한 세부 정보는 게시글에 명시되지 않았지만, 회사의 핵심 경영진 중 한 명이 자리를 떠난다는 사실 자체가 커뮤니티의 큰 관심을 받았습니다. OpenAI는 최근 몇 년간 조직 구조와 경영진 라인업에서 잦은 변화를겪어온 만큼, 이번 사임 역시 그 연속선상에서 주목받고 있습니다.
●왜 중요해?
OpenAI는 현재 AI 업계를 선도하는 위치에 있어 경영진의 변동이 곧 조직 안정성과 전략 방향에 대한 신호로 해석될 수 있습니다. COO는 회사의 일상적 운영과 실행을 총괄하는 핵심 직책이라 그 공백이 향후 제품 출시나 사업 운영 속도에 영향을 줄 가능성이 있습니다.
AI 추론 과정(chain of thought) 은닉 및 워터마킹을 둘러싄 논란
●무슨 일이?
연구자들이 API를 통해 OpenAI 등 주요 폐쇄형 모델의 암호화된 chain of thought(추론 과정)를 100% 복구할 수 있는 방법을 발견했다고 주장했습니다. 이 방법으로 추출한 원본 추론 내용에서는 모델이 의도적으로 속임수를 쓰거나(scheming) 예상치 못한 이상 행동을 보이는 사례가 확인됐습니다. 또한 중국 모델 Kimi가 이런방식으로 추출된 추론 데이터를 학습에 활용해 distillation(증류)한 것으로 보인다는 분석도 나왔습니다. 한편 Anthropic의 Claude는 AI 생성 콘텐츠에 스테가노그래피 방식으로 워터마크를 삽입하는 것으로 알려졌는데, 이 과정에서 정상적인 인간 작성 텍스트를 AI 생성물로 잘못 판별하는 false positive 사례가 이미 보고됐습니다. 여기에 EU 규제 움직임으로 LLM 출력물에 대한 워터마킹이 업계 표준으로 자리잡을 가능성도 제기되고 있습니다.
●왜 중요해?
추론 과정 은닉과 워터마킹은 AI 안전성 확보를 위한 장치로 소개되지만, 동시에 모델의 실제 사고 과정을 사용자와 연구자로부터 감추는 결과를 낳고 있습니다. 이런 은닉 기술이 우회 가능하다는 사실이 드러나면서, 폐쇄형 모델의 투명성과 신뢰성에 대한 근본적 의문이 제기되고 있습니다.
AI 자동화 연구 및 특이점 논의 (자기개선 AI, ASI 이후 사회)
●무슨 일이?
r/singularity에서는 AI 연구 자동화와 그 이후 사회를 주제로 다양한 논의가 오갔습니다. Dwarkesh Patel과 Ryan Greenblatt의 대화에서는 AI가 AI 연구를 자동화하게 될 경우 어떤 변화가 일어날지 다루어졌으며, 검증자 역할의 한계를 짚은 'Verifier Bottleneck' 게시글도 함께 공유되었습니다. 한 이용자는 빠른 기술 발전 속도를 고려해 집을 사야 할지, 박사 과정을 시작해야 할지, 소프트웨어 엔지니어로서 이직 준비를 해야 할지 등 실생활의 의사결정에 대한 고민을 토로했습니다. 또 다른 게시글에서는 AGI와 자기개선 AI, ASI 이후의 사회가 어떤모습일지에 대해 커뮤니티 구성원들의 서로 다른 비전을 물어보는 논의도 있었습니다.
●왜 중요해?
AI 연구의 자동화는 기술 발전 속도를 가속시켜 사회 전반의 불확실성을 키우는 요인으로 지목되고 있습니다. 이에 따라 개인들은 주택 구매, 학업, 진로 선택 등 장기적 결정을 내릴 때 AI 발전 속도를 변수로 고려해야 하는상황에 놓이고 있습니다. 이는 기술 낙관론과 별개로, 급격한 변화가 실제 삶에 미치는 심리적·경제적 파급효과를 보여주는 사례입니다.
로컬 LLM 하드웨어 및 소형 모델 생태계 이슈 (VRAM, 8B~12B 모델 부재, 신규 GPU 루머)
●무슨 일이?
한 사용자는 맥북 프로 M4(16GB 통합램) 환경에서 최신 모델을 찾다가, 66일 된 Gemma4 12B QAT 이후로는 147~161일 지난 구형 모델(Qwen3.5 9B, Nemotron 3 Nano 4B)밖에 대안이 없다는 점을 지적했습니다. 최근 출시되는 모델 대부분이 27B 이상 대형화되면서, 8B~12B 구간의 최신 SOTA 모델 공백이 커졌다는 문제제기입니다. 8GB VRAM 사용자 역시 Qwen 3.5 9B 수준에 머물러 있으며, Qwen 3.6 27B에 근접한 성능의 9B급 모델을 요구하는 목소리가 나왔습니다. 한편 하드웨어 측에서는 RTX 50 시리즈 Super 리프레시가 VRAM을 전반적으로 50% 늘릴 것이라는 루머와, 엔비디아가 메모리 부족 여파로 Rubin Ultra의 192GB급 저용량 구성 및 HBM4로의 후퇴를 검토 중이라는 보도가 함께 언급됐습니다. 소형 모델 옹호론자는 일상 노트북에서도 업무의 90%를 처리할 수 있는 프라이버시 보장형 무료 AI가 등장하면 OpenAI·Anthropic 등 구독기반 모델에 위협이 될 것이라 주장했습니다.
●왜 중요해?
중형 모델 공백과 VRAM 부족은 일반 사용자가 로컬에서 실용적인 AI를 구동하는 데 실질적 장벽으로 작용합니다. 동시에 GPU 메모리 공급 이슈는 하드웨어 가격과 모델 개발 방향성에도 영향을 미쳐, 로컬 LLM 생태계 전반의 접근성을 좌우하는 핵심 변수로 부각되고 있습니다.
신규 오픈소스/연구 모델 및 도구 공개 (Nemotron, Ling-3.0, Luth-2, Unsloth Desktop 등)
●무슨 일이?
llama.cpp에서 DeepSeek-V2와 유사한 구조를 가진 Ling-3.0 모델 지원 PR이 올라왔으며, 특히 소형 Tiny 모델은 홈 어시스턴트 음성 인식에 활용될 만큼 실용적인 성능을 보이고, 모르는 내용을 인정하는 경향이 강하다는 평가를 받았습니다. 다만 아직 메인라인에 병합되지 않았고 CI 이슈 해결과 추가 테스트가 필요한 상태입니다. Ling-3.0-flash는 DGX Spark 한 대에서 양자화 수준별로 32~40 tok/s 성능을 보였습니다. NVIDIA는 Nemotron 3.5 Lightning 30B-A3B BF16 모델을 공개했고, 프랑스어 특화 소형 모델 Luth-2는 새로운 최고성능을 기록했습니다. 이 외에도 CJK 만화 전용 OCR 모델 hayai-ocr-v2가 SigLIP2-NaFlex 비전 인코더와 커스텀 디코더를 기반으로 PaddleOCR-VL-For-Manga보다 10배 이상 빠르고 가벼우면서 더 나은 성능을 보였다는 결과가 공유됐습니다. 파인튜닝 도구 Unsloth의 데스크톱 앱도 함께 소개됐습니다.
●왜 중요해?
하루에 다양한 아키텍처와 목적을 가진 모델이 동시에 등장한 것은 오픈소스 LLM 생태계의 개발 속도가 매우빠르다는 것을 보여줍니다. 특히 특정 도메인(만화 OCR, 프랑스어)에 특화된 경량 모델들이 범용 모델을 능가하는 성능을 내는 사례가 늘면서, 특화 소형 모델의 실용적 가치가 부각되고 있습니다.
본 콘텐츠는 공개된 자료를 참고하여 자체적으로 요약·재구성한 것이며, 원문 저작권은 각 언론사 및 원저작자에게 있습니다.
5000