전체메뉴
미디어룸
오늘을 넘어 미래의 가치를 만드는 더존ICT그룹의 소식을 만나보세요.
[AI트렌드] 구글 AI 행보: Gemma 이벤트 예고, 진짜 승자는 누구인가
데일리 AI 트렌드
DeepSeek V4 Flash 0731 성능 및 로컬 구동 벤치마크 활발
●무슨 일이?
DeepSeek V4 Flash 0731은 Terminal-Bench 2.1에서 공식 발표치인 82.7%를 독립적인 공개 하니스 (Ante)로도 445회 시행 중 368회 성공으로 재현하는 데 성공했습니다. 다만 SlopCodeBench에서는 하니스종류에 따라 성적이 5.9%부터 29.4%까지 크게 갈리며, 모델이 실행 환경에 민감하다는 점이 확인됐습니다. 로컬 구동 측면에서는 176GB RAM+VRAM 환경에서 4bit 양자화로 초당 2~3토큰 수준의 속도를 보였고, 32GB 노트북에서는 147GB 규모의 MoE 전문가 풀을 SSD 스트리밍으로 처리하는 실험이 진행됐습니다. 이 과정에서 순차 읽기 재배치와 추측적 전문가 프리페치가 속도 개선에 유효했지만, 페이지 캐시는 오히려 이중 버퍼링으로 성능을 3배 저하시키는 역효과를 냈습니다. 또한 100K 토큰 이상 장문 컨텍스트의 에이전틱 코딩 작업에서는 생성이 중간에 멈추는 현상이 보고됐습니다.
●왜 중요해?
대형 MoE 모델을 일반 소비자 하드웨어에서 구동하려는 시도가 구체적인 최적화 기법과 함께 축적되고 있다는점에서 의미가 큽니다. 동시에 벤치마크 결과가 하니스와 양자화 방식에 따라 크게 달라진다는 사실은, 모델 성능 평가 시 재현성과 실행 조건의 중요성을 다시 부각시킵니다.
차세대 미공개 모델(Astra, Doug) 및 AI 개발 타임라인에 대한 관심
●무슨 일이?
레딧 이용자가 OpenAI의 차세대 모델로 알려진 'Astra'와 'Doug'에 대한 유출 정보를 접한 뒤, AI 모델 개발과공개 사이의 시간차에 대한 궁금증을 제기했습니다. 작성자는 프리트레이닝에 최대 6개월, 이후 포스트트레이닝에 약 1개월이 소요되며, 내부 테스트와 피드백, 가드레일 설정, 검증, 외부 테스트, 정부 승인 등의 절차에는그보다 더 긴 시간이 걸린다고 분석했습니다. 예시로 Anthropic의 'Claude Mythos' 모델이 2월에 개발되어 5 월경 파트너사에 제공되고 7월에 공개된 사례를 들며, 이는 이례적으로 긴 공개 지연 사례라고 언급했습니다. 또한 기업들이 통상 1~2세대 앞선 모델을 내부적으로 보유하면서 공개 버전과 다른 가드레일 및 안전장치를 적용한다는 소문도 함께 전했습니다.
●왜 중요해?
이러한 논의는 공개된 AI 모델과 실제 연구소 내부의 기술 수준 사이에 상당한 격차가 존재할 수 있음을 시사합니다. 이는 AI 연구자들이 일반 대중보다 훨씬 앞서 AGI 발전 속도를 체감하고 있을 가능성을 제기하며, AI 발전타임라인에 대한 대중의 인식과 실제 진행 상황 간 차이를 이해하는 데 중요한 참고점이 됩니다.
AGI/ASI 도래 시점과 미래 사회 변화에 대한 논쟁
●무슨 일이?
데미스 하사비스는 최근 인터뷰에서 2030년경 AGI 달성을 예상하며, 앞으로 20년 안에 알파폴드급 돌파구가 6~12건 추가로 나와 모든 질병 치료가 가능해질 것이라 전망했습니다. 그는 이를 이유로 CEO 자리에서 물러나초지능 시스템의 연구 인프라 구축에 집중하겠다고 밝혔습니다. 반면 다른 게시글들은 실리콘밸리 빅테크 경영진이 대부분 AI 투자자로서 이해관계를 가지므로, 그들의 낙관적 전망을 그대로 믿을 수 없다고 비판했습니다. 또 다른 글에서는 폐쇄형 초지능이 '무너지지 않는 독재체제'로 악용될 위험을 지적하며, 투명한 오픈소스 ASI 연합체가 필요하다는 주장도 제기됐습니다. 이밖에 AGI 시대에 학교 교육이 직업 준비 대신 인간관계 대처법을가르쳐야 한다는 의견도 나왔습니다.
●왜 중요해?
AGI/ASI의 실현 시점과 통제 주체를 둘러싼 논의는 기술 발전 자체보다 사회 신뢰, 권력 집중, 교육 체계 재편 등파급 효과에 대한 대중적 우려를 반영합니다. 빅테크의 낙관론과 대중의 회의론이 공존하는 상황은 향후 AI 정책과 여론 형성에 중요한 변수가 될 것입니다.
로컬 LLM 구동 하드웨어 최적화 및 GPU 세팅 논의
●무슨 일이?
r/LocalLLaMA에서는 로컬 환경에서 대형 모델을 돌리기 위한 하드웨어 최적화 논의가 이어지고 있습니다. DGX Spark 4대를 묶은 클러스터 관리 방식, 5090 3장에 AMD 9700 카드를 추가할지 여부, RPC 서버를 이용한 혼합 GPU 구성 등 실전 세팅 고민이 다수 올라왔습니다. 성능 개선 사례도 눈에 띄는데, DGX Spark에서 Ling-3.0-flash INT4 모델에 특정 플래그 두 개를 적용해 초당 토큰 처리량이 20.8에서 38.7로 약 86% 향상된사례가 공유됐습니다. 또한 AMD llama.cpp에서 MTP 버퍼 오버헤드를 줄인 패치로 Qwen 27B 모델의 사용가능 컨텍스트가 64K에서 149K로 두 배 이상 늘어난 결과도 보고됐습니다. 한편 듀얼 Radeon AI PRO R9700 서버가 Ollama의 병렬 처리 미지원 문제로 RTX 5090 단일 카드보다 오히려 느리다는 트러블슈팅 사례, 저가형 780m iGPU와 64GB 램으로 Qwen 35B MoE 모델을 초당 20토큰 이상으로 구동한 예산형 대안도 소개됐습니다.
●왜 중요해?
동일한 모델이라도 드라이버 플래그, 백엔드 선택(ROCm vs Vulkan), 병렬 처리 설정에 따라 성능이 수십~수백 퍼센트까지 차이 나는 것으로 나타났습니다. 고가 장비 없이도 최적화만으로 로컬 LLM 구동 효율을 크게 높일 수 있다는 점에서, 하드웨어 세팅 노하우 공유가 커뮤니티의 핵심 자산으로 자리잡고 있습니다.
새로운 오픈소스/실험적 모델 공개 (SupraElegans, BigBang, WeatherNext 2, WorldClaw, LFM 2.6B)
●무슨 일이?
SupraLabs는 약 50만 개 파라미터로 이루어진 SupraElegans-500K를 공개했습니다. 트랜스포머나 어텐션, 포지셔널 인코딩, KV 캐시 없이 예쁜꼬마선충 신경계에서 착안한 희소 순환 신경 그래프 구조를 사용하며, 뉴런별 막전위가 토큰마다 갱신되며 문맥을 유지하는 방식입니다. endless-frontier는 Qwen 3.5 파인튜닝 모델 BigBang-v1을 내놓았지만, 350억 규모 모델이 2840억~1.6조 규모 모델과 맞먹는다는 주장에 대해 벤치마크오염 의혹이 커뮤니티에서 제기되었습니다. 구글은 허리케인 경로를 기존보다 하루 앞서 예측하는 WeatherNext 2를 깃허브에 공개했고, Tencent는 3D 월드 생성 모델 WorldClaw를 발표했습니다. 이 외에 LFM 2.6B는 RTX 3090에서 초당 260토큰 생성 속도를 보이며 스마트폰 탑재를 목표로 설계된 경량 모델로 주목받았습니다.
●왜 중요해?
기존 트랜스포머 일변도에서 벗어난 신경생물학 기반 구조, 기상 예측 특화 모델, 초경량 온디바이스 모델까지실험적 시도가 동시에 등장하며 AI 아키텍처 다양성이 확장되는 흐름을 보여줍니다. 다만 벤치마크 신뢰성 논란은 성능 주장 검증의 중요성을 다시 일깨웁니다.
AI 연구 기법 및 아키텍처 관련 기술 논의 (양자화, 프롬프트 인젝션, 포지셔널 인코딩 등)
●무슨 일이?
새로운 양자화 기법 KLQ가 공개되어 별도 학습 없이도 W4A4KV4 비트 환경에서 기존 회전 기반 양자화 기법들을 능가하는 성능을 보였습니다. Llama 3.2 1B 모델에 적용한 결과 SpinQuant를 넘어섰고, GPTQ나 LDLQ 라운딩 없이도 ReSpinQuant에 근접한 성능을 기록했습니다. 한편 프롬프트 인젝션을 메커니즘 관점에서 분석해 '역할' 개념의 중요성을 짚은 연구와, 포지셔널 인코딩을 쉽게 풀어낸 아티클도 주목받았습니다. 아날로그하드웨어 노이즈 실험에서는 정확도가 완만하게 떨어지지 않고 특정 지점에서 83%→64%→랜덤 수준으로 급격히 붕괴하는 임계점 현상이 관찰되었고, 노이즈를 학습에 주입하면 이 임계점이 크게 개선되는 결과(61% 대 39%)가 나왔습니다. 또한 Qwen과 Gemma의 토크나이저 차이가 화제가 되어, 동일한 330줄 코드를 Qwen 은 1609토큰, Gemma는 4258토큰으로 처리한다는 점이 공유되며 코딩 성능 차이의 원인으로 지목되었습니다.
●왜 중요해?
이런 기술 논의들은 모델의 효율성과 안전성을 결정짓는 근본적 요소들을 다루고 있어, 향후 경량화·보안·아키텍처 설계 방향에 직접적인 영향을 줄 수 있습니다. 특히 토크나이저 구조 차이가 모델 성능 차이의 숨은 원인으로 드러난 점은 모델 선택과 개선 전략에 실질적 시사점을 제공합니다.
AI의 사회적 영향: 노동시장 대체 및 감정적 AI 서비스 우려
●무슨 일이?
한 설문조사에서 직장인의 20%가 과거 동료에게 넘겼던 업무를 이제 AI에 맡기고 있다고 답했습니다. 이는 AI 가 단순 보조 도구를 넘어 실제 인력을 대체하는 단계로 접어들었음을 보여주는 수치입니다. 동시에 커뮤니티에서는 AI가 정서적 교감까지 상품화하는 "감정 서비스화(Emotion-as-a-Service)" 트렌드에 대한 우려가 제기되며, 이를 "합성된 유대감을 파는 넷플릭스"에 비유하는 비판이 나왔습니다. 또 다른 게시글에서는 AI가 만든음악이 결국 기업 검열에 순응하는 결과물이 될 것이며, 밥 딜런의 'Masters of War' 같은 저항 음악을 AI가 만들어낼 수 없을 것이라는 도전적 주장도 제기됐습니다.
●왜 중요해?
업무 대체와 감정 상업화, 창작의 검열 가능성이라는 세 가지 우려가 동시에 제기되면서, AI 확산이 노동시장뿐아니라 인간관계와 문화적 표현의 자유에까지 영향을 미칠 수 있다는 위기감이 확산되고 있습니다. 특히 저항적 ·비판적 콘텐츠가 기업 통제 하의 AI로 대체될 경우 사회적 목소리가 약화될 수 있다는 점이 핵심 쟁점입니다.
본 콘텐츠는 공개된 자료를 참고하여 자체적으로 요약·재구성한 것이며, 원문 저작권은 각 언론사 및 원저작자에게 있습니다.
5000