한 개발자는 토큰을 생성하지 않고 모델 내부의 마지막 상태에서 곧바로 참/거짓을 판별하는 Jev 방식 결정 헤드를 별도 분류 헤드 학습 없이 재현했다며, 기존 LLM에 boolean 검증 프롬프트와 로짓(모델이 각 선택지에 매기는 점수) 비교만 적용해 Qwen3 27B에서 75.3%, Qwen3.6 35B-A3B에서 75.5% 정확도를 얻었고 OpenJev 파인튠보다 높은 수치였다고 밝혔습니다①.

Qwen3.5 4B에 LoRA 파인튜닝을 적용해 typed-decisions 점수를 0.596에서 0.709로 올린 사례가 공개됐습니다②.

ggml 기반 C++ 구현인 laya.cpp는 배치 8 기준 초당 810건 처리로 Python 구현 대비 3배 이상 빠른 결과를 제시했습니다③. Qwen2.5 1.5B에 SwiGLU 프로브를 붙인 AES는 28ms 안에 추론이 끝났다고 밝혔습니다④.

모델 용량을 줄이는 양자화 방식인 exllamav3(exl3) 3bpw를 적용해 RTX 3090 3장에서 프리필 1500, 디코딩 80tps를 기록했다는 후기가 공유됐습니다①.

RTX 3060 12GB 환경에서 IQ4_XS 양자화를 적용해 Three.js 애니메이션, 리치텍스트 에디터 등 여러 코딩 과제를 시험한 사례도 공유됐습니다②.

한 사용자는 GB10 16대로 구성한 클러스터에서 2.8T 파라미터급 Kimi K3를 구동해 코딩 작업 기준 디코딩 초당 30토큰(최대 38토큰), 프리필 초당 750~910토큰을 달성했다고 밝혔습니다. 커스텀 NCCL 토폴로지와 이중 스위치 구성에서 여러 요청이 동시에 들어와도 앞서 처리한 입력을 저장해 두는 KV 캐시에서 병목 없이 동작했다고 전했습니다③.

총 7.9B·활성 1.3B 규모의 Ling 3.0 tiny는 4.8GB 양자화 버전이 8GB VRAM GPU에 전부 적재돼 CPU 오프로딩 없이 프롬프트를 처리했다는 비교 결과가 공유됐습니다④.

Anthropic, OpenAI, SpaceX AI, Google이 AI 기술 개발과 출시 속도를 서로 조율하기로 합의했다며 반독점법 위반을 주장하는 소송이 제기됐다는 소식이 공유됐습니다. 현재까지 공개된 내용은 원고 측 주장이며, 사실관계가 법적으로 확정된 단계는 아닙니다①②.

엔비디아의 젠슨 황은 다른 누구와 상관없이 최대한 빠르게 나아가야 한다고 말하며 개발 속도를 강조했습니다③.

한 사용자는 GPT-6 Astra가 컴퓨터 사용 기능으로 게임 STS2를 세이브 스컴이나 인터넷 검색 없이 A0 난이도에서 스스로 완주했다고 전했습니다. 완벽한 플레이는 아니었고 덱이 38장으로 비대해지는 등 비효율도 있었다고 함께 밝혔으며, 개인이 공유한 사용 경험으로 공식 평가 결과는 아닙니다①.

Remote Labor Index에 Fable과 Astra 모델이 추가됐습니다. 이 지표는 6,000시간 이상, 14만 달러 상당의 실제 전문가 작업(게임 개발, 제품 디자인, 데이터 분석 등)을 기준으로 AI의 단일 프롬프트 작업 수행 결과를 인간 전문가가 직접 평가하는 방식입니다②.