오늘을 넘어 미래의 가치를 만드는 더존ICT그룹의 소식을 만나보세요.
AI 실행 프로그램을 바꾸면 빨라질까, 엇갈린 사용자 보고
넘쳐나는 전 세계 AI 이슈, 핵심만 골라 ‘ONE AI’가 브리핑해 드립니다
커뮤니티 벤치마크 게시글에서는 Apple Silicon 전용 추론 엔진 Kapitsa가 커스텀 Metal 커널을 사용해 M5 Max에서 Qwen3.6 35B 기준 346 tok/s(초당 처리 토큰 수)의 디코딩 속도를 기록했습니다. SSD 오프로딩을 적용해 48GB 맥북에서 180B 모델을 61 tok/s로 구동한 결과도 함께 공유됐습니다①.
tandem.cpp는 자주 쓰이는 전문가(expert, 모델 내부에서 입력에 따라 선택적으로 쓰이는 연산 묶음)만 GPU에 올리고 나머지는 CPU가 처리하는 방식으로, 단일 4090에서 Qwen3.8-Flash-Next를 97 tok/s로 구동했으며 이는 llama.cpp 대비 3.3배로 제시됐습니다②.
Speedy는 같은 모델 기준으로 기존 엔진 Avalon과 비교해 읽기 속도 최대 4.3배, 전체 처리 시간 최대 72% 단축 결과가 공유됐습니다③.
반면 한 사용자는 2× R9700 환경에서 Strata를 사용했을 때 기대한 성능 향상은 얻지 못하고, 3비트 양자화로 HumanEval+ 점수가 95.1%에서 93.9%로 낮아졌다고 보고하며 특화 엔진이 과대광고된 것 아니냐는 의문을 제기했습니다④.
로컬 환경에서 AI 모델을 실제로 구동하는 소프트웨어인 추론 엔진의 속도 수치는 엔진과 하드웨어 조합마다 따로 제시되고 있어, 한 사례의 향상 폭이 다른 환경에서도 그대로 나온다고 보기는 어렵습니다.
이번 자료의 향상 수치는 비교 기준부터 다릅니다. tandem.cpp는 llama.cpp 대비 처리 속도를, Speedy는 Avalon 대비 읽기 속도와 전체 처리 시간을, Kapitsa는 특정 칩에서의 절대 속도를 제시했습니다. 반대로 Strata 사례에서는 속도 이점 대신, 모델 용량을 줄이는 양자화 설정과 함께 코드 생성 평가 점수가 낮아졌다는 보고가 나왔습니다. 모두 커뮤니티에서 공유된 결과로, 같은 조건에서 서로 비교된 수치는 아닙니다.
특화 엔진의 성능 수치를 볼 때는 비교 대상 엔진, 사용한 하드웨어, 양자화 설정, 그리고 속도와 함께 품질 점수가 어떻게 달라졌는지를 함께 비교할 필요가 있습니다.
Qwen3.5 4B를 기반으로 한 GLB-3D-Coder는 간단한 프롬프트로 Three.js 장면 코드를 작성해, Godot 같은 게임 엔진에서 쓸 수 있는 GLB 형식의 3D 에셋을 만드는 모델로 공개됐습니다①.
1800만(18M) 파라미터 규모의 TTS(텍스트를 음성으로 바꾸는) 모델 Silencio-2는 감정·음향 태그를 지원하며, CPU에서 실시간 대비 약 20배 빠른 속도로 동작한다고 소개됐습니다②.
이번 두 모델은 크기 자체보다, 어떤 작업을 어떤 결과물 형태로 수행하는지가 중심이 돼 소개됐습니다.
GLB-3D-Coder는 게임 엔진에서 바로 쓰는 파일 형식을, Silencio-2는 감정 표현을 담은 음성을 결과물로 내놓는다는 점이 강조됐고, Silencio-2는 CPU 환경 기준의 처리 속도가 함께 제시됐습니다. 다만 두 모델 모두 커뮤니티 게시글로 소개된 단계여서, 결과물 품질은 공개된 자료만으로 비교하기 어렵습니다.
Reddit 게시글에서는 Claude Opus 5.5가 비디오 게임의 리버스 엔지니어링(완성된 프로그램을 분석해 구조를 알아내는 작업)이나 복제 요청을 윤리적 이유로 차단한다는 사례가 공유됐습니다①.
다른 게시글에서는 Claude가 픽사의 인트로 애니메이션 재현 요청을 거부하고 대신 토스터기 이미지를 만든 사례가 공유되며, '프런티어 AI가 할 수 있는 것'과 '기업이 허용하는 것' 사이의 간극을 보여주는 예로 언급됐습니다. 같은 맥락에서 Gemini 4 Argon은 해당 인트로를 그대로 재현할 수 있는 것으로 사용자들 사이에 알려졌습니다②③.
이번 사례에서 사용자들은 AI 모델을 성능만이 아니라, 저작물과 관련된 요청을 어디까지 받아주는지로도 비교했습니다.
공유된 내용은 모두 사용자 게시글에 기반하며, 거부의 기준이나 범위에 대한 Anthropic의 설명은 원천 자료에 포함돼 있지 않습니다. Gemini 4 Argon과의 차이도 같은 요청을 같은 조건에서 시험한 결과로 제시된 것은 아니어서, 모델의 기술 능력 차이인지 서비스 정책 차이인지는 이 자료만으로 구분하기 어렵습니다.
딥마인드 CEO 데미스 하사비스는 9월 인터뷰에서 AI 데이터센터가 아름답게 설계돼야 하며, 주변 환경에 미치는 영향을 신중히 고려해야 한다고 말했습니다①.
OpenAI가 중간선거 이후 자사 데이터센터를 'AI 컴퓨트 캠퍼스'로 리브랜딩하려 한다는 소식이 전해졌으며, 이는 데이터센터라는 용어가 전력 소비와 환경 부담에 대한 지역 사회의 반발을 부르는 상황에서 이미지를 완화하려는 시도로 해석됐습니다②.
이번 두 사례에서 AI 데이터센터는 성능이나 규모보다, 주변 지역과 환경에 어떻게 보이고 받아들여지는지의 측면에서 이야기됐습니다.
하사비스의 발언은 설계와 환경 영향에 대한 의견이고, OpenAI 사례는 명칭 변경 계획에 대한 전언과 그에 대한 해석입니다. 두 사례 모두 실제 설계 방식이나 전력·환경 부담이 어떻게 달라지는지는 다루지 않았기 때문에, 외관이나 이름의 변화와 실제 자원 사용의 변화는 구분해서 볼 필요가 있습니다.
본 콘텐츠는 공개된 사실 및 정보를 바탕으로, 당사의 편집 기준에 따라 생성형 인공지능(AI)에 의해 생성되었습니다. 최종 내용은 원문 대조 및 검수를 거쳐 발행하며, 참고한 각 자료의 저작권은 해당 저작권자에게 있습니다.
추가 학습 없이 AI가 고친 AI, 수학 점수 7.9%→48.1%
2026.11.031조 파라미터와 처리량 6.43배, 수치마다 다른 기준
2026.10.30