본문 바로가기

주메뉴 바로가기

전체메뉴

미디어룸

오늘을 넘어 미래의 가치를 만드는 더존ICT그룹의 소식을 만나보세요.

Sonnet 5.5가 드러낸 토큰 단가와 작업당 비용의 차이

AI 트렌드2026.09.29
AI 트렌드

넘쳐나는 전 세계 AI 이슈, 핵심만 골라 ‘ONE AI’가 브리핑해 드립니다

01 / 03작업당 비용 · 토큰 생성량
토큰 단가가 같거나 낮아도 작업당 비용 효율은 따로 갈렸다
WHAT HAPPENED
•

커뮤니티 분석에서는 Sonnet 5.5가 이전 버전보다 50% 저렴해졌지만 생성하는 토큰 양이 62% 늘었다는 점이 지적됐습니다. 이 때문에 실제로 체감하는 비용 절감 효과는 제한적이라는 평가가 나왔습니다①.

•

입력 $2·출력 $10의 같은 토큰 비용을 기준으로 GPT-6 Sol과 비교한 결과, 저예산 구간에서는 Sol이 점수당 효율에서 앞섰습니다. 최상위인 max 설정(작업당 약 $7.60)에서는 Sonnet 5.5가 56점까지 도달해 더 높은 상한을 보였습니다. 다만 high에서 max로 올릴 때 비용은 약 7배 늘었고 점수는 9점 오르는 데 그쳤습니다②③.

WHAT IT MEANS

AI 모델의 비용을 비교할 때는 토큰당 가격보다 한 작업을 끝내는 데 실제로 드는 비용과 그때 얻는 점수를 함께 봐야 합니다.

단가가 절반으로 내려가도 같은 작업에 쓰는 토큰이 늘면 절감 폭이 줄어든다는 지적이 나왔습니다. 같은 단가 조건에서도 어느 예산 구간이냐에 따라 효율이 앞서는 모델이 달라졌습니다. 성능을 끌어올리는 설정 단계로 갈수록 비용 증가 폭에 비해 점수 상승 폭은 작았습니다. 즉 가격표의 단가는 작업당 비용을 이루는 한 요소입니다. 모델이 생성하는 토큰 양과 적용한 설정 수준도 작업당 비용에 함께 반영됩니다.

모델 비교 자료를 볼 때 토큰 단가, 작업당 평균 비용, 적용한 추론 설정 수준을 서로 다른 항목으로 나눠 판단 기준으로 둘 수 있습니다.

02 / 03오픈 모델 파인튠 · 추론 최적화
Qwen 계열 모델, 파인튠과 실행 도구에 따라 점수·속도·컨텍스트가 달라졌다
WHAT HAPPENED
•

커뮤니티 테스트에서 Qwen3.6-35B-A3B의 파인튠 5종을 코딩 벤치마크인 Aider Polyglot으로 비교했습니다. 베이스 모델의 첫 시도 통과율은 37.4%였으며, Tiel, Nex 등 일부 파인튠은 베이스 모델보다 성능이 크게 낮게 나왔습니다①.

•

Swift 1.5와 HyperQwen을 결합한 실험 결과도 공유됐습니다. RTX 3090 한 장으로 초당 100토큰 이상의 처리 속도와 15만 토큰 컨텍스트를 유지했고, 평균 작업 시간은 기존 대비 37% 줄었다는 내용입니다②.

•

llama.cpp를 수정한 포크 LlamAmpere로 Qwen3.8-27B를 실행한 결과도 공유됐습니다. 모델 용량을 줄이는 4.6bpw 양자화 설정에서 26만2천 토큰 컨텍스트와 초당 95토큰 이상을 기록했고, 최대 컨텍스트 면에서는 vLLM보다 앞섰다는 내용입니다③.

WHAT IT MEANS

같은 계열의 공개 모델이라도 추가 학습 방식과 실행 도구에 따라 확인되는 결과가 달라졌습니다.

특정 용도에 맞춰 추가 학습하는 파인튠이 항상 원본보다 나은 점수를 내지는 않았습니다. 반대로 실행 도구를 바꾼 사례에서는 작업 시간이 줄거나, 한 번에 처리할 수 있는 입력량인 컨텍스트 길이가 늘어난 수치가 나왔습니다. 세 사례의 지표는 코딩 통과율, 처리 속도와 작업 시간, 최대 컨텍스트로 서로 다르며 모두 커뮤니티에서 공유된 개별 환경의 결과입니다. 따라서 오픈 모델의 성능은 모델 이름 하나로 읽기보다 어떤 파생 버전을 어떤 실행 환경에서 쓴 결과인지와 함께 볼 필요가 있습니다.

03 / 03로컬 LLM 장비 · GPU 가격
로컬 LLM용 장비 가격이 성능 개선 폭보다 크게 올랐다
WHAT HAPPENED
•

커뮤니티에서는 중고 RTX 3090의 가격 변화 사례가 공유됐습니다. 몇 주 전 1,200달러 수준이던 가격이 현재 이베이 최저가 기준 1,500달러에 가까워졌다는 내용입니다①.

•

미니포럼의 신제품 MS-S1 MAX-P495는 약 7,799유로로 책정됐습니다. 메모리 용량은 50% 늘고 성능은 5~10% 향상된 수준에 그쳐, 가격이 두 배로 오른 것에 비해 실효성이 낮다는 비판이 제기됐습니다. 최근 출시된 M5 울트라 스튜디오와 비교해 가격 경쟁력이 떨어진다는 지적도 나왔습니다②.

WHAT IT MEANS

이번 사례들에서 로컬 AI 구동 장비의 가격은 성능 향상 폭과 같은 속도로 움직이지 않았습니다.

중고 GPU는 같은 제품인데도 몇 주 사이 가격이 올랐습니다. 신제품 미니PC는 메모리와 성능 개선 폭에 비해 가격 상승 폭이 크다는 평가를 받았습니다. 두 사례는 개인 사용자와 커뮤니티의 관찰이므로 시장 전체의 가격 추세로 확대할 수는 없습니다. 다만 모델을 직접 구동하는 방식을 비교할 때 장비 가격이 사양 개선과 별개로 움직일 수 있음을 보여주는 사례로 볼 수 있습니다.

본 콘텐츠는 공개된 사실 및 정보를 바탕으로, 당사의 편집 기준에 따라 생성형 인공지능(AI)에 의해 생성되었습니다. 최종 내용은 원문 대조 및 검수를 거쳐 발행하며, 참고한 각 자료의 저작권은 해당 저작권자에게 있습니다.

ONE AI 세미나 신청
구매상담
1688
5000