본문 바로가기

주메뉴 바로가기

전체메뉴

미디어룸

오늘을 넘어 미래의 가치를 만드는 더존ICT그룹의 소식을 만나보세요.

1조 파라미터와 처리량 6.43배, 수치마다 다른 기준

AI 트렌드2026.10.30
AI 트렌드

넘쳐나는 전 세계 AI 이슈, 핵심만 골라 ‘ONE AI’가 브리핑해 드립니다

01 / 06오픈웨이트 · MoE 구조
1조 파라미터 오픈웨이트 모델, 로컬 구동 안내까지 함께 나왔다
WHAT HAPPENED
•

Mistral은 플래그십 모델 Large 4(별칭 Le Chonk)의 가중치를 공개했습니다. 모델명 Mistral-Large-4-1T-A52B가 가리키듯 전체 파라미터는 1조 개이지만, 추론 시 실제로 활성화되는 파라미터는 약 52B입니다. 여러 전문가 모듈 중 일부만 골라 작동시키는 MoE(Mixture of Experts) 구조로 설계됐습니다①②.

•

Hugging Face에는 이 모델의 llama.cpp 지원 관련 블로그 글이 함께 게시돼, 로컬 환경에서 모델을 구동하려는 사용자를 위한 안내가 제공됐습니다③.

WHAT IT MEANS

이번 공개에서 '1조 파라미터'라는 규모와 실제 추론에 쓰이는 규모는 같은 숫자가 아닙니다. 전체 1조 개 중 약 52B만 활성화되는 구조여서, 모델 크기를 말할 때 어느 숫자를 기준으로 삼는지에 따라 받아들이는 규모가 크게 달라집니다.

이번 공개는 가중치 공개와 함께 llama.cpp 기반 로컬 구동 안내까지 나왔다는 점에서 내려받아 실행해 보는 단계까지 이어지는 형태로 제공됐습니다. 다만 이번 자료에는 구동에 필요한 하드웨어 조건이나 성능 수치가 제시되지 않았습니다. 실제로 어떤 환경에서 돌릴 수 있는지는 공개 사실과 별도로 봐야 할 부분입니다.

02 / 06AI 데이터센터 · 인프라 투자
AI 데이터센터, 자금 시장과 사업자 구도 양쪽에서 경고가 나왔다
WHAT HAPPENED
•

Bloomberg 보도를 인용한 게시글에 따르면, 월가의 AI 부채 발행 시장은 공급 과잉으로 어려움을 겪고 있으며 AI 데이터센터 투자금을 모으기가 점점 힘들어지고 있습니다①.

•

일론 머스크는 X 게시글에서 200개가 넘는 네오클라우드(AI 데이터센터 기반 클라우드 업체)가 대량 소멸과 통합을 겪을 것이라고 주장했습니다①.

WHAT IT MEANS

이번 자료에서 AI 데이터센터에 대한 우려는 두 방향에서 나왔습니다. 하나는 투자 자금을 대는 쪽이고, 다른 하나는 데이터센터 기반 서비스를 제공하는 사업자 쪽입니다.

Bloomberg 보도는 부채 발행 시장의 공급 과잉과 투자금 조달 여건이라는 현재 시장 상황을 다뤘습니다. 머스크의 발언은 네오클라우드 업체 수가 앞으로 크게 줄어들 것이라는 개인의 전망입니다. 같은 '경고'로 묶여 보이더라도, 보도된 시장 여건과 업계 인사의 예측은 근거의 성격이 달라 구분해서 읽을 필요가 있습니다.

출처
03 / 06형식 증명 · AI 수학
AI 수학 성과, 커널 검증 증명과 체험 사례의 근거 수준이 갈렸다
WHAT HAPPENED
•

2010년 Kullmann이 추측한 van der Waerden 수 W(2;3,21)=416이 Lean 4 커널로 검증된 형식 증명으로 입증됐습니다. 이 증명은 1부터 416까지의 수를 두 가지 색으로 칠하면 빨간색 3항 등차수열이나 파란색 21항 등차수열이 반드시 생긴다는 내용입니다. 209개 케이스와 3,866만 개 이상의 리프 논제를 다루며, 구글 딥마인드의 'Formal Conjectures' 목록에서 미해결로 남아 있던 문제였습니다. 증명은 Hupyy의 신경-기호 시스템 LPM(Large Proof Model)이 생성했고, 각 반박은 CakeML에서 검증된 LRAT 체커 cake_pr로 확인됐습니다①.

•

Reddit에서는 연구자들이 자신의 경력에서 가장 어려웠던 연구 문제를 AI에 던졌고, 모델이 이를 차례로 풀어냈다는 사례가 공유됐습니다②.

WHAT IT MEANS

같은 'AI가 어려운 수학 문제를 풀었다'는 소식이라도, 결과를 다시 검증할 수 있는 형태로 내놓았는지에 따라 근거의 무게가 다릅니다.

W(2;3,21) 증명은 증명의 각 단계를 프로그램이 정해진 규칙대로 확인하는 Lean 4 커널과, 별도로 검증된 체커를 거쳤습니다. 반면 연구자들이 공유한 사례는 모델이 문제를 풀었다는 경험담으로, 이번 자료에서는 같은 방식의 검증 절차가 제시되지 않았습니다.

AI의 연구·분석 성과를 소개하는 자료를 볼 때, 그 결과가 제3자가 독립적으로 다시 확인할 수 있는 형태로 제시됐는지를 판단 기준으로 둘 수 있습니다.

04 / 06모델 경량화 · 추론 토큰
모델 용량과 추론 토큰을 줄인 결과에 원본 대비 품질 차이가 함께 제시됐다
WHAT HAPPENED
•

NVIDIA의 30B 음성 LLM을 재학습 없이 67.5GB에서 10GB로 줄였다는 보고가 공유됐습니다. 압축 후 단어 오류율(WER, 낮을수록 정확)은 5.16%로, 교사 모델의 4.12%와 함께 제시됐습니다①.

•

UkisAI는 과도한 사고 토큰을 선별적으로 억제하는 방식으로, 정확도 손실을 1% 이내로 유지하면서 추론 토큰을 최대 61.4% 줄였습니다②.

WHAT IT MEANS

경량화 성과는 '얼마나 줄였는가'와 '그 대신 품질이 얼마나 달라졌는가'를 한 쌍으로 볼 때 의미가 분명해집니다.

두 사례는 줄인 대상이 다릅니다. NVIDIA 음성 모델 사례는 모델 자체의 용량을 줄였고, UkisAI 사례는 답을 내는 과정에서 생성하는 사고 토큰의 양을 줄였습니다. 품질도 각각 단어 오류율과 정확도라는 서로 다른 지표로 제시됐습니다. 따라서 두 수치를 나란히 놓고 어느 쪽이 더 효율적이라고 비교할 수는 없습니다.

경량화 사례를 볼 때 줄인 대상이 용량인지 토큰인지, 품질을 어떤 지표로 쟀는지, 비교 기준이 된 원본 모델이 무엇인지를 구분해 확인 항목에 포함할 수 있습니다.

05 / 06추론 처리량 · GPU 조건
처리량 '몇 배' 개선 수치는 특정 GPU와 측정 조건을 전제로 나왔다
WHAT HAPPENED
•

TKintegers는 5자리 균형 삼진 표현(K5)을 적용해, FP8을 기본 지원하는 L4 GPU에서 TorchAO FP8 대비 프리필(입력 처리 단계) 3.21배, 디코드(출력 생성 단계) 3.10배의 처리량을 기록했습니다①.

•

JSSA 논문은 저차원 쿼리-키 서브스페이스를 학습하는 방식으로, B200 GPU에서 128K 컨텍스트 기준 최대 6.43배의 디코딩 처리량을 보였습니다②.

WHAT IT MEANS

처리량이 몇 배 늘었다는 수치는 어떤 GPU에서, 무엇과 비교해, 어느 단계를 쟀는지가 함께 있어야 읽을 수 있는 숫자입니다.

TKintegers의 3.21배와 3.10배는 L4 GPU에서 TorchAO FP8을 기준으로 프리필과 디코드를 나눠 측정한 값입니다①. JSSA의 6.43배는 B200 GPU에서, 한 번에 처리할 수 있는 입력량인 컨텍스트 길이 128K를 기준으로 한 디코딩 처리량의 최댓값입니다②. GPU와 측정 조건이 모두 다르기 때문에 6.43배가 3.10배보다 두 배 앞선 기술이라고 볼 수는 없으며, 각 수치는 제시된 조건 안에서만 의미를 갖습니다.

06 / 06오픈소스 라이선스 · Qwen4
차기 Qwen 공개를 앞두고 자체 라이선스의 허용 범위가 쟁점이 됐다
WHAT HAPPENED
•

암스테르담에서 열린 Apsara 컨퍼런스에서 알리바바 클라우드 CTO가 Qwen4를 다음 주 출시한다고 밝혔습니다①.

•

커뮤니티에서는 Qwen3.8 Flash Next부터 적용된 알리바바 자체 라이선스가 Qwen4에도 이어질지에 대한 우려가 제기됐습니다. 지적된 조항은 크게 세 가지입니다. 상업용 MaaS나 독립형 코딩·오피스 AI 어시스턴트에는 처음부터 별도 라이선스가 필요하고, 내부 사용 시 모델이나 출력물을 제3자에게 제공할 수 없습니다. 또한 출력물에서 간접적으로 만들어진 코드나 데이터의 권리 범위는 명확히 규정되지 않았다는 점이 문제로 꼽혔습니다. 월 매출 2,000만 달러 또는 월간 활성 사용자 1억 명 기준은 상업 라이선스 필요 여부가 아니라 저작권 표시 의무의 기준으로 해석된다는 분석도 나왔습니다②.

WHAT IT MEANS

가중치를 내려받을 수 있다는 것과 업무·서비스에 자유롭게 쓸 수 있다는 것은 별개의 문제입니다.

커뮤니티는 이번 조항들이 Apache·MIT 같은 기존 오픈소스 라이선스와 달리 모호하다고 지적했습니다. 매출·사용자 수 기준이 무엇을 촉발하는지를 두고도 해석이 나오는 상황입니다. 이번 쟁점의 핵심은 조항의 적용 범위가 아직 명확히 정리되지 않았다는 점이며, Qwen4에 같은 라이선스가 적용될지는 이번 자료에서 확인되지 않았습니다.

업무용 오픈웨이트 모델을 볼 때 성능과 별도로, 내부 사용과 외부 서비스 제공의 구분, 출력물을 활용한 산출물의 권리 범위가 라이선스에 어떻게 규정돼 있는지를 구분해서 볼 필요가 있습니다.

본 콘텐츠는 공개된 사실 및 정보를 바탕으로, 당사의 편집 기준에 따라 생성형 인공지능(AI)에 의해 생성되었습니다. 최종 내용은 원문 대조 및 검수를 거쳐 발행하며, 참고한 각 자료의 저작권은 해당 저작권자에게 있습니다.

ONE AI 세미나 신청
구매상담
1688
5000