본문 바로가기

주메뉴 바로가기

전체메뉴

미디어룸

오늘을 넘어 미래의 가치를 만드는 더존ICT그룹의 소식을 만나보세요.

모델 크기 표기만으로 드러나지 않는 활성 파라미터·KV캐시 설계

AI 트렌드2026.10.06
AI 트렌드

넘쳐나는 전 세계 AI 이슈, 핵심만 골라 ‘ONE AI’가 브리핑해 드립니다

01 / 03활성 파라미터 · KV캐시
계산에 쓰는 파라미터와 캐시를 두는 레이어를 각각 일부로 제한한 모델
WHAT HAPPENED
•

Beam 공개 예고 게시글에서는 전체 501B 파라미터 가운데 23B만 활성 파라미터(한 번의 처리에서 실제 계산에 쓰이는 파라미터)인 모델이 소개됐습니다①.

•

Agens Volundr 32B는 전체 72개 레이어 중 18개 레이어에만 KV캐시를 유지하는 하이브리드 구조로 소개됐습니다. KV캐시는 앞서 처리한 내용을 다시 계산하지 않도록 저장해 두는 중간 결과이며, 이 모델은 262K 컨텍스트 조건에서도 답변을 한 토큰씩 만들어 내는 디코딩 속도를 효율적으로 유지했다고 공유됐습니다②.

WHAT IT MEANS

이번 두 모델은 이름에 붙은 크기 숫자와, 실행 중 실제로 계산하거나 정보를 저장하는 범위가 서로 다르게 설계돼 있습니다.

Beam은 계산에 참여하는 파라미터를 전체의 일부로 제한했고, Volundr는 이전 처리 결과를 저장하는 레이어를 일부로 제한했습니다. 같은 '전체 중 일부만 쓰는' 설계라도 제한한 대상이 파라미터와 캐시로 서로 달라, 하나의 경량화 방식으로 묶어 보기는 어렵습니다.

모델을 비교할 때 전체 파라미터 수와 활성 파라미터 수를 나눠 보고, 속도 수치가 한 번에 처리할 수 있는 입력량인 컨텍스트 길이를 얼마로 둔 조건에서 나왔는지를 별도 항목으로 둘 수 있습니다.

02 / 03응답 완결성 · 모호한 표현
상용 모델 답변에서 빠진 내용과 흐려진 표현이 각각 문제로 제기됐다
WHAT HAPPENED
•

한 사용자 사례에서는 GPT-5.6 Sol이 웹 검색 도구를 사용하고도 거주 도시 버스 노선의 약 30%만 답했고, 추가로 질문할 때마다 사과와 함께 30%, 35%를 더 내놓았습니다. 같은 질문에 Gemini Flash 3.8은 첫 시도에서 완전한 답변을 제공한 것으로 공유됐습니다①.

•

다른 게시글에서는 Sol 5.6과 Anthropic의 Fable 5.1, Opus 5.5가 'limitation', 'upper bound' 같은 모호한 용어를 자주 써서 자신의 한계나 실수를 분명히 드러내지 않는 경향이 있다는 주장이 제기됐습니다. 작성자는 이를 AI 생성 텍스트에 식별 패턴을 남기는 워터마킹 기능이 단어 선택에 영향을 준 결과일 수 있다고 추측했으나, 공식적으로 확인된 내용은 아닙니다②.

WHAT IT MEANS

이번 사용자 사례들에서 AI 답변의 문제는 틀린 내용이 아니라, 필요한 내용이 빠지거나 한계가 분명하게 드러나지 않는 방식으로 제기됐습니다.

버스 노선 사례에서는 질문을 거듭해야 답이 채워졌고, 용어 사례에서는 한계를 표현하는 단어 선택 자체가 문제로 지목됐습니다. 두 경우 모두 개별 사용자의 경험과 주장이어서 해당 모델 전반의 성능으로 넓힐 근거는 아니지만, 답변이 얼마나 빠짐없는지와 얼마나 분명한지가 정확도와는 별개의 항목으로 다뤄졌다는 점을 보여줍니다.

03 / 03AI 위험 · 퇴사 인터뷰
AI 개발의 위험을 두고 Sam Altman은 감수를, 전직 연구원들은 우려를 말했다
WHAT HAPPENED
•

Sam Altman은 Decoded와의 인터뷰에서 AI가 가져올 이점을 위해 세상이 어느 정도의 부정적인 일을 받아들여야 한다는 취지로 발언했습니다①.

•

OpenAI, Anthropic, DeepMind를 떠난 전직 연구원들의 퇴사 인터뷰가 공개됐으며, '자신의 직장이 세상을 파괴할 수 있다면 어떻게 하겠는가'라는 질문을 중심으로 내부에서 느낀 우려가 전해졌습니다②.

WHAT IT MEANS

AI 개발의 위험을 다룬 이번 발언들에서는 위험이 있다는 인식 자체보다, 그 위험을 어느 정도까지 받아들일 수 있는지에서 입장 차이가 드러났습니다.

Altman의 발언은 이점을 얻는 과정에서 일정한 부정적 결과를 감수하는 쪽에, 전직 연구원들의 인터뷰는 자신이 일했던 조직의 개발이 큰 피해로 이어질 가능성에 대한 우려 쪽에 무게를 뒀습니다. 두 발언 모두 AI 개발 기업과 직접 관련된 인물에게서 나왔다는 점에서, 위험을 판단하는 기준이 개발 현장 가까이에서도 하나로 정리되지 않았음을 보여줍니다.

본 콘텐츠는 공개된 사실 및 정보를 바탕으로, 당사의 편집 기준에 따라 생성형 인공지능(AI)에 의해 생성되었습니다. 최종 내용은 원문 대조 및 검수를 거쳐 발행하며, 참고한 각 자료의 저작권은 해당 저작권자에게 있습니다.

ONE AI 세미나 신청
구매상담
1688
5000