【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스][AI 클로즈업] AI 업계 덮친 '토큰 전쟁'… 모델 다이어트·반값 경쟁

온카뱅크관리자

2026-07-12 07:57:28

<div id="layerTranslateNotice" style="display:none;"></div> 기업은 컨텍스트 압축·모델 라우팅, 공급사는 가성비 모델 경쟁 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="9bSRSImjS9">
 <figure class="figure_frm origin_fig" contents-hash="a552a24c865d29f442c04025da28725ba8e85036857ebcc205224d787d1a248a" dmcf-pid="2VWiWSCElK" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/12/552796-pzfp7fF/20260712075701010acmd.jpg" data-org-width="640" dmcf-mid="KfcbcaLxS2" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/12/552796-pzfp7fF/20260712075701010acmd.jpg" width="658">
 </figure>
 [디지털데일리 구아현기자] 인공지능(AI) 업계에 '토큰 전쟁'이 벌어지고 있다. 청구서가 눈덩이처럼 불어난 기업들은 값비싼 모델 대신 필요한 작업에만 골라 쓰는 '모델 다이어트'에 나섰고, 공급사들은 가격을 낮춘 '가성비 모델' 경쟁으로 맞서고 있다. 이 틈을 타 중국 모델들이 성능과 가격을 동시에 앞세워 존재감을 키우고 있지만 정작 국내 고객들은 여전히 중국산 AI에 대한 신뢰성 장벽이 존재하는 이중적인 현상도 함께 나타나고 있다.
 AI 에이전트 확산으로 기업이 부담하는 토큰 소비량이 폭증하면서 국내 기업들이 모델을 골라 쓰는 '최적화'에 나서고 있다. 스스로 자료를 검색하고 도구를 호출하는 AI 에이전트는 작업 1건당 토큰 소비량이 기존 챗봇 대비 최소 50배, 많게는 500배에 달한다. 골드만삭스는 전 세계 토큰 소비량이 올해 월 5000조개에서 2030년 월 12경개로 24배 늘어날 것으로 전망했다.
 가트너도 최근 보고서에서 "토큰 평균 가격은 낮아지고 있지만 기업이 실제 부담하는 완료 작업당 비용은 오히려 오르고 있다"고 지적했다. 시리얼 박스 가격은 그대로인데 내용물만 주는 상황에 빗대 '토큰 슈링크플레이션'이라는 표현을 썼다. 가트너는 2028년까지 프런티어 모델의 완료 작업당 비용이 4배 이상 오를 것으로 내다봤다.
 10일 업계에 따르면 최근 메모리·SSD 가격 급등도 부담을 더하고 있다. 한 AI 스타트업 관계자는 "4TB SSD 가격이 2주 전 130만원에서 이번 주 280만원으로 뛰었다"며 자체 GPU 서버실 신규 구매 비용이 70%가량 올랐다고 밝혔다. 다만 또 다른 업계 관계자는 "하드웨어 단가가 오르더라도 클라우드 사업자 간 경쟁과 알고리즘 효율화가 이를 상쇄하고 있어 서비스 요금이 급격히 바뀔 수준은 아니다"라고 설명했다. 원가 압박은 존재하지만 청구서를 실제로 밀어 올리는 주된 요인은 토큰 소비량 증가 자체라는 얘기다.
 ◆ "압축하고, 골라 쓴다"… 기업들 토큰 효율화
 업계에서 토큰을 줄이는 방법으로 가장 많이 활용하는 것은 '컨텍스트 압축'과 '모델 라우팅' 두 가지다. 불필요한 텍스트를 걷어내 입력 토큰 자체를 줄이는 방식과, 작업 난이도에 맞는 모델을 골라 써 비용을 낮추는 방식이다.
 회의록 서비스 다글로를 운영하는 액션파워도 '컨텍스트 압축'과 '모델 라우팅'으로 대응하고 있다. 컨텍스트 압축은 3단계로 이뤄진다. 회의 초반 스몰토크 등 정보값이 없는 부분을 걷어내고, 같은 의미를 더 짧게 재구성한 뒤, 필요한 기록만 선택적으로 불러온다. 액션파워 관계자는 "텍스트가 길어질수록 모델이 앞뒤 내용에만 집중하고 중간 부분을 놓치는 현상이 있다"며 "토큰을 줄이는 일은 비용뿐 아니라 답변 품질을 위해서도 필요하다"고 말했다.
 모델 라우팅은 사용자 요청을 먼저 분석해 요약·슬라이드 제작 등 작업 유형에 맞는 모델을 자동으로 연결하는 방식이다. 액션파워는 빅테크 모델과 자체 경량 모델 '엘리'를 조합하는 하이브리드 구조를 구축해 API 비용을 낮추고 있다.
 법률·정책 AI 플랫폼 챗코딧을 운영하는 코딧은 지난 1년간 클라우드·API 비용이 10~15배 늘었다고 밝혔다. 이 회사는 작업별로 모델을 세분화해 번역에는 상대적으로 저렴한 모델을, 복잡한 분석 업무에는 좀 더 상위 모델을 쓰는 식으로 대응하고 있다. 코딧 관계자는 "사내 개발에서도 간단한 버그 수정에는 저렴한 모델을, 핵심 로직에는 고성능 모델을 투입해 최대 2~3배의 비용 차이를 관리한다"고 밝혔다.
 해외에서도 비슷한 흐름이 나타난다. 가트너에 따르면 우버는 직원 1인당 월 1500달러의 토큰 사용 상한을 도입했고, 월마트도 AI 예산 게이트를 적용했다. 메타·마이크로소프트·세일즈포스에서도 유사한 사례가 보고됐다. 국내에서는 안랩이 깃허브 코파일럿 사용량을 월 3000크레디트로 제한했고, 넷마블·NHN·크래프톤 등이 한도 도입을 검토하고 있다.
 ◆ 반값 AI 경쟁… 주역은 중국 모델
 기업과 개발자들이 토큰 씀씀이를 줄이고 가성비를 따지기 시작하자 공급사들도 가격을 낮추는 경쟁에 뛰어들었다. 메타는 지난 9일 개발자용 유료 API를 처음 열며 100만 토큰당 입력 1.25달러, 출력 4.25달러를 책정했다. 앤트로픽 고성능 모델보다 낮다. 하루 앞서 스페이스XAI도 '그록 4.5'를 공개하며 클로드 오퍼스 4.8 대비 입력 비용 60%, 출력 비용 76% 낮은 요금을 내걸었다.
 오픈AI도 9일(현지시간) 성능과 가격을 동시에 앞세운 'GPT-5.6'을 정식 출시하며 가세했다. 최상위 '솔(Sol)', 중급 '테라(Terra)', 보급형 '루나(Luna)' 3단 체계로 나눠 가격을 차등화한 게 특징이다. 일상 업무용인 테라는 기존 GPT-5.5와 비슷한 성능을 절반 가격(100만 토큰당 입력 2.5달러·출력 15달러)에 제공하고, 최저가 모델 루나는 입력 1달러·출력 6달러로 책정됐다
 가격 공세 실질적 배경은 중국 모델이다. 딥시크가 지난 4월 프리뷰로 내놓은 '딥시크-V4-프로'는 코딩 벤치마크에서 GPT-5.4와 대등한 성적을 냈고, 가격은 클로드 오퍼스 4.7의 10~20% 수준이다. 지푸AI가 6월 공개한 'GLM-5.2'는 공개 가중치 모델 중 최상위권 성능을 기록해 일부 평가에서 구글 제미나이를 앞섰다는 평가도 나왔다. 이용료는 100만 토큰당 약 4.40달러다. 미니맥스의 신형 'M2.7'은 동급 모델 대비 최대 3분의 1 수준 가격에 소프트웨어 개발 실무 평가에서도 균형 잡힌 성능을 보였다.
 다만 국내에서는 중국 모델에 대한 인식이 아직 조심스러운 편이어서 도입 속도가 더딘 모습이다. 한 AI 업체 관계자는 "금융사·관공서·병원 등 B2B 고객사들도 소비자 인식 때문에 중국 모델 도입을 선호하지 않고 있다"며 "인터넷이 차단된 온프레미스 환경이라 데이터 유출 위험이 없는 경우에도 고객들의 거부감이 있는 경우가 있다"고 말했다.
 이에 국내 기업들은 '투트랙' 전략도 한 방안으로 적용하고 있다. 비용이 중요한 내부 개발·백엔드에는 중국 모델을, 신뢰가 걸린 고객 대면 영역에는 클로드·GPT를 그대로 쓰는 방식이다. 마이크로소프트가 코파일럿 서비스 이면에 딥시크를 결합해 쓰는 구조와 닮은셈이다. 한 업계 관계자는 "고객 서비스에는 아마 계속 클로드나 GPT를 쓸 것"이라며 "대신 내부적으로 개발할 때 쓰는 모델은 따로 저렴한 모델을 쓰는 것을 고려하고 있다"고 말했다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기