【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]GPU 비용 부담에 ‘작고 효율적인 AI’ 뜬다… 기업 시장 파고드는 경량 모델

온카뱅크관리자

2026-10-06 16:47:26

<div id="layerTranslateNotice" style="display:none;"></div> 연산 부담 낮춘 경량 AI 모델로 고객 공략 업스테이지 “양자화 적용하면 GPU 1장으로 솔라 미니4 구동” 네이버는 국방에, LG는 스마트폰에 경량 AI 모델 도입 “경량 모델 성공 관건은 품질 유지와 운영비 절감” 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="8k0AtD9UaU">
 <figure class="figure_frm origin_fig" contents-hash="2d136ad2b62400e8435ffc2961783fb329256b7a8cfe243ae19c1112b189e108" dmcf-pid="6EpcFw2ukp" dmcf-ptype="figure">
 <img alt="그래픽=챗GPT 달리" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/06/chosunbiz/20261006164316153qapu.jpg" data-org-width="1672" dmcf-mid="4LHiWgUZAu" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/06/chosunbiz/20261006164316153qapu.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 그래픽=챗GPT 달리
 </figcaption>
 </figure>
 초거대 인공지능(AI) 개발 경쟁을 벌이는 국내 기업들이 ‘작고 효율적인 AI’를 앞세워 기업 고객 공략에 나섰다. AI 도입에 필요한 그래픽처리장치(GPU) 확보 비용과 운영비가 부담으로 작용하면서, 적은 연산 자원으로 구동할 수 있는 경량 모델의 중요성이 커지고 있기 때문이다.
 업스테이지·네이버클라우드·LG AI연구원 등은 업무와 구동 환경에 맞춘 경량 모델을 잇달아 선보이고 있다. 기업 내부 서버에서 운영하는 AI부터 국방·스마트폰용 AI까지 적용 범위를 넓혀 고객 수요를 잡겠다는 전략이다.
 ◇ 필요한 부분만 연산… 기업 내부 서버 공략
 6일 업계에 따르면 AI 인프라 시장에서는 GPU 임대료를 올리는 사례가 나오고 있다. 로이터통신은 AI 클라우드 기업 네비우스가 이달 1일부터 일부 엔비디아 GPU의 종량제 임대료를 인상한다고 보도했다. 3개월 사이 두 번째 인상이다.
 국내 AI 기업들은 연산 부담을 줄인 모델로 기업 시장을 공략하고 있다. 업스테이지는 이달 1일 소형 언어모델 ‘솔라 미니4’를 공개했다. 회사가 밝힌 전체 파라미터 규모는 350억개지만, 실제 추론 과정에서 활성화하는 파라미터는 약 30억개다. 입력에 따라 필요한 전문가 영역만 선택하는 전문가혼합(MoE) 구조를 적용했다.
 업스테이지는 모델이 사용하는 수치의 정밀도를 낮추는 양자화 기술을 적용하면 GPU 1장으로도 구동할 수 있다고 설명했다. 주요 공략 대상은 기업·공공기관이 자체 서버에 AI를 설치하는 온프레미스 시장이다. 외부 AI 서비스를 이용하기 어려운 조직에 상대적으로 적은 장비로 운영할 수 있는 모델을 공급하겠다는 구상이다.
 고성능 모델과 경량 모델의 역할도 나눴다. 복잡한 에이전트 업무에는 ‘솔라 프로’를, 대규모 업무 자동화에는 ‘솔라 미니’를 공급한다. 고객의 업무와 예산에 맞춰 제품을 선택할 수 있도록 한 것이다.
 ◇ 국방부터 스마트폰까지… 활용처 넓히는 경량 AI
 경량 AI의 활용처는 보안이 중요한 국방 분야와 연산 자원이 제한된 스마트폰 등으로도 넓어지고 있다. 국방 분야에서는 민감한 데이터를 외부로 보내지 않는 운영 환경이, 스마트폰에서는 제한된 메모리와 연산 자원으로 AI를 실행하는 능력이 중요하다.
 네이버클라우드가 지난 6월 공개한 ‘하이퍼클로바X SEED 4B’는 국방 분야의 이런 수요를 겨냥했다. 텍스트와 이미지·영상·음성을 처리하는 경량 옴니모달 모델로, 드론과 전술차량 등에서 실시간 분석이 가능하도록 설계했다.
 회사에 따르면 기존 80억개 파라미터급 언어모델에서 불필요한 부분을 덜어내는 프루닝과 대형 모델의 지식을 작은 모델에 전달하는 지식 증류 기술을 적용해 규모를 줄였다. 드론·해안 감시 영상의 객체 탐지, 위성사진 변화 분석, 군용 장비 인식 등이 주요 활용 분야다. 민감한 군사 정보가 외부로 유출되지 않도록 폐쇄망 안에서 모델과 인프라를 배포·운영하는 체계도 추진하고 있다.
 LG AI연구원은 스마트폰에서 직접 실행하는 AI에 경량 모델을 활용하고 있다. 지난해 7월 ‘엑사원 4.0’을 공개하면서 320억개 파라미터 모델과 12억개 파라미터 온디바이스 모델을 함께 선보였다. 온디바이스 AI는 클라우드 서버를 거치지 않고 기기 안에서 연산하는 방식이다.
 LG AI연구원과 LG유플러스는 이 경량 모델을 기반으로 AI 비서 ‘익시오’의 통화 분석과 ‘AI 전화 대신 받기’ 기능을 고도화했다. LG AI연구원은 지난 7월 공개한 협업 내용에서 통화 분석을 단말 내부에서 처리하도록 전환해 클라우드 서버 의존도와 인프라 비용을 낮췄다고 설명했다. 여러 통화 관련 작업을 하나의 모델이 수행하도록 학습해 메모리 사용 부담도 줄였다.
 ◇ 모델 크기보다 중요한 건 실제 운영비
 경량 모델의 연산량 감소가 실제 비용 절감으로 이어지는 정도는 도입 환경에 따라 달라진다. 자체 서버에서 운영할 때는 GPU 사양과 수량, 메모리·전력 비용 등을 함께 따져야 한다. GPU 1장으로 모델을 구동할 수 있더라도 다수 직원의 요청을 동시에 처리하려면 추가 장비가 필요할 수 있다. 외부 모델을 API로 이용할 때는 AI가 텍스트를 처리하는 단위인 ‘토큰’당 가격과 사용량도 중요하다. 토큰당 가격이 낮더라도 업무 한 건을 처리하는 데 많은 토큰이 필요하면 전체 이용료는 늘어날 수 있다.
 반복적인 문서 처리나 정형화된 고객 응대는 경량 모델에 맡기고, 복잡한 추론이 필요한 작업은 대형 모델로 처리하는 ‘멀티모델’ 방식도 대안이다. 업무 난이도에 맞춰 모델을 배분해 정확도와 비용 사이의 균형을 찾으려는 접근이다.
 국내 AI 소프트웨어 업체 관계자는 “오류로 재작업이나 검수가 늘어나면 경량 모델의 비용 절감 효과가 줄어든다”며 “결국 기업이 따져야 할 것은 모델의 크기보다 같은 업무를 얼마나 정확하고 빠르게, 적은 비용으로 처리할 수 있는지가 될 것”이라고 했다.
 - Copyright ⓒ 조선비즈 &amp; Chosun.com -
 </section> 
 </div> 
 Copyright © 조선비즈. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기