【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]LG유플러스, 옵트에이아이와 AI 최적화…AI 토큰 생산비 낮춘다

온카뱅크관리자

2026-10-02 17:47:26

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">옵트에이아이와 토큰 최적화 공동 연구<br>같은 GPU서 처리량 최대 4배<br>AI 연산 비용·시간 절감 목표로<br>온디바이스서 서버로 연구 확대</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="p8sGzn5TC3">
          <figure class="figure_frm origin_fig" contents-hash="691cc63407c8980c1951a17d42409861eb857bfadc896aaa81f914c362ebf701" dmcf-pid="UzNI56SrvF" dmcf-ptype="figure">
           <p class="link_figure"><img alt="이상엽 LG유플러스 CTO(전무)와 이재호 옵트에이아이 대표(오른쪽)가 토큰 최적화 협력과 관련해 기념촬영을 하고 있다. LG유플러스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/02/mk/20261002174508121vixw.jpg" data-org-width="700" dmcf-mid="0S0VnS6bl0" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/02/mk/20261002174508121vixw.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            이상엽 LG유플러스 CTO(전무)와 이재호 옵트에이아이 대표(오른쪽)가 토큰 최적화 협력과 관련해 기념촬영을 하고 있다. LG유플러스
           </figcaption>
          </figure>
          <div contents-hash="7970a0cba9ce9a06f1ac104f24fa23762c610f83e307f3226f63eb6cc4d28dfc" dmcf-pid="uqjC1Pvmyt" dmcf-ptype="general">
           LG유플러스가 인공지능(AI) 모델 최적화 기업 옵트에이아이와 손잡고 같은 그래픽처리장치(GPU)로 처리할 수 있는 AI 작업량을 늘리는 기술 개발에 나선다. AI가 생성하는 토큰의 생산과 공급으로 넓히면서 GPU와 전력 사용 효율을 높여 운영 비용을 낮추겠다는 구상이다.
          </div>
          <p contents-hash="de43002c2f1e15c4bc374b8c62f0bcc2064639c3f011267ef967a5e80650fcd8" dmcf-pid="7BAhtQTsl1" dmcf-ptype="general">2일 LG유플러스는 옵트에이아이와 AI 모델의 ‘토큰 최적화’ 기술을 공동 연구한다고 밝혔다. 양사는 기존 스마트폰 등 기기 내부에서 AI를 구동하는 온디바이스 AI에 이어 서버 GPU 환경까지 공동 연구 범위를 확대한다.</p>
          <p contents-hash="83b6cc73354309fa7b67cd793ed0bf1a2dc20a7b23cdfa7e5b498e8449893f5f" dmcf-pid="zbclFxyOW5" dmcf-ptype="general">토큰 최적화는 모델의 크기를 줄이는 경량화를 넘어 AI 요청을 GPU에 배정하는 방식과 GPU 자원 활용 방법 등 AI가 답변을 만들어내는 전 과정을 효율화하는 기술이다. 정성권 LG유플러스 AX서비스개발그룹장(전무)은 “토큰 최적화는 모델 경량화를 포함해 서빙 최적화와 아키텍처 최적화, 실행 최적화까지 아우른다”고 설명했다.</p>
          <p contents-hash="f1b425d6bc4f5a80529e10a0241d04524a4a3d162b0d08cd8372d112287635cb" dmcf-pid="qKkS3MWICZ" dmcf-ptype="general">서버 GPU를 대상으로 진행 중인 연구에서는 초기 성과도 나왔다. 양사는 AI 모델이 답변을 생성하는 연산 과정을 실제 서비스 환경에 맞게 개선했다. 이후 같은 GPU에서 처리할 수 있는 토큰의 양을 기존 대비 최대 4배 높였다고 밝혔다. 향후 대규모 AI 서비스를 운영할 때 같은 GPU 자원으로 더 많은 이용자의 요청을 처리할 수 있도록 기술을 고도화할 계획이다.</p>
          <p contents-hash="a9c2022047f998e1097de4c7adecb8d730934d48cd577eec2e8d95ff2e4aa27c" dmcf-pid="B9Ev0RYCvX" dmcf-ptype="general">LG유플러스가 토큰 최적화에 나선 배경에는 AI 사업 확대에 따른 연산 수요 증가가 있다. 익시오(ixi-O)와 AI 콘택트센터(AICC), ‘모두의 AI’ 등 AI 서비스가 늘어날수록 이를 구동하는 GPU와 전력도 더욱 필요하기 때문이다. GPU를 계속 늘리는 방식만으로는 증가하는 토큰 수요와 비용 부담에 대응하기 어렵다고 판단한 것이다.</p>
          <p contents-hash="271f066a2ed420db92c03ce271cf8ba995b634192b2f73434df022b7450403e0" dmcf-pid="b2DTpeGhWH" dmcf-ptype="general">양사는 앞서 온디바이스 AI 분야에서도 협력해왔다. LG유플러스의 ‘엑사원(EXAONE)’ 기반 소형언어모델(sLM)에 경량화 기술을 적용해 스마트폰의 AI 전용 반도체인 신경망처리장치(NPU)에서 구동할 수 있도록 했다. LG유플러스는 스마트폰에서 축적한 최적화 기술을 서버용 엔비디아 GPU 환경으로 확대하고 있다.</p>
          <p contents-hash="82a6ca8e3e755268844e65d1fbbb3cec412c58b3a55fd1d0b0171a97230c7be2" dmcf-pid="KVwyUdHllG" dmcf-ptype="general">양사는 지난 1일 ‘Efficient AI 테크 세미나’도 공동 개최했다. 퓨리오사AI와 베슬에이아이, 한국전자기술연구원(KETI), 한양대학교 등이 참여해 AI 모델과 반도체, 인프라 등 각 영역의 운영 효율을 높이는 방안을 논의했다.</p>
          <p contents-hash="00a1d9996466256d09063b577b4a493255cfd1e5e7f78e2e8b84ac2c3e91f0f8" dmcf-pid="9frWuJXSSY" dmcf-ptype="general">LG유플러스는 확보한 최적화 기술을 익시오와 모두의 AI 등 자사 서비스와 대규모 AI 인프라에 단계적으로 적용할 계획이다. 장기적으로는 스마트폰 등 기기부터 클라우드와 서버까지 AI가 구동되는 환경 전반에서 토큰 생산 비용을 낮추는 역량을 확보한다는 목표다.</p>
          <p contents-hash="970ae7c9e0169cddbf8a30c22796bda0bdb11ac5a6739e5db9d82eab7dd12d2b" dmcf-pid="2frWuJXSyW" dmcf-ptype="general">이상엽 LG유플러스 최고기술책임자(CTO)는 “AI 경쟁력은 단순히 성능을 높이는 것을 넘어 같은 자원으로 얼마나 많은 토큰을 효율적으로 처리할 수 있느냐에 달려 있다”며 “토큰 최적화 기술 연구를 확대하고 실제 서비스에 적용할 수 있는 성과를 만들어 나가겠다”고 말했다.</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기