【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]“챗GPT 3.5 대비 파라미터 수 40분의 1″… 가성비 AI 모델 뜬다

온카뱅크관리자

2025-04-11 17:47:29

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">산업 맞춤형 경량화 AI 모델 증가</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="YYizknNfk1">
          <figure class="figure_frm origin_fig" contents-hash="1e5f26711d60158bbb632faa465890a62c7c1952bc94ea184359aef7719d6b38" dmcf-pid="GGnqELj4a5" dmcf-ptype="figure">
           <p class="link_figure"><img alt="오픈AI의 챗GPT / 연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202504/11/chosunbiz/20250411173926242uzsq.jpg" data-org-width="4019" dmcf-mid="WjJ7ciaVot" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202504/11/chosunbiz/20250411173926242uzsq.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            오픈AI의 챗GPT / 연합뉴스
           </figcaption>
          </figure>
          <p contents-hash="c7eea706307e61dd1d4baf36fec2dad7ef0bd80519a12cef34ee4d705c24e004" dmcf-pid="HHLBDoA8aZ" dmcf-ptype="general">챗GPT와 같은 범용 인공지능(AI) 모델의 한계가 드러나면서 비용은 낮추고 정확도를 높인 산업 맞춤형 소형 AI 모델이 주목받고 있다. 방대한 양의 데이터를 학습해 답변을 내놓는 기존 거대언어모델(LLM) 기반 범용 AI가 비싸고 전문성이 떨어진다는 지적이 잇따르자, 특정 산업에 특화된 소규모언어모델(SLM) 기반 AI 모델을 찾는 기업이 늘고 있다.</p>
          <p contents-hash="f0050ae1b84ec62fd7f962478fe242de3815879ca7d7e45e2dea7e26e6105a8e" dmcf-pid="XXobwgc6aX" dmcf-ptype="general">11일 시장조사업체 가트너는 기업이 2027년까지 특정 작업에 특화된 SLM을 도입하면서 SLM의 전체 사용량이 범용 LLM 사용량보다 최소 3배 이상 증가할 것으로 전망했다. 가트너는 “범용 LLM은 언어 처리 능력이 뛰어나지만, 특정 산업 분야의 전문성이 요구되는 작업에서는 응답 정확도가 떨어진다”며 “SLM은 응답 속도가 빠르고 컴퓨팅 자원을 적게 소모해 운영·유지 관리 비용을 절감할 수 있다”고 했다.</p>
          <p contents-hash="5807b4936258e067c767fae5e0dbdb491bab1e9d22dcc1e9852d3cfec9d50244" dmcf-pid="ZZgKrakPkH" dmcf-ptype="general">SLM은 LLM을 압축한 경량화 AI 모델로, 매개변수(파라미터)가 수억에서 수십억 개 수준이다. 적게는 수천억 개에서 많게는 1조개가 넘는 파라미터를 보유한 LLM보다 학습하는 데이터 양이 적어 보다 빠르고 정확하게 정보를 전달한다. 전력 소모량은 물론 학습과 추론에 필요한 그래픽처리장치(GPU) 부담도 적어 비용이 더 저렴하다. 대표적으로 오픈AI 챗GPT 3.5의 파라미터 수는 1750억개인 반면, 지난해 출시된 마이크로소프트(MS)의 파이-3-미니의 파라미터 수는 38억개로 약 45분의 1 수준이다.</p>
          <p contents-hash="7d31b60e4fe6306045871bbd30166a0760fd1b38a53b7ae732e897f0e59fe733" dmcf-pid="5qsRWOSgAG" dmcf-ptype="general">전문가들은 챗GPT 등 범용 LLM이 다양한 작업을 처리할 수 있다는 장점이 있지만, 의료, 금융, 법률, 제조 등 고도로 특화된 분야에서 요구하는 정확도는 떨어질 수 있다고 지적한다. 일례로 사용하는 용어나 문서 구조가 정해진 법률 분야는 추상적인 답변을 제공할 가능성이 있는 챗GPT보다 판례 정리·요약에 특화된 AI가 더 적합하다. 또 스마트폰, 자동차 등 기기나 모빌리티에 장착하려면 경량화 AI 모델이 필요하는 게 업계 관계자들의 설명이다.</p>
          <p contents-hash="c2a7d3ec55dd94ce19234f9bb07b21f8bf7b198d8e1086adc134e2554f34ea1b" dmcf-pid="1BOeYIvaNY" dmcf-ptype="general">초거대 AI 모델 개발에 주력하던 구글, 마이크로소프트(MS), 오픈AI 등 빅테크들도 고객이 선호하는 소형 모델로 눈을 돌리는 추세다.</p>
          <p contents-hash="a8a2515d1d79d1dc364bb95fc7e8a4bed35705a74319014232bebeba121439a6" dmcf-pid="tbIdGCTNAW" dmcf-ptype="general">구글은 LLM 제미나이 2.5의 경량화 모델 제미나이 2.5 플래시를 최근 ‘구글 클라우드’ 행사에서 공개했다. 구글은 이 모델이 실시간 요약과 문서 탐색에 적합하고, 프롬프트의 복잡성에 따라 추론 수준을 조정할 수 있다고 설명했다. 또 기업이 예산에 맞춰 모델 성능을 최적화할 수 있다.</p>
          <p contents-hash="dd2c318a6b4de92b81f748cca72dd521fe0d96a3853f914244c391640e8f02dc" dmcf-pid="FKCJHhyjay" dmcf-ptype="general">앤트로픽도 기존 LLM 모델보다 비용을 대폭 낮추고 속도는 3배 빠른 클로드 3.5 하이쿠 모델을 지난해 선보였다. 이 모델의 경우 출력 비용이 100만 토큰당 0.8달러로, LLM 클로드 오푸스의 $75달러의 80분의 1 수준이다. 미스트랄AI도 비용이 LLM 모델에 비해 95% 저렴한 미스트랄 7B를 내놓았다.</p>
          <p contents-hash="f94aec9b21453e6bca058964ad6fcf7051d37fce552e895f846ce67de862d182" dmcf-pid="39hiXlWAkT" dmcf-ptype="general">스탠퍼드대 인간중심AI연구소(HAI)는 지난주 발간한 ‘AI 인덱스 2025’ 보고서에서 소형 AI 모델의 부상에 주목했다. 보고서는 “그간 AI 발전은 모델 크기와 학습 데이터를 늘리는 스케일링(scaling)을 중심으로 이뤄졌지만, 최근 주목할 만한 흐름은 고성능 소형 AI 모델의 등장”이라며 “알고리즘 효율성이 높아졌고 더 적은 양의 데이터와 낮은 학습 비용으로도 좋은 성과를 낼 수 있게 되면서 소형 AI 모델이 부상하고 있다”고 했다.</p>
          <p contents-hash="96c8dcbc61429304d49ea86fa92ba9523847ccc6e026b71bdd8744ced23072c2" dmcf-pid="02lnZSYcjv" dmcf-ptype="general">- Copyright ⓒ 조선비즈 &amp; Chosun.com -</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 조선비즈. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기