【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]노타 CTO "AMD 칩서 AI 추론 성능 최대 30% 개선…GPU·NPU 동시 활용"

온카뱅크관리자

2026-11-04 15:57:26

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="7xEZYD2u1Q">
          <figure class="figure_frm origin_fig" contents-hash="6298ead8dcf1d4a7eee2ffe5be324cfa7503a8e36d2f8c1872aa0d7d01311e8a" dmcf-pid="zNvqUTd81P" dmcf-ptype="figure">
           <p class="link_figure"><img alt="김태호 노타 최고기술책임자(CTO)가 4일 서울 강남구 웨스틴 서울 파르나스 호텔에서 열린 'AMD Advancing AI World Tour Seoul 2026'에서 발표를 하고 있다./사진=구자윤 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/04/moneytoday/20261104154843897zjpc.jpg" data-org-width="1200" dmcf-mid="uT7JMzsAHx" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/04/moneytoday/20261104154843897zjpc.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            김태호 노타 최고기술책임자(CTO)가 4일 서울 강남구 웨스틴 서울 파르나스 호텔에서 열린 'AMD Advancing AI World Tour Seoul 2026'에서 발표를 하고 있다./사진=구자윤 기자
           </figcaption>
          </figure>
          <p contents-hash="d5d53bf8aa35810dae4616e4f7107aceb92519bb1e7a187d561f21d84d04c0b6" dmcf-pid="qjTBuyJ6H6" dmcf-ptype="general">국내 AI(인공지능) 최적화 기업 노타가 AMD 프로세서에서 GPU(그래픽처리장치)와 NPU(신경망처리장치)를 함께 활용해 AI 모델의 추론 성능을 최대 30% 개선했다. AI 에이전트가 최적화 작업을 자동으로 수행하는 방식으로 메모리 사용량과 전력 소모도 줄였다.</p>
          <p contents-hash="bdf89d8b609178e5f35813e972dd39906d96a90c0d7ade78e11b454fb2c86a49" dmcf-pid="BAyb7WiP18" dmcf-ptype="general">김태호 노타 CTO(최고기술책임자)는 4일 서울 강남구 웨스틴 서울 파르나스 호텔에서 열린 'AMD Advancing AI World Tour Seoul 2026'에서 이 같은 협력 사례를 공개했다. 노타는 AI 모델 최적화 플랫폼 '넷츠프레소'를 개발한 기업이다. 최근에는 AI 에이전트가 모델과 실행 소프트웨어를 분석해 최적화 작업을 수행하는 기술을 개발하고 있다.</p>
          <p contents-hash="62f642cd7a10cb2cdc56b8ea471a5073de922b2572af0ebb900e390a368c5419" dmcf-pid="bcWKzYnQG4" dmcf-ptype="general">김 CTO는 "AI 모델을 만드는 사람들은 자신의 모델이 어떤 NPU에서 구동될지 생각하면서 개발하지 않는다"며 "하드웨어 역시 다음 주에 어떤 AI 모델이 나올지 예측하고 만들 수는 없다"고 말했다. 이어 "이러한 간극을 줄이는 것이 우리가 하는 일"이라고 설명했다.</p>
          <p contents-hash="28030e9459c824df9c27edb5d3a29902d50b498efc10c1936bcd53c1ba9f3f79" dmcf-pid="KkY9qGLxtf" dmcf-ptype="general">이번에 공개한 사례는 AMD의 '라이젠 AI 맥스+ 395' 프로세서를 활용한 온디바이스 AI 최적화다. 노타는 AI 모델이 입력 정보를 처리하는 '프리필' 작업을 NPU에, 답변을 생성하는 '디코드' 작업을 GPU에 각각 배분했다. 일반적으로 두 장치에 작업을 나누면 AI 모델을 별도로 저장해야 해 메모리 사용량이 늘어날 수 있다. 노타는 이를 하나의 모델로 통합해 중복 저장 문제를 해결했다.</p>
          <p contents-hash="6c5e2633e07e6c8b0b9af577481e80d151baa0d202d6161ec146e0d94a32cd7e" dmcf-pid="9ohu3lMVHV" dmcf-ptype="general">김 CTO는 "프리필과 디코드를 NPU와 GPU에 나눠주면 모델을 두 개 갖고 있어야 하고 메모리도 두 배로 필요하다"며 "메모리가 금값인 시대에 이를 두 배로 활용하는 것은 용납하기 어렵다"고 말했다. </p>
          <p contents-hash="22b6ed24d53a8714ce10ed3b55de02c7623c66be8aa95ff99c15b4d4244e5f3e" dmcf-pid="2gl70SRf12" dmcf-ptype="general">특히 AI 에이전트가 모델과 실행 소프트웨어 등을 분석해 최적화 대상을 결정하고 성능 개선 작업을 반복하도록 했다. 김 CTO는 "코드가 문제인지, 실행 소프트웨어가 문제인지, 모델이 문제인지 에이전트가 스스로 판단하고 최적화한다"고 설명했다.</p>
          <p contents-hash="7d2b3e263b5f53be54bc755cce951c422a686bdd93fba9a1ad049c2508906a0c" dmcf-pid="V2ovCgu519" dmcf-ptype="general">노타는 라마, 큐웬, 파이, 미스트랄 등 여러 AI 모델에 이 기술을 적용한 결과 기존 대비 약 11~30%의 성능 개선 효과를 확인했다고 밝혔다. NPU의 낮은 전력 소비 특성을 활용해 토큰당 에너지 사용량도 줄였다는 것이다. </p>
          <p contents-hash="744d8621d6599def59af2f007f0e07528cfc98016808fe6d445ffc6ee23bf7b7" dmcf-pid="fVgTha715K" dmcf-ptype="general">노타는 AMD와의 협력을 기업 내부 서버와 클라우드, 피지컬 AI 영역으로 확대할 계획이다. 김 CTO는 "휴머노이드 로봇의 두뇌가 클라우드에 있다면 굉장히 불안할 것"이라며 "네트워크가 끊어졌다고 로봇이 쓰러져서는 안 되는 만큼 AI 모델이 기기 내부에서 작동해야 한다"고 설명했다.</p>
          <p contents-hash="d9660a0a4b5883d4e735b989ecc74b7a60fa2674c21d6f62152be4ce8abee520" dmcf-pid="4faylNztYb" dmcf-ptype="general">구자윤 기자 jykoo@mt.co.kr<br><a href="https://www.mt.co.kr/?utm_source=daum&amp;utm_medium=article_text_ad&amp;utm_campaign=mystocksolution" target="_blank">[내 주식이 궁금할땐 머니투데이]</a></p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 머니투데이 &amp; mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기