【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]CPU 역할 키우고 메모리 공유… 인텔·SK하이닉스, AI ‘추론 병목’ 해법 제시

온카뱅크관리자

2026-11-12 16:57:25

<div id="layerTranslateNotice" style="display:none;"></div> 인텔 ‘2026 AI 서밋 서울’ 개최 국내 23개 기업·기관과 ‘K-AI 풀스택 얼라이언스’ 출범 CPU·GPU·가속기 역할 나눠 추론 비용·전력 절감 추진 SK하이닉스, 공유 메모리 시험서 첫 응답 81% 단축 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="ZSjODY0Hcw">
 <figure class="figure_frm origin_fig" contents-hash="fa6fe02bc2439a1aee687e50c1e1a09e9fd5cba0f43a70e9458964da3048e078" dmcf-pid="5vAIwGpXAD" dmcf-ptype="figure">
 <img alt="12일 서울 강남구 코엑스에서 열린 ‘2026 인텔 AI 서밋 서울’ 행사 전경./정두용 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/12/chosunbiz/20261112165041096ghqi.jpg" data-org-width="3945" dmcf-mid="Y0oUtVe4kO" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/12/chosunbiz/20261112165041096ghqi.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 12일 서울 강남구 코엑스에서 열린 ‘2026 인텔 AI 서밋 서울’ 행사 전경./정두용 기자
 </figcaption>
 </figure>
 “인공지능(AI)을 구동할 그래픽처리장치(GPU)를 충분히 확보하는 것만으로는 안 됩니다. AI를 조율·관리·실행하려면 중앙처리장치(CPU)와의 균형이 필요합니다.”
 아닐 난두리(Anil Nanduri) 인텔 데이터센터 AI 제품 및 시장 진출(GTM) 전략 총괄(부사장)은 12일 서울 강남구 코엑스에서 열린 ‘2026 인텔 AI 서밋 서울’에서 이같이 말했다. 인텔은 이날 AI 기술 전략과 산업별 적용 사례를 공유하고, 국내 기업·기관 23곳이 초기 참여사로 이름을 올린 ‘K-AI 풀스택 얼라이언스’의 출범을 알렸다.
 인텔은 스스로 계획을 세워 여러 업무를 수행하는 ‘에이전틱 AI’ 서비스 확산에 맞춰 CPU·GPU·전용 가속기의 역할을 나누는 게 점차 중요해지고 있다고 진단했다. 서로 다른 반도체의 강점을 살리는 ‘이기종 컴퓨팅’으로 AI가 학습한 내용을 바탕으로 답을 내놓는 ‘추론’에 드는 비용과 전력 부담을 줄이겠다는 구상이다.
 SK하이닉스는 데이터를 저장하고 공급하는 메모리의 효율을 높여 이 구상에 힘을 보탠다. CPU·GPU 서버와 별도로 대용량 메모리를 모아 여러 서버가 공유하는 구조를 제안했다. 늘어나는 AI 데이터 처리 수요에 맞춰 고객사·협력사와 메모리 공유 기술을 검증하고, 인텔과는 시스템 설계 단계부터 협력하고 있다.
 이날 ‘AI 시대의 메모리 기술과 시스템 설계’를 주제로 발표한 주영표 SK하이닉스 시스템아키텍처담당(부사장)은 “CPU가 중요해지는 에이전틱 AI 시대에 인텔의 경쟁력이 더 주목받고 있다”며 “시스템에서 메모리의 역할을 새롭게 정리하면 전체 성능과 효율이 크게 개선될 것으로 기대한다”고 말했다.
 <figure class="figure_frm origin_fig" contents-hash="3c783c1b8287df83594199ff7dcae66ff3ba13059386954e9017b448e51d1b95" dmcf-pid="pOLDjS5TcN" dmcf-ptype="figure">
 <img alt="아닐 난두리 인텔 데이터센터 AI 제품 및 시장 진출(GTM) 전략 총괄(부사장)이 12일 서울 강남구 코엑스에서 열린 ‘2026 인텔 AI 서밋 서울’에서 에이전틱 AI 시대에 대응한 이기종 컴퓨팅 전략을 소개하고 있다./정두용 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/12/chosunbiz/20261112165042464mbrd.jpg" data-org-width="3346" dmcf-mid="Go09zMaejs" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/12/chosunbiz/20261112165042464mbrd.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 아닐 난두리 인텔 데이터센터 AI 제품 및 시장 진출(GTM) 전략 총괄(부사장)이 12일 서울 강남구 코엑스에서 열린 ‘2026 인텔 AI 서밋 서울’에서 에이전틱 AI 시대에 대응한 이기종 컴퓨팅 전략을 소개하고 있다./정두용 기자
 </figcaption>
 </figure>
 ◇ CPU는 작업 조율, GPU·가속기는 AI 연산
 AI 에이전트는 사용자의 요청 한 번에도 자료 검색과 프로그램 실행, 결과 검증 등 여러 작업을 거친다. 난두리 부사장은 “에이전트가 답을 내놓기까지 추론과 상호작용을 거듭하면서 더 많은 토큰(AI가 문장 등을 처리하고 생성하는 기본 단위)을 소비하고 비용도 늘어난다”며 “이런 작업에 맞춰 인프라를 설계해야 효율을 높이고 비용을 줄일 수 있다”고 말했다.
 인텔은 서버용 CPU ‘제온(Xeon)’을 작업 조율의 중심에 뒀다. 올해 2분기 출시한 ‘제온 6+’는 저전력 연산 코어를 최대 288개 탑재해 많은 작업을 동시에 처리하도록 설계됐다.
 CPU가 요청을 분류해 적합한 AI 모델에 배정하고 프로그램 실행과 보안을 관리하면, GPU는 모델을 구동해 답을 생성하는 연산을 맡는다. 더 빠른 응답이 필요한 작업에는 미국 AI 반도체 기업 삼바노바(SambaNova)의 전용 가속기를 활용한다.
 개발 중인 추론용 GPU ‘크레센트 아일랜드(Crescent Island)’에는 여러 AI 모델을 함께 구동할 수 있도록 대용량 메모리를 적용했다. 저전력 D램(LPDDR5X)을 써서 인텔 카드는 160기가바이트(GB), 협력사 제품은 최대 480GB로 구성할 수 있도록 설계했다.
 난두리 부사장은 카드 한 장으로 텍스트를 영상으로 변환한 사례를 공개했지만 “아직 양산에 투입할 수준의 하드웨어나 소프트웨어는 아니다”라고 했다. CPU·GPU·가속기의 조합에 대해서는 “적절한 구성 비율은 어떤 작업을 수행하고 어떤 인프라를 구축할지에 따라 달라진다”고 말했다.
 ◇ SK하이닉스, 메모리 공유 구조로 첫 응답 80초→15초 단축 효과 확인
 여러 연산장치가 일을 나눠 맡을수록 처리할 데이터를 저장하고 주고받는 메모리의 역할도 커진다. 그러나 GPU 주변에 고대역폭메모리(HBM)를 나란히 배치하는 구조에서는 메모리를 추가할 공간이 제한적이다. 주 부사장은 “3차원 적층 기술도 살펴보고 있지만 고객들이 기다리기에는 수요가 너무 급하다”며 “시스템 차원에서 문제를 해결하려는 다양한 시도를 하고 있다”고 말했다.
 SK하이닉스는 늘어나는 메모리 용량 수요에 대응할 대안으로 ‘메모리 랙’을 제시했다. 각 서버의 메모리를 유지하되, 추가 메모리 장비를 별도로 모아 여러 서버가 함께 쓰는 구조다. 연산을 마친 GPU는 결과를 공유 메모리에 저장하고 다음 작업으로 넘어간다. 후속 연산을 맡은 GPU는 필요한 시점에 데이터를 꺼내 쓴다.
 <figure class="figure_frm origin_fig" contents-hash="9abf29f0e7438e5a5a0d90e4174f2a94597ce8c0853426295c5a2d1e9262d501" dmcf-pid="2zY059MVNR" dmcf-ptype="figure">
 <img alt="주영표 SK하이닉스 시스템아키텍처담당(부사장)이 12일 서울 강남구 코엑스에서 열린 ‘2026 인텔 AI 서밋 서울’에서 메모리 중심의 인공지능(AI) 데이터센터 구조를 설명하고 있다./정두용 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/12/chosunbiz/20261112165043874efhm.jpg" data-org-width="3984" dmcf-mid="HQRNnsWIgm" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/12/chosunbiz/20261112165043874efhm.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 주영표 SK하이닉스 시스템아키텍처담당(부사장)이 12일 서울 강남구 코엑스에서 열린 ‘2026 인텔 AI 서밋 서울’에서 메모리 중심의 인공지능(AI) 데이터센터 구조를 설명하고 있다./정두용 기자
 </figcaption>
 </figure>
 주 부사장은 “각 가정에서 차를 두 대, 세 대씩 갖는 게 효율적일지, 한 대씩 두고 추가로 필요한 차는 공유 차량을 이용하는 게 맞을지 생각해 보면 된다”며 “메모리 활용 효율과 확장성을 높여 시스템 전체의 비용 절감 효과를 기대하고 있다”고 말했다.
 공유 메모리는 AI가 같은 연산을 되풀이해야 하는 부담도 줄인다. AI는 중간 연산 결과를 담은 ‘KV 캐시’를 저장해 후속 추론에 재활용한다. 대화가 길어지면서 캐시가 쌓여 GPU 메모리가 부족해지면 이미 계산한 결과를 지웠다가 필요할 때 다시 계산해야 한다. 별도 메모리에 캐시를 보관하면 이런 낭비를 줄일 수 있다.
 SK하이닉스가 협력사와 진행한 반복 추론 시험에서 캐시를 지우고 재계산하는 방식은 첫 토큰 생성까지 평균 80.76초가 걸렸다. 캐시를 서버 외부의 솔리드스테이트드라이브(SSD)에 저장하면 33.56초, 메모리 연결 기술인 컴퓨트 익스프레스 링크(CXL) 기반의 원격 D램에 저장하면 15.45초로 줄었다. CXL D램을 활용했을 때 재계산 방식보다 첫 응답 시간이 약 81% 단축됐다.
 주 부사장은 “GPU나 CPU에 직접 연결된 메모리보다 데이터를 가져오는 데 시간이 더 걸리지만, 다시 연산하는 것보다는 충분히 좋은 성능을 얻을 수 있다”고 말했다.
 <figure class="figure_frm origin_fig" contents-hash="bb998f8bc35b1ba1423c6bf8516dfb7759d4e04c53e0fb62beef9bc65e454433" dmcf-pid="695z08iPN6" dmcf-ptype="figure">
 <img alt="산토시 비스와니탄 인텔 아시아태평양 지역 총괄(부사장)이 12일 서울 강남구 코엑스에서 열린 ‘2026 인텔 AI 서밋 서울’에서 한국의 인공지능(AI) 산업 경쟁력과 협력 방향을 설명하고 있다./정두용 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/12/chosunbiz/20261112165045147afdk.jpg" data-org-width="3975" dmcf-mid="XtLDjS5TAr" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/12/chosunbiz/20261112165045147afdk.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 산토시 비스와니탄 인텔 아시아태평양 지역 총괄(부사장)이 12일 서울 강남구 코엑스에서 열린 ‘2026 인텔 AI 서밋 서울’에서 한국의 인공지능(AI) 산업 경쟁력과 협력 방향을 설명하고 있다./정두용 기자
 </figcaption>
 </figure>
 ◇ 의료기기·자율 공장으로 AI 협력 확대
 인텔은 작업에 맞춰 반도체와 소프트웨어를 구성하는 전략을 의료기기와 공장에도 적용한다. 설치 공간과 전력에 제약이 있는 현장에서는 필요한 AI 기능을 적은 장비로 구현하는 게 중요하다는 설명이다.
 삼성메디슨은 ‘코어 울트라’ 프로세서의 내장 AI 연산 기능과 AI 소프트웨어 ‘오픈비노(OpenVINO)’로 초음파 영상에서 장벽의 두께를 측정하는 과정을 자동화했다. 인텔에 따르면 별도 GPU 없이 AI 추론 처리량이 기존 대비 4.2배로 늘었다.
 다임테크놀로지와는 로봇·생산설비·물류를 연결하는 자율 공장 구축에 활용할 설계 모델을 개발하기로 했다. 맞춤형 반도체 사업에서는 고객의 설계에 인텔의 칩렛(개별 기능을 담은 작은 칩)을 결합해 필요한 기능을 추가하는 방식을 제시했다.
 이번 행사는 데이터센터부터 PC·산업 현장까지 AI 활용과 협력 방안을 논의하는 자리로 마련됐다. K-AI 풀스택 얼라이언스는 국산 서버에 반도체·소프트웨어·산업별 솔루션을 결합해 국내 고객이 자체 AI 시스템을 구축하고 운영하도록 돕는 게 목표다.
 산토시 비스와니탄(Santhosh Viswanathan) 인텔 아시아태평양 지역 총괄(부사장)은 “인텔의 강점 중 하나는 파트너의 혁신을 세계 시장으로 확장할 수 있다는 점”이라며 “한국 기업의 제품을 필요로 하는 세계 각지의 고객에게 공급하는 과정에서도 긴밀히 협력할 수 있다”고 말했다.
 - Copyright ⓒ 조선비즈 &amp; Chosun.com -
 </section> 
 </div> 
 Copyright © 조선비즈. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기