로그인
토토사이트
신규사이트
업체홍보/구인
먹튀사이트/제보
지식/노하우
놀이터홍보
판매의뢰
스포츠분석
뉴스
후기내역공유
커뮤니티
포토
포인트
보증업체
카지노
토토
홀덤
구인
구직
총판
제작업체홍보
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
토토 홍보
카지노 홍보
홀덤 홍보
꽁머니홍보
신규가입머니
제작판매
제작의뢰
게임
축구
야구
농구
배구
하키
미식축구
스포츠뉴스
연예뉴스
IT뉴스
카지노 후기
토토 후기
홀덤 후기
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[연예뉴스]
야노 시호, 추성훈과 돈 관리 따로 하는 이유.."남편은 바로 써버려" [야노 시호]
N
[연예뉴스]
'천의 얼굴' 박광재, 조진웅·최무성도 보이네
N
[연예뉴스]
♥이상화 좋아하겠네…강남, 13kg 감량+코성형 고백…비주얼 업그레이드[핫피플]
N
[연예뉴스]
빈지노 "둘째 상상 안 돼, 첫째 루빈이 사랑 어떻게 나눠주나" ('집대성')[순간포착]
N
[연예뉴스]
레드벨벳 슬기, 대전 유명 빵지순례 후기
N
커뮤니티
더보기
[유머★이슈]
바란 은퇴보다 더 소름돋는점
[유머★이슈]
오늘 국군의날 예행연습에 최초 공개된 장비들
[유머★이슈]
손흥민이 한국 병역 시스템에 영향 끼친 것.
[유머★이슈]
시댁의 속터지는 스무고개식 대화법
[유머★이슈]
엄마. 나 여자 임신시켜버렸어
목록
글쓰기
[IT뉴스]SK하이닉스, GPU 넘는 메모리 중심 AI 가속기 구상
온카뱅크관리자
조회:
6
2025-10-24 17:47:33
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">LLM 추론 병목 해결 위해 '연산기' 대신 '메모리' 비중 대폭 확대</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="f6tZSM0HAM"> <p contents-hash="241c55871c8ecd749c11b0c8dbb0755e6afbb63c396322287177a9bc46e0b258" dmcf-pid="4PF5vRpXNx" dmcf-ptype="general">(지디넷코리아=전화평 기자)인공지능(AI)이 답을 내는 데 시간이 걸리는 진짜 이유가 ‘메모리 부족’이라 보고, SK하이닉스가 메모리 중심 가속기를 연구 중이다. 그래픽처리장치(GPU)보다 메모리를 훨씬 많이 탑재해 대형 언어모델(LLM) 추론 속도를 끌어올리겠다는 계획이다.</p> <p contents-hash="a23f9aebe09a4fa4da1d4c922d26bd888b405a26bcd37af134920d7519642f87" dmcf-pid="8Q31TeUZAQ" dmcf-ptype="general">주영표 SK하이닉스 연구위원은 24일 서울 강남구 코엑스에서 진행된 제8회 반도체 산·학·연 교류 워크숍에서 ‘AI 시대를 위한 미래 메모리 솔루션 형성’이라는 제목으로 이같은 내용을 발표했다.</p> <figure class="figure_frm origin_fig" contents-hash="1cd5a922ef7b6fc19a2a8edf01d2b73fc71213ff3d4f156cef0c332d2c93a09f" dmcf-pid="6x0tydu5cP" dmcf-ptype="figure"> <p class="link_figure"><img alt="주영표 SK하이닉스 연구위원이 발표하고 있다. (사진=지디넷코리아)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/24/ZDNetKorea/20251024174456697fssg.jpg" data-org-width="640" dmcf-mid="2YcNe5DgAe" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/24/ZDNetKorea/20251024174456697fssg.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 주영표 SK하이닉스 연구위원이 발표하고 있다. (사진=지디넷코리아) </figcaption> </figure> <p contents-hash="4f615a3e279b980a0061c57fb05bb0ce10b5711fd74cb45bf07faf2989690a17" dmcf-pid="PMpFWJ71j6" dmcf-ptype="general">그는 “GPU와 다른 연산·메모리 비율을 갖는 추론형 가속기 구조를 고민하고 있다”며 “연산기보다는 메모리를 훨씬 더 많이 탑재해, 데이터 접근 대역폭을 극대화하는 방향으로 연구가 진행 중”이라고 밝혔다.</p> <p contents-hash="e3910c2f1336ca621a2040f28a12cdf9a943cbd654483ef7772837c619336c46" dmcf-pid="QRU3Yiztk8" dmcf-ptype="general"><strong>“GPU보다 메모리를 더 많이 탑재한 추론형 가속기”</strong></p> <p contents-hash="0e056d8a30623655936295dc9f72ee5a5c8c2d1f094ddbd820706d6d958b3fda" dmcf-pid="xeu0GnqFN4" dmcf-ptype="general">주 연구위원이 밝힌 추론형 가속기 구조는 메모리 특화 가속기다. 이 칩은 기존 GPU 대비 메모리 비중을 대폭 높인 추론형 칩이다. 패키지당 메모리 용량을 확대하, 메모리-연산기 간 접점 면적(쇼어라인)을 넓혀 연산기에 더 많은 대역폭을 공급하는 것이 목표다.<span> </span></p> <p contents-hash="e1d65311b3bd3886a726bc216a20c25b0656cfacafeea17a5bfcffd523d02be0" dmcf-pid="yGcNe5DgAf" dmcf-ptype="general"><span>즉, 칩당 메모리 용량을 대폭 키우는 동시에, GPU가 메모리 병목 없이 데이터를 빠르게 공급받을 수 있게 하는 것이 핵심이다.</span></p> <p contents-hash="f672b969c638f6e406ee378b289b1d6c123b238bffd7df2946ae8e5e066879fa" dmcf-pid="WGcNe5DggV" dmcf-ptype="general">그는 “기존에는 중앙에 GPU, 주변에 HBM(고대역폭메모리)을 배치했지만, 앞으로는 HBM보다 더 많은 메모리를 탑재하고 인터페이스 쇼어라인을 확대해 대역폭을 극대화하는 구조를 지향한다”고 설명했다.</p> <p contents-hash="c3c21d72f7f3e120ed5ef0719b4a73dcf8f2c5074a6bab67239cdfbf09bf9937" dmcf-pid="YHkjd1wac2" dmcf-ptype="general"><strong>LLM 추론 병목의 본질은 ‘연산’ 아닌 ‘메모리’</strong></p> <p contents-hash="1a4a754ef484d4dce805540d9a8a98c0a580e6d3d1f7dc63a2cbbce435700cde" dmcf-pid="GXEAJtrNg9" dmcf-ptype="general">메모리 특화 가속기가 필요한 이유로는 병목 현상을 지목했다. AI 추론 과정에서 메모리 병목이 GPU 효율을 크게 떨어뜨린다는 이유에서다.</p> <p contents-hash="44f8ca11d2dde0e3d3ddc715088e0be71d8630f1ad3c5de0d3d202feb89cfed4" dmcf-pid="HZDciFmjkK" dmcf-ptype="general">주 연구위원은 “LLM 디코드 단계는 GPU 연산 자원을 20~30%밖에 활용하지 못한다”며 “대부분의 시간이 데이터를 읽고 쓰는 과정에 소모돼, GPU 성능이 아니라 메모리 대역폭이 병목으로 작용하고 있다”고 지적했다.</p> <figure class="figure_frm origin_fig" contents-hash="7043a36a56780084352cceb8e1b51624649862a3fc8c978fa301b099c60d2f6a" dmcf-pid="X5wkn3sAab" dmcf-ptype="figure"> <p class="link_figure"><img alt="메모리 특화 가속기 개념에 적힌 발표 자료. (사진=지디넷코리아)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/24/ZDNetKorea/20251024174457977khdk.jpg" data-org-width="640" dmcf-mid="V9Q8qsRfgR" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/24/ZDNetKorea/20251024174457977khdk.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 메모리 특화 가속기 개념에 적힌 발표 자료. (사진=지디넷코리아) </figcaption> </figure> <p contents-hash="4448f67f992d77d9f5ea5ae76f6058d9cda6cfcf331609da876dee4a109714d2" dmcf-pid="Z1rEL0OcjB" dmcf-ptype="general">이러한 문제를 해결하기 위해 SK하이닉스는 HBM 외에 LPDDR(저전력 D램), 호스트 메모리 등과의 계층적 결합도 연구 중이다. 계층적 결합은 여러 종류 메모리를 계층으로 묶어, 데이터를 효율적으로 배치하고 이동시키는 방식이다. 필요한 데이터를 상황에 맞게 옮겨쓸 수 있다. 이를 통해 GPU가 LPDDR에 직접 접근하거나, CPU(인텔·ARM 기반) 메모리를 공유하는 방식으로 확장성을 확보한다는 구상이다.</p> <p contents-hash="dd437a09888506ad96cb9ab5eb9225c273fdcf46aeb8e072d9a65362cf945d38" dmcf-pid="5tmDopIkjq" dmcf-ptype="general">그는 “AI 추론 환경의 병목은 이제 연산이 아니라 메모리 접근에 있다”며 “밴드위스(대역폭)를 극대화하기 위해 메모리-SoC 간 쇼어라인을 늘리고, 나아가 3D 적층 구조로 확장하는 방향이 유력하다”고 말했다. </p> <p contents-hash="7f7a3c03dfd76fc6a37d7140a7fd19623b42fb7bf0cd3531365464e5f9b94f51" dmcf-pid="1FswgUCEAz" dmcf-ptype="general">이어<span> “업계 전반이 연산을 메모리 가까이 두는 구조로 전환 중"이라며 "하이닉스 역시 CXL·HBM·하이브리드 메모리 등 다양한 솔루션을 병행 연구하고 있다"고 덧붙였다.</span></p> <p contents-hash="69af2d480a6dd009042319e3b8aaa0ca4e3761a003f6557b1a5a292d2641a655" dmcf-pid="t3OrauhDj7" dmcf-ptype="general">전화평 기자(peace201@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
업체홍보/구인
더보기
[구인]
유투브 BJ 구인중이자나!완전 럭키비키자나!
[구인]
에카벳에서 최대 조건으로 부본사 및 회원님들 모집합니다
[구인]
카지노 1번 총판 코드 내립니다.
[구인]
어느날 부본사 총판 파트너 모집합니다.
[구인]
고액전용 카지노 / 헬렌카지노 파트너 개인 팀 단위 모집중 최고우대
놀이터홍보
더보기
[홀덤 홍보]
텍사스홀덤 핸드 순위- 홀카드의 가치
[홀덤 홍보]
텍사스홀덤 핸드 순위 - 프리플랍(Pre-Flop) 핸드 랭킹
[토토 홍보]
미니게임개발제작 전문업체 포유소프트를 추천드립니다.
[토토 홍보]
2023년 일본 만화 판매량 순위 공개
[토토 홍보]
무료만화 사이트 보는곳 3가지 추천
지식/노하우
더보기
[카지노 노하우]
혜택 트렌드 변화 위험성 다시 가늠해 보기
[카지노 노하우]
호기심이 부른 화 종목 선택의 중요성
[카지노 노하우]
카지노 블랙잭 카드 조합으로 히트와 스탠드를 결정하는 방법
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
채팅하기