【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]퀄컴은 왜 ‘퍼스널그래프’를 칩으로 끌어왔나···AI가 ‘나’를 계산하는 법

온카뱅크관리자

2026-10-07 18:37:25

<div id="layerTranslateNotice" style="display:none;"></div> 컨텍스트·KV캐시는 지금의 추론 상태 퍼스널그래프는 사람·사건·시간 보관 필요한 ‘나’만 찾아 NPU 가까이 이동 SRAM서 현재 작업집합으로 변환해 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="q80i66WItM">
 <figure class="figure_frm origin_fig" contents-hash="b98425de3132bdc08b06a0ec803d6cdc58d8ab01436ee5a878c07dbb1476daee" data-idxno="463877" data-type="photo" dmcf-pid="B6pnPPYCtx" dmcf-ptype="figure">
 <img alt="6월 1일 대만 타이베이 컴퓨텍스 2026 키노트에서 크리스티아노 아몬 퀄컴 최고경영자(CEO)가 자사 플랫폼의 전력 확장 범위를 설명하고 있다. 화면 상단에는 2mW부터 200kW까지 이어지는 전력 스펙트럼이 표시돼 있으며, 스마트워치와 XR 기기, 스마트폰, PC, 산업장비, 자율주행차, 휴머노이드 로봇, 데이터센터 서버에 이르기까지 하나의 아키텍처로 연결하겠다는 퀄컴의 전략이 담겨 있다. 아몬은 AI 에이전트 시대에는 특정 기기 하나가 아니라 개인 기기와 차량, 로봇, 엣지 장비, 클라우드가 하나의 연속된 컴퓨팅 환경으로 동작하게 될 것이라며 온디바이스 AI와 저전력 컴퓨팅의 중요성을 강조했다. / 이상헌 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/07/552814-8XPEppr/20261007183007439gawv.png" data-org-width="1280" dmcf-mid="Uez4zzmjYJ" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/07/552814-8XPEppr/20261007183007439gawv.png" width="658">
 <figcaption class="txt_caption default_figure">
 6월 1일 대만 타이베이 컴퓨텍스 2026 키노트에서 크리스티아노 아몬 퀄컴 최고경영자(CEO)가 자사 플랫폼의 전력 확장 범위를 설명하고 있다. 화면 상단에는 2mW부터 200kW까지 이어지는 전력 스펙트럼이 표시돼 있으며, 스마트워치와 XR 기기, 스마트폰, PC, 산업장비, 자율주행차, 휴머노이드 로봇, 데이터센터 서버에 이르기까지 하나의 아키텍처로 연결하겠다는 퀄컴의 전략이 담겨 있다. 아몬은 AI 에이전트 시대에는 특정 기기 하나가 아니라 개인 기기와 차량, 로봇, 엣지 장비, 클라우드가 하나의 연속된 컴퓨팅 환경으로 동작하게 될 것이라며 온디바이스 AI와 저전력 컴퓨팅의 중요성을 강조했다. / 이상헌 기자
 </figcaption>
 </figure>
 인공지능(AI)이 오래전 일을 기억해 답했다면 그 기억은 어디에 있었을까. 칩 안을 뒤져도 완성된 '나'라는 파일은 나오지 않는다. 수개월 전의 선호와 사람, 진행 중인 프로젝트와 바뀐 일정은 장기 저장소에 남고 현재 질문이 들어오면 필요한 일부만 다시 불려온다. 퍼스널그래프는 오래된 '나'를 정리하고, 검색은 지금 필요한 '나'를 고른다. SRAM은 그 선택된 정보가 실제 계산에 쓰이는 가장 가까운 작업공간이다.
 퍼스널그래프의 뿌리는 개인지식그래프(Personal Knowledge Graph·PKG)에 있다. 사람과 사건, 장소, 선호, 프로젝트를 각각 저장하는 데서 끝나지 않고 누가 언제 어디에 있었고 무엇이 언제 바뀌었는지까지 함께 남긴다. 지난해 A가 B회사에서 일하다 올해 C회사로 옮겼다면 두 문장을 따로 쌓아두는 것보다 A와 두 회사, 이동 시점을 함께 기록해야 현재 상태를 바로 찾을 수 있다.
 AI에서 흔히 '기억'이라고 부르는 것들도 서로 다른 시간을 산다. 퍼스널그래프는 수개월에서 수년에 걸친 사람과 사건, 선호의 변화를 다룬다. 컨텍스트 윈도는 이번 추론에서 모델이 읽는 입력범위다. KV 캐시는 이미 처리한 토큰의 Key·Value를 다음 토큰 생성에 다시 쓰기 위해 보관하는 현재 추론용 데이터다.
 사용자가 질문한다고 10년치 대화와 사진, 일정이 한꺼번에 AI 칩으로 들어가는 것도 아니다. 현재 요청과 관련된 사람과 사건, 선호와 프로젝트를 먼저 찾는다. 검색된 일부가 컨텍스트에 들어가고 Transformer 계산을 거쳐 K·V가 만들어진다. 모델 파라미터와 활성값은 DRAM이나 HBM과 온칩 메모리를 오가고 실제 연산 직전에 필요한 값은 SRAM과 레지스터까지 내려간다.
 과거에서 현재 출력까지 따라가면 퍼스널그래프→검색→컨텍스트→KV 캐시→메모리→SRAM→연산→토큰으로 이어진다. 퍼스널그래프가 과거의 상태를 정리하고 검색이 지금 필요한 부분을 고르면 SRAM은 선택된 값이 실제 계산에 들어가는 마지막 메모리 구간이 된다.
 퀄컴은 이 구조를 스마트폰 가까이 끌어당기고 있다. 퀄컴은 'Personal Knowledge Graph'라는 표현을 직접 사용하며 AI Orchestrator와 Sensing Hub, Hexagon NPU를 묶어 개인 데이터를 단말에서 활용하는 방향을 제시해왔다. 스마트폰에는 연락처와 메시지, 일정, 앱 사용기록, 센서 정보가 계속 쌓인다.
 <div contents-hash="30ebe0310de413c65a251eb8c822ecfec3703042c57d7590514e6c08388b533d" dmcf-pid="4rJTmmfzGV" dmcf-ptype="general">
 이 정보를 매번 클라우드로 보낸 뒤 다시 가져오면 통신과 지연, 개인정보 이동 비용이 커진다. 단말에 있는 정보 가운데 필요한 일부를 골라 NPU 가까이 가져오면 '나'를 계산하기 위해 움직여야 하는 데이터의 거리부터 짧아진다. 퀄컴이 퍼스널그래프 전체를 칩 안에 저장했다고 볼 필요는 없다. 핵심은 퍼스널그래프에서 꺼낸 현재 개인 상태를 NPU가 바로 사용할 수 있는 곳까지 당겨오는 것이다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="896aa82888613ab015beea101daf204a4a1f382dfd4072c21e1658a1f9eb7084" data-idxno="463879" data-type="photo" dmcf-pid="8miyss4qZ2" dmcf-ptype="figure">
 <img alt="퀄컴 로보틱스용 엣지 AI 컴퓨팅 플랫폼. 카메라·센서에서 들어오는 데이터를 현장에서 처리하도록 설계된 장비로, 퀄컴은 스마트폰과 PC에서 키운 저전력 NPU·온디바이스 AI 전략을 로봇과 산업용 엣지까지 확장하고 있다. /퀼컴" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/07/552814-8XPEppr/20261007183008725kdri.jpg" data-org-width="1080" dmcf-mid="uoCBFFAiXd" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/07/552814-8XPEppr/20261007183008725kdri.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 퀄컴 로보틱스용 엣지 AI 컴퓨팅 플랫폼. 카메라·센서에서 들어오는 데이터를 현장에서 처리하도록 설계된 장비로, 퀄컴은 스마트폰과 PC에서 키운 저전력 NPU·온디바이스 AI 전략을 로봇과 산업용 엣지까지 확장하고 있다. /퀼컴
 </figcaption>
 </figure>
 퍼스널그래프가 단말로 내려오자 '나'를 옮기는 비용이 문제가 됐다' 퀄컴은 NPU 가까이 상태를 당겨
 여기서 메모리가 등장한다. 사용자의 모든 과거를 SRAM에 넣을 수는 없다. SRAM은 빠르지만 칩 면적을 많이 차지하고 용량도 작다. 장기 데이터 대부분은 NAND나 SSD 같은 저장장치에 남고 현재 필요한 정보가 검색되면 DRAM이나 LPDDR로 올라온다. 추론 순간 필요한 일부만 다시 NPU 가까운 SRAM까지 이동한다.
 메모리마다 역할도 갈린다. NAND는 오래 보관한다. DRAM과 LPDDR은 현재 작업을 펼쳐놓는다. SRAM은 바로 지금 계산할 값을 연산기 옆에 붙잡아둔다.
 유회준 KAIST 교수는 6일 여성경제신문 산업포럼에서 차세대 AI 반도체의 후속 의제로 인텔과 퀄컴을 거론하며 PIM 표준과 LPDDR5X·LPDDR6를 제시했다. 엔비디아가 HBM을 GPU 가까이에 붙여 대규모 모델의 데이터 이동을 줄였다면 스마트폰과 PC에서는 LPDDR와 온칩 메모리 사이의 이동거리와 전력을 줄이는 문제가 같은 형태로 나타난다.
 퀄컴의 퍼스널그래프와 LPDDR 기반 PIM이 하나의 제품으로 공개된 것은 아니다. 그러나 개인화 AI가 단말에서 커질수록 해결해야 할 경로는 명확하다. 오래된 개인 상태는 스토리지에 두고 지금 필요한 작업집합만 메모리 위로 올린다. NPU가 계산하는 순간에는 다시 그중 필요한 값만 SRAM까지 당긴다.
 퀄컴이 로보틱스까지 NPU 축을 놓지 않는 것도 같은 흐름이다. 엔비디아는 젯슨(Jetson)과 CUDA를 앞세워 로봇을 GPU 중심 AI 컴퓨터로 묶고, 퀄컴은 스마트폰에서 키운 저전력 NPU·센서 처리·온디바이스 추론을 로봇으로 끌고 간다. 스마트폰에서 Personal Graph → Sensing Hub → NPU로 개인 상태를 계산했다면 로봇에서는 Camera·LiDAR·IMU → NPU → perception·planning → control로 같은 설계 철학이 확장된다. 엔비디아가 GPU를 로봇 안으로 밀어 넣는 동안 퀄컴은 NPU를 로봇의 두뇌로 올리고 있다. AI 전선이 데이터센터에서 휴머노이드 몸체 안까지 내려오면서 두 회사의 긴장도 커지고 있다.
 오래 기억하는 경쟁에서 지금 '나'를 찾는 경쟁으로 개인화 AI의 병목도 바뀐다
 오픈AI와 구글, 애플도 소프트웨어 쪽에서 같은 문제를 풀고 있다. 과거 사용자 정보 가운데 무엇을 오래 남기고, 새 정보가 들어왔을 때 무엇을 현재값으로 바꾸며, 지금 질문에 어떤 과거를 다시 넣을지를 결정해야 한다.
 구현 방식은 다를 수 있다. 그래프를 쓸 수도 있고 벡터 검색이나 사용자 프로필 형태로 압축할 수도 있다. 중요한 것은 저장된 모든 과거가 현재 답변에 들어가는 게 아니라는 점이다.
 10년치 데이터를 가지고 있어도 이번 질문에 필요한 정보가 세 조각이라면 실제 계산에 참여하는 것은 그 세 조각이다. 전체 데이터 가운데 현재 계산에 필요한 부분만 추려낸 것이 작업집합(Working Set)이다.
 그래서 개인화 AI에서는 저장량보다 검색과 갱신이 더 어려운 문제가 된다. 사람이 직장을 옮기거나 선호가 달라졌을 때 옛 정보와 새 정보 가운데 어느 값이 현재 유효한지도 가려야 한다. 오래된 정보를 정확하게 검색했더라도 현재와 맞지 않으면 AI는 정확하게 계산하고도 틀린 답을 낸다.
 <div contents-hash="2f419ce31eec3c85b2b8d6e45f63fed832eb1e1db937e2104bfd1bf8c7e09c1c" dmcf-pid="5MzaRRZvX3" dmcf-ptype="general">
 벡터 검색은 의미가 비슷한 정보를 찾는 데 강하다. 개인의 삶에는 그것만으로 부족한 정보도 많다. 누가 어느 회사에 있었는지, 어떤 프로젝트를 함께했는지, 그 상태가 언제 바뀌었는지까지 알아야 현재의 '나'를 제대로 불러올 수 있다. 퍼스널그래프에서 시간과 관계가 함께 중요한 이유다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="74f1edf76d627c7c6feca5e6aebf82a85ef893efe0b5513bf111f79ab8ec9100" data-idxno="463880" data-type="photo" dmcf-pid="1pv2UUDgHF" dmcf-ptype="figure">
 <img alt="퀄컴 스냅드래곤 X 엘리트. Oryon CPU와 Adreno GPU, Hexagon NPU를 하나의 SoC에 묶어 PC에서 온디바이스 AI를 처리한다. 퍼스널그래프에서 검색된 개인 상태가 메모리 계층을 거쳐 칩 가까이 들어오면 NPU와 CPU가 현재 추론을 수행한다. /퀄컴" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/07/552814-8XPEppr/20261007183009995dcyk.jpg" data-org-width="1080" dmcf-mid="71j5vvRfte" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/07/552814-8XPEppr/20261007183009995dcyk.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 퀄컴 스냅드래곤 X 엘리트. Oryon CPU와 Adreno GPU, Hexagon NPU를 하나의 SoC에 묶어 PC에서 온디바이스 AI를 처리한다. 퍼스널그래프에서 검색된 개인 상태가 메모리 계층을 거쳐 칩 가까이 들어오면 NPU와 CPU가 현재 추론을 수행한다. /퀄컴
 </figcaption>
 </figure>
 삼성전자는 퀄컴처럼 'Personal Knowledge Graph'를 전면에 내세운 제품을 공개하지 않았다. 대신 개인화 AI의 데이터가 통과하는 반도체를 폭넓게 갖고 있다. 장기 데이터를 저장하는 NAND와 SSD, 현재 작업 데이터를 담는 DRAM과 LPDDR, 서버 AI용 HBM, 모바일 AP와 NPU, 온칩 SRAM까지 이어진다.
 개인화 AI에서 모든 과거를 빠른 메모리에 올려놓을 수는 없다. 대부분은 저장장치에 남고 현재 필요한 일부만 DRAM이나 LPDDR로 올라온다. 실제 연산에 들어갈 값은 다시 SRAM과 레지스터까지 내려간다. 데이터가 많아질수록 어느 정보를 언제 움직일지 결정하는 능력이 중요해진다.
 클라우드까지 넓히면 HBM과 기업용 SSD도 같은 경로에 들어온다. 퀄컴이 개인 상태를 NPU 가까이 당기는 구조를 만든다면 삼성은 그 상태가 지나가는 저장장치와 메모리 계층 대부분을 공급할 수 있다.
 실제 AI 프로세서도 이런 방향으로 커지고 있다. 유 교수는 산업포럼에서 엔비디아 Rubin GPU를 예로 들며 내부 L2 SRAM이 128MB, 외부 HBM4가 최대 288GB 규모이며 칩 면적의 절반 이상이 메모리와 칩 간 인터페이스 IP로 구성된다고 설명했다. 순수 연산회로만 커지는 칩이 아니라 데이터를 저장하고 옮기고 공급하는 회로가 함께 커지는 구조다.
 AI에서 데이터 이동은 공짜가 아니다. 외부 메모리에서 값을 가져올 때마다 시간과 전력을 쓴다. 같은 값을 연산기 가까운 SRAM에서 공급하면 이동거리와 지연을 줄일 수 있다. 개인 정보가 많아질수록 저장공간만 키우는 것으로 끝나지 않고 현재 질문에 필요한 정보를 얼마나 빨리 골라 연산기까지 가져오느냐가 성능과 소비전력을 함께 결정한다.
 퍼스널그래프는 수년을 이어놓고 검색은 지금 필요한 '나'를 고른다 SRAM은 그 현재 상태를 집행한다
 퍼스널그래프와 SRAM의 시간은 극단적으로 다르다. 그래프에 기록된 사람과 사건은 수년 동안 남을 수 있지만 현재 답변을 만들 때는 검색된 몇 개의 정보와 토큰, 텐서로 줄어든다. 5년 전 사건을 기억한다고 5년치 정보가 칩 안으로 들어오는 것은 아니다. 현재 질문과 관련된 부분만 골라 숫자로 바꾸고 연산기에 넣는다.
 SRAM의 역할도 여기서 선명해진다. 수년치 퍼스널그래프 전체를 보관하는 창고가 아니다. 장기 데이터는 스토리지와 외부 메모리에 남는다. 현재 계산에 필요한 작은 작업집합만 연산기 가까이 가져온다.
 사용자가 질문하면 관련 정보가 검색되고 컨텍스트에 들어간다. Transformer가 이를 처리하면서 파라미터와 활성값, KV 캐시가 메모리 계층을 따라 이동한다. 실제 행렬연산 직전에 필요한 값이 SRAM과 레지스터에 놓인다.
 퍼스널그래프는 과거의 나를 이어놓는다. 검색은 그 가운데 지금 필요한 나를 고른다. SRAM은 선택된 상태가 실제 계산으로 넘어가는 마지막 작업공간이다.
 <div contents-hash="90a1872d8c8fbd9286eba17766668983d12f2ab5632ec30e537a77ea1348be6a" dmcf-pid="BVteffvmZT" dmcf-ptype="general">
 화면에서는 AI가 몇 년 전 일을 기억해낸 것처럼 보인다. 칩 안에서는 수년 동안 저장된 정보가 검색 결과 몇 개로 줄고, 다시 토큰과 텐서가 된 뒤 순간적인 전압 변화로 계산된다. 개인화 AI가 커질수록 경쟁도 '얼마나 많이 기억하느냐'에서 '지금 필요한 나를 얼마나 빨리 찾아 연산기 앞으로 가져오느냐'로 이동한다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="320d08cca9fa5e6c3a3e2188bceb023d9adb5f7af95328a633b31c2f6ca66e3b" data-idxno="463878" data-type="photo" dmcf-pid="bfFd44TsHv" dmcf-ptype="figure">
 <img alt="스냅드래곤 X 엘리트를 퍼스널그래프 관점에서 해부했다. 사람·사건·선호·시간 같은 장기 정보 전체가 칩 안으로 들어가는 것은 아니다. 현재 질문과 관련된 정보만 검색돼 작업집합으로 추려지고, LPDDR5X와 캐시를 거쳐 Oryon CPU·Hexagon NPU 등 연산기로 이동한다. 개인화 AI의 핵심은 '나'를 얼마나 많이 저장하느냐보다 지금 필요한 '나'를 얼마나 짧은 거리로 계산에 투입하느냐에 있다. / GPT-6.0" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/07/552814-8XPEppr/20261007183011448wmlz.png" data-org-width="1024" dmcf-mid="zMyf77rN1R" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/07/552814-8XPEppr/20261007183011448wmlz.png" width="658">
 <figcaption class="txt_caption default_figure">
 스냅드래곤 X 엘리트를 퍼스널그래프 관점에서 해부했다. 사람·사건·선호·시간 같은 장기 정보 전체가 칩 안으로 들어가는 것은 아니다. 현재 질문과 관련된 정보만 검색돼 작업집합으로 추려지고, LPDDR5X와 캐시를 거쳐 Oryon CPU·Hexagon NPU 등 연산기로 이동한다. 개인화 AI의 핵심은 '나'를 얼마나 많이 저장하느냐보다 지금 필요한 '나'를 얼마나 짧은 거리로 계산에 투입하느냐에 있다. / GPT-6.0
 </figcaption>
 </figure>
 ☞ 작업집합(Working Set) = 전체 데이터 가운데 현재 계산에 실제 필요한 부분이다. 수년치 대화와 사진, 사람·사건·선호를 연결한 퍼스널그래프 전체를 SRAM이나 DRAM에 올리지 않는다. 현재 요청과 관련된 정보만 골라 작업집합으로 만들고 연산기 가까이 가져온다. 장기 데이터가 커져도 현재 계산되는 것은 선택된 정보와 토큰, KV 캐시, 활성값 일부다.
 여성경제신문 이상헌 기자 liberty@seoulmedia.co.kr
 *여성경제신문 기사는 기자 또는 외부 필자가 작성 후 AI를 이용해 교정·교열하고 문장을 다듬었음을 밝힙니다. 기사에 포함된 이미지 중 AI로 생성한 이미지는 사진 캡션에 밝혀두었습니다.
 </section> 
 </div>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기