【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]삼성리서치가 뽑은 차세대 AI 화두는 ‘지속학습’…"과거기록 잘 학습한 모델 살아남아"

온카뱅크관리자

2026-09-30 15:57:25

<div id="layerTranslateNotice" style="display:none;"></div> 피지컬AI·온디바이스 확장에 필수…HW한계 SW로 보완 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="X1FqkCfzWY">
 <figure class="figure_frm origin_fig" contents-hash="ecb7829274424317297f9cef0c36d2a0acb746688995a80d5bf3f20c3a9a2c3f" dmcf-pid="Zt3BEh4qCW" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/30/552796-pzfp7fF/20260930155425862orvs.jpg" data-org-width="640" dmcf-mid="HMdNFBwaSG" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/30/552796-pzfp7fF/20260930155425862orvs.jpg" width="658">
 </figure>
 [디지털데일리 오병훈기자] 차세대 에이전틱 인공지능(AI)을 구현하기 위한 핵심 기술 방향으로 ‘지속학습(Continual Learning)’이 제시됐다.
 한번 학습을 마친 AI 모델을 단순히 사용하는데 그치지 않고 사용자와 상호작용, 기업 내부 데이터, AI 자신의 추론 경험까지 지속적으로 받아들이며 스스로 역량을 확장하는 구조다.
 이를 위해 사실상 무한대에 가까운 맥락(컨텍스트)을 처리할 수 있는 새로운 AI 아키텍처를 개발하는 것이 핵심이다. 기존 트랜스포머 구조를 유지하면서 방대한 컨텍스트를 모델 내부에 압축·내재화하는 기술을 병행하는 방안도 제시됐다.
 김윤영 삼성리서치 상무는 30일 삼성전자 서초사옥에서 열린 ‘삼성 AI 포럼 2026’에서 차세대 에이전틱 AI 아키텍처를 주제로 발표하며 “지속학습은 모델이 계속되는 경험을 통해 새로운 지식과 기술을 지속적으로 습득할 수 있는 능력”이라며 “AI와 머신러닝의 근본적인 요소”라고 말했다.
 현재 생성형 AI는 대규모 데이터를 사전에 학습한 뒤 사용자 질문이나 별도 컨텍스트를 받아 답변하는 구조가 일반적이다. 하지만 에이전트 활용 범위가 커질수록 과거 경험을 지속해서 기억하고 새로운 정보를 받아들이는 능력이 중요해진다는 분석이다.
 김 상무는 “이상적으로는 에이전트가 개인화된 채팅 세션에서 학습되는 것이다. 기업에서 LLM을 활용해 업무 흐름을 더 효율적으로 만들고 있다면 에이전트가 기업 문서와 지식에서 학습해야 한다”며 “LLM이 자신의 추론 사례에서 배우고, 끊임없이 변화하는 세계로부터 지속적으로 학습해야 한다”고 설명했다.
 문제는 현재 LLM의 핵심 구조인 트랜스포머가 이 같은 지속학습에 최적화돼 있지 않다는 점이다. 트랜스포머는 ‘어텐션(Attention)’을 활용해 다음 토큰을 생성할 때 앞서 입력되거나 생성된 토큰을 다시 살핀다. 컨텍스트가 길어질수록 처리해야 할 정보량도 함께 증가한다.
 김 상무는 “하네싱이나 컨텍스트 관리 기법을 활용하면 이를 우회할 수 있다. 에이전트에는 메모리가 있고 이전 세션을 요약한 내용도 있어 일종의 지속학습을 하면서 사용자에게 적응하는 것처럼 보인다”면서도 “하지만 이는 근본적으로 확장 가능한 해결책은 아니다”라고 지적했다.
 삼성이 주목하는 첫번째 방향은 훨씬 긴 컨텍스트를 효율적으로 처리할 수 있는 새로운 아키텍처다. 대표적인 기술이 ‘리니어 어텐션(Linear Attention)’이다. 기존 트랜스포머의 어텐션 연산을 단순화해 순환신경망(RNN)의 특성을 결합하고, 추론 과정에서 필요한 시간과 메모리 증가를 억제하는 방식이다.
 김 상무는 이를 통해 “사실상 무한한 컨텍스트를 처리할 수 있고, 잠재적으로 제한 없는 지속학습으로 이어질 수 있다”고 설명했다.
 삼성리서치에서는 리니어 어텐션 계열인 ‘DeltaNet’과 기존 소프트맥스 어텐션을 일부 층에 함께 적용하는 하이브리드 구조도 연구됐다. 모든 레이어에서 기존 어텐션을 사용하는 대신 필요한 부분만 활용해 효율성과 성능을 함께 확보하는 접근이다.
 김 상무는 이 같은 하이브리드 구조가 기존 트랜스포머와 순수 리니어 어텐션 모델보다 향상된 성능을 보였으며 유사한 구조가 최근 큐웬(Qwen)과 키미(Kimi) 등 프런티어 오픈웨이트 모델에도 적용되고 있다고 설명했다.
 두 번째 방향은 기존 트랜스포머를 유지하면서 긴 컨텍스트 자체를 압축하는 것이다. 수백만 토큰에 달하는 문서를 그대로 모델 입력창에 넣는 대신 핵심 정보를 더 적은 수의 토큰이나 잠재 파라미터, KV 캐시 등에 담는 방식이다.
 최근 코딩 에이전트가 대화와 작업 기록이 길어질 경우 기존 기록을 요약하는 ‘컴팩션(Compaction)’을 수행하는 것과 유사하다. 다만 단순히 텍스트를 짧게 요약하는 것을 넘어 AI가 학습한 잠재 공간 자체에 정보를 압축해 넣는 것이 핵심이다.
 김 상무가 제시한 지속학습 방향은 ‘무한 컨텍스트를 처리할 수 있는 새로운 아키텍처’와 ‘기존 트랜스포머에 컨텍스트를 내재화하는 기술’을 결합하는 형태다.
 김 상무는 “모델이 단순히 우리가 제공하는 컨텍스트에서만 지속학습하는 것이 아니라 상호작용과 자신의 추론 흔적을 통해서도 계속 학습하는 것을 목표로 해야 한다”며 “두가지를 결합하는 것이 진정한 지속학습을 구현할 수 있는 대규모 언어모델을 만드는 데 중요하다”고 말했다.
 지속학습은 온디바이스 AI와도 맞물린다. AI가 이용자의 스마트폰에서 지속적으로 개인화되기 위해서는 클라우드처럼 막대한 메모리와 연산 자원을 사용할 수 없기 때문이다.
 김 상무는 스마트폰에서는 특히 디램(DRAM)이 핵심 제약 요소라며 파라미터를 반복 활용하는 ‘루프드 트랜스포머(Looped Transformer)’ 등 온디바이스 환경에 최적화된 별도 아키텍처 연구 필요성도 강조했다.
 이 같은 연구 방향은 향후 피지컬 AI에도 이어질 전망이다. 로봇을 비롯한 피지컬 AI는 실제 환경과 끊임없이 상호작용하면서 새로운 상황을 학습해야 하기 때문이다.
 김 상무는 “지속학습과 온디바이스 배포 문제는 피지컬 인텔리전스가 관련된 애플리케이션에서는 똑같이 중요하며, 어쩌면 더 중요할 수도 있다”고 말했다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기