【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]“사용자 취향보단 AI 멋대로”…LLM 상품 추천 ‘쏠림’ 심하다

온카뱅크관리자

2026-11-08 15:27:26

<div id="layerTranslateNotice" style="display:none;"></div> UNIST, LLM 기반 AI 추천 편향·오류 진단도구 개발 존재하지 않는 상품 추천, 사용자 프로필 오류 생성 등 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="7CpDvv1yv5">
 <figure class="figure_frm origin_fig" contents-hash="9bd04d710edc12e3ae891068912fdb09f6158f0e3ab4fa2fbb922aadf6ce8b9f" dmcf-pid="zhUwTTtWSZ" dmcf-ptype="figure">
 <img alt="반복 추천을 강화하는 대형언어모델 AI의 피드백 루프를 AI로 생성한 아미지. UNIST 제공." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/08/dt/20261108151943668bzzf.png" data-org-width="640" dmcf-mid="uuWiEElwy1" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/08/dt/20261108151943668bzzf.png" width="658">
 <figcaption class="txt_caption default_figure">
 반복 추천을 강화하는 대형언어모델 AI의 피드백 루프를 AI로 생성한 아미지. UNIST 제공.
 </figcaption>
 </figure>
 최근 챗GPT와 같은 대형언어모델(LLM)을 상품이나 콘텐츠 추천 등에 접목하기 위한 연구가 활발하다. LLM이 사용자와의 과거 상호 작용을 토대로 취향에 맞는 상품 프로필을 생성하거나 추천하는 등 다양한 단계에서 활용되고 있다.
 하지만 LLM을 추천 시스템에 적용할 경우 실제 데이터에서 확인되지 않은 사용자 특성을 생성하거나 존재하지 않는 상품을 추천할 수 있다. 특정 인기 상품이나 속성에 편향된 정보도 제공하기도 한다.
 LLM 기반 AI에 추천을 맡기면 자신이 과거에 생성한 추천 결과를 다시 학습해 특정 상품에 치우치거나 잘못된 추천을 반복할 수 있다는 것이다.
 이런 문제를 체계적으로 추진할 수 있는 진단 프레임워크가 나왔다.
 울산과학기술원(UNIST)은 이연창 인공지능대학원 교수팀이 LLM 기반 추천 시스템의 편향과 오류를 추적하는 진단 도구 ‘에코트레이스’(EchoTrace)를 개발했다고 8일 밝혔다.
 LLM 기반 AI는 사용자가 원하는 추천 목록을 직접 생성하고. 이를 더 정확히 추천할 수 있도록 사용자의 취향이 반영된 가상 프로필을 만든다. 부족한 학습자료를 생성하는 역할도 한다.
 에코트레이스는 LLM이 만든 정보와 최종 추천 목록을 점검하고, 추천 결과가 다시 학습에 반영될 때 편향과 오류가 어떻게 이어지는지를 추적한다.
 연구팀은 주요 데이터마이닝·정보검색 학회에 발표된 연구 116편을 분석해 LLM의 역할을 △데이터 증강 △사용자·상품 표현 생성 △직접 추천 △추천 설명 △추천 에이전트 등 5가지로 분류하고, 정보 생성과 추천 결과, 반복 학습 등 3단계에서 편향과 오류가 어떻게 발생하고 이어지는지를 검증했다.
 검증은 에코트레이스를 이용해 LLM의 5가지 역할 중 영화 추천은 ‘무비렌즈’(MovieLens-1M), 도서 추천은 ‘아마존 북스’(Amazon-Books), 가게 추천은 ‘옐프’(Yelp) 자료를 활용해 진행됐다.
 분석 결과 AI 모델에서 애초에 추천 대상에 없는 항목을 추천한 경우가 나타났다. 오류 비율은 영화 추천의 4.07%, 도서 추천의 7.40%, 가게 추천의 13.14%였다.
 사용자 프로필을 생성하는 과정에서도 오류가 나타났다. 영화 이용 자료를 바탕으로 LLM이 추정한 사용자 직업의 93.16%가 실제 정보와 일치하지 않았다. 자료의 직업 분류에 없는 ‘영화 평론가’라는 직업을 자체 생성하기도 했다.
 AI가 만든 학습자료는 특정 장르나 업종에 치우쳤다. 최종 추천 목록에서는 실제 이용 기록보다 인기 항목을 더 많이 추천하는 경향이 나타났다.
 최종 추천 결과를 다시 학습시키는 과정을 5번 반복해도 초기의 편향과 오류는 사라지지 않았다. 일부 시스템은 인기 항목에 대한 추천 쏠림이 더 컸다.
 특히 영화 추천 AI 모델은 사용자 100명 중 86∼92명에게 다음 영화를 추천할 때 자신이 앞서 추천했던 작품을 가장 중요한 참고 자료롤 활용했다.
 AI의 추천 결과가 사용자의 선택 기록으로 다시 학습되고, 이를 근거로 다음 추천을 만드는 ‘피드백 루프’가 반복되면서 처음 생긴 편향과 오류가 이후에도 추천에 영향을 준 것이라고 연구팀은 설명했다.
 이 교수는 “LLM 기반 추천 시스템이 생성한 정보와 추천 결과를 반복적으로 재학습하는 과정에서 편향과 환각이 어떻게 전파되고, 누적되는지를 분석할 수 있는 진단 체계를 제공했다는 데 의미가 있다”며 “앞으로 더욱 안전하고 신뢰할 수 있는 추천 시스템을 설계·평가하는 데 활용될 수 있을 것”이라고 말했다.
 연구결과는 7∼11일까지 이탈리아 로마에서 열리는 데이터마이닝 분야 국제학술대회 ‘ACM CIKM 2026’에 채택됐다
 이준기 기자 bongchu@dt.co.kr
 </section> 
 </div> 
 Copyright © 디지털타임스. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기