【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]"AI 추천, 반복할수록 편향 심해져"

온카뱅크관리자

2026-11-08 10:57:25

<div id="layerTranslateNotice" style="display:none;"></div> 울산과학기술원 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="F5OjX09UdR">
 <figure class="figure_frm origin_fig" contents-hash="2647d6786d5b3c7b86575c38829cb1d73dd11e7bb3976c3758fe07c08c10de09" dmcf-pid="3tCc5UV7iM" dmcf-ptype="figure">
 <img alt="인공지능이 영화·도서·가게 추천을 반복하며 편향이 심해진다는 연구결과가 나왔다. 생성형AI 제작이미지. UNIST 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/08/dongascience/20261108105124851bcsf.png" data-org-width="680" dmcf-mid="KOynTZ71MO" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/08/dongascience/20261108105124851bcsf.png" width="658">
 <figcaption class="txt_caption default_figure">
 인공지능이 영화·도서·가게 추천을 반복하며 편향이 심해진다는 연구결과가 나왔다. 생성형AI 제작이미지. UNIST 제공
 </figcaption>
 </figure>
 인공지능(AI)이 추천을 맡기면 자신이 만든 추천 결과를 다시 학습해 특정 상품에 치우친 추천과 잘못된 추천을 반복할 수 있는 것으로 나타났다. 일부 추천 시스템에서는 학습을 반복할수록 인기 상품을 추천하는 경향이 심해졌다.
 울산과학기술원(UNIST)은 이연창 인공지능대학원 교수팀이 대형언어모델(LLM) 기반 추천 시스템의 편향과 오류를 추적하는 진단 도구 '에코트레이스(EchoTrace)'를 개발했다고 8일 밝혔다. 연구결과는 이탈리아 로마에서 7일~11일에 열리는 데이터마이닝 분야 국제학술대회 'ACM CIKM 2026'에 채택됐다.
 LLM 기반 AI는 추천을 요청하면 다양한 기능을 수행한다. 직접 추천 목록을 생성할 뿐 아니라 추천 AI 모델이 더 정확한 추천을 할 수 있도록 사용자의 취향이 반영된 가상 프로필을 만든다. 부족한 학습자료를 생성하는 역할도 수행한다.
 연구팀은 주요 데이터마이닝·정보검색 학회에 발표된 연구 116편을 분석해 LLM의 역할을 다섯 가지로 분류하고 역할별로 생성되는 정보와 추천 결과를 단계별로 점검하는 진단 도구인 에코트레이스를 개발했다.
 <figure class="figure_frm origin_fig" contents-hash="d11fe58a25c9068c77dab08e3c1bdea71c3a848e2fbcd0b539a05c637a09a407" dmcf-pid="7UTr0BPKi8" dmcf-ptype="figure">
 <img alt="EchoTrace의 LLM 기반 추천시스템 위험 진단 과정. UNIST 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/08/dongascience/20261108105126142dece.png" data-org-width="680" dmcf-mid="99z1xnEoLs" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/08/dongascience/20261108105126142dece.png" width="658">
 <figcaption class="txt_caption default_figure">
 EchoTrace의 LLM 기반 추천시스템 위험 진단 과정. UNIST 제공
 </figcaption>
 </figure>
 이번 실험에서는 에코트레이스를 이용해 LLM의 다섯가지 역할 중 세가지의 추천 시스템을 분석했다. LLM 기반 AI가 생성한 정보와 최종 추천 목록을 점검하고 추천 결과가 다시 학습에 반영될 때 발생하는 편향·오류를 추척했다.
 연구팀은 '무비렌즈(MovieLens-1M)'의 영화 추천, '아마존 북스(Amazon-Books)'의 도서 추천, '옐프(Yelp)'의 가게 추천 자료를 활용해 실험했다.
 분석 결과 AI가 추천하도록 주어진 목록에 없는 항목을 추천하는 오류가 확인됐다. 오류 비율은 영화 추천의 4.07%, 도서 추천의 7.40%, 가게 추천의 13.14%였다.
 사용자 프로필을 생성하는 과정에서도 오류가 나타났다. 영화 이용 자료를 바탕으로 LLM이 추정한 사용자 직업의 93.16%가 실제 정보와 일치하지 않았다. 자료의 직업 분류에 없는 '영화 평론가'라는 직업을 자체 생성하기도 했다.
 AI가 만든 학습자료는 특정 장르나 업종에 치우쳤다. 최종 추천 목록에서는 실제 이용 기록보다 인기 항목을 더 많이 추천하는 경향이 나타났다.
 최종 추천 결과를 다시 학습시키는 과정을 5번 반복해도 초기의 편향과 오류는 사라지지 않았다. 일부 시스템에서는 인기 항목을 추천하는 경향이 심해졌다.
 영화 추천 AI는 사용자 100명 중 86~92명에게 다음 영화를 추천할 때 자신이 앞서 추천했던 작품을 가장 중요한 참고 자료롤 활용했다. AI의 추천 결과가 사용자의 선택 기록인 것 마냥 다시 학습되고, 이를 근거로 다음 추천을 생성하는 '피드백 루프'가 반복되며 초기 편향·오류가 이후 추천에 영향을 미치는 것이다.
 이연창 교수는 "LLM 기반 추천 시스템의 편향과 환각이 반복적인 추천 과정에서 어떻게 누적되고 증폭되는지를 LLM의 역할에 따라 체계적으로 진단할 수 있는 기반을 마련했다"며 "향후 더욱 안전하고 신뢰할 수 있는 추천 시스템을 설계하고 평가하는 데 활용될 수 있을 것"이라고 말했다.
 &lt;참고 자료&gt; doi.org/10.48550/arXiv.2602.07442
 <figure class="figure_frm origin_fig" contents-hash="58d6c1a7cd45ce567095bee7d9399219650ed98d19f9d46017cff6f8275830d6" dmcf-pid="480YfMaeJz" dmcf-ptype="figure">
 <img alt="왼쪽부터 이연창 교수와 박동욱 연구원. UNIST 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/08/dongascience/20261108105127350szcb.jpg" data-org-width="680" dmcf-mid="2aNehY0HJm" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/08/dongascience/20261108105127350szcb.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 왼쪽부터 이연창 교수와 박동욱 연구원. UNIST 제공
 </figcaption>
 </figure>
 [문혜원 기자 moony@donga.com]
 </section> 
 </div> 
 Copyright © 동아사이언스. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기