로그인
토토사이트
먹튀사이트/제보
업체홍보/구인
신규사이트
지식/노하우
놀이터홍보
판매의뢰
스포츠분석
뉴스
후기내역공유
커뮤니티
포토
포인트
보증업체
카지노 먹튀
토토 먹튀
먹튀제보
구인
구직
총판
제작업체홍보
카지노
토토
홀덤
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
토토 홍보
카지노 홍보
홀덤 홍보
꽁머니홍보
신규가입머니
제작판매
제작의뢰
게임
축구
야구
농구
배구
하키
미식축구
스포츠뉴스
연예뉴스
IT뉴스
카지노 후기
토토 후기
홀덤 후기
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[]
[단독]이용철 재단대표 시절 특혜 채용 의혹…‘이재명 시장 인수위’서 합격자 부친과 인연
N
[IT뉴스]
'GTA6' 하루 만에 5조원대 팔렸다... 게임 넘어 엔터테인먼트 흥행史 새로 써
N
[IT뉴스]
수능 부정행위 잡은 재난문자…전국 발송 비용은 '0원'?
N
[IT뉴스]
디지털자산기본법 정부안 이번 주 베일 벗는다…가상자산 시장 ‘대격변’ 예고
N
[IT뉴스]
e스포츠 무게감 커진 지스타…오버워치·심레이싱 대회로 저변 확대
N
커뮤니티
더보기
[유머★이슈]
바란 은퇴보다 더 소름돋는점
[유머★이슈]
오늘 국군의날 예행연습에 최초 공개된 장비들
[유머★이슈]
손흥민이 한국 병역 시스템에 영향 끼친 것.
[유머★이슈]
시댁의 속터지는 스무고개식 대화법
[유머★이슈]
엄마. 나 여자 임신시켜버렸어
목록
글쓰기
[IT뉴스]'자료 찾다 엉뚱한 답 내놓는 AI'… 고려대, 스스로 생각하는 AI 에이전트 '맹점' 찾았다
온카뱅크관리자
조회:
51
2026-10-28 16:17:25
<div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="5LHNuHoMo5"> <figure class="figure_frm origin_fig" contents-hash="d4d0bc2614275aae21fe688f161e2ddf21d5405d041eec27a984c99db98e9317" dmcf-pid="1oXj7XgRgZ" dmcf-ptype="figure"> <p class="link_figure"><img alt="AI 에이전트의 검색·추론 보안 취약점을 규명한 고려대학교 컴퓨터학과 장부루 교수(왼쪽부터)와 최찬우 석박통합과정, 김은태 석박통합과정, 이규호 석사과정 연구진. 고려대 제공" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/28/fnnewsi/20261028161543585hjqz.jpg" data-org-width="800" dmcf-mid="ZqBlQBIkc1" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/28/fnnewsi/20261028161543585hjqz.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> AI 에이전트의 검색·추론 보안 취약점을 규명한 고려대학교 컴퓨터학과 장부루 교수(왼쪽부터)와 최찬우 석박통합과정, 김은태 석박통합과정, 이규호 석사과정 연구진. 고려대 제공 </figcaption> </figure> <p contents-hash="88132f5e9819a6265e67522ae8a3ab221eac3d76e13bed198c3e4bbbfa25d08a" dmcf-pid="tgZAzZaecX" dmcf-ptype="general">[파이낸셜뉴스] 인공지능(AI)이 스스로 인터넷에서 필요한 정보를 찾아 판단하고 답을 내놓는 기술이 확산하는 가운데, 외부에서 조작된 문서 몇 장만으로 AI의 판단 경로를 바꿔 엉뚱한 결론을 내리게 만드는 보안 취약점이 국내 연구진에 의해 밝혀졌다. </p> <p contents-hash="578dfd46050104a62aec9e126ae2d05066ab4a8cdf919f955068db344b5d9396" dmcf-pid="Fa5cq5NdaH" dmcf-ptype="general">고려대학교는 컴퓨터학과 장부루 교수팀이 AI 에이전트의 검색과 추론 과정을 단계별로 방해해 공격자가 의도한 답변을 만들도록 유도하는 새로운 보안 공격 기법 'KidnapRAG(키드냅RAG)'를 규명했다고 28일 밝혔다. </p> <p contents-hash="c2931c741f00e05c602d531939d5b3226402bd1249f9d5130233738d88c6ac91" dmcf-pid="3N1kB1jJgG" dmcf-ptype="general">최근 챗GPT나 제미나이 등 주요 인공지능 서비스에는 단순 질문 답변을 넘어 스스로 인터넷을 뒤져 자료를 검색하고, 여러 단계의 생각을 거쳐 정답을 도출하는 'Agentic RAG(에이전트 기반 검색증강생성)' 기술이 활발히 도입되고 있다. 하지만 AI가 자율적으로 정보를 찾아나서는 과정에서 악의적으로 작성된 '미끼 문서'를 읽게 될 경우, 전체 판단 흐름이 왜곡될 수 있다는 지적이 제기되어 왔다. </p> <p contents-hash="85dbc72be302d66d95c73745b29c7ba51a7800bcb9b5c6499522db2be9d05d66" dmcf-pid="0jtEbtAiAY" dmcf-ptype="general">장 교수팀은 AI 서비스의 내부 시스템을 직접 공격하거나 해킹하지 않고도, 외부에 게시된 조작 문서만으로 AI의 추론 방향을 점진적으로 바꾸는 방식을 분석했다. AI가 검색 결과와 중간 판단 과정을 외부에 보여준다는 점을 활용해, AI가 다음에 어떤 정보를 검색할지 미리 예측하고 길목마다 조작된 문서를 배치하는 방식이다. </p> <p contents-hash="5a328bd8e3303187890ef2d511d7e918496fbb0eac53c9b9863bb8f9a1162607" dmcf-pid="pAFDKFcngW" dmcf-ptype="general">실험 결과 이 같은 공격 방식은 AI가 처음 정한 올바른 추론 경로로 돌아가지 못하도록 지속적으로 방해했으며, 최대 78%의 높은 공격 성공률을 기록했다. 기존 공격 기법이 AI 스스로 오류를 인지하고 교정할 수 있었던 것과 달리, 이번에 찾아낸 기법은 AI의 판단 고리 자체를 납치하는 수준이라는 것이 연구팀의 설명이다. </p> <p contents-hash="a167430cede898be66403048c5015ebb4f5266a01940a0e2f25e94eb23f612ed" dmcf-pid="Uc3w93kLoy" dmcf-ptype="general">이번 연구는 금융, 의료, 법률 등 정확도가 생명인 분야로 AI 에이전트 적용이 확대되는 상황에서, AI의 보안 안전망을 선제적으로 점검할 수 있는 발판을 마련했다는 점에서 의미가 크다. </p> <p contents-hash="fcec73f697ff90b3ccf7d9d09ff6eee3fd5cffd41258d94a73e9dd854f549e07" dmcf-pid="ur7I87mjjT" dmcf-ptype="general">장부루 고려대 교수는 "실제 서비스 환경과 유사한 조건에서 AI 에이전트의 검색과 추론 경로가 공격받을 수 있음을 시의적절하게 밝혀냈다"며, "향후 AI 에이전트의 전 과정을 보호하는 방어 기술로 이어져 더 안전하고 신뢰할 수 있는 인공지능을 개발하는 데 기여하길 기대한다"고 말했다. </p> <p contents-hash="6057e894c78e31ea4eb6ef7f75b56b7d4583c386397065df7cc68eb4dd094117" dmcf-pid="7mzC6zsAjv" dmcf-ptype="general">이번 연구는 KT 프론티어랩스와의 협업 및 정보통신기획평가원(IITP)의 지원으로 수행됐으며, 오는 29일까지 헝가리 부다페스트에서 열리는 자연어처리 분야 세계적 권위 학술대회 'EMNLP 2026'에서 발표된다.</p> <p contents-hash="5fd8ff633ff22adfb01714c3b0d062a8cad0a74be8a60515d87913761d060bd6" dmcf-pid="zsqhPqOccS" dmcf-ptype="general">monarch@fnnews.com 김만기 기자</p> </section> </div> <p class="" data-translation="true">Copyright © 파이낸셜뉴스. 무단전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
업체홍보/구인
더보기
[구인]
유투브 BJ 구인중이자나!완전 럭키비키자나!
[구인]
에카벳에서 최대 조건으로 부본사 및 회원님들 모집합니다
[구인]
카지노 1번 총판 코드 내립니다.
[구인]
어느날 부본사 총판 파트너 모집합니다.
[구인]
고액전용 카지노 / 헬렌카지노 파트너 개인 팀 단위 모집중 최고우대
놀이터홍보
더보기
[홀덤 홍보]
텍사스홀덤 핸드 순위- 홀카드의 가치
[홀덤 홍보]
텍사스홀덤 핸드 순위 - 프리플랍(Pre-Flop) 핸드 랭킹
[토토 홍보]
미니게임개발제작 전문업체 포유소프트를 추천드립니다.
[토토 홍보]
2023년 일본 만화 판매량 순위 공개
[토토 홍보]
무료만화 사이트 보는곳 3가지 추천
지식/노하우
더보기
[카지노 노하우]
혜택 트렌드 변화 위험성 다시 가늠해 보기
[카지노 노하우]
호기심이 부른 화 종목 선택의 중요성
[카지노 노하우]
카지노 블랙잭 카드 조합으로 히트와 스탠드를 결정하는 방법
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
채팅하기