【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]기부금 탈취·음란물 생성까지…알고리즘 타고 번지는 'AI 딥페이크 범죄' [특별기획 ①]

온카뱅크관리자

2026-11-09 09:17:26

<div id="layerTranslateNotice" style="display:none;"></div> AI 시대 본격 개막, 건강한 미래와 공존의 지혜를 찾다 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="QflvF1qFvs">
 생성형 AI가 일상 깊숙이 스며들면서 딥페이크를 앞세운 사이버 폭력, 선거와 금융시장을 흔드는 허위조작정보, 에이전트 AI의 악용 등 기술의 그늘도 빠르게 짙어지고 있다. 최근 동시다발적 AI 기반 해킹에서 보여주듯 AI의 진화 속도는 이미 사회의 대응 능력을 앞지르고 있으며, 이는 특정 국가가 아닌 글로벌 공통의 과제가 됐다.
 <div contents-hash="8936fe7684a63863e2d1c7f7c00060eb2c3db4ca30406fd4a5c93234350be934" dmcf-pid="yh6Qaowahr" dmcf-ptype="general">
 &lt;디지털데일리&gt;는 한국언론진흥재단이 진행하는 공익 목적 콘텐츠 기획의 일환으로, 총 5회에 걸쳐 AI가 공동체에 던지는 위협의 실체를 진단한다. 아울러 해외 주요국의 대응 사례와 함께 'AI 기본법' 등 국내 법·제도가 보강해야 할 과제를 통해 건강한 공존의 해법을 모색한다. &lt;편집자&gt;
 </div>
 <figure class="figure_frm origin_fig" contents-hash="9df8d1775db27ad19814876308e5c2e9f1659ea7e27ffbeaf0ab82fefa392cb2" dmcf-pid="WlPxNgrNyw" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/09/552796-pzfp7fF/20261109091226246jezk.jpg" data-org-width="640" dmcf-mid="42X1bq6bvh" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/09/552796-pzfp7fF/20261109091226246jezk.jpg" width="658">
 </figure>
 -알고리즘 뒤에 숨은 사기극과 폭력, 우리는 무엇에 속고 있나
 [디지털데일리 김보민기자] #1시간이 넘는 출근길. 심심하던 찰나에 스마트폰으로 인스타그램을 켠다. 10초 이내 짧은 영상이 가득한 '릴스(Reels)'를 열자 다운증후군 여성이 자신이 만든 공예품을 소개하며 "넘기지 말고 한 번만 봐주세요"라고 호소한다.
 #애써 외면하고 스크롤을 내리자 "바다 유리 조각으로 만든 예술 작품을 구매해달라"는 한 할머니의 영상이 떠오른다. 불편한 몸으로 두 손을 모으고 호소하는 그 모습에 홀린 듯 링크를 타고 들어가자 '3만원이면 할머니를 도울 수 있다'는 문구가 떠오른다. 결제 정보를 입력하면, 그 끝에 웃고 있는 주인공은 할머니가 아닌 '딥페이크 피싱범'이다.
 인공지능(AI)으로 만든 얼굴과 목소리는 이제 특별한 기술자의 전유물이 아니다. 공개된 사진 몇 장과 짧은 음성만으로도 특정인의 외모와 말투를 모사한 영상과 음성을 만들 수 있다. 누구나 다양한 콘텐츠를 만들며 상상력과 창의력을 펼칠 수 있는 시대가 됐지만, 동시에 딥페이크 범죄자 또한 기술 발전을 악용하기 시작했다.
 <div contents-hash="d05fd38b9d41628f562ef20de6c194fa5f2f1928ce9f6dbcb7ce6dc7068b6447" dmcf-pid="ZlPxNgrNvA" dmcf-ptype="general">
 전문가들은 특히 사람의 감정을 건드려 기부 및 투자금을 명목으로 금전을 탈취하는 신규 '동정심 사기' 수법을 경계해야 한다고 입을 모은다. 딥페이크 사기와 불법 음란물 제작에 얼굴이 도용된 피해자를 구제하기 위한 사전 대응 체계를 마련해야 한다는 지적도 제기된다. &lt;디지털데일리&gt;는 글로벌 딥페이크 탐지 전문기업 센시티(Sensity AI)와 함께 한국이 주의해야 할 사기 유형과 대응 방안을 해부해 봤다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="1abce800c6f1c2d18777f61f947d7e375e38acc6b71afa153eaa9446e4ce7af2" dmcf-pid="5SQMjamjWj" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/09/552796-pzfp7fF/20261109091227516gcoi.jpg" data-org-width="640" dmcf-mid="8JjkShXSlC" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/09/552796-pzfp7fF/20261109091227516gcoi.jpg" width="658">
 </figure>
 ◆ "당신의 지갑이 열릴 때까지"…알고리즘은 멈추지 않는다
 최근 딥페이크 사기 조직은 대중의 동정심을 자극하는 가상 인물을 내세우기 시작했다. 노인, 장애인, 난치병 환자가 대표적이다. 센시티는 "과거 러시아-우크라이나 전쟁 등 군사 목적 인지전(Cognitive Warfare)에 쓰이던 서사 킬 체인(Narrative Kill Chain) 기법이 비군사적 사기 범죄에 적용됐다"며 "사기 수법에 필요한 대본을 살짝 수정하기만 해도 다양한 대중을 표적으로 삼을 수 있게 됐다"고 말했다.
 군사 분야에서 인지전은 가짜 뉴스, 소셜미디어 알고리즘을 활용해 국가 여론을 분열시키고 사회적 혼란을 야기시키는 수법을 뜻한다. 기존의 심리전이 전단지나 선전 선동을 하는 데 집중했다면 인지전은 AI, 빅데이터, 사이버 기술을 결합해 광범위하게 전개되는 것이 특징이다. 이 기법은 러시아-우크라이나전에서도 수차례 포착됐다.
 딥페이크 범죄 역시 AI 기술이 결합되면서 이러한 서사를 손쉽게 만들어내고 있다. 관련 범죄는 5단계로 진행된다. 범죄자들은 먼저 사기에 필요한 정체성을 형성한다. 우는 표정을 한 합성 인물을 만들어 사용자 이목을 끄는 방식이다. 이후에는 동정심을 유발할 만한 피해자 성격을 더하는 데 집중한다. '아무도 쓰레기 같은 물건을 사지 않을 것'이라는 식으로 합성 인물을 조롱하는 악플을 영상에 덧입혀 보호 본능을 자극하는 것이 핵심이다.
 이어 합성 인물이 역경을 딛는 과정을 보여주고, 시청자가 스스로 기부금을 내도록 제품을 소개하는 단계로 진입한다. 정교하게 묘사한 가짜 완성품을 화면에 띄우며 '솔직히 어때요, 계속 만들어야 할까요?'라는 질문을 덧붙인다. 이후 제3자 검증 단계에 돌입한다. 첫 주문을 받고 기뻐하는 모습이나 가상 고객의 후기를 합성해 구매를 유도하는 방식이다.
 문제는 이 같은 딥페이크 영상이 소셜미디어 알고리즘을 타고 사용자에게 지속적으로 노출된다는 점이다. 대표적으로 최근 틱톡에서는 치료비가 부족한 암 환우의 얼굴을 입힌 딥페이크 영상이 유포됐다. 해당 영상 말미에는 치료비를 기부해달라며 시청자를 크라우드펀딩 사이트에 접속하도록 유도하는 목소리가 입혀져 있었다.
 <div contents-hash="99ee4744f2a33c936b175f3842f40e87d693f560d013e4a48e4d9eef785ed446" dmcf-pid="U8vy0Fb0Wi" dmcf-ptype="general">
 한국도 이 같은 사기극에서 자유롭지 않다. 센시티에 따르면 딥페이크 범죄자들은 더 많은 트래픽을 유도하기 위해 유명인을 사칭한 사기극을 이어가고 있다. K-팝과 같은 한국 문화를 좋아하는 이들도 모두 대상이다. 센시티에 따르면 유명인 딥페이크 사기의 절반은 한국 연예인의 신원을 도용해 생성되고 있다. 여기에는 동정심 유발뿐만 아니라 연애 감정을 자극해 금전을 탈취하는 '로맨스 스캠'도 활용된다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="4d8a3508b4d489f6d0ae5975434c71df11590b83c0e9977e3f3b0808b40d48c8" dmcf-pid="u6TWp3KpSJ" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/09/552796-pzfp7fF/20261109091227751dmxh.jpg" data-org-width="640" dmcf-mid="6dCSt5ztSI" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/09/552796-pzfp7fF/20261109091227751dmxh.jpg" width="658">
 </figure>
 ◆ 단타성 사기만 문제? 이젠 장기전으로…서비스형 딥페이크 활개
 이 같은 딥페이크 사기는 대량으로 콘텐츠를 유포하기 때문에 단타성으로 분류된다. 문제는 이 같은 사기극이 장기전으로 확대되고 있다는 점이다. 센시티는 "최근 티베트와 네팔에서 발생한 홍수와 자연재해를 악용해 딥페이크 사기가 확대되고 있다"며 "딥페이크 사기극의 목적이 단순히 사람들을 즉각적으로 속이는 데 그치지 않는다는 점을 보여주는 대목"이라고 말했다.
 사회적으로 주목을 받는 사건·사고가 발생하면 이 또한 딥페이크 범죄에 악용되고 있다는 취지다. 센시티는 "사기꾼들은 소셜미디어의 알고리즘적 특성을 이용하기 위해 해당 사건의 딥페이크 생성물을 유포한다"며 "딥페이크 생성물은 시드(seed) 계정에 배포되며, 알고리즘이 자연스럽게 해당 생성물을 홍보해 팔로워를 확보하는 방식"이라고 설명했다.
 이 같은 장기전의 경우 서비스형딥페이크(Deepfake-as-a-service) 형태로 발전하고 있다. 구매자는 직접 AI 및 사기 모델을 개발하고 학습시키는 대신 구독료나 작업당 비용을 지불해 얼굴 바꾸기, 음성 복제, 조작된 영상 등을 주문해 받아볼 수 있다. 이전에는 딥페이크를 제작하려면 기술적 전문 지식이나 컴퓨팅 자원이 필요했지만 이제는 해당 서비스를 구독하는 것 만으로도 범죄를 시도해볼 수 있게 됐다.
 이러한 서비스는 소액의 기부금을 요구하는 단타성 사기극과 달리, 대규모 수익을 노린다는 부분에 차별점이 있다. 복제된 얼굴과 목소리로 계정 접근 권한을 확보하거나 송금을 승인하는 범죄도 포착되고 있다. 개인을 넘어 기업 및 엔터프라이즈 영역까지 AI 기반 딥페이크가 노리는 구멍이 다양해지고 있다는 의미다.
 나아가 실제 존재하는 인물의 이미지를 도용하는 사기극도 증가하고 있다. 지난해 한국에서는 유명 연예인을 사칭한 투자 리딩방이 활개쳤고, 이들 얼굴을 입힌 성착취물도 음란물 사이트에 공유되고 있다. 올해 싱가포르에서는 로런스 웡 총리 얼굴을 딥페이크 기술로 구현해 실시간 줌(Zoom) 회의를 개최한 투자 사기 행각이 포착됐다. 범죄자는 AI로 조작된 영상과 음성을 사용해 호르무즈해협 사태를 핑계로 싱가포르에 투자해달라고 요청했다.
 <div contents-hash="7694e95df24cc31a6abc4dd61e2bf1fc65da767a428cafff2b8cd13d4d205957" dmcf-pid="9tajCOYClP" dmcf-ptype="general">
 지난 7월 싱가포르 사이버보안청(CSA)이 개최한 'SICW 2026' 발표에 따르면, 해당 사기극으로 발생한 피해금은 약 50억원에 달한다. 조세핀 테오 싱가포르 디지털개발정보부 장관은 "AI는 사기꾼들이 더 그럴듯하게 사람을 사칭하고 접근 방식을 개인화하며, 더 많은 피해자를 표적으로 삼을 수 있게 돕고 있다"며 "방어 체계를 더욱 강력하게 만들 때"라고 경고했다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="bfba692d6d7afefb942b86531b226d265713e97c6435cf100ca110db557b4c14" dmcf-pid="2FNAhIGhT6" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/09/552796-pzfp7fF/20261109091229149dlcd.jpg" data-org-width="640" dmcf-mid="P5kDTS5ThO" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/09/552796-pzfp7fF/20261109091229149dlcd.jpg" width="658">
 </figure>
 ◆ 성착취물까지 AI가 척척…"사후대응 조치만으론 부족"
 전문가들은 이 같은 딥페이크 공격이 단순 금전을 탈취하는 사기극을 넘어, 알고리즘을 따라 재유포되고 삭제가 어려운 성착취물에 악용되고 있는 점도 문제라고 지적한다. 유명인이 아니더라도 카카오톡과 인스타그램 등 소셜미디어에 올라온 지인의 사진을 저장해뒀다가 불법 딥페이크 생성 사이트에서 이를 원하는 목적으로 활용하는 경우도 늘고 있다.
 이에 주요국도 경고문을 발표하며 대응에 돌입하고 있다. 인터폴은 올해 보고서를 통해 AI를 활용한 사기에서 발생하는 수익성이 기존 방식보다 4.5배 높다고 평가했다. 특히 AI 에이전트 기술이 고도화된 이래 범죄자들이 성착취물 생성부터 몸값 요구까지 완전한 사기 캠페인을 자율적으로 계획하고 실행할 수 있게 됐다고 경고했다. 인터폴은 유엔 마약범죄사무국 등과 함께 이 같은 범죄에 공동 대응하고 있다.
 국내 또한 경찰 수사를 중심으로 차단에 집중하고 있다. 경찰청이 지난 6월 공개한 집중단속 중간성과에 따르면, 2025년 11월17일부터 진행한 단속에서 사이버성폭력 1446건을 수사해 1506명을 검거하고 87명을 구속하는 데 성공했다. 경찰은 시·도경찰청 전담팀을 중심으로 해외 서버 기반 불법 사이트 추적과 국제 플랫폼 공조를 강화하겠다고 밝혔다. 이 수치를 전체 피해 규모로 볼 수는 없지만, 합성물 제작자뿐 아니라 사이트 운영자와 유포자, 구매·소지·시청자까지 공급과 수요를 함께 끊어야 하는 수사 현실을 보여준다.
 다만 센시티는 실제 피해자가 발생한다면 이 같은 사후대응 조치에 한계가 있을 수밖에 없고, 사전 예방 또한 미흡한 추세라고 진단했다.
 센시티는 "세계 각국은 딥페이크 위협에 각기 다른 속도로 대응하고 있으나, 규제의 초점은 주로 상업용 AI 생성기 및 콘텐츠 플랫폼에 워터마크를 더하거나 라벨링 기술을 더해 합성 생성물임을 명시하도록 하는 데 그쳐 있다"며 "범죄자들은 규제망 안에서 활동하지 않는다는 사실을 기억해야 한다"고 말했다. 워터마크를 삽입하지 않는 생성기가 많고, 이를 제거하는 도구(툴) 또한 많다고 강조했다.
 소셜미디어와 음란 사이트에 쏟아지는 콘텐츠를 탐지할 만한 기술을 도입하는 것이 관건이 된 이유다. 미국 연방거래위원회(FTC)는 소셜미디어와 가상공간에서 비동의 성적 촬영물이 유통되는 것과 관련해 지난 5월 강제 집행에 착수했다.
 국내도 대응에 돌입했다. 성평등가족부는 지난 4월 삭제요청 자동화, AI 기반 아동·청소년 온라인 성착취 선제 대응, AI 기반 딥페이크 탐지 등 세 가지 시스템을 도입했다. 약 2만개 사이트에 대한 삭제 요청과 처리 이력 관리를 자동화해 건당 처리 시간을 1분 이내로 줄였고, 해외 기관·기업과 응용프로그램인터페이스(API)를 연결해 우회 주소에 대한 대량 요청도 가능하게 했다. 해당 조치에 대한 실제 실효성은 추후 수치를 통해 입증될 전망이다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기