【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]굳이 방어망 안 뚫어도… ‘인간 가면’ 쓴 AI에 시스템 바로 열렸다

온카뱅크관리자

2026-10-06 00:57:26

<div id="layerTranslateNotice" style="display:none;"></div> AI 범죄, 모든 영역으로 확산 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="ZrjfYrV7YU">
 지난 2023년 4월, 유튜브뮤직에서 한 달 동안 미국 50대 무명 음악가가 만든 음악이 8090만회나 재생되는 일이 벌어졌다. 같은 기간 세계적 팝스타 테일러 스위프트의 전체 곡 재생 횟수(930만회)의 무려 8.7배였다.
 알고 보니 인공지능(AI)으로 수십만 곡을 대량으로 만들어 올려놓고, 수천 개의 가짜 계정을 동원해 반복 재생시켜 부풀린 조회 수였다. 남성은 이런 수법으로 스포티파이·애플뮤직 등에서 800만달러(약 110억원)가 넘는 음원 로열티를 챙겼다.
 꼬리가 밟힌 그는 지난달 미 검찰에서 사기(조회 수 조작) 혐의로 징역 46개월을 구형받았다. 영국 파이낸셜타임스는 “올 들어 9월까지 스트리밍 플랫폼에 삭제를 요청한 AI 음원만 26만곡으로, 6개월 만에 두 배 가까이 늘었다”며 “AI를 이용한 부정 음원과의 싸움이 갈수록 힘겨워지고 있다”고 전했다.
 최근 국내 금융권의 잇단 해킹 사례처럼, 전 세계적으로 AI를 악용한 신종 범죄가 급격히 확산하고 있다. AI가 사람의 목소리와 얼굴·문서는 물론 온라인 활동까지 진짜처럼 만들어내면서 기존 방어망을 뚫지 않고도 정상적인 이용자나 거래로 위장할 수 있게 된 사례도 나왔다. 그동안 각국 정부와 기업이 범죄와 부정행위를 막기 위해 구축해 온 첨단 보안·인증 체계가 AI라는 새로운 공격 수단을 만나 무용지물이 될 수 있다는 우려가 커지고 있다.
 <figure class="figure_frm origin_fig" contents-hash="b03b97b86f02c7f96607a63b0f64cfa4b6dc505f99d302b5dc589b198713b8b3" dmcf-pid="3LMpmL0HHt" dmcf-ptype="figure">
 <img alt="/그래픽=양인성" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/06/chosun/20261006005212766fzkt.jpg" data-org-width="2000" dmcf-mid="Xad7Iau5tu" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/06/chosun/20261006005212766fzkt.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 /그래픽=양인성
 </figcaption>
 </figure>
 ◇목소리·병원 서류까지 위조하는 AI 범죄
 기존 사기 범죄와 비교해 AI 이용 범죄는 훨씬 위협적이다. 사기를 적발하는 시스템이 ‘진짜’라고 판단하는 근거까지 위조할 수 있어서다. 보안 시스템을 정면으로 뚫는 대신 시스템이 믿도록 설계된 신호를 가짜로 만들어 속이는 것이다.
 지난 2월 이탈리아 최대 은행 ‘인테사 산파올로’의 자산관리 계열사 ‘피데우람’은 AI로 복제한 가짜 목소리에 속아 9500만유로(약 1500억원)를 해외 대포 계좌로 보내는 사기를 당했다. 범인들은 메신저 ‘왓츠앱’에서 인테사 산파올로 최고경영자(CEO)를 사칭하고, 은행 측 변호사의 목소리까지 AI로 복제했다. 피데우람의 회장은 이를 실제 변호사의 목소리로 믿고 직접 송금을 지시했다.
 문서 위조 방식도 훨씬 고도화했다. 부산의 20대 남성은 생성형 AI로 병원 입·통원 확인서의 입원 기간 등을 조작해 11개 보험사에서 약 1억5000만원을 받아냈다. 기존 문서를 수정·편집하는 대신, 생성형 AI로 문서 이미지를 다시 만들면 글꼴이나 편집 흔적이 남지 않기 때문에 문서 위조 탐지 시스템을 피해 갈 수 있다는 것을 악용한 것이다.
 관련 범죄는 빠르게 늘고 있다. 블록체인 분석 업체 TRM랩스에 따르면 올 들어 AI가 범행에 활용된 사기 건수는 2022년의 약 13배가 됐다. 올해 딥페이크(AI로 만든 가짜 영상·이미지) 사기 피해액도 지난 8월 집계 당시 이미 지난해 연간 피해액보다 263% 많았다.
 ◇AI 쓴 범죄 조직이 4.5배 더 벌어
 AI는 범죄 수법뿐 아니라 범죄 조직의 운영 방식까지 바꾸고 있다. 공격 대상 조사부터 코드 작성·검토, 오류 수정 등을 AI가 대신하면서 한 사람이 동시에 노릴 수 있는 대상이 크게 늘어났다. 기술과 인력이 부족한 조직도 AI의 도움을 받아 과감한 범행을 벌일 수 있게 됐다.
 구글의 지난달 보고서에 따르면, 한 공격자는 AI 에이전트(스스로 작업하는 AI)를 활용해 6시간도 안 돼 공격을 구축·실행하고 인증 정보 수천 개를 빼냈다. 앤스로픽도 한 개인이 클로드를 이용해 유럽의 정당·언론·싱크탱크 등 42곳을 공격하고, 최소 14곳의 내부 시스템에 침입한 사례를 공개했다.
 피해액 역시 눈덩이처럼 커진다. 블록체인 분석 업체 체이널리시스가 지난해 가상화폐 사기를 분석해 보니, AI 도구를 사용한 범죄 조직은 사기 1건당 평균 320만달러를 챙겨 AI를 쓰지 않은 조직(71만9000달러)보다 약 4.5배 많았다.
 문제는 공격 수법의 진화 속도를 대응 속도가 따라잡기 어렵다는 점이다. 보안 업계 고위 관계자는 “AI로 공격의 비용과 시간은 급격히 낮아지는데, 기업·기관이 보안 시스템을 점검하고 고치는 데 필요한 시간은 단기간에 줄이기 어렵다”며 “AI가 공격과 방어 사이의 속도 경쟁 자체를 공격자에게 유리하게 바꾸고 있다”고 했다.
 </section> 
 </div> 
 Copyright © 조선일보. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기