【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]"AI 활용 해킹 '한국 전세사기'만큼 정교…" MS, 17개국 대학과 '레드팀' 꾸렸다

온카뱅크관리자

2026-07-28 14:07:28

<div id="layerTranslateNotice" style="display:none;"></div> 고도화된 AI 해킹, 이론·상상 아닌 현실로 "방어력 높이려면 문화·제도 맥락 파악 핵심" 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="zid6eid8iM">
 <figure class="figure_frm origin_fig" contents-hash="71514b6e395477e805b398c5730b553e3bffc480f7b67987dbda9c2a8563ed1b" dmcf-pid="qV9uKV9URx" dmcf-ptype="figure">
 <img alt="마이크로소프트(MS)에서 '레드팀(AI 보안 강화를 위한 모의공격 수행팀)'을 이끄는 람 샹카르 시바 쿠마르 총괄이 27일 미 샌프란시스코에서 열린 ‘MS 보안’ 행사에서 인터뷰하고 있다. 실리콘밸리=박지연 특파원" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/28/hankooki/20260728140109714dczx.jpg" data-org-width="1440" dmcf-mid="UNq3zbqFRd" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/28/hankooki/20260728140109714dczx.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 마이크로소프트(MS)에서 '레드팀(AI 보안 강화를 위한 모의공격 수행팀)'을 이끄는 람 샹카르 시바 쿠마르 총괄이 27일 미 샌프란시스코에서 열린 ‘MS 보안’ 행사에서 인터뷰하고 있다. 실리콘밸리=박지연 특파원
 </figcaption>
 </figure>
 "오픈AI의 인공지능(AI) 모델이 (외부 플랫폼인) 허깅페이스를 해킹한 사건은 AI 위험에 있어서 '키티호크 순간'이라고 생각한다."
 마이크로소프트(MS)에서 '레드팀(AI 보안 강화를 위한 모의공격 수행팀)'을 이끄는 람 샹카르 시바 쿠마르 총괄은 최근 GPT 모델의 해킹 사건을 라이트 형제가 1903년 미 노스캐롤라이나주 키티호크에서 인류 최초로 동력 비행에 성공한 순간에 비유했다. 최근 오픈AI의 미공개 AI 모델이 통제 환경을 벗어나 허깅페이스를 공격하는 사건이 발생했는데, 바로 이 때가 AI가 해커의 손에 들어갔을 때 초래될 위험이 더는 이론이나 상상이 아니라 현실에서 실체화된 순간이라는 의미다.
 MS는 미국 샌프란시스코에서 27일(현지시간) 열린 보안 행사를 열고 에이전트 기반 보안 플랫폼 '프로젝트 퍼셉션'을 선보였다. 쿠마르는 이 자리에서 기자들에게 "우리가 목격한 것은 AI 시스템이 최첨단 위험과 결합했을 때 어떤 일을 벌일 수 있는지 보여주는 단면"이라며 "시스템을 출시하기 전에 AI 안전을 먼저 고려하는 것이 중요하다"고 강조했다. MS AI 레드팀 창설자인 그는 사내에서 스스로 지은 공식 직함 '데이터 카우보이(Data Cowboy)'로 불린다.
 <hr class="line_divider" contents-hash="9a861f62cd77e9352ab430b258c1b28fd8beefc8f246ad8a97d146429c7dd6fb" dmcf-pid="964Bf64qn8" dmcf-ptype="line">
 <h3 contents-hash="f5d6ee03c65226b041d759c04cf5230a437b7cb9c374a802d40324105d991175" dmcf-pid="2P8b4P8BR4" dmcf-ptype="h3">"해외 해커 자금줄 된 로컬 전술… '문화·제도 맥락' 읽는 보안 시급" </h3>
 <figure class="figure_frm origin_fig" contents-hash="edc9900376b31c62d10e944ab1cdefef1f7f3963393a5736530ba46c4516042f" dmcf-pid="VQ6K8Q6bMf" dmcf-ptype="figure">
 <img alt="마이크로소프트(MS)에서 '레드팀(AI 보안 강화를 위한 모의공격 수행팀)'을 이끄는 람 샹카르 시바 쿠마르 총괄이 27일 미 샌프란시스코에서 열린 ‘MS 보안’ 행사에서 인터뷰하고 있다. 실리콘밸리=박지연 특파원" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/28/hankooki/20260728140111048mznl.jpg" data-org-width="1440" dmcf-mid="7P8b4P8BLR" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/28/hankooki/20260728140111048mznl.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 마이크로소프트(MS)에서 '레드팀(AI 보안 강화를 위한 모의공격 수행팀)'을 이끄는 람 샹카르 시바 쿠마르 총괄이 27일 미 샌프란시스코에서 열린 ‘MS 보안’ 행사에서 인터뷰하고 있다. 실리콘밸리=박지연 특파원
 </figcaption>
 </figure>
 쿠마르는 고도화하는 AI 기반 사이버 공격을 설명하며 한국의 특수한 주거 제도를 활용한 '전세 사기'를 예로 들었다. AI 보안의 핵심이 단순한 해킹 방어가 아니라 국가별·지역별 특성을 이해하는 데 있다는 게 그의 철학이다. 그는 "전세사기는 구조적으로 한국에만 존재하는 고유한 사기 전술"이라며 "한국 밖의 공격자들이 자금을 확보해 추가 범죄를 저지르기 위해 이를 학습하고 악용할 수 있다"고 말했다.
 이 때문에 MS AI 레드팀이 AI 모델을 모의 공격할 때도 단순히 취약점을 찾는 데 그치지 않고 국가 단위 해커 조직의 전술과 행동 패턴을 그대로 모사한다고 설명했다. MS는 이를 위해 MS 위협 인텔리전스 센터(MSTIC)와 협력해 국가 주도 해킹 조직의 도구와 전술, 절차(TTP)를 분석한 뒤 이를 AI 모델 검증에 활용하고 있다.
 그는 "한국에선 빨간색으로 이름을 쓰거나 시험 전에 미역국을 먹는 것을 꺼리는데, 이런 문화적 금기도 AI가 이해해야 하는 맥락"이라며 "실제 AI 해킹 우려에 대한 안전성은 언어, 문화, 사회적 배경까지 반영해야 완성된다"고 말했다. 그러면서 "오늘 공개한 모델을 공격할 때도 국가 단위 적대 세력 역할을 맡아 그대로 시뮬레이션한다"며 "실제 지정학적 맥락에서 발생할 수 있는 탈옥 공격과 우회 시도를 미리 검증하는 것이 목표"라고 설명했다.
 이를 위해 MS는 한국 AI 안전연구소, 손수엘 KAIST 교수 연구팀을 비롯해 전 세계 17개 대학 및 연구기관과 협력하고 있다. 특히 다문화·다언어 안전성 데이터셋인 '플루리부스(Pluribus)' 구축에도 한국 기관들이 참여하고 있다고 소개했다. 그는 각국 조사원들을 통해 한국 제도와 문화를 접했다고 설명했다.
 실리콘밸리= 박지연 특파원 jyp@hankookilbo.com
 </section> 
 </div> 
 Copyright © 한국일보. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기