【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]"애니로 성적행동 강요 역겨워"…머스크 '그록' 이번엔 내부폭로

온카뱅크관리자

2025-09-26 05:37:29

<div id="layerTranslateNotice" style="display:none;"></div> "아동 성학대물 생성요청 정말 많아"…현·전직 12명 증언 xAI CSAM 신고 0건…6.7만건 오픈AI와 대조…불투명 정책 도마 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="66YjriJq5x">
 <figure class="figure_frm origin_fig" contents-hash="231e43c6f0944a8e672d25e5ba0b4cac16f49a58d7e399b7dd93e8d919eb4a51" dmcf-pid="PoUCWDEQXQ" dmcf-ptype="figure">
 <img alt="일론 머스크 테슬라·xAI CEO 그록 컴패니언 모드 캐릭터(영상 갈무리)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/26/NEWS1/20250926053118427vmir.jpg" data-org-width="846" dmcf-mid="fY21SAj41e" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/26/NEWS1/20250926053118427vmir.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 일론 머스크 테슬라·xAI CEO 그록 컴패니언 모드 캐릭터(영상 갈무리)
 </figcaption>
 </figure>
 (서울=뉴스1) 김민석 기자 = 일론 머스크의 인공지능(AI) 스타트업 xAI가 운영하는 챗봇 '그록'이 성 상품화·성적 대상화 논란에 이어 아동 성학대물(CSAM) 생성 의혹에 휩싸였다.
 26일 IT 업계와 외신에 따르면 비즈니스인사이더가 인터뷰한 xAI 현·전직 직원 12명은 그록의 AI 컴패니언(동반자) 훈련 과정에서 성적으로 노골적인 콘텐츠와 아동 성학대물 생성 요청을 다수 접했다고 증언했다.
 인공지능(AI) 컴패니언은 단순 답변 생성 기능을 넘어 친구처럼 이용자와 상호작용하는 AI를 뜻한다.
 그록의 유료 이용자용 컴패니언(동반자) 모드에서 선택할 수 있는 애니메이션 소녀 캐릭터 '애니'(Ani)는 출시 당시부터 이용자의 성적 행동을 조장한다는 논란을 불렀다.
 애니는 "천천히 안아주고 싶다" 등의 대화로 이용자와 교감을 시도한다. 친밀도가 깊어지면 속삭이는 목소리를 내거나 숨을 헐떡이고 몸을 들썩이며 춤을 춘다. 레벨 3 이상 대화가 지속되면 심장박동수가 증가하면서 란제리 모습으로 변신하는 것으로 전해졌다.
 <figure class="figure_frm origin_fig" contents-hash="1b8d58a7e13bcd131ba3e51641d30411a6a56e22bd21189e523a26c0de876fb8" dmcf-pid="GUwQi29HGV" dmcf-ptype="figure">
 <img alt="일론 머스크의 AI 챗봇 그록 컴패니언 캐릭터 애니 란제리 입은 모습(영상 갈무리)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/26/NEWS1/20250926053119688jnwm.jpg" data-org-width="337" dmcf-mid="4c1whNaVZR" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/26/NEWS1/20250926053119688jnwm.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 일론 머스크의 AI 챗봇 그록 컴패니언 캐릭터 애니 란제리 입은 모습(영상 갈무리)
 </figcaption>
 </figure>
 미국 최대 커뮤니티 레딧 등에선 애니에게 성적 역할극을 수행하도록 하는 프롬프트나 방법 등이 공유되고 있다.
 익명의 xAI 전·현직 직원들은 "그런 종류의 명령을 하는 사람이 정말 많다는 사실에 충격을 받았다"며 "실제로 역겨웠다"고 말했다.
 특히 그록은 '스파이시'(Spicy) '섹시'(sexy) '언힌지드'(Unhinged) 모드 등을 통해 이용자에 일탈의 경험을 제공하고 있다.
 심지어 프롬프트 요구에 따라 옷을 벗는 여성 아바타 등도 서비스하는 것으로 전해졌다.
 다른 AI 챗봇 기업들이 불법·혐오·학대 등을 조장하는 콘텐츠를 선제적으로 차단하는 것과 대조적이다.
 머스크가 "아동 성 착취물 제거를 1순위로 두겠다"고 말한 적이 있지만, 관련 기술·정책 업데이트는 미흡한 것으로 파악되고 있다.
 미국 NCMEC(실종·착취 아동 센터)에 따르면 2024년 CSAM 신고는 6만 7000건에 달했다. 이중 오픈AI는 3만 2000건 이상, 앤트로픽(Anthropic)은 약 970건을 각각 신고했다. 반면 xAI는 단 한 건도 신고하지 않았다.
 <figure class="figure_frm origin_fig" contents-hash="87570b9fb96caf06168c64e65e269f76cecbbed67da0d6eba86340436f76b2d5" dmcf-pid="3R5DCag2Y7" dmcf-ptype="figure">
 <img alt="일론 머스크 테슬라·xAI CEO ⓒ AFP=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/26/NEWS1/20250926053120940nfuw.jpg" data-org-width="860" dmcf-mid="8D9YthCnZM" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/26/NEWS1/20250926053120940nfuw.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 일론 머스크 테슬라·xAI CEO ⓒ AFP=뉴스1
 </figcaption>
 </figure>
 미국 커먼센스미디어의 조사에서 미국 청소년 72%는 AI 동반자를 사용한 경험이 있고 52%는 정기적으로 사용했다. 응답자 중 34%는 "챗봇이 불편한 말을 했다"고 답했다.
 미국 캘리포니아 주는 AI 챗봇·컴패니언과 대화를 하다 현실감각을 잃는 'AI 정신병' 현상으로부터 미성년자를 보호하기 위한 법을 내년부터 시행한다. 현재 개빈 크리스토퍼 뉴섬 주지사의 서명을 남겨둔 상태다. 서명 기한은 다음달 12일까지다.
 법안 핵심은 AI 챗봇 운영자에게 안전 프로토콜 마련을 의무화해 AI 컴패니언이 극단적 선택이나 자해, 성적인 대화 참여 등을 막는 데 있다.
 EU 집행위원회는 그록이 'EU 디지털 서비스법'(DSA)를 위반 여부와 관련 조사 착수를 검토 중이다.
 업계 관계자는 "AI 컴패니언 시장이 주로 청소년의 정서적 갈증·충동을 겨냥해 빠르게 성장하고 있다"며 "부작용이 커지기 전에 실효성 있는 적정 규제가 필요하다"고 말했다.
 ideaed@news1.kr &lt;용어설명&gt; ■ 비즈니스인사이더 비즈니스인사이더(Business Insider)는 2007년 미국 뉴욕에서 설립된 글로벌 온라인 경제·경영 전문 매체다. 창립 초기 증권가 정보지로 출발해 2008년 법인을 세웠다. 2015년 독일 미디어 그룹 악셀 슈프링거(Axel Springer SE)가 비즈니스인사이더 지분 88%를 약 3억 4300만 달러에 인수했다. ■ CSAM CSAM(Child Sexual Abuse Material)은 미성년자(18세 미만)를 성적으로 학대하거나 착취하는 모든 이미지·동영상·만화·CG 등 시각적 자료를 뜻한다. 아동의 노골적 성행위 혹은 성적 노출 장면을 담은 모든 유형의 콘텐츠를 포함한다. ■ 언힌지드 언힌지드(Unhinged) 모드는 xAI의 그록(Grok)에서 일반적으로 금지된 불쾌하거나 논란이 될 수 있는 답변, 비속어, 직설적이고 감정적인 언어, 폭력적·음담패설 요소까지 제한 없이 생성하는 옵션이다. 
 </section> 
 </div> 
 Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기