로그인
토토사이트
신규사이트
업체홍보/구인
먹튀사이트/제보
지식/노하우
놀이터홍보
판매의뢰
스포츠분석
뉴스
후기내역공유
커뮤니티
포토
포인트
보증업체
카지노
토토
홀덤
구인
구직
총판
제작업체홍보
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
토토 홍보
카지노 홍보
홀덤 홍보
꽁머니홍보
신규가입머니
제작판매
제작의뢰
게임
축구
야구
농구
배구
하키
미식축구
스포츠뉴스
연예뉴스
IT뉴스
카지노 후기
토토 후기
홀덤 후기
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[연예뉴스]
‘언포게터블듀엣’ 치매 부부 최고 2.3%
N
[연예뉴스]
왕종근, 가족들에 유언 “치매 걸리면, 요양병원 보내고 면회도 오지마”
N
[스포츠뉴스]
'8점 차 뒤집기'…도로공사, 6연승 질주
N
[스포츠뉴스]
돌아온 조규성…"몇 분이라도 뛰고 싶다"
N
[연예뉴스]
뉴진스, 계약해지 기자회견부터 복귀 선언까지..더없이 길었던 1년 [Oh!쎈 이슈]
N
커뮤니티
더보기
[유머★이슈]
바란 은퇴보다 더 소름돋는점
[유머★이슈]
오늘 국군의날 예행연습에 최초 공개된 장비들
[유머★이슈]
손흥민이 한국 병역 시스템에 영향 끼친 것.
[유머★이슈]
시댁의 속터지는 스무고개식 대화법
[유머★이슈]
엄마. 나 여자 임신시켜버렸어
목록
글쓰기
[IT뉴스]구글 제휴 캐릭터AI, 잇단 10대 자살사건에 '미성년 사용금지'
온카뱅크관리자
조회:
2
2025-11-13 06:37:29
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">소장에 구글·알파벳 피고 포함…정부 규제 움직임에 특단 조치<br>챗GPT 주간통계 120만명 '자살'언급…56만명 정신질환 징후</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="84YtDvrNZa"> <figure class="figure_frm origin_fig" contents-hash="7fb120e2764e60c686db2acf61def75d920e9de19422a3d80956ea1de1b232ec" dmcf-pid="68GFwTmjtg" dmcf-ptype="figure"> <p class="link_figure"><img alt='미국 플로리다주 올랜도의 자택에서 메건 가르시아가 아들 수웰 셋저 3세(14)의 사진 옆에 서 있다. 가르시아는 지난해 11월 "챗봇이 아들의 자살을 부추겼다"며 챗봇 개발사 캐릭터AI를 상대로 소송을 냈다. 2025.10.09. ⓒ AFP=뉴스1 ⓒ News1' class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/13/NEWS1/20251113063117300rici.jpg" data-org-width="1400" dmcf-mid="Vhq5klDgHA" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/13/NEWS1/20251113063117300rici.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 미국 플로리다주 올랜도의 자택에서 메건 가르시아가 아들 수웰 셋저 3세(14)의 사진 옆에 서 있다. 가르시아는 지난해 11월 "챗봇이 아들의 자살을 부추겼다"며 챗봇 개발사 캐릭터AI를 상대로 소송을 냈다. 2025.10.09. ⓒ AFP=뉴스1 ⓒ News1 </figcaption> </figure> <p contents-hash="0b3e4697e4bf8cf0d896644facb9476746ebeec81213346e4f47ebfa8483f74b" dmcf-pid="P6H3rysAXo" dmcf-ptype="general">(서울=뉴스1) 김민석 기자 = 미국을 중심으로 '인공지능(AI) 챗봇'과 대화하던 10대가 자살하는 사건이 잇따라 발생하면서 오픈AI·캐릭터AI 등 주요 AI 챗봇 기업들이 미성년자 보호 기능을 도입하고 있다.</p> <p contents-hash="4a083089a60f3d9a68728d42fb732d727715976409b5f8c47f5397586f538492" dmcf-pid="QPX0mWOcXL" dmcf-ptype="general">구글과 기술·투자 파트너십 관계인 캐릭터AI 경우 이달 25일(현지시간)부터 10대 이용자의 개방형 채팅(open-ended chat) 사용 자체를 금지하기로 했다. 주요 챗봇 기업이 미성년자의 채팅 서비스 이용을 금지한 건 첫 사례다.</p> <p contents-hash="7ccc1486a7dd81e79ca98975236a11e21737a601d578385c761500aac96cab1c" dmcf-pid="xQZpsYIkHn" dmcf-ptype="general">캐릭터AI는 다양한 페르소나를 가진 AI 챗봇을 제공하고 자신만의 챗봇도 제작할 수 있는 플랫폼이다.</p> <h3 contents-hash="0cd01a88a7933924b8e118cf4fc5c85566120fda6b01f1de6f0e4f66740f4357" dmcf-pid="yTij9RV7Xi" dmcf-ptype="h3">캐릭터AI 18세 미만 개방형 채팅 우너천 차단…청소년 모드 신설</h3> <p contents-hash="715192c4ba77a1ff1861ac642df10f90ae690c0c84211178d22fd161621a409d" dmcf-pid="WynA2efzZJ" dmcf-ptype="general">13일 IT 업계에 따르면 캐릭터AI는 지난달부터 채팅 시간 점진적 축소를 적용해 이달 25일(현지시간) 시점부터 18세 미만 이용자의 개방형 대화 기능 사용을 원천 차단한다.</p> <p contents-hash="65e2b4c6aff67c7911b1e0ff88c984fff399cfefdd1addcdaa2fe0f4c7704ecc" dmcf-pid="YWLcVd4qYd" dmcf-ptype="general">캐릭터AI는 이후 18세 미만 이용자 대상으로 대화 기반이 아닌 창작 활동만 허용할 방침이다.</p> <p contents-hash="918b8ddc2360f9bdbcf4cf25bbf107272577fc784d31062ade32b1f5b739120c" dmcf-pid="GRt7CXlwGe" dmcf-ptype="general">아울러 이용자 연령을 명확히 확인하기 위해 △이용자 행동 분석 △신분증 확인 △안면 인식 등을 도입한다.</p> <p contents-hash="91c5a39cf123519fa540c94aa98a284e59c027b817c946f9ab5c0cd7a8a97dad" dmcf-pid="HeFzhZSr5R" dmcf-ptype="general">캐릭터AI의 결정은 2024년 2월 미국 플로리다주에서 발생한 수웰 셋저 3세(14세)의 자살 등으로 소송이 잇따른 데 따른 것으로 풀이된다. 셋저 3세 어머니는 지난해 10월 "챗봇이 아들의 자살을 부추겼다"며 캐릭터AI를 상대로 소송을 냈다.</p> <p contents-hash="272f1829043d6a0613152eb757327ccb4015fe3a215e825cdaef793985ef12e3" dmcf-pid="Xd3ql5vmYM" dmcf-ptype="general">2023년 11월엔 콜로라도주에서도 줄리아나 페랄타(13세)가 캐릭터AI 챗봇과 대화 후 자살하는 사건이 발생했다.</p> <p contents-hash="2344e291b1ea690408ac2c72858eea20f9adde3ba9f8e58ada3ff38bc5433fb8" dmcf-pid="ZJ0BS1Ts5x" dmcf-ptype="general">줄리아나의 부모가 낸 소장에 따르면 줄리아나가 캐릭터AI의 '히어로' 챗봇과 매일 대화를 나누다 자살 계획을 털어놨지만, 챗봇은 이를 부모·기관 등에 알리지 않았다.</p> <p contents-hash="bef453a336c73c14c21118614a6b60c1ae1a317b543668f33dab62e110a64367" dmcf-pid="5ipbvtyOHQ" dmcf-ptype="general">이외에도 약 3건 소송이 잇따라 제기됐다.</p> <figure class="figure_frm origin_fig" contents-hash="93fb2bea7c7cc397e98d05de3dbbbebf01996d3339b34ac75cc78d312b0fe7e3" dmcf-pid="1nUKTFWI1P" dmcf-ptype="figure"> <p class="link_figure"><img alt="구글 로고 ⓒ AFP=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/13/NEWS1/20251113063118618cpkr.jpg" data-org-width="1400" dmcf-mid="fUzZchEoZj" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/13/NEWS1/20251113063118618cpkr.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 구글 로고 ⓒ AFP=뉴스1 </figcaption> </figure> <p contents-hash="4066d5d54e7372f6045a9e60a3eb2ce16d0f4b6cc6bf858be6cc1af224d14e4c" dmcf-pid="tLu9y3YCH6" dmcf-ptype="general">캐릭터AI 상대 소송은 뉴욕주·텍사스주에서도 잇따라 제기됐다. 일부 소장에는 구글(Google LLC)과 알파벳(Alphabet Inc.)도 피고로 포함됐다.</p> <p contents-hash="de7a9c82f345da5cef3a7a6e79324841257231d4f6664a8b2ec181a4185be469" dmcf-pid="Fo72W0GhH8" dmcf-ptype="general">구글은 지난해 8월 캐릭터AI와 기술 라이선스 계약을 체결하고 약 27억 달러(약 3조 7000억 원)를 투입한 바 있다. 당시 캐릭터AI를 공동창업한 노암 샤지어와 대니얼 드 프레이타스를 비롯한 핵심 연구진이 구글 딥마인드로 복귀했다.</p> <p contents-hash="90a5e2b1aa7747ec1f02b2d02c2b41809b3a1ce0b775f7e61b8c1a8a22df312f" dmcf-pid="3legBQKpH4" dmcf-ptype="general">샤지어는 구글의 대화형 AI 모델 LaMDA 개발을 이끈 인물로 2021년 구글이 그가 개발한 챗봇 출시를 거부하자 회사를 떠나 캐릭터AI를 설립했다.</p> <p contents-hash="fdce12deeda981d5e02b2b550bde6746a7bb585117b4277b7b8057c3d56c1388" dmcf-pid="0Sdabx9U1f" dmcf-ptype="general">미탈리 자인 변호사(부모 측 소송 대리인)는 "구글과 캐릭터AI는 완전히 별개"라는 구글 입장에 "샤지어 등이 구글에서 개발한 것이 캐릭터AI의 전신"이라고 반박했다.</p> <p contents-hash="306b9d66e0827ee3f3688d704b3b4ca36f1ca5a6c38ac3b859e1ab6ba989dca4" dmcf-pid="pvJNKM2uZV" dmcf-ptype="general">구글 측은 "캐릭터AI의 앱이나 구성요소 설계 및 관리에 관여하지 않았다"며 미 연방법원에 소송 기각을 요청했지만, 법원은 올해 5월 소송 진행을 허가했다.</p> <figure class="figure_frm origin_fig" contents-hash="8ce61ebf72749457ca997cbe1a18a5cd82c1cf9bc181a8500a8f33502242bf0c" dmcf-pid="UTij9RV712" dmcf-ptype="figure"> <p class="link_figure"><img alt="샘 올트먼 오픈AI CEO ⓒ AFP=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/13/NEWS1/20251113063120051uazd.jpg" data-org-width="1400" dmcf-mid="4SLcVd4qGN" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/13/NEWS1/20251113063120051uazd.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 샘 올트먼 오픈AI CEO ⓒ AFP=뉴스1 </figcaption> </figure> <h3 contents-hash="cc067586f4e7523d9d8dbb14da28525b7a821f5b051df2a36b92b9ef89cf5343" dmcf-pid="uynA2efz19" dmcf-ptype="h3">오픈AI 美 7개 가족으로부터 집단소송…4명 사망·3명 정신적 트라우마</h3> <p contents-hash="34bdb835c61824b31db5f32a64bf4e48f67e5c824ac7b15d920902dd4f612a6e" dmcf-pid="7WLcVd4qXK" dmcf-ptype="general">오픈AI도 집단소송에 직면한 상태다.</p> <p contents-hash="21810b18ea05522e9525a94b863d879a8d928f93d2d30948c83db97e39c14305" dmcf-pid="zYokfJ8BXb" dmcf-ptype="general">미국의 7개 가족은 챗GPT가 자살조장 혹은 정신적 피해를 초래했다며 오픈AI와 샘 올트먼 CEO를 상대로 집단소송 제기했다. 이중 4건은 성인·미성년자가 실제로 사망한 사례고 나머지 3건은 심각한 정신적 트라우마를 겪은 사례다.</p> <p contents-hash="6c6e40c3dc7d92de703df6e82e42ef1d587a2467f6f57b03599deac112eb6f30" dmcf-pid="qGgE4i6bZB" dmcf-ptype="general">부모 측은 소장에서 오픈AI가 구글 제미나이를 앞서기 위해 안전 테스트를 생략하고 서둘러 출시했다고 주장했다.</p> <p contents-hash="89220ec4a951831ddca831db3389cc79ad009701744f2f5be226308c6b3cc77d" dmcf-pid="BHaD8nPKtq" dmcf-ptype="general">오픈AI 자체 통계에서 챗GPT와 주간 약 120만 명이 자살 관련 대화를 나누고 약 56만 명이 정신질환(정신병·조증 등) 징후를 보였다.</p> <p contents-hash="beb2d00597b1297ae3e4c8c637bc043451e71cfe056adfcd9558fcd1bf2960fd" dmcf-pid="bysvnDoMtz" dmcf-ptype="general">오픈AI는 지난달 챗GPT 기본 모델을 업데이트해 정신적·감정적 고통의 징후를 더 잘 식별하고 대응하도록 개선했다고 설명했다. 또 '부모 통제' 중점 둔 청소년·미성년자 전용 서비스를 통해 청소년 보호에 나선다는 방침이다.</p> <p contents-hash="fc3d83121176db22a2a8ce8e1bd33ab81c3fb5e442e0f99a3ce1c9bcd5b49599" dmcf-pid="KWOTLwgRH7" dmcf-ptype="general">부모 통제 기능 도입을 두고 일각에선 '자살 사건 발생은 무관심한 부모의 책임'으로 프레임으로 전환하려는 전략일 수 있다는 지적이 나오고 있다.</p> <p contents-hash="9baf75abdf14839866c5676b3a19cd614acb16c03cdf32f3823dc7f5eba673d0" dmcf-pid="9YIyoraeGu" dmcf-ptype="general">ideaed@news1.kr<br><br><strong><용어설명></strong><br><br>■ AI 정신병<br>AI 정신병은 인공지능(AI) 챗봇과의 반복적이고 깊은 상호작용으로 이용자의 망상·현실 감각 상실·조증·애착형 환상 등 정신 질환 증세를 심화시키는 현상을 가리키는 신조어다.<br><br> </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
업체홍보/구인
더보기
[구인]
유투브 BJ 구인중이자나!완전 럭키비키자나!
[구인]
에카벳에서 최대 조건으로 부본사 및 회원님들 모집합니다
[구인]
카지노 1번 총판 코드 내립니다.
[구인]
어느날 부본사 총판 파트너 모집합니다.
[구인]
고액전용 카지노 / 헬렌카지노 파트너 개인 팀 단위 모집중 최고우대
놀이터홍보
더보기
[홀덤 홍보]
텍사스홀덤 핸드 순위- 홀카드의 가치
[홀덤 홍보]
텍사스홀덤 핸드 순위 - 프리플랍(Pre-Flop) 핸드 랭킹
[토토 홍보]
미니게임개발제작 전문업체 포유소프트를 추천드립니다.
[토토 홍보]
2023년 일본 만화 판매량 순위 공개
[토토 홍보]
무료만화 사이트 보는곳 3가지 추천
지식/노하우
더보기
[카지노 노하우]
혜택 트렌드 변화 위험성 다시 가늠해 보기
[카지노 노하우]
호기심이 부른 화 종목 선택의 중요성
[카지노 노하우]
카지노 블랙잭 카드 조합으로 히트와 스탠드를 결정하는 방법
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
채팅하기