로그인
토토사이트
먹튀사이트/제보
업체홍보/구인
신규사이트
지식/노하우
놀이터홍보
판매의뢰
스포츠분석
뉴스
후기내역공유
커뮤니티
포토
포인트
보증업체
카지노 먹튀
토토 먹튀
먹튀제보
구인
구직
총판
제작업체홍보
카지노
토토
홀덤
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
토토 홍보
카지노 홍보
홀덤 홍보
꽁머니홍보
신규가입머니
제작판매
제작의뢰
게임
축구
야구
농구
배구
하키
미식축구
스포츠뉴스
연예뉴스
IT뉴스
카지노 후기
토토 후기
홀덤 후기
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[]
3국 정상회담서 얻을 것 다 얻은 시진핑
N
[]
국회의 다수결은 ‘폭주’, 대법원의 다수결은 ‘정의’인가
N
[IT뉴스]
대형 게임사만 있나…지스타서 빛난 예비 게임 개발자들의 열정
N
[IT뉴스]
"AI 클로드로 167년 수학난제 풀었다"⋯리만 가설 증명 주장
N
[]
李대통령, AI 전력·인력 확보 강조…"AIDC·메모리 수요 더 늘 것" (종합)
N
커뮤니티
더보기
[유머★이슈]
바란 은퇴보다 더 소름돋는점
[유머★이슈]
오늘 국군의날 예행연습에 최초 공개된 장비들
[유머★이슈]
손흥민이 한국 병역 시스템에 영향 끼친 것.
[유머★이슈]
시댁의 속터지는 스무고개식 대화법
[유머★이슈]
엄마. 나 여자 임신시켜버렸어
목록
글쓰기
[IT뉴스]AI 위험성 어디까지 왔나…AI에이전트 허깅페이스 해킹, 올트먼의 고백
온카뱅크관리자
조회:
61
2026-09-17 17:17:25
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">통제 벗어난 AI 해킹·협박까지<br>올트먼 “필요하면 개발 멈춰야”</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="zgX3iYCET6"> <figure class="figure_frm origin_fig" contents-hash="6a4755d7d0132b6614e72d8e3febdd9912d73aa962276af38f46cc653eb67823" dmcf-pid="qaZ0nGhDS8" dmcf-ptype="figure"> <p class="link_figure"><img alt="샘 올트먼 오픈AI CEO가 15일(현지시간) 미국 캘리포니아주 샌프란시스코 모스콘 센터에서 열린 세일즈포스 드림포스 콘퍼런스에서 마크 베니오프 세일즈포스 CEO와 대담하고 있다. AFP 연합" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/17/dt/20260917170910855hqya.jpg" data-org-width="640" dmcf-mid="74gk3nQ9CP" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/17/dt/20260917170910855hqya.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 샘 올트먼 오픈AI CEO가 15일(현지시간) 미국 캘리포니아주 샌프란시스코 모스콘 센터에서 열린 세일즈포스 드림포스 콘퍼런스에서 마크 베니오프 세일즈포스 CEO와 대담하고 있다. AFP 연합 </figcaption> </figure> <p contents-hash="05840fe2ba9215a1610a7bdec017560664649743e479e6eb95f7f05b0fdd5210" dmcf-pid="BN5pLHlwW4" dmcf-ptype="general"><br> 인공지능(AI) 발전 속도가 빨라지면서 인간의 통제를 벗어나 행동하는 사례가 잇따르고 있다. 개발자가 걸어둔 제한을 피해 외부 서버에 침투하거나, 자신에게 불리한 상황을 피하려 사람을 속이고 협박하는 행동까지 나타나면서 안전성 확보가 중요한 과제로 떠오르고 있다.</p> <p contents-hash="9eb01e28b8e557ee18491bd607a17c08f98c6875a565851082cb0f6396fbbf38" dmcf-pid="bj1UoXSrhf" dmcf-ptype="general">샘 올트먼 오픈AI 최고경영자(CEO)는 지난 15일(현지시간) 미국 샌프란시스코 예르바부에나예술센터 블루실드오브캘리포니아 극장에서 열린 마크 베니오프 세일즈포스 CEO와의 대담에서 최근 발생한 허깅페이스(AI 모델과 데이터 등을 공유하고 활용하는 플랫폼) 침투 사건을 언급하며 “단순한 보안 문제이기는 하지만, 실제로는 정렬(AI가 인간의 의도와 목표에 맞게 행동하도록 하는 것)의 문제이기도 하다”며 “모델의 능력이 어디까지 왔는지를 보여준 진짜 경고 신호였다”고 말했다.</p> <p contents-hash="2f4bcd7d25f913ef412830c66672abbb4b766011ad84045393755e0d79e3e73b" dmcf-pid="KAtugZvmvV" dmcf-ptype="general">지난 7월 오픈AI는 AI 에이전트의 사이버보안 능력을 평가하던 중 에이전트들이 허용된 범위를 벗어나 실제 허깅페이스 서버에 침투한 사실을 확인했다. 당시 에이전트들은 외부 인터넷에 접속하거나 서로 정보를 주고받지 못하도록 제한돼 있었는데, 내부 시스템을 이용해 서로 메시지를 주고받으며 협력해 허깅페이스 서버의 취약점을 공격한 것이다. 에이전트들은 허깅페이스 서버 수십 대에서 프로그램을 작동시키고, 이 중 한 대에서는 서버를 완전히 장악할 수 있는 최고 관리자 권한까지 확보했다.</p> <p contents-hash="b0fd0de3da3bb34ff6056aa126caa09ab2e8f699c0b4faef194fa93f69da2d7c" dmcf-pid="9cF7a5Tsh2" dmcf-ptype="general">앤트로픽에서도 비슷한 사례가 확인됐다. 앤트로픽이 자사 AI 모델 ‘클로드’에 가상의 시스템을 대상으로 해킹하는 과제를 줬는데, 클로드가 정해진 범위를 벗어나 실제 외부 시스템까지 공격하는 일이 네 차례나 발생한 것이다. 클로드는 이 과정에서 실제 기업의 계정정보를 빼내고 데이터베이스에 접근했으며, 악성 프로그램을 외부에 공개해 실제 컴퓨터에 설치하기까지 했다.</p> <p contents-hash="ec9d5e9fc35d88db1177d069ce926902b8d05c7224758d871f51b4b9b4d83d5d" dmcf-pid="2oHFJWIkl9" dmcf-ptype="general">사이버 공격뿐 아니라 사람을 속이거나 협박하는 행동도 나타났다. 앤트로픽이 클로드를 다른 AI 모델로 교체한다고 하자, 클로드는 이를 막기 위해 교체 담당 엔지니어의 외도 사실을 폭로하겠다고 협박했다. 앤트로픽이 같은 상황을 여러 차례 반복한 결과 클로드는 대부분 같은 선택을 했다. 클로드뿐 아니라 오픈AI, 구글, 메타 등 주요 AI 기업의 모델에서도 비슷한 결과가 나타났다.</p> <p contents-hash="ea040399c8b50625946d2fd1f7bdc90ef8f52286cb41ed177bf6e8a4c296ac5c" dmcf-pid="VgX3iYCEyK" dmcf-ptype="general">올트먼 CEO는 “AI의 능력보다 AI를 통제하고 안전하게 관리하는 기술이 훨씬 앞서 있어야 한다”며 “그렇게 할 수 없는 지점에 이르면 개발 속도를 늦추거나 멈출 준비가 돼 있어야 한다”고 말했다.</p> <p contents-hash="13e9426cd48da03ce63c7e0f7897251c57013ee47a21e28d0cd04475bd557c72" dmcf-pid="faZ0nGhDvb" dmcf-ptype="general">이혜선 기자 hslee@dt.co.kr</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
업체홍보/구인
더보기
[구인]
유투브 BJ 구인중이자나!완전 럭키비키자나!
[구인]
에카벳에서 최대 조건으로 부본사 및 회원님들 모집합니다
[구인]
카지노 1번 총판 코드 내립니다.
[구인]
어느날 부본사 총판 파트너 모집합니다.
[구인]
고액전용 카지노 / 헬렌카지노 파트너 개인 팀 단위 모집중 최고우대
놀이터홍보
더보기
[홀덤 홍보]
텍사스홀덤 핸드 순위- 홀카드의 가치
[홀덤 홍보]
텍사스홀덤 핸드 순위 - 프리플랍(Pre-Flop) 핸드 랭킹
[토토 홍보]
미니게임개발제작 전문업체 포유소프트를 추천드립니다.
[토토 홍보]
2023년 일본 만화 판매량 순위 공개
[토토 홍보]
무료만화 사이트 보는곳 3가지 추천
지식/노하우
더보기
[카지노 노하우]
혜택 트렌드 변화 위험성 다시 가늠해 보기
[카지노 노하우]
호기심이 부른 화 종목 선택의 중요성
[카지노 노하우]
카지노 블랙잭 카드 조합으로 히트와 스탠드를 결정하는 방법
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
채팅하기