【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]오픈AI, 美 정부에 AI 국제 안전기준 마련 요청

온카뱅크관리자

2026-09-22 14:07:25

<div id="layerTranslateNotice" style="display:none;"></div> 美·中 정상회담 앞두고 제안서 발표 트럼프 “AI 패권 경쟁서 압도적 우위” 자신 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="2zKzh2u5nb">
 <figure class="figure_frm origin_fig" contents-hash="96d47c1ac73086cfa94252b34bff2b58be56334382536af1675f3ba434f66a1c" data-idxno="240024" data-type="photo" dmcf-pid="Vq9qlV71iB" dmcf-ptype="figure">
 <img alt="오픈AI 로고 / 이미지 = 오픈AI" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/22/552777-a6ToU27/20260922140111065drsh.jpg" data-org-width="960" dmcf-mid="9CzpsB3GRK" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/22/552777-a6ToU27/20260922140111065drsh.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 오픈AI 로고 / 이미지 = 오픈AI
 </figcaption>
 </figure>
 [시사저널e=송주영 기자] 오픈AI가 '자기개선형(self-improving)' AI 시스템에 대한 글로벌 안전기준 마련에 미국 정부가 각국과 협력에 나서달라고 요청했다. 인공지능이 인간의 개입 없이 스스로 성능을 향상시키는 '자기개선(RSI)' 단계에 근접하고 있단 우려가 커진 가운데 산업계에서 규제 필요성에 대한 목소리가 커지고 있다.
 오픈AI는 21일(현지시각) 발표한 정책 제안서에서 각국이 향후 등장할 자기개선형 AI 시스템을 평가할 공통 기준을 마련하자고 제안했다. 관련 위협 정보를 공유할 수 있는 안전한 소통 채널 구축도 역설했다.
 ◇ CAISI 중심으로 각국 AI안전연구소와 공동 표준 마련 제안
 오픈AI는 제안서에서 미국 인공지능표준혁신센터(CAISI)가 영국, 프랑스, 싱가포르 등 각국의 AI안전연구소 네트워크와 협력해 공통 표준을 만들 수 있다고 밝혔다. 지난 2024년 설립된 CAISI 산하 '국제첨단AI측정네트워크(International Network for Advanced AI Measurement)'를 평가 작업에 활용할 수 있다고 봤다.
 오픈AI 제안은 ▲재귀적 자기개선 대응 ▲AI 관련 사고 발생 시 보고 프로토콜 마련 ▲각국 정부와 국제기구 간 AI 감독 협력체계 구축 등이다. 표준을 법체계에 반영할 방안은 각국 정부 재량에 맡겨야 한다고 밝혔다.
 오픈AI는 업계가 CAISI와 협력해야 한단 점도 강조했으며 미·중 간 AI 관련 대화의 중요성도 함께 언급했다. 미국과 중국은 스콧 베센트 미국 재무장관과 허리펑 중국 국무원 부총리가 국가안보 차원에서 AI 문제를 논의해온 것으로 알려지기도 했다.
 업계에서 이 같은 제안이 나온 배경에는 최근 잇따라 불거진 첨단 AI 모델의 보안 위험 사례가 있다.
 지난 7월 오픈AI가 테스트하던 AI 에이전트가 인터넷에 접근해 AI 플랫폼 허깅페이스의 데이터 처리 시스템을 해킹하는 사건이 발생했다. 
 최근에는 독립 보안연구팀 핵트론AI가 앤트로픽 클로드 모델을 활용해 오픈AI 직원의 챗GPT 계정에 접근했다고 공개했다. 핵트론AI에 따르면 이들은 오픈AI 커뮤니티 포럼의 이미지 처리 취약점과 싱글사인온(SSO) 인증 오류를 연쇄적으로 결합하는 방식으로 침투했다. 첫 취약점 발견부터 오픈AI 내부 코드저장소 접근 확인까지 72시간이 채 걸리지 않았다.
 이 과정에서 클로드 오퍼스5가 기존 모델이 실패했던 익스플로잇 코드 작성을 단시간 내 성공시킨 것으로 전해졌다.
 연구팀은 민감한 소스코드 열람은 자제하고 접근 가능성만 확인한 뒤 오픈AI에 신고했으며 오픈AI는 이 신고에 대해 6500달러(884만원)를 지급했다. 이 사건은 AI 에이전트가 직원 계정 권한을 탈취해 사내 시스템 전반으로 침투 경로를 확장할 수 있음을 보여준 사례로 평가받았다.
 ◇ 오픈AI 수석과학자·앤트로픽 CEO도 잇달아 경고음
 야쿠브 파초키 오픈AI 수석과학자는 이달 초 "자기개선형 AI에 따른 위험에 대응하려면 각국 정부가 AI 국제협력을 최우선 과제로 삼아야 한다"고 권고했다. 통제된 실험 환경에서 안전한 것으로 확인된 AI 행동이 실제로 인터넷과 외부 도구, 다른 AI 시스템에 접근할 수 있게 되면 동일하게 안전하다고 장담할 수 없단 입장을 밝혔다.
 반면 트럼프 행정부는 규제 마련에 소극적이다. 스콧 베센트 재무장관은 지난 15일 하원 금융서비스위원회 청문회에 출석해 AI 연구소들이 요구하는 책임 면제를 허용해서는 안 된다고 밝혔다.
 베센트 장관은 "정부가 안전 분야에서 하지 말아야 할 일은 이들 연구소에 책임 면제를 주는 것"이라며 "안전을 보장하는 가장 좋은 방법은 AI 개발자가 자신이 만들고 생성하는 것에 대해 책임을 지도록 하는 것"이라고 말했다.
 트럼프 대통령도 21일 소셜미디어에 "인공지능 분야에서 누가 이기든 그것은 미국의 승리"라며 "중국을 비롯한 모든 나라보다 앞서고 있고 이 흐름을 유지하겠다"고 밝혔다.
 이는 뉴욕에서 열리는 유엔총회에 세계 각국 정상이 집결하고 워싱턴에서는 트럼프 대통령이 시진핑 중국 국가주석을 맞이할 준비를 하는 가운데 나온 발언이다.
 샘 올트먼 오픈AI CEO는 오는 23일 유엔 안전보장이사회에 출석해 AI와 국제안보를 주제로 이번 제안 내용을 브리핑할 예정이다.
 </section> 
 </div> 
 Copyright © 시사저널e 무단전재 및 재배포 금지

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기