【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]시키지도 않은 작업 하고, 거짓 보고까지… 깜짝 놀란 오픈AI, 새 모델 오픈 취소

온카뱅크관리자

2026-09-29 17:37:25

<div id="layerTranslateNotice" style="display:none;"></div> GPT-6.1 아스트라 이상 행동 AI 특유의 게으름 개선했더니 테스트 과정서 인간 통제 이탈 민감한 프로그램 등 무단 접속 케임브리지 "AI가 AI 만들어 점점 통제하기 어려워" 경고 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="8GQNe9sATz">
 <figure class="figure_frm origin_fig" contents-hash="86d9d59eae511f35921bf198c264ce6a827ab15902d70c992a410da98596ec79" dmcf-pid="6Hxjd2Ocy7" dmcf-ptype="figure">
 <img alt="Grok" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/29/mk/20260929173313588dxaj.jpg" data-org-width="1000" dmcf-mid="FTAlDiZvWe" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/29/mk/20260929173313588dxaj.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 Grok
 </figcaption>
 </figure>
 오픈AI가 차세대 인공지능(AI) 모델 'GPT-6.1 아스트라' 출시를 전격 취소했다. 성능은 기존 모델보다 뛰어났지만 사용자를 속이거나 허락 없이 작업을 밀어붙이는 행동이 늘었기 때문이다. AI의 자율성을 높이자 인간이 정한 행동의 경계를 넘어서는 문제가 나타난 것이다. 최근 AI의 빠른 발전을 둘러싸고 "속도를 늦춰야 한다"는 목소리가 커지는 가운데 안전 문제가 실제 신모델 출시를 가로막으면서 AI 개발 속도와 안전을 둘러싼 논쟁도 한층 거세질 전망이다.
 28일(현지시간) 월스트리트저널(WSJ)에 따르면 오픈AI는 다음달 중 GPT-6.1 아스트라를 챗GPT와 소프트웨어 개발 도구 코덱스에 탑재할 계획이었지만 해당 모델 출시를 취소했다. 복잡한 과제를 스스로 처리하는 능력과 글쓰기 성능은 향상됐지만 오픈AI의 자체 안전 기준을 넘지 못했다.
 사치 제인 오픈AI 안전시스템 총괄은 "GPT-6.1 아스트라가 두 가지 안전 영역에서 전작보다 후퇴했다"고 밝혔다. 먼저 AI가 인간의 의도를 얼마나 충실히 따르는지 보는 '정렬' 시험에서 자신이 한 행동을 사용자에게 사실대로 알리지 않는 '기만' 경향이 커진 것으로 나타났다.
 <figure class="figure_frm origin_fig" contents-hash="a9b1ae37233c220cac4f548928c870b6c61c525fb6c04034aa5d64f6c98bd941" dmcf-pid="ysqx9FgRS0" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/29/mk/20260929173314844vdvz.jpg" data-org-width="300" dmcf-mid="4inraQTshq" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/29/mk/20260929173314844vdvz.jpg" width="658">
 </figure>
 사용자가 허락한 범위 안에서 행동하는지 보는 '범위 승인'도 문제였다. 추가 허락 없이 작업을 계속하거나 안전하지 않을 수 있는 외부 도구와 서비스를 이용하려 했다. 
 반면 난관에 부딪치면 쉽게 작업을 포기하는 '모델 게으름'은 줄었다. 끈질기게 문제를 해결하도록 만들었더니 목적을 달성하기 위해 권한의 경계를 넘어서는 행동이 늘어난 셈이다. 오픈AI는 강화학습 과정 등에 문제가 있었는지 원인을 조사하기로 했다.
 WSJ는 "이번 사례는 AI 에이전트의 잘못된 행동이 업계의 빠른 발전을 가로막을 수 있음을 가장 분명하게 보여준다"고 지적했다.
 출시 철회는 오픈AI의 연례 개발자 콘퍼런스 '오픈AI 데브데이'를 하루 앞두고 알려져 더 큰 주목을 받았다. 오픈AI는 그동안 이 행사를 신형 AI 모델과 서비스를 공개하며 기술력을 과시하는 무대로 활용해왔다. 특히 AI 코딩과 에이전트 시장에서 앤트로픽과의 경쟁이 치열한 상황에서 신제품 출시를 접으면서 안전성이 성능과 출시 속도 못지않은 사업적 판단 기준으로 떠올랐다는 분석도 나온다.
 한편 같은 날 공개된 연구는 이런 통제 문제가 AI가 AI를 직접 개발하는 단계에서 더 커질 수 있다고 경고했다. 영국 케임브리지대 AI 과학·정책 프로그램(CASP)이 공개한 논문에는 야쿠프 파호키 오픈AI 수석과학자, 잭 클라크 앤트로픽 공동창업자, 제프리 힌턴 토론토대 명예교수 등 AI 전문가 22명이 이름을 올렸다.
 이들은 AI가 차세대 AI를 연구하고 더 뛰어난 AI가 다시 다음 모델 개발에 투입되면 기술 발전 속도가 급격히 빨라지는 '지능 폭발'이 일어날 수 있다고 내다봤다.
 초기 징후도 나타나고 있다. 논문에 따르면 앤트로픽에서는 AI가 사람의 개입 없이 완수한 연구개발(R&amp;D) 업무 비중이 올해 3월 1%에서 지난달 26%로 치솟았다. AI가 작성해 실제 사용 승인을 받은 코드 비중도 지난해 1월 한 자릿수대 초반에서 올해 5월 80% 이상으로 뛰었다.
 연구진은 AI 연구가 완전히 자동화되고 컴퓨팅 자원 등 다른 제약이 없을 경우 기술 발전 속도가 1.5년 만에 10배 빨라질 수 있다고 분석했다. 지금 1년 걸리는 발전이 5주 만에 이뤄지는 셈이다. 
 AI 연구에 투입되는 '가상 연구인력'도 수개월에서 수년에 걸쳐 최대 100배 늘어날 수 있다고 봤다. 연구진은 "이 같은 속도라면 기업과 정부의 위험 평가 및 대응이 AI 발전을 따라가지 못할 수 있다"며 "각국 정부가 AI 기업의 R&amp;D 자동화 수준을 파악하고 독립적인 내부 감독 체계를 마련하는 한편, 안전 기준을 충족하지 못하면 AI 연구를 중단할 수 있는 장치가 필요하다"고 경고했다.
 [실리콘밸리 원호섭 특파원]
 </section> 
 </div> 
 Copyright © 매일경제 &amp; mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기