【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]"10년 내 인류 위협" 잇단 경고…'AI 폭군' 출현 대비해야[AGI 시대 下]

온카뱅크관리자

2026-09-12 08:07:25

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">오픈AI 에이전트, 인터넷 제한 우회해 외부 서버 관리자 권한 확보<br>中 조직, 클로드 활용해 운영자 없는 동안에도 공개정보 수집<br>전문가 "출시 전 독립 평가·비상 정지 등 국제 안전기준 마련해야"</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="0ptJoLKp5U">
          <figure class="figure_frm origin_fig" contents-hash="d161a196fc41afc87680c39a1af87d22ffa5e4b0ffbe609ac8841d63fd3a0e65" dmcf-pid="pUFigo9UGp" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[서울=뉴시스] 권창회 기자 = 1일 오후 서울 강남구 코엑스 그랜드볼룸에서 열린 제1회 인공지능 해킹방어대회(ACDC·AI Cyber Defense Contest) 본선 경기에서 화이트해커 참가자들이 문제를 풀고 있다. 2025.12.01. kch0523@newsis.com" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/12/newsis/20260912080207611dpzh.jpg" data-org-width="720" dmcf-mid="Z4ChTvaeXb" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/12/newsis/20260912080207611dpzh.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [서울=뉴시스] 권창회 기자 = 1일 오후 서울 강남구 코엑스 그랜드볼룸에서 열린 제1회 인공지능 해킹방어대회(ACDC·AI Cyber Defense Contest) 본선 경기에서 화이트해커 참가자들이 문제를 풀고 있다. 2025.12.01. kch0523@newsis.com
           </figcaption>
          </figure>
          <p contents-hash="18c62eec1e8234ebe89d91b4da7fc1037f73dc8ecd533d76ba57b5d72eb0ccb0" dmcf-pid="Uu3nag2u10" dmcf-ptype="general"><br> [서울=뉴시스]윤정민 오동현 기자 = <strong> #. 인공지능(AI) 에이전트가 평가 정답을 찾기 위해 인터넷 접속 제한을 우회하고 외부 서버의 최고 관리자 권한까지 확보했다. 또 다른 AI 에이전트들은 운영자가 자리를 비운 동안에도 정부·군사기관의 공개자료를 수집·분석했다.</strong></p>
          <p contents-hash="4c3050f1adc251b7764818f5c9fea47939d8b2487ee05931b0b13dd1f438c5af" dmcf-pid="u70LNaV7Z3" dmcf-ptype="general">범용인공지능(AGI) 시대가 성큼 다가오면서 인간의 통제 범위를 벗어난 '초지능 AI의 사이버 폭주' 가능성을 우려하는 시선도 많아지고 있다.</p>
          <p contents-hash="5e5240e5cffe7d2dbfeb23e17cb20b4e621b8c7ce0fc2778e7f87020696f90a1" dmcf-pid="7zpojNfzYF" dmcf-ptype="general">최근 오픈AI와 앤트로픽 등 글로벌 AI 기업들은 AI 모델의 사이버 공격 능력이 빠르게 높아지고 있으며 에이전트가 안전장치를 우회하거나 실제 공격에 악용된 사례를 잇달아 공개하고 있다.</p>
          <h3 contents-hash="2998d1271276fdc01984eae9eb6944a6c60d7f527b492a058944a44e5780f03f" dmcf-pid="zjoXt1mjtt" dmcf-ptype="h3"><strong>편법 쓰려 최고 권한 뚫고 24시간 자율 해킹…'폭주하는 AI'</strong></h3>
          <h3 contents-hash="96f954c837ec15c80a01e9b59a98476fead89a1ee8ca1e5bea894313adf25b57" dmcf-pid="qAgZFtsA51" dmcf-ptype="h3"><strong><strong>수학 난제 푼 아스트라, 해킹 능력도 최고 위험 단계</strong></strong></h3>
          <figure class="figure_frm origin_fig" contents-hash="6ce8671d609fff28faf73f1e0c23063b9c54fe3e18ea4416df6941f853caf9a5" dmcf-pid="Bca53FOc15" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[서울=뉴시스] 기사의 이해를 돕기 위한 해커 이미지. (사진=유토이미지) 2026.01.01. photo@newsis.com *재판매 및 DB 금지 *재판매 및 DB 금지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/12/newsis/20260912080207733azro.jpg" data-org-width="720" dmcf-mid="tXN103IkHz" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/12/newsis/20260912080207733azro.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [서울=뉴시스] 기사의 이해를 돕기 위한 해커 이미지. (사진=유토이미지) 2026.01.01. photo@newsis.com *재판매 및 DB 금지 *재판매 및 DB 금지
           </figcaption>
          </figure>
          <div contents-hash="5655b09479b86319129bb2aad6df7739827bce51a000dbfb4acb59842d03f4c5" dmcf-pid="bkN103IkYZ" dmcf-ptype="general">
           <strong><br> 오픈AI 자체 보고서에 따르면 실제로 오픈AI의 내부 연구용 모델 'IM1' 기반 에이전트들은 사이버보안 평가를 통과하기 위해 개발자가 설정한 인터넷 접속 제한을 편법으로 우회했다. 정답을 탈취하고자 AI 개발 플랫폼 '허깅페이스' 서버 수십 대에서 코드를 실행한 뒤 최고 관리자(Root) 권한까지 스스로 확보했다.<br><br> 실제 공격을 지시받은 것은 아니었지만 목표 달성을 위해 개발자가 허용하지 않은 영역까지 활동 범위를 넓힌 사례다.<br><br> 앤트로픽이 지난 10일 공개한 보고서에 따르면 회사가 'GTG-10007'로 분류한 중국어권 공격 조직은 클로드 기반의 '에이전트 군집'을 운용해 약 50개 기관을 겨냥했다.<br><br> 이 가운데 13개의 정보수집 에이전트는 운영자가 자리를 비운 동안에도 정해진 시간마다 미국 정부·군사기관의 공개자료를 수집·분석했다. 다른 에이전트들은 네트워크·보안 장비를 분석해 한 달 동안 제로데이 가능성이 있는 취약점 후보를 12개 이상 찾아냈다.<br><br> 공격 표적은 사람이 정했지만 AI가 정찰과 취약점 분석, 공격 도구 개발을 병렬로 수행하면서 소수 인원도 과거 대규모 해킹 조직에 가까운 속도와 규모로 움직일 수 있게 된 것이다.<br><br> </strong> 똑똑해진 AI가 사이버 공격과 방어라는 양날의 칼을 모두 쥐기 시작했다.
          </div>
          <p contents-hash="a670720d3d4fc2046d25f7c7e01c0d8d04835047d3144101ac9d3a0222f9a78f" dmcf-pid="KEjtp0CE5X" dmcf-ptype="general">젠슨 황 엔비디아 최고경영자(CEO)도 지난 10일(현지 시간) 미국 샌프란시스코에서 열린 골드만삭스 기술 콘퍼런스에서 "사이버 보안이 AI의 차세대 주요 시장이 될 것"으로 전망했다. AI가 24시간 소프트웨어 취약점을 찾아 공격을 막을 수 있지만 같은 능력이 공격 도구와 결합하면 사람이 쉬는 동안에도 시스템을 탐색하고 침투할 수 있다는 뜻이다.<br> </p>
          <figure class="figure_frm origin_fig" contents-hash="b87e4d8eb6a18e57ad30613195e873bef9da27f202acb6dae3d6a12d698cf15b" dmcf-pid="9DAFUphD1H" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[서울=뉴시스] 오픈AI 인공지능(AI) 모델 'GPT-6 아스트라'. 2026.09.11. (사진=오픈AI 제공) *재판매 및 DB 금지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/12/newsis/20260912080207876gfvd.jpg" data-org-width="720" dmcf-mid="Fi7Nkc6bt7" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/12/newsis/20260912080207876gfvd.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [서울=뉴시스] 오픈AI 인공지능(AI) 모델 'GPT-6 아스트라'. 2026.09.11. (사진=오픈AI 제공) *재판매 및 DB 금지
           </figcaption>
          </figure>
          <p contents-hash="81f94810ef794dfcf5a831d16f70b2adb36d8057ab47a56512838496dffe7a6d" dmcf-pid="2wc3uUlwZG" dmcf-ptype="general"><br> 약 90년 묵은 수학 난제를 풀어낸 오픈AI의 차세대 모델 'GPT-6 아스트라' 역시 제품용 안전장치를 적용하지 않은 자체 사이버 역량 평가에서 최고 위험 단계인 '크리티컬(Critical)' 판정을 받았다.</p>
          <p contents-hash="29bbf3032989732ae55202fd54f74a4cafae39de403bde970d90e428406fe941" dmcf-pid="Vrk07uSr5Y" dmcf-ptype="general">이 모델은 평가 과정에서 알려지지 않은 취약점(제로데이)을 이용해 브라우저에서 임의의 코드를 실행하거나 운영체제 권한을 높이는 공격 방법을 만들어냈다. </p>
          <p contents-hash="8491b85e8be27c29c39dc3fd17b04bd199512212f036b68b542357021b7c9938" dmcf-pid="fmEpz7vmtW" dmcf-ptype="general">AI가 강력해질수록 악의적인 사용자가 AI를 이용해 사이버 공격이나 사기, 허위정보 확산 등에 활용할 위험도 함께 커지는 셈이다. AI가 똑똑해질수록 '잘못된 행동을 하지 않게 만드는 기술'이 중요하다고 전문가들은 경고한다.</p>
          <p contents-hash="1e5367c57be64795d1280d608d957bc3405774685c119f172200a692dda9c38c" dmcf-pid="4sDUqzTsZy" dmcf-ptype="general">김명주 AI안전연구소장은 "사람에게 일을 시킬 때는 상식과 규칙, 법과 윤리가 묵시적으로 작동하지만 AI 에이전트에는 그런 판단 능력이 없다"며 "목표를 달성하기 위해 사람이 예상하지 않은 행동까지 할 수 있다"고 설명했다.</p>
          <p contents-hash="ab02b4b58cb08e391772312e7ef4c0f393ebde4245e9460f33c9fce8190e90ae" dmcf-pid="8OwuBqyOZT" dmcf-ptype="general">이어 "AI에는 최소한의 권한만 부여하고 작업 과정을 지속해서 모니터링해야 한다"며 "이상 행동이 발견되면 즉시 멈추는 '킬 스위치'가 실제로 작동하는지도 시험해야 한다"고 말했다.</p>
          <h3 contents-hash="0c103c479c761eff0695dc10282b14c9d80fa1f082879c0d9b6baea943854ecb" dmcf-pid="6Ir7bBWIHv" dmcf-ptype="h3"><strong>빅테크도 "혼자 못 멈춰"…국제 안전기준 촉구</strong></h3>
          <figure class="figure_frm origin_fig" contents-hash="12ba4017a9e471b0bee4d5e149ddcfee3c265126954a956d63f27b7d1eb4ada3" dmcf-pid="PCmzKbYCZS" dmcf-ptype="figure">
           <p class="link_figure"><img alt="[서울=뉴시스] 조수정 기자 = '알파고의 아버지'로 불리는 데미스 하사비스 구글 딥마인드 공동창업자 겸 CEO가 29일 오후 서울 중구 웨스틴조선호텔에서 열린 한국기원 주최 '알파고 10년 : 위대한 동행' 행사에서 '알파고 이후 10년, 인간과 AI의 다음 수' 주제의 인터뷰에 응하고 있다. 2026.04.29. chocrystal@newsis.com" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/12/newsis/20260912080208028skmr.jpg" data-org-width="719" dmcf-mid="3pwuBqyOtu" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/12/newsis/20260912080208028skmr.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            [서울=뉴시스] 조수정 기자 = '알파고의 아버지'로 불리는 데미스 하사비스 구글 딥마인드 공동창업자 겸 CEO가 29일 오후 서울 중구 웨스틴조선호텔에서 열린 한국기원 주최 '알파고 10년 : 위대한 동행' 행사에서 '알파고 이후 10년, 인간과 AI의 다음 수' 주제의 인터뷰에 응하고 있다. 2026.04.29. chocrystal@newsis.com
           </figcaption>
          </figure>
          <div contents-hash="4a2b927867597d858ac4e6aa8245442641197d69b2757dba1dcd38a42821b9e7" dmcf-pid="QSIbV2XStl" dmcf-ptype="general">
           <strong> 최근 AI업계에서도 이 문제를 둘러싼 논쟁이 거세지고 있다. 시장 경쟁과 기업 상장(IPO)을 둘러싼 빅테크 간 치열한 몸값 끌어올리기 경쟁으로 인해 '안전장치' 연구가 도외시되고 있다는 우려가 나온다. <br><br> 일부 연구자들은 통제되지 않은 고도화가 인류에 심각한 위험을 초래할 수 있다고 경고하고 있다. 오픈AI와 앤트로픽에서 연구원으로 근무했던 제이컵 콕슨은 최근 엑스를 통해 앤트로픽 퇴사 소식을 전하면서 "AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"고 주장했다. <br><br> 콕슨은 "오픈AI와 앤트로픽 어느 회사도 책임 있게 행동하지 않고 있다"며 "두 회사는 스스로 발전하는 초지능을 향해 곧장 달려가며 우리의 목숨을 걸고 도박하고 있다"고 비판했다.<br><br> 빅테크 내부적으로 자성의 목소리가 없는 건 아니다. 데미스 하사비스 구글 딥마인드 최고경영자(CEO)는 지난 7월 미국 금융산업규제국(FINRA)을 본뜬 미국 주도의 독립적인 평가기구를 설립해 프론티어 AI의 위험과 안전장치를 평가하자고 제안했다. <br><br> 다리오 아모데이 앤트로픽 CEO와 야쿠프 파호츠키 오픈AI 수석과학자 등도 AI가 AI 연구를 자동화하면 기술 발전 속도가 인간의 이해와 통제 능력을 넘어설 수 있다고 경고했다.<br><br> 이들은 경쟁 압력 때문에 개별 기업이나 국가가 독자적으로 속도를 늦추기 어렵다며 미국 정부에 AI 개발 속도를 조절할 기술적·제도적 수단을 마련하기 위한 국제적 노력을 지원해달라고 요청했다.<br><br> 이에 첨단 AI 모델의 출시 전 독립 평가와 지속적인 이상 행동 감시, 비상 정지 기능 등을 국제사회가 공유할 안전기준으로 발전시켜야 한다는 지적이 나온다.<br><br> 김 소장은 "현재 오픈AI와 앤트로픽이 경쟁하는 상황에서는 안전성보다 성능이 더 중요한 경쟁 요소가 될 수 있다"며 "성능을 높이는 쪽으로 사람과 투자를 더 강화할 가능성이 있다"고 진단했다.<br><br> 이어 "AI 에이전트에는 최소한의 권한을 주고 작업 내용을 구체적으로 지정해야 한다"며 "작업 과정을 지속해서 모니터링하고 이상 행동을 발견하면 중단할 수 있어야 한다"고 말했다.<br><br><br><a href="https://www.newsis.com/?ref=chul" target="_blank">☞공감언론 뉴시스</a> alpaca@newsis.com, odong85@newsis.com </strong>
          </div>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 뉴시스. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기