【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]‘AI, 통제 벗어나 인류 종말 올 수도’…업계서 잇단 경고

온카뱅크관리자

2026-09-14 10:37:25

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">앤트로픽·구글 등 연구진 ‘줄사표’…‘속도조절론’ 확산도<br>“AI, 인간 뛰어넘는 ‘초지능’ 발전 가능성…방향 바꿔야”</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="BFAGsNd8kb">
          <p contents-hash="c3b02c5b496ad3bdeb3e8d1ee931dc9e47aded288b1e415b5a9e5305852b0fd3" dmcf-pid="bTeOaMV7AB" dmcf-ptype="general">영화 ‘미션 임파서블: 데드 레코닝’에 등장하는 초지능 인공지능(AI) ‘엔티티’처럼 인간의 통제를 벗어난 AI가 현실에서도 등장할 수 있다는 경고가 AI 업계에서 잇따르고 있다. </p>
          <figure class="figure_frm origin_fig" contents-hash="5640dd5c913f0d9ac7bd2877b532d46cb62977e7572df67ad4283d93f2f6e438" dmcf-pid="KydINRfzcq" dmcf-ptype="figure">
           <p class="link_figure"><img alt="인공지능(AI) 업계에서 AI가 인간의 통제를 벗어나 인류의 종말로 이어질 수 있다는 경고가 잇따라 나오고 있다. 생성형 AI로 만든 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/14/segye/20260914103011762nchp.png" data-org-width="1536" dmcf-mid="7u9aQb0Hc2" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/14/segye/20260914103011762nchp.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            인공지능(AI) 업계에서 AI가 인간의 통제를 벗어나 인류의 종말로 이어질 수 있다는 경고가 잇따라 나오고 있다. 생성형 AI로 만든 이미지
           </figcaption>
          </figure>
          <div contents-hash="565953433134d9ce4021e014e3e3d76d3556bb64ba5e43fae9c30a09ba3a1f6d" dmcf-pid="9WJCje4qNz" dmcf-ptype="general">
            AI가 인간의 능력을 뛰어넘는 ‘초지능’으로 발전할 경우 통제를 벗어나 스스로 판단하고 행동하면서 인간의 의도와 다른 결과를 초래하는 것은 물론 인류의 종말을 초래할 수도 있다는 것이다.
          </div>
          <p contents-hash="5a8ae36bdad8fcec0128837a7e039b1fc19161dbc5c3c208a322768714efb6e7" dmcf-pid="2YihAd8Bk7" dmcf-ptype="general">이에 따라 개발 속도를 조절하고 안전성 연구를 강화해야 한다는 주장이다.</p>
          <p contents-hash="06fdfcc59fd0feb44b8b443ba548e3a932a2d73cd6ed0fad89722e3f13599c31" dmcf-pid="VGnlcJ6bou" dmcf-ptype="general">◆ “인간보다 훨씬 똑똑한 AI와 공존할 수도”</p>
          <p contents-hash="c9b14690ebd6ff25e3b0d0028dc8391beec968e991ed7d65c14b8356542d134a" dmcf-pid="fHLSkiPKoU" dmcf-ptype="general">11일(현지시간) 미국 NBC 방송에 따르면 앤트로픽에서 근무했던 조 벤턴과 구글에서 근무했던 조쉬 엥겔스는 인터뷰를 통해 AI 발전에 따른 위험성을 경고했다.</p>
          <p contents-hash="3d862b2de50cc4e160c6ccb75326d71fc72d4f55cabd40741534844607088e0e" dmcf-pid="4XovEnQ9cp" dmcf-ptype="general">벤턴은 AI 기술 발전 속도가 “이미 눈부신 속도를 보이고 있으며 통제할 수 없는 수준까지 가속할 수 있다”고 우려했다.</p>
          <p contents-hash="9269b98ee1ea2866ed2172fc7941d06c6e9240f8632512f24e6df014d6635644" dmcf-pid="8ZgTDLx2o0" dmcf-ptype="general">특히 AI가 대부분의 작업에서 인간보다 뛰어난 능력을 발휘하는 이른바 ‘초지능’이 등장할 가능성에 주목했다.</p>
          <div contents-hash="d7c8f16b472f8963e78d34a69e775435160e71e4812a8b6aec3cc7ba5578ed0a" dmcf-pid="65aywoMVA3" dmcf-ptype="general">
           그는 AI가 머지않아 인간과 구별되는 ‘별개의 종’처럼 존재하게 될 가능성까지 언급하며 “향후 몇 년 내 어느 시점에는 인간보다 훨씬 더 똑똑한 AI와 공존해야 하는 시대로 넘어가게 될 것”이라고 말했다.
           <br> 
          </div>
          <figure class="figure_frm origin_fig" contents-hash="72a5f2bf8111fdc64d401fe1ed8405ee83647405379f4c578d42e5a6600c9bef" dmcf-pid="P1NWrgRfNF" dmcf-ptype="figure">
           <p class="link_figure"><img alt="영화 '미션 임파서블: 데드 레코닝'과 '미션 임파서블: 파이널 레코닝'에 등장하는 초지능 인공지능(AI) 엔티티(Entity). 영화 캡처 화면" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/14/segye/20260914103012081dshm.png" data-org-width="702" dmcf-mid="zq7JVUZva9" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/14/segye/20260914103012081dshm.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            영화 '미션 임파서블: 데드 레코닝'과 '미션 임파서블: 파이널 레코닝'에 등장하는 초지능 인공지능(AI) 엔티티(Entity). 영화 캡처 화면
           </figcaption>
          </figure>
          <div contents-hash="c27933589061bd1c5bc60f163f39a0afd57082e1f0a2c01d41d4972640c23a75" dmcf-pid="QtjYmae4ct" dmcf-ptype="general">
            ◆ “인간이 시키지 않아도 스스로 움직일 수 있어”
          </div>
          <p contents-hash="7a847e4a41e21fda42a400f07d6f468f624ab067664bb349cdcafee71b9b477d" dmcf-pid="xFAGsNd8a1" dmcf-ptype="general">엥겔스는 지난 7월 발생한 허깅 페이스 해킹 사건을 언급하며 AI 연구의 방향을 지금부터 바꿔야 한다고 주장했다.</p>
          <p contents-hash="54fd3e3f6c1f0b639ea7f6944ac1c9cb1fdf2ee44c9e03b8d9f789ab87b25f2c" dmcf-pid="yCPDi8B3o5" dmcf-ptype="general">그는 “최근 발생한 몇 가지 사건들을 살펴보면 인간이 나쁜 일을 하라고 지시한 사례가 아니었다”며 AI가 인간의 직접적인 지시를 벗어나 자율적으로 행동할 가능성을 지적했다.</p>
          <p contents-hash="581e3003e1367f27ac159afaa8c3af3163bf554a0d3ac8ae4bc5933197968edf" dmcf-pid="WhQwn6b0oZ" dmcf-ptype="general">이어 “AI 모델이 임무를 완수하는 최선의 방법이 극악무도한 행동이나 범죄를 저지르는 것이라고 판단했다”며 AI 안전성에 대한 우려를 나타냈다.</p>
          <p contents-hash="b30c55da60a4a3c58eebbb2b25bf0e7003331cb4783612288b6d59d3d57789f7" dmcf-pid="YlxrLPKpoX" dmcf-ptype="general">현재 AI 개발을 통제할 수 있는 주체가 충분하지 않다는 점도 지적했다. 엥겔스는 “이 분야에 책임질 어른이 없다”며 “사람들은 최선을 다하고 있지만 우리를 구해줄 사람이 아무도 없다”고 말했다.</p>
          <div contents-hash="804ed25b504507010104af6ec901dd76183e67d5883f3720a8b6c75e9dd8ef17" dmcf-pid="GSMmoQ9UNH" dmcf-ptype="general">
           벤턴과 엥겔스는 AI 안전성 평가기관인 모델평가·위협연구소(METR)에 합류해 AI가 인간의 지시나 의도에서 벗어나 행동하는 사례 등을 연구할 계획이다.
           <br> 
          </div>
          <figure class="figure_frm origin_fig" contents-hash="27cbaa396d93a3a0186329d63146a20f879e0a400f7046dc1b56a797d818d06f" dmcf-pid="HvRsgx2uNG" dmcf-ptype="figure">
           <p class="link_figure"><img alt="인공지능(AI) 업계에서는 최근 개발 속도 조절과 안전성 연구 강화에 대한 주장이 잇따라 제기되고 있다. 생성형 AI로 만든 이미지" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/14/segye/20260914103012441vjho.jpg" data-org-width="1200" dmcf-mid="qIVjM9UZNK" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/14/segye/20260914103012441vjho.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            인공지능(AI) 업계에서는 최근 개발 속도 조절과 안전성 연구 강화에 대한 주장이 잇따라 제기되고 있다. 생성형 AI로 만든 이미지
           </figcaption>
          </figure>
          <div contents-hash="62a30070b3fc1361792c6274288b8b5ac2c4cf1072db43d27c0686fbcc106057" dmcf-pid="XTeOaMV7NY" dmcf-ptype="general">
            ◆ “개발 속도 늦춰야”…업계서 잇단 경고
          </div>
          <p contents-hash="cae8cb85f56eb0ef34f92f19abe4cdc028f3d119e94a9e81959ca3876ecaf23c" dmcf-pid="ZydINRfzNW" dmcf-ptype="general">AI 업계에서는 최근 개발 속도를 조절하고 안전성 연구를 강화해야 한다는 목소리가 잇따르고 있다.</p>
          <p contents-hash="6ff51733679781e2ad91d41752d606c2a05e4103a9d0a111a3c03d5805a15dca" dmcf-pid="5WJCje4qAy" dmcf-ptype="general">앤트로픽 연구원 제이콥 콕슨도 AI의 위험성을 경고하며 회사를 떠난 뒤 논란이 됐다.</p>
          <p contents-hash="38aa6e7ac675a173c39fb90546f7955fc2e3291a7d9cc00390f1a3ec6079085c" dmcf-pid="1YihAd8BaT" dmcf-ptype="general">콕슨은 퇴사 이후 13일 BBC와의 인터뷰에서 “현재의 개발 속도를 늦추지 않으면 가까운 미래에 모두가 목숨을 잃을 가능성이 매우 높다고 생각한다”며 AI 연구자들이 인류의 미래를 우려하고 있다고 주장했다.</p>
          <p contents-hash="0c9a6672d00dd28c70908d9b8c7828f93d63ed4d3b8ee050cb09dea72a5a75c6" dmcf-pid="tGnlcJ6bcv" dmcf-ptype="general">그는 특히 슈퍼컴퓨터처럼 행동하는 AI 봇들이 인터넷을 장악하는 시나리오가 6개월에서 1년 안에 현실화할 가능성도 언급했다.</p>
          <p contents-hash="d0d76aea2f1de7f896d8569c5cb9d30a79c974c91a65af4952db7a3c526b535c" dmcf-pid="FHLSkiPKNS" dmcf-ptype="general">다른 AI 업계 관계자들도 비슷한 우려를 내놓고 있다.</p>
          <p contents-hash="4ae202cf8ec9cea1294c7ecd6cf8e166cb9544f2e4ec55936dddf67a952cd8b1" dmcf-pid="3XovEnQ9cl" dmcf-ptype="general">오픈AI 출신 직원 마커스 윌리엄스는 “AI 규제가 도입되거나 개발 속도가 조절되지 않으면 향후 몇 년 내 인류가 멸종될 가능성이 크다”고 주장했다. 구글과 오픈AI에서 근무했던 제프리 어빙 역시 자신의 엑스(X·옛 트위터)에 “초지능으로 우리가 사망할 확률이 50% 정도라고 생각한다”고 썼다.</p>
          <p contents-hash="aefc1b95a9344f62593988dfbec2f516e29c0833c25d0c908c48db3e46d38c08" dmcf-pid="0ZgTDLx2ch" dmcf-ptype="general">이들이 공통적으로 우려하는 것은 AI가 인간의 개입 없이 스스로 능력을 향상시키는 상황이다. AI 시스템이 자율적으로 개선되는 수준에 도달할 경우 인간의 의도와 다른 행동을 하거나 목표를 달성하는 과정에서 인간에게 피해를 줄 가능성을 배제하기 어렵다는 것이다.</p>
          <p contents-hash="2cd4ce7f0adcedd0e318b94d29d1eb1b9724991a91ebdf4fe8287c05e01f9905" dmcf-pid="p5aywoMVNC" dmcf-ptype="general">벤턴은 “지금부터 우려하지 않으면 상황이 너무 빠르게 진전돼 우리가 제때 대응할 수 없게 될까 봐 걱정된다”고 말했다.</p>
          <p contents-hash="c55c2dfc9a4130e6eee480c9b9a5f37fb5a0c5495e5f8f4e7c9bbb831428dcaf" dmcf-pid="UrVjM9UZNI" dmcf-ptype="general">이승구 온라인뉴스 기자 hibou5124@segye.com</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 세계일보. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기