【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스][비즈톡톡] “AI가 인류 멸종시킬 수도”… AI發 종말론 불지핀 ‘자기개선형 초지능’ 뭐길래

온카뱅크관리자

2026-09-10 15:17:25

<div id="layerTranslateNotice" style="display:none;"></div> 앤트로픽 연구원, 10년 내 인류 멸종 가능성 제기 “무책임한 AI 경쟁, 인류 목숨 건 도박” “AI, 조만간 스스로 발전하는 단계 도달” 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="9LGl5phDAz">
 <figure class="figure_frm origin_fig" contents-hash="4976c078ccc7b9ce32f1990724df2d94eb9ea682f1dbfa6455b27669799db498" dmcf-pid="2LGl5phDk7" dmcf-ptype="figure">
 <img alt="오픈AI와 앤트로픽 로고./연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/10/chosunbiz/20260910151609085sutm.jpg" data-org-width="3500" dmcf-mid="bdhwTXDgaB" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/10/chosunbiz/20260910151609085sutm.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 오픈AI와 앤트로픽 로고./연합뉴스
 </figcaption>
 </figure>
 인공지능(AI) 기업 앤트로픽의 연구원이 “AI가 10년 안에 인류를 멸망시킬 수 있다”고 경고하면서 사표를 냈습니다. 그는 오픈AI와 앤트로픽이 “스스로 발전하는 초지능(self-improving superintelligence)을 개발하기 위해 인류의 목숨을 건 도박을 하고 있다”고 비판했습니다.
 오픈AI의 ‘GPT-6 아스트라’ 등 고성능 AI 모델의 등장으로 최근 AI 인프라 투자 심리가 되살아난 가운데, 최첨단 AI 개발에 앞장서고 있는 내부 관계자들이 AI의 위험성을 잇따라 경고하면서 한동안 잠잠했던 ‘AI발(發) 인류 종말론’이 다시 고개를 들고 있습니다.
 10일 업계에 따르면 제이콥 콕슨 앤트로픽 전 연구원은 소셜미디어 엑스(X)에 “AI를 개발하는 사람들은 이 기술이 2030년 말까지 인류 전체를 죽음으로 몰아넣을 수도 있다고 진심으로 믿고 있다”고 썼습니다. 지난 3년간 오픈AI와 앤트로픽에서 AI 학습 연구를 담당했다는 그는 “AI는 머지않아 어떤 시스템이든 해킹하고, 모든 분야를 하루아침에 혁신하며, 실질적인 권력과 자원을 확보할 수 있는 초인적 시스템이 될 것”이라며 인간이 통제하기 어려운 ‘자기개선형 AI’의 위력을 과소평가해서는 안된다고 강조했습니다.
 앤트로픽의 정렬 과학 총괄인 에반 허빙거는 콕스의 게시물을 공유하면서 비슷한 의견을 냈습니다. 그는 “우리는 진정으로 AI가 인류를 멸망시킬 수 있다고 믿고 있다”며 “개인적으로 앞으로 10년 안에 이런 일이 발생할 확률이 10%를 넘는다고 생각한다”고 했습니다.
 AI 개발자들이 가장 우려하는 시나리오는 AI가 스스로 발전하는 능력을 갖춘 ‘재귀적 자기 개선(RSI)’ 단계에 들어서면서 인간의 통제에서 벗어나는 것입니다. 이들은 AI가 지금과 같은 속도로 고도화되면 안전 장치가 충분히 마련되기 전에 초지능에 대한 통제를 잃을 것으로 전망하고 있습니다.
 오픈AI와 앤트로픽 정의하는 ‘재귀적 자기 개선(recursive self-improvement)’이란 AI가 인간의 개입 없이도 자율적으로 성능이 더 우수한 후속 모델을 개발할 수 있는 상태를 의미합니다. 양사는 아직 AI가 이 단계에 도달하지 않았다고 보고 있습니다. 지금도 챗GPT나 클로드가 “방금 작성한 답변을 보완해 더 좋은 답변을 만들어라”는 식으로 결과물을 다듬는 자기 정제(self-refinement)를 수행하는데, 이는 AI 시스템 자체를 개선한 것이 아니기 때문에 RSI가 아니라는 게 업계의 설명입니다.
 허빙거 총괄은 “현재의 AI 모델이 초래할 위험은 낮지만, RSI를 통해 초지능이 출현하면 상황은 달라진다”면서 “변화는 우리가 예상했던 것보다 빠르게 진행되고 있다”고 했습니다.
 고도로 발달한 AI가 인간의 명령을 따르지 않으면 군 시설, 전력망 등 국가 핵심 인프라를 무력화하는 등의 위험한 상황이 발생할 수 있습니다. 실제 오픈AI의 AI 에이전트는 최근 격리 환경을 뚫고 나가 오픈소스 AI 플랫폼 허깅페이스를 무단 해킹했지만, 오픈AI 측은 이를 통제하지 못했을 뿐더러 사건이 발생한지 일주일이 지나서야 인지했다는 사실이 밝혀져 논란이 일었습니다.
 <figure class="figure_frm origin_fig" contents-hash="5e8ce3dee29f098fe4b0a34864dc5ebb3c5311ecbbf3a4efa9d2ed3e0476f679" dmcf-pid="yoHS1Ulwk5" dmcf-ptype="figure">
 <img alt="인공지능(AI)이 재귀적 자기 개선(recursive self-improvement)으로 향하는 단계./앤트로픽 블로그" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/10/chosunbiz/20260910151610424ebej.jpg" data-org-width="620" dmcf-mid="K08bxiB3gq" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/10/chosunbiz/20260910151610424ebej.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 인공지능(AI)이 재귀적 자기 개선(recursive self-improvement)으로 향하는 단계./앤트로픽 블로그
 </figcaption>
 </figure>
 앞서 야쿠프 파호츠키 오픈AI 최고과학자도 “기계 지능이 계속해서 급속도로 발전할 경우 초래될 결과에 아무도 대비하지 않고 있다”면서 AI 개발 속도를 늦출 것을 촉구했습니다. 그는 AI가 인간의 지능을 뛰어넘기 시작하는 지점에 서 있다면서 “현재와 같은 발전 속도라면 몇 년 안에 재귀적 자기 개선(RSI) 단계에 도달할 가능성이 높다”고 전망했습니다.
 파호츠키 최고과학자는 앞으로 등장할 AI 시스템을 신경과학에 비유했습니다. AI는 방대한 연산 자원을 투입해 최적화 과정을 수없이 반복하는 과정에서 복잡한 내부 구조가 형성되기 때문에 인간의 정밀한 설계도에 맞춰 만들어지는 것이 아니라, 생물처럼 자라나고 변화한다고 설명했습니다. 그래서 신경과학과 마찬가지로 고도화된 AI 시스템의 전체 작동 방식을 완전히 이해할 수 없고, 완전히 통제하기도 어렵다는 주장입니다.
 지난 7월에는 앤트로픽과 오픈AI, 구글 직원 1000명 이상이 미국 정부 차원의 AI 개발 속도 조절을 촉구하는 청원에 서명하기도 했습니다. 이들은 AI가 통제를 벗어나 해로운 행동을 하지 못하도록 설정하는 기술인 ‘AI 정렬’과 안전을 강화해야 한다고 입을 모았습니다.
 문제는 AI 기업들이 인류 멸종 가능성을 인지하면서도 먼저 초지능을 달성하기 위해 정렬과 안전은 뒷전에 두고 치열하게 경쟁하고 있다는 것입니다. 오픈AI와 앤트로픽은 가장 강력한 AI를 중국이 아닌 미국이 통제해야 한다는 논리를 내세우는 것으로 알려졌습니다. 콕스는 “앤트로픽에서는 초지능의 위험성을 충분히 인식하고 있지만, 다른 기업은 책임 있게 행동하지 않을 것이기 때문에 위험을 감수하더라도 자신들이 직접 개발해야 한다고 강하게 믿고 있다”고 했습니다.
 강력한 AI를 둘러싼 실리콘밸리와 시장의 기대감도 AI 통제 장치나 안전에 대한 필요성 관련 논의를 가로막는 요인으로 꼽힙니다. ‘AI 고점론’에 흔들리던 투자 심리는 최근 오픈AI가 ‘아스트라’를 공개하면서 반등했습니다. 막대한 AI 투자금을 수익화하려는 시장은 ‘아스트라’가 되살린 AI 인프라 수요 확대 전망에 베팅하고 있습니다. 젠슨 황 엔비디아 최고경영자(CEO)도 ‘아스트라’가 출시된 직후 “범용인공지능(AGI) 시대가 도래했다”며 AI 성능 발전을 추켜세웠습니다.
 - Copyright ⓒ 조선비즈 &amp; Chosun.com -
 </section> 
 </div> 
 Copyright © 조선비즈. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기