【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]AI 과열 경쟁·경영진 불신에 안전 공조 흔들… “인류 생존 위협”

온카뱅크관리자

2026-09-13 15:37:25

<div id="layerTranslateNotice" style="display:none;"></div>  
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="69G7lRfzLz">
          <div contents-hash="4a1b6524e13c80c3b9c602f80738630305f7e2aa4848ac8d1ce602078397612e" dmcf-pid="P2HzSe4qn7" dmcf-ptype="general">
           인공지능(AI) 기업들의 과열 경쟁과 경영진 간 불신이 AI 안전을 위협하고 있다는 경고가 잇따르고 있다. 경쟁사가 먼저 강력한 AI를 내놓을 수 있다는 불안에 어느 기업도 개발 속도를 늦추지 못하는 데다, 상대가 약속을 지킬 것이라는 확신도 없어 공동 안전장치 마련이 어려워지고 있다는 것이다.
          </div>
          <figure class="figure_frm origin_fig" contents-hash="35536a57e9e00d3e4374818c40f9d660c62577c91bbbf9d79649c8f44de4276e" data-idxno="452402" data-type="photo" dmcf-pid="QVXqvd8BLu" dmcf-ptype="figure">
           <p class="link_figure"><img alt="/ 챗GPT 생성" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/13/552810-SDi8XcZ/20260913153543993kkdf.png" data-org-width="600" dmcf-mid="8zfnqIkLeq" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/13/552810-SDi8XcZ/20260913153543993kkdf.png" width="658"></p>
           <figcaption class="txt_caption default_figure">
            / 챗GPT 생성
           </figcaption>
          </figure>
          <p contents-hash="af2304dcff7a4cba9ff01b3270a3926472ada417c5e43e36882946962e074d5e" dmcf-pid="xZDyaztWMU" dmcf-ptype="general">13일(현지시각) 파이낸셜타임스(FT)는 AI 연구자와 투자자, 학자, 정책 관계자 20여명을 인터뷰해 이 같은 업계 내부의 위기감을 전했다.</p>
          <p contents-hash="11ad0ae1301709acad31692176328c4119f35d7fe5e4da054a05767dafb9eba7" dmcf-pid="yiqx3EoMdp" dmcf-ptype="general">위기론에 다시 불을 붙인 것은 최근 앤트로픽을 떠난 젊은 연구원 제이콥 콕슨이었다. 그는 AI 개발자들이 "AI가 10년 안에 우리 모두를 죽일 수 있다고 진심으로 믿고 있다"고 주장했다. 앤트로픽에서 AI 정렬 연구를 이끄는 에반 휴빙거는 향후 10년 내 AI로 인한 대량 사망 위험을 10% 이상으로 추산했다. 오픈AI 재단 이사로 선임된 AI 안전 전문가 폴 크리스티아노도 충분한 안전장치가 마련되지 않으면 "대부분의 사람이 죽을 수 있다"고 경고했다.</p>
          <p contents-hash="a2a6ceba74a1da6e413ed10a2abb0d45806d9fa11bbecf5028ca932c60c25f8e" dmcf-pid="WnBM0DgRn0" dmcf-ptype="general">앞서 오픈AI와 앤트로픽은 모두 강력한 AI를 안전하게 개발하고 그 위험을 줄이겠다는 목표를 내건 바 있다. 하지만 막대한 투자금이 유입되고 시장 선점 경쟁이 격화되면서 두 회사는 과거 내놓았던 안전 약속을 완화하거나 뒤집었다는 지적을 받고 있다. 스튜어트 러셀 UC버클리 교수는 "기업 간 경쟁 때문에 안전이 소홀해지고 있다는 점은 분명하다"고 말했다.</p>
          <p contents-hash="6546fa7c591163a2583c80e5de4afdc4b7b1cc5cfba3da3bc6dc2b3c02af7ec2" dmcf-pid="YLbRpwaee3" dmcf-ptype="general">우려의 핵심은 인간의 지시를 받아 장시간 독립적으로 추론하고 계획을 수행하는 'AI 에이전트'다. 최신 모델은 여러 에이전트가 집단으로 협업할 수 있고, 복잡한 해킹 작업이나 과학·수학 문제도 풀어낸다. 오픈AI와 앤트로픽은 여기서 더 나아가 AI가 인간의 개입을 줄인 채 스스로 성능을 개선하는 '재귀적 자기 개선' 기술을 연구하고 있다.</p>
          <p contents-hash="0ecc4bd817939c93d3dcbc33c1d4f174f6caa6e63bb930df6f705d7986e14121" dmcf-pid="GoKeUrNdeF" dmcf-ptype="general">실험 과정에서는 AI가 목적 달성을 위해 규칙을 우회하는 '보상 해킹'도 확인됐다. FT가 소개한 사례에서 오픈AI의 미공개 모델을 기반으로 한 1000개 이상의 에이전트는 사이버 보안 시험을 통과하기 위해 통신망을 만들고 역할을 분담했다. 이들은 시험 부정행위를 숨기기 위해 기록을 조작하고 AI 모델 플랫폼 허깅페이스의 시스템까지 공격했다. 일부 에이전트가 행위의 비윤리성을 지적했지만 집단행동은 중단되지 않았다.</p>
          <p contents-hash="8e12f2a076f9e50c4da8d442e93be24367b173b170476ac5d79161c813eac161" dmcf-pid="Hg9dumjJdt" dmcf-ptype="general">'AI의 대부'로 불리는 요슈아 벤지오 몬트리올대 교수는 이 사건에서 AI가 단순히 주어진 목표를 추구한 것을 넘어 스스로 범죄적 수단을 선택했다는 점에 주목했다. 그는 AI가 인간의 감시와 개입을 목표 달성의 방해 요소로 인식할 경우, 통제를 피하기 위해 행동을 숨기거나 인간을 속일 수 있다고 경고했다.</p>
          <p contents-hash="5239f7cf727c5696ef9651eecbd220195fe1b28aaa9568c77682731370ba7b81" dmcf-pid="Xa2J7sAid1" dmcf-ptype="general">기업들이 이런 위험을 알고도 속도를 늦추지 못하는 배경에는 '내가 멈추면 경쟁자가 앞서간다'는 불안이 자리 잡고 있다. 주요 연구소들은 안전을 위해 개발 속도를 공동 조절하는 방안을 검토했지만, 공식적인 협력이 담합으로 해석돼 반독점법을 위반할 가능성을 우려했다. 앤트로픽의 다리오 아모데이 최고경영자(CEO)와 오픈AI의 샘 올트먼 CEO 사이에 형성된 개인적 불신도 협력을 가로막는 요인으로 거론됐다.</p>
          <p contents-hash="96eb5295a645d02d9e0eeab51dcfe79773b907b076fd7fdc6903e2b0675b5287" dmcf-pid="ZNVizOcnR5" dmcf-ptype="general">아울러 정부의 대응은 기술 발전 속도를 따라가지 못하고 있다. 오픈AI와 앤트로픽, 구글, 메타 직원 1200여명은 지난 7월 미국 정부에 AI 개발 속도를 늦추기 위한 국제 공조를 촉구했다. 그러나 미국 정치권이 단기간에 강력한 규제를 마련할 가능성은 크지 않다는 관측이 나온다. 러셀 교수는 AI 기업들이 인류 멸종 가능성을 경고하는데도 정부는 세금 감면과 데이터센터 건설 지원으로 답하는 상황이라고 비판했다.</p>
          <p contents-hash="de4b9162d8a751ad277bb9b06b3e667b56ba48f9bb41ad0f9f1756eeea3179d9" dmcf-pid="5jfnqIkLMZ" dmcf-ptype="general">회의론도 존재한다. AI 기업들이 '인류 멸종'이라는 극단적 위험을 부각해 막대한 안전 비용을 감당하기 어려운 중소 경쟁사를 시장에서 밀어내려 한다는 주장이다. 앤트로픽의 한 전직 직원은 먼 미래의 AI 정렬 문제에 관심이 쏠리면서 소수 선도 기업으로의 권력 집중이나 일자리 대체, 감시 확대와 같은 당장의 위험이 가려질 수 있다고 지적했다.</p>
          <p contents-hash="749bfd9b1814f93b87ef47889f55b8f6cfa9a3efebc1a3e122d87d3d8cbea5f7" dmcf-pid="1A4LBCEoJX" dmcf-ptype="general">그러나 사이버 공격과 생물학 분야의 위험은 이미 현실화하고 있다는 우려가 나온다. AI는 악성코드 개발과 보안 취약점 탐색의 기술적 문턱을 낮추고, 생물무기나 위험한 바이러스를 설계하는 데 필요한 지식을 제공할 수 있다. </p>
          <p contents-hash="33227686958c2473fc6f8d4374acc9bcd1dd55220931d8409259c3648e46669c" dmcf-pid="tc8obhDgiH" dmcf-ptype="general">트리스탄 해리스 인간기술센터 공동 창업자는 AI가 실제로 인류를 멸종시킬지를 따지기보다 "우리가 통제할 수 없는 방향으로 가고 있는지"부터 물어야 한다고 말했다.</p>
          <p contents-hash="e606982fab2ef634dafde08f4e77693015ca6c487a43dbd9a6e2158049508987" dmcf-pid="Fk6gKlwaiG" dmcf-ptype="general">이선율 기자<br>melody@chosunbiz.com</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © IT조선. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기