【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]빅테크 AI, 안전성 약속 후퇴 중…앤트로픽 최상위·xAI 하위권

온카뱅크관리자

2026-07-08 10:07:30

<div id="layerTranslateNotice" style="display:none;"></div> 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="qprIMjHlm8">
 <figure class="figure_frm origin_fig" contents-hash="ef4bdf181799e99dd6cc5844e9c0d8f5577634d8cfc316e3b5d0ba41f1fa82c6" dmcf-pid="BUmCRAXSr4" dmcf-ptype="figure">
 <img alt="퓨처오브라이프 인스티튜트(FLI) '2026 상반기 AI 안전성 지수' 인포그래픽. ⓒFLI" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202607/08/etimesi/20260708100327177mvpi.png" data-org-width="700" dmcf-mid="zE6MtKNdE6" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202607/08/etimesi/20260708100327177mvpi.png" width="658">
 <figcaption class="txt_caption default_figure">
 퓨처오브라이프 인스티튜트(FLI) '2026 상반기 AI 안전성 지수' 인포그래픽. ⓒFLI
 </figcaption>
 </figure>
 빅테크 인공지능(AI) 기업의 안전한 AI 활용 관련 약속과 공언들이 갈수록 퇴보하는 것으로 나타났다. AI 프론티어 모델 개발 경쟁에 집중하고 안전에는 소홀한 모습을 보인다는 것이다.
 퓨처오브라이프 인스티튜트(FLI)는 8일 이같은 내용을 담은 '2026 상반기 AI 안전성 인덱스'를 공개했다. FLI는 2014년 일론 머스크 테슬라 최고경영자(CEO) 시드 펀딩을 받아 맥스 테크마크 MIT 물리학과 교수, 스카이프 개발에 참여한 잔 탈린 프로그래머 등이 설립한 AI 안전분야 비영리재단 씽크탱크다.
 FLI는 이번 인덱스 결과에 대해 AI 위험이 군사·안보·사이버보안 영역으로 확대되는 가운데 개발 기업의 안전장치는 오히려 후퇴하고 있다는 경고라고 총평했다.
 인덱스는 데이비드 크루거 몬트리올대 교수·셰런 리 위스콘신-매디슨대 교수·스튜어트 러셀 UC버클리 교수 등 독립 AI 전문가 7인이 주요 AI기업의 안전 관행을 위험 평가, 현재 피해, 안전 프레임워크, 인류 생존 차원 안전, 거버넌스·책임, 정보 공개·소통 등 6개 부문에 입각해 평가한 결과다.
 미국 구글 딥마인드·메타·앤트로픽·오픈AI·xAI, 중국 딥시크·알리바바 클라우드·Z.ai, 프랑스 미스트랄AI 등 9개사가 평가 대상이었다.
 이들 기업 중 상당수가 AI 안전성 약속을 조용히 후퇴시켰다는 게 패널들의 판단이다. 특정 '레드라인'에 근접할 경우 개발을 중단하겠다는 대외적 약속과 달리 앤트로픽, 오픈AI, 구글 딥마인드, 메타는 모두 내부적으로 이를 약화시키거나 폐기한 것으로 나타났다.
 사용자를 안심시키는 듯한 기업들의 대외 안전 메시지와 실제 상업적·정치적 행보 사이 괴리가 나타난 것이다. 통제 유지를 위한 실효성 있는 계획도 없이 범용 AI(AGI)와 ASI를 향해 계속되는 업계의 경쟁이 스스로 내세운 안전 목표와 정면으로 배치되며 대중의 신뢰를 훼손한다고 지적했다.
 러셀 교수는 “AI 능력 수준에 걸맞은 안전조치를 갖춘 경우에만 새 시스템을 출시하겠다던 기업들이 기존 약속에서 물러섰다”며 “명백히 안전하지 않은 경우에도 출시하고 있다”고 설명했다.
 특히 앤트로픽 '미토스'로 확인된 AI 위험은 가설에 그치지 않고 치명적 현실로 진화하고 있다고 진단했다. AI 시스템이 사이버 공격에 악용되거나 군사 작전에 통합되고 총기 난사에 필요한 정보를 제공하며 자살을 방조하는 등의 사례를 근거로 제시했다.
 이번 평가에서 앤트로픽과 오픈AI, 구글 딥마인드가 상위 3위를 지켰다. 하지만 평가위원들은 A·B 평가를 받은 기업이 전무하고 현재 안전 완화 조치가 AI기술과 성능 발전 속도에 비해 완전히 부적절하다는 입장을 내놨다. 메타는 6위에서 4위로 올라섰고 xAI는 Z.ai와 알리바바 클라우드에 밀려 4위에서 7위로 떨어졌다. 처음 평가 대상에 포함된 미스트랄AI은 대다수 부문에서 낙제점을 받아 최하위를 기록했다.
 맥스 테그마크 FLI 회장(MIT 교수)은 “AI기업들이 절벽을 향해 전력 질주하고 있다”며 “초인공지능(ASI) 위험을 스스로 경고하면서 정작 ASI를 만들기 위한 경쟁은 멈추지 않고 있다”고 평가했다. 이어 “자발적 약속만으로 (AI 안전성 보장이) 애초에 충분하지 않았다”고 덧붙였다.
 박종진 기자 truth@etnews.com
 </section> 
 </div> 
 Copyright © 전자신문. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기