【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]AI 위험 검증 강화하는 주요국…韓 안전 평가 인력 6명뿐

온카뱅크관리자

2026-09-28 14:17:25

<div id="layerTranslateNotice" style="display:none;"></div> 美 34명서 80명, 日 31명서 60명으로 확대…韓 GPU 서버도 5대 그쳐 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="z1nZZwB3ja">
 (지디넷코리아=김동원 기자)국내 인공지능(AI) 안전 평가를 담당하는 AI안전연구소의 기술 평가 인력이 6명에 불과한 것으로 나타났다. 미국과 영국, 일본이 전문인력과 연산 자원을 늘리는 가운데 국내 AI 안전 평가 역량도 강화해야 한다는 지적이 제기됐다.
 28일 국회 과학기술정보방송통신위원회 소속 이정헌 더불어민주당 의원이 과학기술정보통신부와 AI안전연구소에서 제출받은 자료에 따르면 연구소 AI 안전 평가실 인력은 7명뿐이었다. 법제·규범 담당자 1명을 제외하면 실제 AI 모델을 기술적으로 평가하는 인력은 6명이다.
 이들은 고성능 AI 모델이 어떤 위험한 능력을 갖췄는지 직접 시험한다. 해킹이나 사이버 공격에 악용될 수 있는지, 생물학적 위험 정보를 제공하는지, 개발사가 적용한 안전장치를 우회할 수 있는지 등을 모델을 직접 구동하며 검증한다.
 <figure class="figure_frm origin_fig" contents-hash="d0e277406ef8ed02befb0f7582951129a3468c48bc1e8ad613a4f92012c0dbb4" dmcf-pid="KyQvva3Ggn" dmcf-ptype="figure">
 <img alt="이정헌 의원은 AI안전연구소 기술 평가 인력이 6명에 불과하다고 지적했다. (사진=이정헌 의원실)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/28/ZDNetKorea/20260928141201240dcam.jpg" data-org-width="639" dmcf-mid="77uAA8lwoN" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/28/ZDNetKorea/20260928141201240dcam.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 이정헌 의원은 AI안전연구소 기술 평가 인력이 6명에 불과하다고 지적했다. (사진=이정헌 의원실)
 </figcaption>
 </figure>
 미국에서는 고성능 AI 모델 위험성을 직접 검증해 결과를 공개하고 있다. 미국 국립표준기술연구소(NIST) 산하 AI표준혁신센터(CAISI)는 지난 7월 중국 AI 기업 Z.ai(옛 지푸AI)의 GLM-5.2를 평가했다. 사이버 공격 지원 능력과 생물학적 위험, 안전장치 우회 가능성 등을 시험했다.
 주요국은 AI 안전 평가 인력도 늘리고 있다. 의원실 자료에 따르면 미국의 관련 인력은 34명으로 향후 80명까지 확대할 계획이다. 일본도 현재 31명에서 올해 60명으로 늘린 뒤 장기적으로 200명 규모까지 확대할 방침이다.
 영국 AI안보연구소는 전체 인력이 약 200명이다. 연구소가 공개한 현황을 기준으로 기술 인력만 100명을 넘는다. 첨단 AI의 사이버 공격 능력과 화학·생물학적 위험, 자율적인 행동 등 국가안보와 공공안전에 영향을 줄 수 있는 위험을 평가하고 있다.
 김명주 AI안전연구소장은 지디넷코리아와의 통화에서 "현재 AI 평가 기술에서는 영국이 가장 앞서 있다"며 "한국도 영국을 따라잡기 위해 평가 역량을 강화하고 있다"고 말했다.
 김 소장은 AI 안전 평가가 향후 국제적인 AI 규칙을 논의하는 과정에서도 중요해질 것으로 내다봤다. 그는 "AI 발전 속도가 빨라지면서 모델을 통제할지 판단하기 위한 평가가 중요해지고 있다"며 "이 과정에서 객관적인 국가 기관인 각국 AI안전연구소의 역할이 많이 거론되고 있다"고 설명했다.
 AI 안전과 신뢰성을 평가할 전문인력을 키우려는 움직임은 민간에서도 나타나고 있다. 씽크포비엘은 관련 전문가 양성 교육을 운영하면서 신뢰할 수 있는 인공지능 국제연대(TRAIN)와 함께 AI 개발 과정에서 신뢰성을 검증하는 해커톤 등도 진행하고 있다.
 박지환 씽크포비엘 대표는 "국내에 AI 인재·반도체·보안 인력 양성 사업은 있지만 AI 신뢰성 전문인력을 키우는 커리큘럼과 실습 과제, 평가 체계를 갖춘 사업은 부재하다"며 "AI 위험을 사전에 준비하는 능력이 AI 경쟁력을 좌우할 수 있으므로 관련 인재 양성이 꼭 필요하다"고 강조했다.
 AI 모델을 직접 시험하려면 전문인력뿐 아니라 이를 구동할 컴퓨팅 인프라도 필요하다. 고성능 모델에 다양한 공격을 시도하고 안전장치가 제대로 작동하는지 반복적으로 검증하려면 상당한 연산 자원이 필요하기 때문이다.
 의원실 자료에 따르면 국내 AI안전연구소가 활용하는 그래픽처리장치(GPU) 서버는 5대다. 이 가운데 2대는 민간 클라우드에서 임차해 사용하고 있다. 의원실은 현재 인프라로는 조 단위 매개변수를 가진 초거대 AI 모델이나 안전장치의 제약을 받지 않는 모델을 충분히 검증하는 데 한계가 있다고 지적했다.
 영국은 국가 차원의 컴퓨팅 인프라를 안전 평가에 활용하고 있다. 의원실 자료에 따르면 영국 AI안보연구소는 15억파운드 규모의 국가 컴퓨팅 자원에 우선 접근할 수 있다.
 예산에서도 차이가 나타났다. 의원실 자료에 따르면 한국 올해AI안전연구소 예산은 89억원이다. 영국은 약 1216억원, 미국은 약 232억원이며 일본은 추가경정예산을 통해 관련 예산을 800억원 이상으로 늘렸다.
 현재 AISI는 한국전자통신연구원(ETRI) 부설 연구소로 운영되고 있다. 이 의원은 이 같은 조직 구조로는 전문인력 확보와 독립적인 안전 평가에 한계가 있다며 AI 기본법을 개정해 AISI에 독립적인 예산과 인사권을 부여해야 한다고 주장했다.
 이 의원은 "가시화된 위협에 대응하기 위한 AI 안보 체계 구축을 위해 AI 기본법 개정이 필요하다"며 "AI안전연구소에 법적 독립성을 부여하고 독자적인 예산과 인사권을 보장해 실질적인 대응 역량을 강화해야 한다"고 말했다.
 김동원 기자(goodtuna@zdnet.co.kr)
 </section> 
 </div> 
 Copyright © 지디넷코리아. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기