【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]글로벌 AI 안전 협력, 서울서 현실화…"책임 확장에서 실행으로"

온카뱅크관리자

2025-10-29 14:07:33

<div id="layerTranslateNotice" style="display:none;"></div> 한국 AI안전연구소, 스케일AI와 MOU 체결…앤트로픽·에포크AI 등과 AI 안전 논의 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="FQWACgKpNf">
 (지디넷코리아=한정호 기자)인공지능(AI) 안전을 둘러싼 글로벌 협력이 서울에서 본격화됐다. 세계 주요 연구기관과 기업들은 한자리에 모여 AI의 잠재적 위험을 평가하고 안전성을 강화하기 위한 공동 전략을 논의했다.
 한국 AI안전연구소는 29일 호텔 나루 서울 엠갤러리 앰배서더에서 '2025 인공지능 안전 서울 포럼' 행사를 열고 AI 평가, 벤치마킹, 레드티밍(취약성 검증) 세션을 진행했다.
 과학기술정보통신부가 주최하고 한국전자통신연구원(ETRI)이 공동 주관한 이번 포럼에는 ML커먼스, METR, 에포크AI, 퓨처오브라이프연구소(FLI), 옥스퍼드대 등 세계 주요 평가기관과 연구진이 참석했다.
 <figure class="figure_frm origin_fig" contents-hash="250bd70608ae57cda7a56980acb726c4fb08b2dda1dd23551aeba83ba9fdbc58" dmcf-pid="UeXDvAfzjK" dmcf-ptype="figure">
 <img alt="김명주 한국 AI안전연구소장(왼쪽), 스케일AI 맥스 뱅커 글로벌 정부협력총괄 (사진=한정호 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/29/ZDNetKorea/20251029140414702lrri.jpg" data-org-width="640" dmcf-mid="XJFLwdu5kQ" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/29/ZDNetKorea/20251029140414702lrri.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 김명주 한국 AI안전연구소장(왼쪽), 스케일AI 맥스 뱅커 글로벌 정부협력총괄 (사진=한정호 기자)
 </figcaption>
 </figure>
 특히 이날 포럼에서는 한국 AI안전연구소와 미국 AI 전문기업 스케일AI 간의 업무협약(MOU) 체결식이 진행됐다. 양 기관은 AI 평가, 레드티밍, 안전 연구 고도화를 위한 공동 협력 체계를 구축키로 했다. 이번 협약을 통해 양측은 실험적 안전 테스트를 비롯해 글로벌 평가 표준 수립에도 협력할 계획이다.
 포럼 세션 발표에서는 AI 시스템의 실무 평가와 벤치마킹 전략이 논의됐다. ML커먼스의 숀 맥그리거 에이전틱 리드는 "모든 AI 모델들은 안정성을 갖추기 위해 독립적 감사와 공공 검증 절차를 거쳐야 한다"며 "AI 안전 생태계의 인재 부족도 시급히 해결해야 할 과제"라고 강조했다.
 이어 METR의 사미 자와르 엔지니어링 총괄은 제3자 위험 평가(3PRA) 이니셔티브를 소개하며 AI 모델이 배포되기 전에 위험 신호를 감지하고 대응할 수 있는 프로세스가 필요하다고 제언했다. 또 AI 개발사뿐만 아니라 평가기관 간의 신뢰 협력도 강화돼야 한다고 주장했다.
 <figure class="figure_frm origin_fig" contents-hash="dd5a88d706faf9c1b6694b9eceb6cb5c3362fb1f5bb4b3bdcf97971ebde5273f" dmcf-pid="qntsYDPKgz" dmcf-ptype="figure">
 <img alt="2025 인공지능 안전 서울 포럼 현장 (사진=한정호 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/29/ZDNetKorea/20251029140415982fzkx.jpg" data-org-width="640" dmcf-mid="5IMTFhiPc6" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/29/ZDNetKorea/20251029140415982fzkx.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 2025 인공지능 안전 서울 포럼 현장 (사진=한정호 기자)
 </figcaption>
 </figure>
 이번 포럼에서는 실습 기반의 프론티어 AI 레드티밍 세션도 진행됐다. 참가자들은 최신 대규모 언어모델(LLM)을 대상으로 공격·방어 시나리오를 시뮬레이션하며 모델 취약성을 검증했다. 한국 AI안전연구소와 스케일AI가 공동으로 준비한 이 세션은 국제 협력 기반의 평가 훈련 프로그램으로 주목받았다.
 아울러 이날 행사에는 앤트로픽도 참석해 '책임 있는 확장 정책'을 중심으로 한 AI 안전 프레임워크를 공개했다. 앤트로픽 니타르샨 라즈쿠마르 국제정책 리드는 "AI 기술의 잠재력이 커질수록 그만큼 재난적 위험에 대한 대비가 중요하다"며 "우리의 원칙은 적절한 안전 조치 없이 위험한 수준의 AI 모델을 훈련하거나 배포하지 않는 것"이라고 말했다.
 앤트로픽은 모델의 역량이 높아질수록 보안과 검증 수준을 단계적으로 강화하는 계층형 안전 관리 체계를 운영 중이다. 이 체계는 생물학 분야의 바이오시큐리티 등급 시스템을 참고해 위험도가 높은 모델일수록 더 엄격한 보호조치를 적용하는 방식이다.
 <figure class="figure_frm origin_fig" contents-hash="9961ea37b561691c59f7b18af953c7c3e1e709f0baf24be474fedfbbab1fe7ea" dmcf-pid="96TNOLB3Np" dmcf-ptype="figure">
 <img alt="앤트로픽 니타르샨 라즈쿠마르 국제정책 리드 (사진=한정호 기자)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202510/29/ZDNetKorea/20251029140417280yhzb.jpg" data-org-width="640" dmcf-mid="tGNfJKWIo4" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202510/29/ZDNetKorea/20251029140417280yhzb.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 앤트로픽 니타르샨 라즈쿠마르 국제정책 리드 (사진=한정호 기자)
 </figcaption>
 </figure>
 라즈쿠마르 리드는 "우리는 내부 레드팀을 운영하며 미국과 영국의 AI안전연구소, 제3의 독립 기관과 협력해 위험 평가를 진행하고 있다"며 "최근 유럽연합(EU)과 미국, 한국 등의 국가들도 자율적 안전 약속에서 법적 의무로 전환하며 AI 안전 프레임워크 공개와 검증을 요구하는 법제화를 추진 중"이라고 말했다.
 이어 "외부 검증은 개발 속도를 늦추는 것이 아니라 오히려 안전한 배포를 가속화하는 과정"이라고 강조했다.
 한정호 기자(jhh@zdnet.co.kr)
 </section> 
 </div> 
 Copyright © 지디넷코리아. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기