【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]얀 르쿤 “AI 안전은 엔지니어링 문제… 기술적으로 통제 가능”

온카뱅크관리자

2026-10-12 14:37:24

<div id="layerTranslateNotice" style="display:none;"></div> 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="uNICzfvmWM">
 <div contents-hash="617553b470e7daa1bdf398177e5183cf0ca61703d103cbc897fdd8bde06ed3e2" dmcf-pid="7jChq4Tsvx" dmcf-ptype="general">
 AI 통제 불능론 반박 “LLM 통제 한계 있지만 월드모델·가드레일로 대응
 </div>
 <figure class="figure_frm origin_fig" contents-hash="af54bfe8c051a5a798ba5aa095a09d4eceaf9d8e259d8638c28b07591114ce1d" dmcf-pid="zAhlB8yOvQ" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/12/552796-pzfp7fF/20261012142819739mkto.jpg" data-org-width="640" dmcf-mid="UrWYfRZvTR" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/12/552796-pzfp7fF/20261012142819739mkto.jpg" width="658">
 </figure>
 [디지털데일리 구아현기자] 글로벌 3대 석학인 얀 르쿤(Yann LeCun) AMI Labs 회장이 인공지능(AI) 통제 불능 위험에 대해 기술적으로 해결할 수 있는 문제라는 입장을 밝혔다. AI 개발 속도조절론이 확산하는 가운데 현재 AI의 한계를 인정하면서도 새로운 시스템 설계와 안전장치를 통해 위험을 통제할 수 있다는 주장이다. AI 안전성을 '엔지니어링 문제'로 바라본 젠슨 황 엔비디아 최고경영자(CEO)의 견해에도 동의한다고 밝혔다.
 르쿤 회장은 12일 서울 중구 웨스틴 조선 서울에서 열린 '2026 산업AI 글로벌 협력 기자간담회'에서 이같이 밝혔다. 이날 행사는 에이토매틱(Aitomatic)과 국제 산업AI 콘퍼런스(IIAC) 2026 조직위원회가 주최하고 AI 얼라이언스(AI Alliance)와 ASI 파운드리(ASI Foundry)가 주관했다. 크리스토퍼 응우옌 에이토매틱 최고경영자(CEO), 앤서니 아눈지아타 AI 얼라이언스 공동의장, 지미 리 ASI 파운드리 회장 등이 참석했다.
 르쿤 회장은 2018년 제프리 힌턴, 요슈아 벤지오와 함께 딥러닝 연구 공로로 튜링상을 수상한 인물이다. 메타의 수석 AI 과학자 겸 부사장을 지냈으며, 현재는 자신이 설립한 AMI Labs에서 물리적 세계를 이해하고 행동 결과를 예측하는 월드모델(World Model) 기반 고도 기계지능을 개발하고 있다. 뉴욕대학교 교수로 한-미 글로벌 AI 프런티어랩 공동소장도 맡고 있다.
 ◆ “AI 안전은 공학적 문제… 자체 통제 가능성 구분해야”
 이날 국내 금융권 해킹 사태와 AI 통제 불능 위험에 대한 질문을 받은 르쿤 회장은 사이버 보안 문제와 AI 자체의 통제 가능성을 구분해야 한다고 강조했다.
 그는 “최근 몇 달간 발생한 일부 AI 보안 사고는 에이전트를 배포한 기업들이 사이버 보안에 충분한 경험을 갖추지 못했고, 에이전트를 격리하는 샌드박스에 허점이 있었기 때문”이라며 “이미 알려진 보안 기술이 제대로 적용되지 않은 문제로, 해결할 수 있다”고 설명했다.
 다만 현재 대규모언어모델(LLM) 기반 AI 시스템에는 구조적인 통제 한계가 있다고 인정했다. LLM은 미세조정을 통해 위험한 응답을 억제하지만 발생 가능한 모든 질문과 상황을 사전에 학습시키는 것은 현실적으로 불가능하다는 설명이다.
 르쿤 회장은 “LLM 기반 시스템은 어떤 면에서 본질적으로 위험하다. 직접 통제할 수 없기 때문”이라며 “모든 질문에 대해 안전한 답변을 학습시키는 것은 불가능하며, 의도하지 않은 답변을 유도하는 것도 비교적 쉽다”고 지적했다.
 대안으로는 월드모델을 활용한 '목표 지향형 AI(Objective-Driven AI)'를 제시했다. AI가 행동에 앞서 결과를 예측하고, 실행 단계에서 사전에 설정된 안전 제약을 충족하는 행동만 선택하도록 설계하는 방식이다.
 그는 “AI 시스템에 목표를 부여하면 월드모델을 통해 행동의 결과를 예측하고, 실행 단계에서 안전장치인 가드레일을 충족하도록 만들 수 있다”며 “안전장치가 제대로 설계된다면 시스템이 이를 위반하지 못하도록 할 수 있다”고 설명했다.
 특히 AI 안전성 확보를 항공기 엔진 개발에 비유했다. 르쿤 회장은 “AI 안전성 확보가 쉬운 문제라고 말하는 것은 아니지만 결국 엔지니어링의 문제”라며 “AI를 안전하게 만드는 것이 터보제트 엔진을 안전하게 만드는 것보다 오히려 간단한 공학적 문제일 수도 있다”고 말했다.
 ◆ “초지능, 하루아침에 등장하지 않아”
 르쿤 회장은 AI가 어느 날 갑자기 인간의 통제를 벗어나 초지능으로 발전할 것이라는 시나리오에도 선을 그었다. AI 발전은 특정 시점에 단번에 이뤄지는 것이 아니라 여러 기술적 혁신과 돌파구가 축적되는 점진적인 과정이라는 설명이다.
 그는 “어느 한 곳에서 인간 수준의 지능을 구현하는 비밀을 발견하고, 갑자기 로봇이 세상을 장악한다는 것은 공상과학(SF) 소설에 가까운 시나리오”라며 “AI 발전은 단일한 사건이 아니라 여러 혁신과 기술적 돌파구를 통해 점진적으로 이뤄질 것”이라고 말했다.
 이어 “멀리서 보면 연속적인 진화처럼 보이겠지만, 연구 현장에 있는 사람들에게는 일련의 기술적 돌파구로 보일 것”이라며 AI 발전이 어느 한순간 인간 수준을 넘어서는 급격한 사건으로 나타나지는 않을 것이라고 강조했다.
 그렇다고 AI 시스템이 모든 위험에서 자유롭다는 의미는 아니다. 르쿤 회장은 월드모델이 행동 결과를 부정확하게 예측할 경우 AI가 안전하다고 판단한 행동이 실제로는 위험할 수 있다고 인정했다. 다만 이러한 문제 역시 시스템 설계와 검증을 통해 개선할 수 있다는 입장이다.
 사이버 보안 분야에서는 AI가 공격자보다 방어자에게 더 유리하게 작용할 가능성이 높다고 전망했다. 보안 전문가들은 공격자보다 인력과 자금이 풍부하고 정보를 공유할 수 있는 반면, 공격자는 은밀하게 활동해야 한다는 이유에서다.
 르쿤 회장은 “강력한 AI 시스템은 막대한 연산 자원을 필요로 해 공격자가 이를 은밀하게 활용하기 어렵다”며 “궁극적으로 AI는 공격보다 방어에 더 유리하게 작용할 것으로 본다”고 말했다. 다만 기술 발전이 실제 사이버 보안 환경에 미치는 영향은 추가적인 검증이 필요하다고 덧붙였다.
 이날 참석한 앤서니 아눈지아타 AI 얼라이언스 공동의장도 AI가 사이버 보안을 강화하는 데 기여할 것이라는 전망에 동의했다. 그는 AI가 소프트웨어 취약점을 조기에 발견하고 개발자의 안전한 코드 작성을 지원하면서 기존보다 안전한 디지털 인프라를 구축하는 데 도움이 될 것으로 내다봤다.
 크리스토퍼 응우옌 에이토매틱 최고경영자(CEO)는 AI의 안전성과 거버넌스 확보가 기술 확산을 늦추는 요인이 아니라 오히려 빠른 도입을 가능하게 하는 기반이라고 강조했다. 그는 “안전성과 거버넌스에 대한 투자가 AI를 더 빠르게 도입할 수 있도록 한다”며 산업 현장에 AI를 조기에 반복적으로 적용하되 안전하고 책임 있는 방식으로 운영해야 한다고 말했다.
 지미 리 ASI 파운드리 회장 역시 AI 기술의 위험을 관리할 수 있다는 데 무게를 실었다. 그는 “새로운 기술은 언제나 위험을 동반하지만 인류는 이를 통제하고 관리하는 방법을 배워왔다”며 “AI 역시 모델 자체의 안전성 확보뿐 아니라 외부 접근을 통제하는 가드레일과 시스템을 차단할 수 있는 장치 등 다층적인 안전체계를 구축해야 한다”고 강조했다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기