【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]AI 시대 인간 주도권 지키려면…"초지능 막자"·"판단 돕는 AI 설계"

온카뱅크관리자

2026-11-04 16:07:26

<div id="layerTranslateNotice" style="display:none;"></div> 유드코스키, 국제 협약·반도체 수출 통제 제안…코랄루스 "개발 막는 권력 경계해야" 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="4Jig6pDgjY">
 (지디넷코리아=김미정 기자)인공지능(AI) 시대 인간 주도권을 지킬 방안을 두고 전문가들이 서로 다른 해법을 제시했다. 인간이 통제하기 어려운 초지능 개발을 멈춰야 한다는 주장과, AI를 활용하되 판단과 책임은 인간에게 남겨야 한다는 의견이 나왔다.
 엘리저 유드코스키 머신인텔리전스연구소(MIRI) 공동창립자와 필리프 코랄루스 영국 옥스퍼드대 철학·AI 교수 겸 인간중심AI연구소(HAI Lab) 소장은 4일 서울 동대문디지털프라자(DDP)에서 한국 기자단을 만나 이같은 주장을 제시했다. 이들은 오는 5일 SBS D포럼 기조연설에 나선다.
 유드코스키 공동창립자가 경계하는 것은 인류 전체 지적 능력을 넘어서는 초지능이다. 코랄루스는 사람들이 AI를 활용하는 과정에서 무엇을 원하는지, 어떤 선택을 할지에 대한 판단까지 넘겨주는 문제에 주목했다.
 <figure class="figure_frm origin_fig" contents-hash="a5108053cbcce14ad1d576da922e6f189fe6f78e703ae6c609ae44d6291cdcfe" dmcf-pid="QogAMzsAcv" dmcf-ptype="figure">
 <img alt="엘리저 유드코스키 머신인텔리전스연구소(MIRI) 공동창립자가 초지능 개발을 중단해야 한다고 주장했다. (사진=지디넷코리아 DB)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/04/ZDNetKorea/20261104160643715nlfg.jpg" data-org-width="640" dmcf-mid="VEMJ21jJkH" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/04/ZDNetKorea/20261104160643715nlfg.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 엘리저 유드코스키 머신인텔리전스연구소(MIRI) 공동창립자가 초지능 개발을 중단해야 한다고 주장했다. (사진=지디넷코리아 DB)
 </figcaption>
 </figure>
 유드코스키는 초지능을 수학과 과학 연구, 공학, 설득, 전략적 사고 등 인간의 능력을 넘어설 여지가 있는 모든 영역에서 인류 전체보다 명백하게 뛰어난 AI로 정의했다. 개별 인간보다 똑똑한 수준을 넘어 인류가 집단으로 동원하는 지식과 판단 능력까지 앞서는 시스템이라고 설명했다.
 그는 AI 위험을 테러리스트나 적대 국가의 악용 문제로만 봐서는 안 된다고 강조했다. 악의적인 이용자 접근을 막더라도 AI 자체가 인간의 통제를 벗어나는 문제는 남는다는 주장이다.
 유드코스키 공동창립자는 "AI를 안전하게 사용하는 기술이 초지능 안전까지 보장하지는 않는다"며 "AI가 생물학자 연구는 돕되 테러리스트 생물무기 개발은 거부하도록 만드는 일과, 인류보다 똑똑한 AI를 인간의 의도에 따라 움직이도록 통제하는 일은 별개"라고 예시를 들어 설명했다. 
 그러면서 "초지능 개발은 반드시 중단돼야 한다"며 "AI 목표와 행동을 인간 의도에 맞추는 연구가 충분히 진전되지 않은 상태에서 성능 경쟁을 이어가서는 안 된다"고 주장했다. 
 그가 제시한 해법은 국제 협약이다. 기업과 국가가 경쟁자 추격을 이유로 개발을 계속하는 상황에서는 한 기업이나 국가의 자발적 중단만으로 경쟁을 멈추기 어렵다고 봤다.
 그는 한국이 AI 개발에 필요한 고성능 메모리 반도체의 주요 공급국이라는 점을 활용해야 한다고 제안했다. 반도체 공급을 조절해 초지능 개발을 억제하는 데 힘을 보태자는 취지다.
 그는 "국가 간 합의가 이뤄지면 한국 역시 AI 개발에 필요한 고성능 메모리 반도체 수출을 제한하는 방법도 논의될 수 있을 것"이라고 내다봤다. 
 코랄루스 "개발 중단보다 인간 판단 돕는 AI 설계 필요"
 <figure class="figure_frm origin_fig" contents-hash="8bf9430db84c67393becd9cbd3250fb334d743575b58ed90ea6a3bc1135c5d66" dmcf-pid="5hlyDe1yNr" dmcf-ptype="figure">
 <img alt="필리프 코랄루스 영국 옥스퍼드대 철학·AI 교수 겸 인간중심AI연구소(HAI Lab) 소장은 기술 개발 중단이 권위주의적 체제를 만들 수 있다고 경고했따. (사진=지디넷코리아 DB)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202611/04/ZDNetKorea/20261104160644964cyrx.jpg" data-org-width="640" dmcf-mid="fNgAMzsAoG" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202611/04/ZDNetKorea/20261104160644964cyrx.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 필리프 코랄루스 영국 옥스퍼드대 철학·AI 교수 겸 인간중심AI연구소(HAI Lab) 소장은 기술 개발 중단이 권위주의적 체제를 만들 수 있다고 경고했따. (사진=지디넷코리아 DB)
 </figcaption>
 </figure>
 코랄루스 소장은 초지능 개발을 강제로 중단하는 과정에서 인간 자유를 위협하는 권위주의적 체제가 등장할 수 있다고 경고했다. 전 세계 AI 개발을 감시하고 차단하려면 막강한 권한이 필요하며, 이를 행사하는 기구를 누가 감독할지도 불분명하다는 지적이다.
 그는 AI를 활용하면서 인간 판단 능력을 지키는 방안을 제시했다. AI가 업무를 대신 처리하더라도 무엇을 할지 결정하는 주체는 인간이어야 한다는 설명이다.
 그는 인간이 AI와 대화하는 방식부터 바꿔야 한다고 제안했다. AI가 곧바로 답을 내놓기보다 이용자가 놓친 질문과 대안을 제시해 스스로 생각하도록 도와야 한다고 주장했다.
 코랄루스 소장은 이용자가 여러 가능성을 검토한 뒤 자신의 가치관과 우선순위에 따라 결론을 내려야 자율성을 지킬 수 있다고 당부했다. 목표가 명확할 때는 AI에 실행을 맡기되, 무엇을 원하는지 고민하는 단계에서는 AI를 생각을 정리하는 도구로 활용해야 한다는 취지다.
 그는 이런 시스템을 기존 AI 모델로도 구현할 수 있다고 봤다. 새로운 모델을 처음부터 개발하지 않더라도 기존 모델을 API로 연결하고, 질문과 응답의 흐름을 설계하면 이용자의 사고를 돕는 서비스를 만들 수 있다는 설명이다.
 코랄루스 소장은 이용자가 통제하는 AI를 자신과 외부 AI 서비스 사이에 두는 방안도 제안했다. 개인 가치관과 우선순위를 반영한 AI가 외부 서비스 기능을 활용하면서 이용자의 판단을 보호하는 ‘인지적 방화벽’ 역할을 할 수 있다는 구상이다.
 그는 AI 활용이 늘어나더라도 결과 책임성은 명확해야 한다고 강조했다. 그는 "특히 중대한 의사결정에서는 사람이 최종 실행 버튼을 눌렀는지보다 판단부터 실행까지 전 과정의 책임자가 누구인지가 중요하다"고 말했다. 
 김미정 기자(notyetkim@zdnet.co.kr)
 </section> 
 </div> 
 Copyright © 지디넷코리아. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기