로그인
토토사이트
먹튀사이트/제보
업체홍보/구인
신규사이트
지식/노하우
놀이터홍보
판매의뢰
스포츠분석
뉴스
후기내역공유
커뮤니티
포토
포인트
보증업체
카지노 먹튀
토토 먹튀
먹튀제보
구인
구직
총판
제작업체홍보
카지노
토토
홀덤
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
토토 홍보
카지노 홍보
홀덤 홍보
꽁머니홍보
신규가입머니
제작판매
제작의뢰
게임
축구
야구
농구
배구
하키
미식축구
스포츠뉴스
연예뉴스
IT뉴스
카지노 후기
토토 후기
홀덤 후기
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[]
숨진 'LEET 만점자' AI 썼나 안 썼나…각종 의혹 어떻게 풀까
N
[]
"AI는 교육 도구일 뿐"…도성훈표 읽걷쓰 인천 넘어 세계로
N
[]
이번 주말 주요 대학 논술시험…개인 필기구 금지 등 '당혹'
N
[]
'핵무기 90% 보유' 미중러, 군축·핵확산 방지 합의
N
[]
AI가 강타한 '시험공화국' 민낯…"평가 방식 전환 고민해야"
N
커뮤니티
더보기
[유머★이슈]
바란 은퇴보다 더 소름돋는점
[유머★이슈]
오늘 국군의날 예행연습에 최초 공개된 장비들
[유머★이슈]
손흥민이 한국 병역 시스템에 영향 끼친 것.
[유머★이슈]
시댁의 속터지는 스무고개식 대화법
[유머★이슈]
엄마. 나 여자 임신시켜버렸어
목록
글쓰기
[IT뉴스][AI 세이프가드] ① “AI 통제권 확보할 마지막 '골든타임'…안전장치 서둘러야”
온카뱅크관리자
조회:
48
2026-09-21 17:07:25
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">[인터뷰] 전창배 국제인공지능윤리협회 이사장</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="9lZp1CEoO8"> <p contents-hash="e2269702c31609bd71d2fd22ec84b19fc18bf0c518f32ee828ee1f18b3b211bd" dmcf-pid="2S5UthDgO4" dmcf-ptype="general"><span>“현재의 개발 속도가 계속된다면 범용인공지능(AGI)이 인간의 통제를 완전히 벗어나 스스로 개선하고 생각, 판단, 행동, 결정을 내리게 될 수 있습니다. 이후 통제할 방법을 찾는다면 늦을 수 있습니다. 지금이 마지막 '골든타임'입니다.”</span></p> <p contents-hash="f84e9b5b8b407a3ae0b97d0953a191aebb5a0cd5a3230e21c59d7c2b281e4008" dmcf-pid="Vv1uFlwasf" dmcf-ptype="general">전창배 국제인공지능윤리협회 이사장은 인공지능(AI) 기술이 빠르게 고도화하는 지금이 인간이 AI에 대한 통제권을 확보할 중요한 시점이라고 강조했다. AI 에이전트와 자율주행차, 로봇 등 AI의 자율성이 빠르게 확대되는 만큼 문제가 현실화한 뒤 대책을 마련하는 방식으로는 한계가 있다는 진단이다.</p> <p contents-hash="f16010d6e9cbe209e64cea49345bef1e511f8b21eece1c7add2e8e39ec1af48e" dmcf-pid="fTt73SrNwV" dmcf-ptype="general">전 이사장은 현재 AI 기술에서 빈번하게 나타나는 위험을 △편향성 △오류·안전성 △악용·오용 △개인정보·저작권 침해 △보안·해킹 △자율무기(킬러로봇) △일자리 문제 등 7가지로 분류했다. 여기에 더해 <span>새로운 AI 기술이 나올 때마다 지금까지 예상하지 못했던 위험도 계속 나타날 수 있다고 설명했다.</span></p> <p contents-hash="f65a90fc2235f8fab99581f7f20c1f6e4baeeb42f75e580844957af8a83d3dc2" dmcf-pid="4yFz0vmjI2" dmcf-ptype="general">전 이사장이 최근 특히 주목하는 것은 AI의 '자율성'이다. 그는 최근 연구에서 AI 자율성을 '자율성 없음·부분 자율·반자율·완전자율'의 네 단계로 구분하고, 자율성 단계에 따라 인간의 통제 가능성과 AI 위험 수준이 어떻게 달라지는지를 분석했다.<br></p> <figure class="figure_frm origin_fig" contents-hash="f3ab89df83415d1378d06c079776a91069494a531d118d4e634ea64c36dcc4e3" dmcf-pid="8W3qpTsAs9" dmcf-ptype="figure"> <p class="link_figure"><img alt="전창배 국제인공지능윤리협회 이사장" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/21/etimesi/20260921170259824pxki.png" data-org-width="700" dmcf-mid="Ka72qHlwE6" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/21/etimesi/20260921170259824pxki.png" width="658"></p> <figcaption class="txt_caption default_figure"> 전창배 국제인공지능윤리협회 이사장 </figcaption> </figure> <p contents-hash="04d847057904a824b1ae33f3ed04d11a11ad75f334b79885bc7c62bf5e5fc3c8" dmcf-pid="6Y0BUyOcDK" dmcf-ptype="general"><span>문제는 </span>AI에 자율성을 부여할수록 인간이 의도하지 않은 방식으로 목표를 달성할 위험도 커진다는 점이다. <span>대표적인 사례가 닉 보스트롬 옥스퍼드대 철학자가 제시한 '페이퍼클립 맥시마이저' 사고실험이다. AI에 종이클립을 최대한 많이 생산하라는 단순한 목표를 부여하더라도, AI가 목표 달성을 위해 자원을 무한히 확보하는 과정에서 인간에게 치명적인 결과를 초래할 수 있다는 가정이다.</span></p> <p contents-hash="b28a727a747ceba217cd2f3645b97c83797a4f21bed65ccf46a529e9bc113f0c" dmcf-pid="PGpbuWIkwb" dmcf-ptype="general"><span>그는 “AI는 어떤 과정과 연산을 통해 특정 결과를 내놓았는지 인간이 정확하게 설명하거나 파악하기 어려운 블랙박스 특성이 있다”며 “자율성을 부여할수록 예측 불가능성이 높아지고 예측이 어려워지면 결국 통제도 어려워지며 위험성 역시 높아질 수 있다”고 말했다.</span></p> <p contents-hash="433a4d9f2eeae99185a7f5ed97f23ad290a01272f953e146d8703b18566d483d" dmcf-pid="QHUK7YCErB" dmcf-ptype="general">다만 AI 위험을 이유로 기술 발전 자체를 막아야 한다는 주장과는 선을 그었다. AI 윤리는 기술을 규제하거나 반대하기 위한 개념이 아니라 안전하게 기술을 발전시키기 위한 조건이라는 설명이다.</p> <p contents-hash="c33a3d07ab9bdab945c89fcf1c2f16d952d3c71123e0efd80a8b70e622be3f8e" dmcf-pid="xgrlsLx2Oq" dmcf-ptype="general">전 이사장은 “AI 윤리의 의미는 AI를 올바르게 만들고 올바르게 활용하자는 것”이라면서 “기술과 윤리 중 어느 하나만 중요한 것이 아니라 함께 발전해야 한다”고 말했다.</p> <p contents-hash="7f3409c289e6f13d13baedd5f528e2bcf4ba2a6317dfb9b0e17873957a31658c" dmcf-pid="yFb891yOmz" dmcf-ptype="general">이를 위해 기업과 공공기관이 선언적인 AI 윤리원칙에서 한 단계 더 나아가 실제 현장에서 작동하는 안전관리 체계를 갖춰야 한다고 주문했다. 전 이사장은 '교육→가이드라인·체크리스트→인증'으로 이어지는 세 단계를 제시했다.</p> <p contents-hash="7e0f6e309360e6b6ef7900a35803ad9556a7d572d86e7034fd83438539ca9723" dmcf-pid="W3K62tWIs7" dmcf-ptype="general">먼저 AI를 개발하고 활용하는 임직원이 기술의 위험과 윤리 문제를 이해하도록 교육하고, 각 조직의 특성과 AI 활용 목적에 맞는 가이드라인과 실제 업무 단계별 체크리스트를 만들어야 한다는 것이다. 또 출시되는 AI 제품과 서비스는 안전성과 품질을 충분히 시험하고 검증하는 절차까지 갖춰야 한다고 강조했다.</p> <p contents-hash="87b6a15df11eb5ea7a7dac248fcae82cab7d53e4891c026efafa9dba0673ec24" dmcf-pid="Y09PVFYCru" dmcf-ptype="general">그는 “AI와 로봇은 인간에게 다른 기술보다 더 큰 영향을 미칠 수 있다”며 “더 철저한 품질검사와 테스트를 거친 뒤 제품과 서비스를 출시해야 하며 객관적인 검증과 인증 체계를 발전시킬 필요가 있다”고 말했다.</p> <p contents-hash="774bf02ecb6b8bf12a356809953d57e2b4d5371e0597eb433cc34b4a636ed967" dmcf-pid="Gp2Qf3GhwU" dmcf-ptype="general">정현정 기자 iam@etnews.com</p> </section> </div> <p class="" data-translation="true">Copyright © 전자신문. 무단전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
업체홍보/구인
더보기
[구인]
유투브 BJ 구인중이자나!완전 럭키비키자나!
[구인]
에카벳에서 최대 조건으로 부본사 및 회원님들 모집합니다
[구인]
카지노 1번 총판 코드 내립니다.
[구인]
어느날 부본사 총판 파트너 모집합니다.
[구인]
고액전용 카지노 / 헬렌카지노 파트너 개인 팀 단위 모집중 최고우대
놀이터홍보
더보기
[홀덤 홍보]
텍사스홀덤 핸드 순위- 홀카드의 가치
[홀덤 홍보]
텍사스홀덤 핸드 순위 - 프리플랍(Pre-Flop) 핸드 랭킹
[토토 홍보]
미니게임개발제작 전문업체 포유소프트를 추천드립니다.
[토토 홍보]
2023년 일본 만화 판매량 순위 공개
[토토 홍보]
무료만화 사이트 보는곳 3가지 추천
지식/노하우
더보기
[카지노 노하우]
혜택 트렌드 변화 위험성 다시 가늠해 보기
[카지노 노하우]
호기심이 부른 화 종목 선택의 중요성
[카지노 노하우]
카지노 블랙잭 카드 조합으로 히트와 스탠드를 결정하는 방법
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
채팅하기