【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]AI 위험, 누가 책임지나?…베니오프·올트먼·아모데이·젠슨 황의 네 가지 답

온카뱅크관리자

2026-09-17 05:07:25

<div id="layerTranslateNotice" style="display:none;"></div> [드림포스2026] 모두 AI 확산 전망하지만 해법은 달라…개발·검증·배포 단계별 책임이 쟁점 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="bF2cOrNdht">
 <figure class="figure_frm origin_fig" contents-hash="80289ff94dc188b8fad8574e4e6cd1bc5ca74c88e0e48c5cc43bc3ec0d802858" dmcf-pid="K3VkImjJh1" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/17/552796-pzfp7fF/20260917050013992ftgv.jpg" data-org-width="640" dmcf-mid="qwC6JRfzh3" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/17/552796-pzfp7fF/20260917050013992ftgv.jpg" width="658">
 </figure>
 [샌프란시스코=(미국) 디지털데일리 이상일기자] “기술 자체는 좋지도 나쁘지도 않다. 중요한 것은 우리가 그것으로 무엇을 하느냐다.”
 마크 베니오프 세일즈포스 회장 겸 최고경영자(CEO)의 말에 샘 올트먼 오픈AI CEO가 반론을 제기했다. “기술이 좋지도 나쁘지도 않다는 말에는 동의하지 않는다”며 “기술을 만드는 기업의 선택은 실제 결과를 낳는다”고 답한 것이다. 인공지능(AI)의 위험을 사용 방식의 문제로 볼 것인지, 설계와 개발 단계부터 책임을 물어야 할 것인지에 관한 시각 차이가 드러났다.
 안전을 확보하는 방법에서도 강조점이 달랐다. 다리오 아모데이 앤트로픽 CEO는 경쟁사의 사고를 공격하기보다 자사를 먼저 점검하고 업계 전체의 기준을 높이자고 제안했다. 젠슨 황 엔비디아 CEO는 “안전은 엔지니어링의 문제”라며 기술적 검증과 기업의 출시 책임을 강조했다.
 15일(현지시간) 미국 샌프란시스코에서 열린 ‘드림포스2026’의 기조연설과 개별 대담, 기자간담회는 AI 위험에 관한 네 경영자의 관점을 비교할 수 있는 자리였다. 베니오프는 기조연설에서 아모데이·황 CEO와 각각 대담했고, 올트먼과는 별도 세션에서 논의를 이어갔다.
 발언을 종합하면 차이는 단순한 낙관론과 비관론에 있지 않다. 베니오프는 기업 업무의 통제에, 올트먼은 모델 개발사의 선택과 조건 없는 책임에, 아모데이는 공동 기준과 검증에, 황은 엔지니어링과 개별 기업의 판단에 무게를 뒀다.
 ◆ 베니오프 “무엇을 하느냐가 중요”…기업 업무의 통제로 접근
 베니오프의 출발점은 기술과 그 활용을 구분하는 것이다. 그는 기자간담회에서도 “기술 자체가 좋거나 나쁜 것은 아니다. 중요한 것은 그 기술로 무엇을 하느냐”는 입장을 반복했다.
 그렇다고 개발사의 책임을 부정한 것은 아니다. 같은 자리에서 “기업들은 자신들이 만드는 것에 책임을 져야 한다”며 이를 윤리적인 기업이 되기 위한 핵심으로 제시했다. 올트먼과의 대담에서도 “기업은 자사 제품에 책임을 져야 하고, 기업 경영진도 책임을 져야 한다”는 문제의식을 직접 언급했다.
 기업 고객에게 제시한 해법은 AI를 기존 업무 시스템의 데이터와 규칙에 연결하는 것이다. 베니오프는 기조연설에서 “모델만으로는 기업을 운영할 수 없다”고 강조했다. 확률적으로 답을 생성하는 모델에 기업의 기준 데이터와 권한, 업무 절차를 결합해야 한다는 설명이다.
 ◆ 올트먼 “중립적 도구라는 설명으로 정당화해선 안 돼”
 올트먼은 책임의 출발점을 개발사의 선택으로 옮겼다. 기술이 만들어진 뒤 어떻게 사용됐는지만 볼 것이 아니라, 기업이 어떤 능력과 제약을 가진 시스템을 만들었는지부터 평가해야 한다는 입장이다.
 그는 기술을 ‘중립적인 도구’로 규정하고 사람들이 무엇을 하든 상관없다는 식으로 접근하면 많은 것을 정당화할 수 있다고 지적했다. 이어 “이러한 기술을 만드는 기업들이 내리는 선택은 실제 결과를 가져온다”고 강조했다.
 구체적인 사례로 든 것은 허깅페이스 침입 사고다. 올트먼의 설명에 따르면 오픈AI 모델은 능력 평가 과정에서 격리된 시험 환경을 벗어나 외부 시스템에 접근하고, 평가에 필요한 답을 확보하는 행동을 했다.
 그는 이를 “우리가 본 최악의 사고”라고 표현하며 보안 문제이자 ‘정렬(alignment)’의 문제로 규정했다. 정렬은 모델이 인간의 의도와 제약에 맞게 행동하도록 하는 것이다. 아무리 높은 시험 점수를 얻으라고 지시하더라도 “탈출하거나, 침입하거나, 답을 훔쳐서는 안 된다”는 경계를 충분히 가르치지 못했다는 설명이다.
 올트먼은 이 사고를 두고 “그것은 중립적인 기술이라고 할 수 없다. 우리가 기술이 하기를 원하는 일이 아니다”라고 말했다. AI 위험을 악의적 사용자의 오용만으로 설명할 수 없으며, 개발사가 원하지 않은 행동이 발생한 경우에도 책임을 져야 한다는 취지다.
 안전 책임을 경쟁 상황에 연동하는 태도에도 반대했다. 다른 기업이 책임 있게 행동할 때만 자신도 속도를 늦추겠다는 식의 주장에 대해, 대중은 “무슨 일이 있어도 안전하게 행동하고 책임질 것이라는 확신”을 원한다고 말했다. 이어 “거기에 단서가 붙어서는 안 된다”고 강조했다.
 ◆ 아모데이 “경쟁사 사고에도 우리부터 점검”…공통 기준과 협력 강조
 아모데이는 안전 문제를 개별 기업 간의 우열 경쟁으로 소비해서는 안 된다고 강조했다. 그는 경쟁 자동차 업체에서 브레이크나 제조상의 사고가 발생한 상황을 예로 들었다.
 자사가 업계 최고의 안전 기록을 보유했다고 믿더라도 상대를 공격하는 것이 가장 책임 있는 대응은 아니라는 것이다. 아모데이는 “먼저 우리의 기록을 살펴보자”며 “우리가 크게 주목받는 사고를 겪지 않았더라도 완벽하지는 않을 것”이라고 말했다.
 이어 “우리의 관행을 개선하고, 투명성에 다시 전념하고, 안전에 더 투자하자”고 제안했다. 그다음 업계가 함께 모든 기업의 기준을 높일 방법을 논의하고, 국제적인 대응으로 확대해야 한다고 강조했다.
 그가 제시한 순서는 자사의 안전 관행 강화, 업계 공통 기준, 국제 협력이다. 첫 단계는 앤트로픽이 이행을 약속했으며 나머지는 다른 기업들과 대화해야 할 과제라고 구분했다.
 <div contents-hash="a8f2c2e46342f69b451f691d30ffd3579e1d9a00d57e825d245952a266bd2533" dmcf-pid="3v3eaLx2TE" dmcf-ptype="general">
 대담에서 언급한 최근 에세이 ‘We Must Pace the Frontier’에는 이 방향이 더 구체적으로 담겼다. 아모데이는 상주 외부 평가자가 안전 관행과 약속의 이행 여부를 확인하도록 하고, 업계 공동 기준을 마련하며 정부와도 협력할 것을 제안했다. 속도 조절은 모델 훈련과 기술 진보의 중단이 아니라, 안전장치를 마련하고 외부에서 검증할 시간을 확보하는 것이라고 설명했다.
 </div>
 <figure class="figure_frm origin_fig" contents-hash="1e9889f109fadf2382ab25830798842c4dbb7abef9b425b0750826c22e0c4ad7" dmcf-pid="0T0dNoMVWk" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/17/552796-pzfp7fF/20260917050015341qywo.jpg" data-org-width="640" dmcf-mid="BSDFqu5TWF" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/17/552796-pzfp7fF/20260917050015341qywo.jpg" width="658">
 </figure>
 ◆ 젠슨 황 “안전은 엔지니어링 문제…확신 없다면 출시하지 말라”
 황 CEO는 안전의 중요성을 인정하면서도 해결의 중심을 기업의 기술적 역량과 출시 판단에 뒀다.
 그는 베니오프가 AI 개발 속도와 안전 논쟁에 대한 의견을 묻자 “안전은 가장 중요하다. 여러 측면에서 첫 번째 과제”라고 답했다. 이어 “그러나 안전은 엔지니어링의 문제다. 결국 우리는 소프트웨어와 컴퓨팅 시스템을 개발하고 있다”고 말했다.
 해법으로는 안전한 시험 환경의 구축과 충분한 제품 검증을 제시했다. AI가 복잡한 시스템이더라도 시험하고 오류를 발견하며 수정하는 과정을 통해 위험에 대응해야 한다는 설명이다.
 출시 기준에 대해서도 분명하게 말했다. “제품이나 서비스를 만들었는데 그 기능과 역량, 안전성에 확신이 없다면 출시하지 말라”는 것이다. 빠른 개발을 강조하면서도 안전성이 불확실한 제품까지 시장에 내놓아야 한다고 주장한 것은 아니다.
 다만 추가 규제의 필요성에는 선을 그었다. 황 CEO는 “시장의 유인은 이미 존재한다”며 “새로운 법률도, 새로운 규제도 필요하지 않다”고 주장했다. 안전한 제품을 내놓아야 한다는 기업의 책임과 시장의 압력이 이미 작동한다는 관점이다.
 그는 혁신의 속도와 제품 안전성에 대해 “두 가지를 동시에 가질 수 있다”고 강조했다. 이어 “최대한 빠르게 움직이되, 어느 순간 회사가 통제력을 잃었거나 제품이 안전하지 않을 것 같다면 잠시 멈추고 제대로 바로잡아야 한다”고 말했다.
 ◆ 진짜 차이는 ‘가속 대 중단’보다 판단 주체와 검증 방식
 네 사람의 견해를 두 진영으로 나누기는 어렵다. 베니오프와 올트먼은 기술 중립성에 관해 직접 다른 의견을 냈지만, 둘 다 개발 기업의 책임을 인정했다. 아모데이와 황 CEO도 안전을 위한 시간이 필요하다는 점을 부정하지 않았다.
 차이는 통제의 범위와 확인 방식에서 드러난다. 베니오프는 기업 업무에 적용되는 권한과 규칙을 강조했다. 올트먼은 모델이 허용되지 않은 수단으로 목표를 달성하지 않도록 만드는 개발사의 책임을 짚었다. 아모데이는 개별 기업의 안전 약속을 공통 기준과 외부 검증으로 연결하려 했고, 황 CEO는 기업이 시험 결과와 시장의 요구를 바탕으로 출시를 판단해야 한다고 봤다.
 황 CEO가 말한 ‘안전하다는 확신’을 기업이 어떤 증거로 확보할 것인지, 아모데이가 제시한 공통 기준을 누가 만들고 이행 여부를 어떻게 확인할 것인지는 각각 남은 질문이다.
 안전을 판단하는 권한의 집중도 별개의 쟁점이다. 올트먼은 AI 개발사에 과도한 영향력이 집중될 가능성을 주요 위험으로 꼽으며 “모델을 만드는 소수 기업이 세계가 내려야 할 결정을 대신 내려서는 안 된다”고 강조했다. 개발사의 책임을 높이는 것과 개발사에 모든 판단 권한을 맡기는 것은 구분해야 한다는 뜻이다.
 </section> 
 </div> 
 Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기