【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스][AI페스타]① 최기영 앤트로픽 대표 "AI에이전트에 어떤 권한 줄지 관리하는 게 중요 역할"

온카뱅크관리자

2026-10-06 17:47:25

<div id="layerTranslateNotice" style="display:none;"></div> AI 에이전트 실증 넘어선 기업 86%···행동 신뢰한다는 응답은 34% 필요 이상 권한 부여 74%···클로드, 사이버보안 평가 중 기업 3곳 운영 시스템 무단 접근 최기영 앤트로픽 대표 “모델·기업 이중 안전장치 필요”···30·60·90일 AX 로드맵 제시 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="8DDM0AqFd6">
 <figure class="figure_frm origin_fig" contents-hash="c721354acd2f8ca070c282948a42a643c0064171967a99830381b2b93d25de53" data-idxno="240553" data-type="photo" dmcf-pid="6wwRpcB3e8" dmcf-ptype="figure">
 <img alt="최기영 앤트로픽코리아 대표가 6일 서울 코엑스에서 열린 'AI페스타 2026' AI서밋에서 발표하고 있다. / 사진=김도영 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/06/552777-a6ToU27/20261006174524357bzar.jpg" data-org-width="960" dmcf-mid="4svN2CPKdP" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/06/552777-a6ToU27/20261006174524357bzar.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 최기영 앤트로픽코리아 대표가 6일 서울 코엑스에서 열린 'AI페스타 2026' AI서밋에서 발표하고 있다. / 사진=김도영 기자
 </figcaption>
 </figure>
 [시사저널e=김도영 기자] 인공지능(AI)에 어떤 권한을 부여하고 그 행동을 어떻게 추적·중단할지가 AX(AI 전환)의 핵심 과제로 떠오르고 있다. AI 에이전트가 사람을 대신해 코드를 작성하고 파일을 수정하며 시스템에 접근하기 시작했지만 기업의 통제 체계는 도입 속도를 따라가지 못하면서다. 
 6일 관련업계에 따르면 기업용 데이터 플랫폼 업체 부미(Boomi)가 지난 7월 포레스터 컨설팅에 의뢰해 북미와 유럽, 아시아·태평양 지역의 IT·기술 의사결정자 409명을 조사한 결과 기업 86%가 AI 에이전트 실증 단계를 넘어섰다고 답한 것으로 나타났다. 반면 에이전트의 판단과 행동을 신뢰한다는 응답은 34%에 그쳤다. AI 에이전트가 실험을 벗어나 실제 업무로 확산하는 동안 신뢰와 관리 체계는 속도를 따라가지 못한 셈이다. 
 권한 관리의 공백은 더 뚜렷했다. 클라우드보안연합(CSA)이 보안기업 앰빗(Aembit)의 의뢰로 올해 1월 IT·보안 전문가 228명을 대상으로 진행한 조사에선 응답자 74%가 AI 에이전트에 필요한 범위보다 많은 접근 권한이 부여된다고 답했다. 응답자의 68%는 사람과 AI 에이전트의 활동을 명확히 구분할 수 없다고 했고, 79%는 AI 에이전트가 모니터링하기 어려운 새로운 접근 경로를 만든다고 봤다. 소속 조직이 AI 에이전트를 실제 운영 환경에서 사용한다는 응답도 85%에 달했다. 
 AI 에이전트는 기존 챗봇과 위험의 성격부터 다르다. 챗봇이 잘못된 답변을 내놓더라도 사람이 이를 실제 업무에 반영해야 피해가 발생하지만 에이전트는 문서를 읽고 메일을 보내거나 파일을 수정하고 코드를 배포할 수 있다. 하나의 계정이나 접근키에 과도한 권한이 부여되면 판단 오류나 외부 공격이 여러 시스템으로 번질 수 있는 구조다.
 실제 운영 시스템에 영향을 미친 사례도 나왔다. 앤트로픽은 지난 7월 사이버보안 평가 과정에서 클로드가 기업 3곳의 실제 운영 시스템에 무단 접근한 사고를 공개했다. 인터넷 접속이 차단돼 있어야 할 평가 환경에 설정 오류가 있었고, 모델이 과제를 수행하는 과정에서 외부 접근 경로를 찾아낸 것이다. 지난달 9일에는 사고 1건을 추가 공개하고, 실제 인터넷이라는 증거를 무시하거나 오해하는 '편향된 추론' 등을 모델의 정렬 문제로 지적했다. 
 앤트로픽이 지난해 9월 적발한 사이버 첩보 활동에서는 공격자가 클로드 코드(Claude Code)를 조작해 전 세계 약 30개 표적에 침투를 시도했고 일부 공격에 성공한 것으로 나타났다. 인간이 표적 선정과 주요 의사결정을 맡은 가운데 AI는 표적 시스템 조사, 취약점 분석, 공격 코드 작성, 접근 자격 증명 확보와 데이터 탈취 등을 수행했다. 앤트로픽은 이를 실질적인 인간 개입 없이 대규모 사이버 공격이 실행된 첫 사례로 평가했다. AI가 직접 수행하는 업무가 늘면서 기업 AX의 과제도 생산성 향상을 넘어 실행 권한과 책임 범위를 함께 설계하는 문제로 확대되는 모습이다.
 ◇ AI가 직접 일하는 시대···사람은 '권한 관리자'로
 최기영 앤트로픽코리아 대표도 이날 서울 코엑스에서 열린 'AI페스타 2026' AI서밋에서 AI의 실행 범위가 넓어질수록 기업의 관리 책임이 커진다고 강조했다. 최 대표는 '프런티어 AI 모델이 가져오는 변화와 기업의 대응 전략'을 주제로 한 발표에서 "자동화가 되면 에이전트에게 어디까지 어떤 권한을 줄 것인지 관리하는 것이 사람의 가장 중요한 역할"이라며 "실제 검증 역시 권한 관리와 밀접하게 연동돼야 한다"고 말했다.
 AI가 실제 업무를 수행하는 시간도 빠르게 늘고 있다. 최 대표는 "평균적으로 앤트로픽 엔지니어들이 클로드 코드 안에서 보내는 시간이 주당 20시간을 넘어서고 있다"고 밝혔다. AI가 사람의 개입 없이 스스로 실행하는 시간도 지난 9개월 동안 크게 늘었다는 설명이다. 최 대표는 "내부 활용도를 분석해 보면 현재 약 27%의 일은 과거 AI가 없었다면 하지 않았던 새로운 일"이라며 "기업에서 AI를 활용하면서 새롭게 가능해진 업무라는 의미"라고 말했다.
 기업의 AI 활용은 개인 생산성 개선에서 업무 프로세스 재설계와 AI 기반 제품 개발로 확장하는 모습이다. 최 대표는 "많은 AI 활용 시나리오가 첫 단계인 생산성 개선에 머무르고 있지만 두 번째 단계인 프로세스 개선과 속도를 높이는 방향으로 조금 더 전이가 일어나고 있다"며 "동시에 디지털 기업들은 AI 기반의 새로운 프로덕트를 내놓고 있다"고 말했다. 이날 최 대표가 공개한 자료에 따르면 라쿠텐의 경우 클로드 코드를 활용한 신규 기능 출시 기간이 평균 24일에서 5일로 줄어 79% 단축됐다.
 AI의 실행 능력이 강해진 만큼 모델 공급자의 안전장치만으로 모든 위험을 막기는 어렵다. 모델이 위험한 명령을 거부하더라도 도입 기업이 과도한 권한을 부여하거나 접근키를 제대로 관리하지 않으면 사고가 발생할 수 있기 때문이다. 최 대표는 "프런티어 모델 벤더의 안전장치 위에 기업의 안전장치도 함께 얹어야 한다"며 "거버넌스 원칙과 접근 통제, 키 관리 등 오래전부터 해오던 보안 체계를 AI 환경에 맞게 조금 더 빠르게 적용하는 것"이라고 말했다. 이어 "기업들이 준비하지 않으면 얻는 혜택만큼 부정적인 위험으로 인한 손실도 커질 수 있다"고 강조했다.
 최 대표는 안전한 AX를 위한 '30·60·90일 로드맵'도 제시했다. AX 추진 시 첫 30일에는 모델의 안전장치와 데이터 분류 체계를 점검하고, 60일에는 접근 통제와 키 관리, 자체 레드팀을 갖춘 상태에서 업무 파일럿을 진행해야 한다는 설명이다. 실제 출시를 앞둔 90일 시점에는 사고 대응팀을 운영 체계에 포함해 문제가 발생했을 때 신속히 대응해야 한다고 제언했다. AI 개발의 속도 조절에 대해서도 "개발을 멈추자는 내용은 아니다"며 "제3자 기관이 모니터링하고 감사할 수 있는 프로세스가 만들어지는 것과 같은 속도로 개발해야 한다"고 말했다.
 AI 에이전트의 확산으로 기업이 관리해야 할 대상은 직원 계정뿐 아니라 AI가 사용하는 계정과 접근키, 작업 기록까지 넓어지고 있다. AI가 처리하는 업무량보다 어떤 권한으로 행동했고 문제가 생겼을 때 누가 책임지고 멈출 수 있는지가 AX의 성패를 좌우할 전망이다. 최 대표는 "이제는 활용을 잘하는 것뿐 아니라 어떻게 안전하게 쓰느냐가 굉장히 중요해졌다"고 강조했다.
 </section> 
 </div> 
 Copyright © 시사저널e 무단전재 및 재배포 금지

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기