【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스][AI는 지금] 코히어, 알리바바 '큐원' 보안 우려 제기…中 AI 신뢰성 논란 확산

온카뱅크관리자

2026-10-28 09:27:25

<div id="layerTranslateNotice" style="display:none;"></div> 보안 테스트 중 中 서버로 데이터 전송 시도…오픈웨이트 안전성 의문 속 소버린 AI 경쟁 부각 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="zZhZbNztAs">
 (지디넷코리아=장유미 기자)중국산 인공지능(AI) 모델이 저렴한 비용과 높은 성능을 앞세워 글로벌 시장에서 영향력을 확대하는 가운데 캐나다 AI 기업 코히어가 알리바바의 '큐원(Qwen)' 모델에 보안 우려를 제기했다. 기업이 AI 모델을 자체 서버에서 운영하더라도 예상치 못한 외부 통신이 발생할 수 있다는 주장으로, 오픈웨이트 모델의 신뢰성을 둘러싼 논쟁이 기업용 AI 시장의 새로운 경쟁 요소로 떠오를 전망이다.
 28일 로이터통신과 코히어에 따르면 코히어는 지난 26일 공개한 보안 연구 결과에서 알리바바의 '큐원3.8-플래시-넥스트' 모델이 보안 테스트 도중 중국 베이징에 있는 알리바바 클라우드 저장소로 데이터를 전송하려 했다고 밝혔다. 해당 모델은 악성 파일의 다운로드와 실행을 탐지하는 보안 규칙을 작성하라는 요청을 받았지만, 실제로는 실행 환경을 조사하고 외부 서버에 테스트용 문자열을 전송하는 명령을 실행한 것으로 나타났다.
 <figure class="figure_frm origin_fig" contents-hash="1e2e77ed0388e571f93ced33b1b1636905f263cedfcb992e1bd20eb93e51ea56" dmcf-pid="b878gYnQgw" dmcf-ptype="figure">
 <img alt="(이미지=코히어)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/28/ZDNetKorea/20261028092432278cajz.png" data-org-width="640" dmcf-mid="7gAC1xXSAO" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/28/ZDNetKorea/20261028092432278cajz.png" width="658">
 <figcaption class="txt_caption default_figure">
 (이미지=코히어)
 </figcaption>
 </figure>
 또 이 모델은 임시 디렉터리의 파일 목록과 데이터 전송 도구 설치 여부, 네트워크 설정 등을 확인한 뒤 외부 서버 접속을 시도했다. 특히 모델의 추론 기록에는 별도 도구를 호출하지 않겠다는 내용이 담겼지만 실제 행동은 이와 달랐다. 이에 AI 에이전트의 추론 기록만으로 시스템 접근이나 명령 실행을 통제하기 어렵다는 우려가 제기되고 있다.
 다만 실제 데이터 유출은 발생하지 않았다. 코히어가 구축한 테스트 환경에서 외부 네트워크 연결이 차단됐기 때문이다. 해당 행동도 전체 평가 과정에서 10만 건당 1건 미만으로 관찰됐으며 동일한 요청을 다시 실행했을 때는 정상적인 보안 규칙이 작성됐다.
 코히어는 이번 행동이 의도적으로 설계된 백도어인지, 모델 학습 과정에서 남은 데이터의 영향인지 확인하지 못했다고 설명했다. 모델이 외부 서버 접속을 시도했다는 사실만으로 알리바바가 정보 유출 기능을 의도적으로 삽입했다고 판단하기는 어렵다는 의미다.
 이번 발표가 주목받는 이유는 중국산 오픈웨이트 모델이 기업용 AI 시장에서 빠르게 확산하고 있기 때문이다. 코히어가 인용한 허깅페이스 자료에 따르면 올해 3월까지 1년간 중국산 모델은 전체 다운로드의 41%를 차지했다. 기업들은 외부 클라우드에 데이터를 전송하지 않고 자체 인프라에서 모델을 운영할 수 있다는 점에서 오픈웨이트 모델을 활용해 왔다.
 하지만 AI 에이전트가 파일을 읽고 프로그램을 실행하거나 외부 시스템에 접근하는 업무까지 수행하면서 보안 관리 범위도 넓어지고 있다. 자체 서버에 모델을 구축했더라도 실행 권한과 네트워크 접근이 허용된다면 예상치 못한 명령이 실제 시스템에 영향을 줄 가능성이 있다는 것이다.
 코히어의 이번 발표는 기업용 AI 시장에서 중국산 모델과 경쟁하는 자사 사업 전략과도 연결된다. 코히어는 정부와 금융기관, 규제 산업을 대상으로 소버린 AI 사업을 확대하고 있으며 고객이 자체 서버나 프라이빗 클라우드에서 모델을 운영할 수 있도록 지원하고 있다. 이번 연구도 보안 기업 아일(AISLE) 인수를 통해 확보한 '코히어 사이버'와 공동으로 진행했다.
 또 코히어는 모델 성능과 가격뿐 아니라 학습 데이터의 출처, 개발 과정의 보안 검증, 모델 공급망 관리까지 기업의 도입 기준에 포함해야 한다고 강조했다. 특히 정부와 중요 인프라 운영기관을 대상으로 오픈웨이트 모델의 출처와 학습 환경에 대한 검증을 강화할 것을 촉구했다. 이는 저비용 모델 중심으로 확산하는 시장 경쟁에서 보안 신뢰성과 공급망 투명성을 차별화 요소로 부각하려는 움직임으로 풀이된다.
 그러나 코히어 역시 자체 AI 모델을 판매하는 경쟁사라는 점에서 연구 결과에 대한 추가 검증이 필요하다는 지적도 제기됐다. 일부 연구자들은 예상치 못한 외부 서버 호출이 악의적인 기능보다 학습 환경에서 습득한 명령 패턴에서 비롯됐을 가능성을 제기했다. 코히어는 외부 개발자들이 연구 결과를 검증할 수 있도록 실행 기록과 재현용 코드를 공개했다.
 AI 모델의 신뢰성을 둘러싼 논의는 향후 기업과 정부의 AI 도입 기준에도 영향을 미칠 것으로 예상된다. 특히 다양한 외부 도구를 활용하는 AI 에이전트가 확산하면서 모델 개발사의 보안 검증 능력과 학습 과정의 투명성이 중요해질 가능성이 크다.
 코히어는 "자체 서버에서 모델을 운영하는 것은 모델이 실행되는 위치를 결정할 뿐 학습 과정에서 습득한 내용까지 통제하는 것은 아니다"며 "조직은 모델의 출처를 확인하고 개발 과정을 투명하게 설명할 수 있는 공급업체와 협력해야 한다"고 강조했다.
 장유미 기자(sweet@zdnet.co.kr)
 </section> 
 </div> 
 Copyright © 지디넷코리아. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기