【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]中 오픈웨이트 AI의 딜레마…문샷AI, 키미 해킹 능력 낮췄다

온카뱅크관리자

2026-10-25 16:27:25

<div id="layerTranslateNotice" style="display:none;"></div>  <strong class="summary_view" data-translation="true">외부 이용자 모델 수정·악용에도 개발사 통제 한계<br>사이버 공격 관련 학습 데이터 제거해 해킹 역량 제한</strong> 
        <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
         <section dmcf-sid="BTHvqtAiWO">
          <figure class="figure_frm origin_fig" contents-hash="f27cd2446a7ced44640d349cc46269b556f8422606313b89ab45593fc1bee147" dmcf-pid="byXTBFcnTs" dmcf-ptype="figure">
           <p class="link_figure"><img alt="문샷AI. 로이터=연합뉴스" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/25/dt/20261025162242610quby.jpg" data-org-width="640" dmcf-mid="q5M4ci3GlI" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/25/dt/20261025162242610quby.jpg" width="658"></p>
           <figcaption class="txt_caption default_figure">
            문샷AI. 로이터=연합뉴스
           </figcaption>
          </figure>
          <p contents-hash="8c759dfed775f21e888fbbb597316b20a701685eb267ddeb421bc76f191f0d2c" dmcf-pid="KWZyb3kLvm" dmcf-ptype="general"><br> 중국 인공지능(AI) 기업들이 미국 빅테크에 맞서기 위해 추진해 온 오픈웨이트 전략이 개방성과 안전성 사이에서 딜레마에 직면했다. 이들 기업은 누구나 자유롭게 AI 모델을 활용할 수 있는 오픈웨이트 모델의 장점을 앞세워 빠르게 시장 영향력을 확대해 왔다. 하지만 외부 이용자가 모델을 수정해 사이버 공격 등에 악용할 수 있는 데다, 개발사가 이를 통제할 수단도 마땅치 않아 안전성에 대한 우려가 커지고 있다.</p>
          <p contents-hash="6c42ae73cad60673c9abd1bb59294406c42b5459dc59324eaa0cfca57499e525" dmcf-pid="9Y5WK0EoSr" dmcf-ptype="general">25일 중국 AI 스타트업 문샷AI에 따르면, 이 회사는 최근 공개한 오픈웨이트 모델 ‘키미 K3.1 프로’의 사이버 공격 역량을 의도적으로 제한했다. 일반 학습 데이터에서 사이버 공격 관련 내용을 걸러내고 강화학습 과정에서도 관련 과제를 제외한 결과, 취약점 탐지·악용 과제의 수행률은 이러한 조치를 적용하지 않은 모델의 90.5%에서 81%로 낮아졌다.</p>
          <p contents-hash="e7240618551b5464929617fa42e743ef76809425720be55ae0523b88fe0667db" dmcf-pid="2G1Y9pDgWw" dmcf-ptype="general">키미 K3.1 프로는 최대 100만 토큰의 문맥을 처리할 수 있으며, 코딩과 복잡한 추론을 비롯해 장시간 이어지는 작업을 수행하도록 설계된 오픈웨이트 모델이다. 문제는 코딩·추론 능력이 높아질수록 소프트웨어의 작동 구조를 분석하고 오류의 원인을 찾아내는 능력도 향상될 수 있다는 점이다. 일반적인 개발 작업에 쓰이는 능력이 보안 취약점을 발견하고 공격 방법을 설계하는 데 활용된다면 더 적은 비용과 노력으로 사이버 공격을 시도할 수 있는 가능성도 커지는 것이다.</p>
          <p contents-hash="93ca7845d2061aefa8e3ae6db47325ae14c6461bacf1173f63e9732cbafd1414" dmcf-pid="VHtG2UwavD" dmcf-ptype="general">특히 중국 AI 기업들이 주로 내놓는 오픈웨이트 모델은 이러한 악용 위험에 더욱 취약하다. 오픈웨이트 모델은 AI가 답변 방식과 성능을 결정하는 가중치를 외부에 공개해 이용자가 직접 모델을 수정하거나 추가 학습할 수 있도록 한 형태다. 폐쇄형 모델을 주로 제공하는 미국 빅테크와 달리 중국 AI 기업들은 자사 모델을 개방해 진입 장벽을 낮추고 시장 경쟁력을 키워왔다. 하지만 오픈웨이트 모델은 이용자가 모델을 직접 수정하고 재학습할 수 있어 사이버 공격 등에 악용되더라도 이를 통제하기 어렵다는 한계가 있다. 개발사가 이용자의 접근과 위험한 요청을 통제할 수 있는 폐쇄형 모델과 대비되는 점이다.</p>
          <p contents-hash="5ae1c650069840f6e8a4a9353ad72488be3a7d2be16dfb6b0cfe0f4c99e5c8d5" dmcf-pid="fXFHVurNWE" dmcf-ptype="general">이에 문샷AI는 사이버 공격 역량을 제한하는 방식으로 모델의 안전성을 확보하려 했지만, 일반적인 코딩·추론 능력도 사이버 공격에 활용될 수 있는 데다 추가 학습을 통해 제한된 능력을 다시 강화할 수 있어 악용 위험을 완전히 차단하기는 어렵다는 지적이 나온다.</p>
          <p contents-hash="7e9a26378706357f516903b912019689ce15c2d213e297a81c13fd6b1e8bbf13" dmcf-pid="4Z3Xf7mjCk" dmcf-ptype="general">문샷AI는 이 같은 한계를 고려해 사이버 공격에 악용될 위험이 큰 고성능 모델은 가중치를 공개하지 않겠다는 방침을 세웠다. 모델의 안전성을 확보하기 위해 일부 모델의 공개를 제한하겠다는 것으로, 그동안 경쟁력으로 내세워 온 오픈웨이트 전략에도 일정 부분 제약이 불가피해진 셈이다.</p>
          <p contents-hash="710f749402cbc9dc211cafb6e47fc8a360b512504a512ce832e09a7488fad440" dmcf-pid="850Z4zsAyc" dmcf-ptype="general">다만 오픈웨이트 모델로 공개하는 사이버 보안 관련 역량은 점진적으로 높여 나가겠다는 방침이다. 문샷AI는 “키미 K3.1 프로를 누구나 이용할 수 있도록 공개하면 사이버 공격과 방어에 필요한 AI 기술을 더 많은 사람이 활용할 수 있다”며 “이러한 기술을 소수 기업이 독점하기보다 점진적으로 확산하는 것이 궁극적으로 소프트웨어 전반의 보안 수준을 높이는 데 도움이 될 것”이라고 밝혔다.</p>
          <p contents-hash="e73a5bd2a610f4a6f4a072fb583f3dd8d3faf5cf81f3be79b2a25d19c3271356" dmcf-pid="61p58qOcyA" dmcf-ptype="general">이혜선 기자 hslee@dt.co.kr</p>
         </section> 
        </div> 
        <p class="" data-translation="true">Copyright © 디지털타임스. 무단전재 및 재배포 금지.</p>

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기