【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]안전한 AI 위한 '삼박자'…정책·기술·협력 힘 쏟는 카카오

온카뱅크관리자

2025-09-24 15:47:35

<div id="layerTranslateNotice" style="display:none;"></div> [if(kakao)25] 이상호 카카오 AI Quality&amp;Safety 성과리더 발표 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="BDs9ZxQ01a">
 <figure class="figure_frm origin_fig" contents-hash="c755a6851039112750709b5e461eda486ca2d1683056c7575fb6805e7d63a541" dmcf-pid="bwO25Mxp1g" dmcf-ptype="figure">
 <img alt="이상호 카카오 AI Quality&amp;Safety 성과리더가 24일 경기 용인시 카카오AI캠퍼스에서 열린 개발자 콘퍼런스 '이프 카카오'(if(kakao)25)에서 기조연설을 하고 있다. (카카오 제공)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202509/24/NEWS1/20250924154119361jeuh.jpg" data-org-width="1400" dmcf-mid="qYfCoGYctN" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202509/24/NEWS1/20250924154119361jeuh.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 이상호 카카오 AI Quality&amp;Safety 성과리더가 24일 경기 용인시 카카오AI캠퍼스에서 열린 개발자 콘퍼런스 '이프 카카오'(if(kakao)25)에서 기조연설을 하고 있다. (카카오 제공)
 </figcaption>
 </figure>
 (서울=뉴스1) 신은빈 기자 = 카카오(035720)는 안전한 인공지능(AI) 서비스를 위해 정책·기술·외부 협력 세 가지 방면에서 꾸준히 노력하고 있다.
 이상호 카카오 AI Quality&amp;Safety 성과리더는 24일 경기 용인시 카카오AI캠퍼스에서 열린 개발자 콘퍼런스 '이프 카카오'(if(kakao)25)에서 AI 시스템의 위험성과 이에 대응하는 카카오의 방안을 공개했다.
 이 성과리더는 "초거대 언어모델이 가지는 구조적 특성상 일정 수준의 정보 손실이 발생할 수 있다"고 말했다.
 AI 시스템 활용에 내재한 위험은 크게 세 가지다. 정보 저장 과정의 손실로 정보를 추출할 때 환각 현상이 발생할 수 있고, 방대한 양의 지식 학습 과정에서 유해 정보가 추출될 수 있다. 대화형 인터페이스는 악용 가능성도 있다.
 카카오는 이러한 위험에 대응하고자 △정책 수립 △기술 개발 △외부 협력을 통해 힘쓰고 있다.
 지난해 10월에는 AI 위험 관리 체계 '카카오 AI 세이프티 이니셔티브'(Kakao AI Safety Initiative)를 수립했다. 7월 카카오의 자체 AI 모델 '카나나-1.5'(Kanana-1.5)에 적용한 안전성 평가 결과를 홈페이지에 공개하기도 했다.
 이 체계는 책임 있는 AI를 위한 가이드라인이라는 윤리 원칙을 기초로 작동한다. 2018년 국내 기업 최초로 수립한 알고리즘 윤리헌장을 개정한 것으로 AI 모델의 전 생애주기에서 발생할 수 있는 리스크에 선제 대응하는 것이 목적이다.
 기술적 노력으로는 자체 AI 가드레일 모델 '카나나-세이프가드'(Kanana-Safeguard)를 소개했다.
 카카오의 AI가 윤리적 가치를 위반하는 위험한 출력을 생성하지 않도록 사전 방지하는 핵심 기술로, 현재 출시했거나 출시 예정인 AI 서비스에 탑재된다. 한국어에 특화돼 문화적 맥락이 반영된 것이 특징이다.
 카카오는 AI 안정성 기준의 정합성을 높이고자 국내외 기관·단체와 외부 협력도 추진한다.
 'AI 얼라이언스'에 국내 기업 최초로 가입했으며 유엔개발계획(UNDP), 유엔아동기금(UNICEF), 유엔글로벌콤팩트(UNGC) 등 유엔(UN) 유관기관 등과의 교류를 통해 국제 표준을 위한 노력을 이어가는 중이다.
 국내 AI 안전성 전담 연구기관인 AI 안전연구소와의 협력을 통해 안전성 평가, 데이터 구축, 기술 개발과 관련 공동 연구도 진행하고 있다.
 이 성과리더는 "AI 안정성은 이해관계자가 모여 지속적인 합의를 거쳐 공통적인 표준을 토대로 만들어지는 것이라고 생각한다"며 "앞으로도 기술 발전 속도에 부합하는 안전벨트를 개발하겠다"고 말했다.
 bean@news1.kr 
 </section> 
 </div> 
 Copyright © 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기