【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]카카오 "AI 윤리, 선언만으론 부족"…서비스 전 과정 위험 관리

온카뱅크관리자

2026-10-13 16:17:25

<div id="layerTranslateNotice" style="display:none;"></div> AI 윤리 기준 ‘스피릿·노르마’ 마련…기획부터 운영까지 위험 점검 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="z6jO63cnj7">
 (지디넷코리아=박서린 기자)“인공지능(AI)이 발전하는 만큼 인간도 진화해야 합니다. 무엇을 AI에게 맡길지, 어떤 판단과 책임을 사람이 가져갈지 그 선택에 우리가 지키려는 가치가 담깁니다. 그 고민 위에 완벽하지 않더라도, 멈추지 않고 실행 체계를 만들어 가는 것이 카카오가 하려는 도전입니다.”
 하진화 카카오 AI 세이프티 시니어 매니저는 13일 경기도 용인시에서 열린 개발자 컨퍼런스 ‘이프카카오(if(kakao)26)’에서 이같이 말하며 AI 서비스 전 과정에 걸쳐 리스크 검토 체계로 나아가겠다는 방향을 제시했다.
 그는 앤트로픽, 마이크로소프트(MS) 등 해외 빅테크의 사례를 예로 들면서 카카오가 5가지 영역으로 구분한 AI 리스크 관리 영역을 소개했다. 통제 주도권, 목표, 권한, 참조 자원, 상호작용이 여기에 포함된다.
 <figure class="figure_frm origin_fig" contents-hash="a00e8a1a44109e33d1ca1df11d04093f882df5182aa7d1b405b8a6c7504831ed" dmcf-pid="KMElMuwak0" dmcf-ptype="figure">
 <img alt="하진화 카카오 AI 세이프티 시니어 매니저가 13일 경기도 용인시에서 열린 개발자 컨퍼런스 ‘이프카카오(if(kakao)26)’에서 발표를 진행하고 있다. (사진=지디넷코리아)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/13/ZDNetKorea/20261013161400778zdpo.jpg" data-org-width="640" dmcf-mid="uCLpDMXSaq" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/13/ZDNetKorea/20261013161400778zdpo.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 하진화 카카오 AI 세이프티 시니어 매니저가 13일 경기도 용인시에서 열린 개발자 컨퍼런스 ‘이프카카오(if(kakao)26)’에서 발표를 진행하고 있다. (사진=지디넷코리아)
 </figcaption>
 </figure>
 하 매니저는 답변 하나가 정상이어도 연결된 행동 전체에 문제가 있을 수 있다고 지적하며, 카카오 AI 윤리 기준의 출발점으로 ‘약속’을 꼽았다. 구체적으로 책임 있는 AI에 대한 약속을 의미한다.
 하 매니저는 “이 약속이 서비스에서 의미를 가지려면 이용자가 AI의 행동을 이해하고 선택할 수 있어야 한다. 필요할 때 개입할 수도 있어야 한다”면서 “카카오는 인간 존엄성을 중심에 두고 기획부터 운영까지 책임을 이어가려고 한다”고 강조했다.
 2018년 알고리즘 윤리 헌장에서 시작한 카카오의 AI 윤리 노력은 2022년 ‘기술윤리위원회’로 발전했고, 이후 그룹 차원의 윤리 원칙을 만드는 것으로 이어져 올해는 기준으로 자율 에이전트의 행동까지 살피는 방향으로 기준을 확대했다.
 카카오는 AI 윤리와 리스크 판단을 담당자 혼자 감당하지 않도록 하는 체계를 만들어 운영하고 있다. 대표적으로 AI 기술 윤리 소위원회에서 카카오의 정책과 대응 체계를 마련하고 참여 계열사와 함께 이를 검토하고 확산하고 있다. 실행 여부를 기록으로 남겨 외부 기관과도 공유하는 방식을 채택하고 있다.
 하 매니저는 “AI 윤리는 새로운 서비스와 이용 경험에 맞춰 계속 다듬어져야 한다”며 “현장에서는 작동하지 않는 기준을 고치고 예상하지 못한 피해가 보이면 점검 범위를 넓혀야 한다”고 부연했다.
 <figure class="figure_frm origin_fig" contents-hash="0a50d2abc21a71771366676de030ae3d05cdce60a430da40dc6065b12ddb2b21" dmcf-pid="8DGpDMXSjZ" dmcf-ptype="figure">
 <img alt="13일 경기도 용인시에서 열린 개발자 컨퍼런스 ‘이프카카오(if(kakao)26)’에서 하진화 카카오 AI 세이프티 시니어 매니저가 제시한 주요 축. (사진=이프 카카오 캡처)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/13/ZDNetKorea/20261013161402008uvsn.png" data-org-width="638" dmcf-mid="7KnE9XoMgz" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/13/ZDNetKorea/20261013161402008uvsn.png" width="658">
 <figcaption class="txt_caption default_figure">
 13일 경기도 용인시에서 열린 개발자 컨퍼런스 ‘이프카카오(if(kakao)26)’에서 하진화 카카오 AI 세이프티 시니어 매니저가 제시한 주요 축. (사진=이프 카카오 캡처)
 </figcaption>
 </figure>
 특히, 그는 AI 윤리가 기획과 설계 단계부터 고려돼야 한다고 역설했다. 각 행동에 필요한 데이터와 권한, 인간 감독 지점을 정하는 것 역시 중요하다고 설명했다. 이때 정한 경계가 향후 개발과 시험의 기준이 되고 이를 통해 출시 전 점검에서 확인할 부분이 명확해지기 때문이다.
 하 매니저는 카카오에서 이를 판가름하는 기준을 ‘스피릿’, 그 기준을 지켜내는 방식을 ‘노르마’라고 안내했다. 스피릿은 안전, 프라이버시, 포용, 책임, 이용자 주체성, 투명성과 신뢰성에 대한 내용을 담고 있다.
 노르마는 공동의 책임을 바탕으로 복잡한 과제를 관리하고 실행할 수 있는 단계로 나뉜다. 스피릿이 제시한 기준을 업무로 이어주며, 국내 AI 윤리 원칙의 3가지 가치와 7가지 원칙을 토대로 하고 있다.
 여기에 카카오는 통제와 이용이 충돌하는 상황을 살펴보고, 필요한 경우 이를 조정할 수 있도록 AI 윤리 이행 체크리스트를 마련했다. 서비스 속성과 위험에 따라 필요한 통제를 적용하고 자율 에이전트의 관리 영역을 고려해 대응할 수 있도록 했다.
 하 매니저는 “스피릿과 노르마, 이행 체크리스트는 현재 내외부 검토 마무리 단계에 있다”면서 “선언을 넘어 AI 서비스 전 주기의 리스크 검토 체계로 나아가려 한다”고 강조했다.
 박서린 기자(psr1229@zdnet.co.kr)
 </section> 
 </div> 
 Copyright © 지디넷코리아. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기