로그인
토토사이트
먹튀사이트/제보
업체홍보/구인
신규사이트
지식/노하우
놀이터홍보
판매의뢰
스포츠분석
뉴스
후기내역공유
커뮤니티
포토
포인트
보증업체
카지노 먹튀
토토 먹튀
먹튀제보
구인
구직
총판
제작업체홍보
카지노
토토
홀덤
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
토토 홍보
카지노 홍보
홀덤 홍보
꽁머니홍보
신규가입머니
제작판매
제작의뢰
게임
축구
야구
농구
배구
하키
미식축구
스포츠뉴스
연예뉴스
IT뉴스
카지노 후기
토토 후기
홀덤 후기
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[]
靑 "이 대통령, 큰절 한다는 걸 말려"… 이재용·최태원 회장에 '90도 인사'
N
[]
송영길 "정청래, 盧와 등져 장례식 못가"…鄭 "100% 허위사실"(종합)
N
[]
SK, 호남권에 400조 반도체 투자…총 2천100조 투자 계획(종합)
N
[]
"병원 대기 중 출산 임박" 구급차에서 새생명 탄생 도운 구급대원들
N
[IT뉴스]
[단독] 네이버, 정치 기사 본문 댓글창 계속 숨긴다
N
커뮤니티
더보기
[유머★이슈]
바란 은퇴보다 더 소름돋는점
[유머★이슈]
오늘 국군의날 예행연습에 최초 공개된 장비들
[유머★이슈]
손흥민이 한국 병역 시스템에 영향 끼친 것.
[유머★이슈]
시댁의 속터지는 스무고개식 대화법
[유머★이슈]
엄마. 나 여자 임신시켜버렸어
목록
글쓰기
[IT뉴스][영상] "AI가 사고치는 시대, 이제는 재갈을 물려야"
온카뱅크관리자
조회:
7
2026-06-29 16:57:34
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">포티투마루 김동환 대표 "에이전틱 AI 시대, 하네스 엔지니어링 없이는 못 쓴다"</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="tAavN4iPc2"> <p contents-hash="4732dec5cf3dc5f7d0cd9d0812063afe2783b1a19d2c0d19b859b569ec695cba" dmcf-pid="FcNTj8nQg9" dmcf-ptype="general">(지디넷코리아=남혁우 유회현 정동빈 기자)<span>"과거에는 인공지능(AI)이 실수로 틀린 답을 내놓는 것이 문제였다면 이제는 AI가 직접 행동하면서 사고를 낼 수 있는 시대가 됐습니다. 기업은 이를 방지하기 위한 대안 마련이 필수적입니다.</span><span>"</span></p> <p contents-hash="0f5416754030cbcf9de2aa18dfd50670d70ad5b830127355bea26f5208766f31" dmcf-pid="3kjyA6LxcK" dmcf-ptype="general">김동환 포티투마루 대표는 29일 영상 인터뷰에서 "앞으로 AI 산업의 경쟁력은 얼마나 똑똑한 모델을 만들었느냐보다 AI를 얼마나 안전하게 통제할 수 있느냐에 달려 있다"며 "하네스(Harness) 엔지니어링이 AI 활용 성패를 좌우하는 핵심 기술이 될 것"이라고 말했다.</p> <p contents-hash="cf224b15d5e58b502801f1e517aca57813c0f9433d7ab327ba8e6afead8e65e3" dmcf-pid="0EAWcPoMkb" dmcf-ptype="general">김 대표가 말하는 하네스는 말의 재갈이나 목줄을 의미한다. AI가 위험한 행동을 하지 못하도록 제어하는 안전장치를 뜻한다. 실제 업무가 진행되는 기업 환경에서 자연어로 추상적인 목표가 AI에게 제시될 경우 예상치 못한 문제를 일으킬 가능성이 있기 있기 때문이다.</p> <div class="video_frm" dmcf-pid="pDcYkQgRaB" dmcf-ptype="embed"> <div class="layer_vod"> <div class="vod_player"> <iframe allowfullscreen class="player_iframe" dmcf-mid="2oemdqPKgg" dmcf-mtype="video/youtube" frameborder="0" height="370" id="video@2oemdqPKgg" scrolling="no" src="https://www.youtube.com/embed/JWdyuR-XnIo?origin=https://v.daum.net&enablejsapi=1&playsinline=1" width="100%"></iframe> </div> </div> </div> <p contents-hash="c08d1947191bcd7d45e8956cb945ac26f7f78e140c1898e0ebb6ac3e71f0762d" dmcf-pid="UwkGExaeaq" dmcf-ptype="general">최근 업계에서 많이 언급되는 가드레일(Guardrail)과의 차이도 설명했다. 가드레일은 AI가 주어진 업무를 수행할 수 있도록 절차와 행동 기준을 안내하는 역할을 한다. 반면 하네스는 AI가 특정 행동을 하지 못하도록 제한하거나 차단하는 장치다.</p> <p contents-hash="96d4d01d52df462bba3dff3f31bcc49606676c8a4d0d3c47ce12682d3e8e7081" dmcf-pid="urEHDMNdAz" dmcf-ptype="general">김 대표는 "가드레일이 운전 방법을 알려주는 것이라면 하네스는 사고가 나지 않도록 물리적으로 막는 안전장치에 가깝다"며 "앞으로는 AI가 무엇을 할 수 있는지보다 무엇을 하지 못하게 할 것인지가 중요해질 것"이라고 설명했다.</p> <p contents-hash="08ecf8cf4ab35f93fd880ffe19401aaf4cb3a4ce9b37556c1e1aca8bc4fd6a17" dmcf-pid="742gV5qFk7" dmcf-ptype="general">이러한 통제가 특히 중요해진 것은 AI가 단순 정보 제공을 넘어 실제 행동에 나서는 단계로 진화했기 때문이다.</p> <p contents-hash="6487729cbac43c59f55d9ebeb0e364d7e96724c3bfd9f00f32dd7dfd7728de63" dmcf-pid="z8Vaf1B3cu" dmcf-ptype="general">그는 "생성형 AI 시대에는 환각이나 편향이 주요 문제였지만 에이전틱AI 시대에는 AI가 실제 행동에 나선다는 점이 가장 큰 차이"라며 "AI가 결제하거나 발주하고 기업 시스템을 변경하는 상황에서 발생하느 실수는 단순한 답변 오류가 아니라 실제 피해가 발생할 수 있다"고 설명했다.</p> <p contents-hash="8d58f0af90fb5c9014b5d4324609b60e628e5d24143100070e751a9f5383253f" dmcf-pid="q6fN4tb0gU" dmcf-ptype="general">이어 "이전에는 잘못된 정보를 제공하는 대규모언어모델(LLM)은 그냥 일을 조금 못하는 수준으로 치부할 수 있었다"며 "하지만 에이전틱 AI가 되면 갑자기 예정에 없던 주문을 발주하거나 대금 송금을 결제하는 등 치명적인 사고로 이어질 수 있다"고 설명했다.</p> <p contents-hash="049e83a00b308d0ec4f105feb606faf3ee3d04f5de8f67fa1aa3faf4e53f21f7" dmcf-pid="BP4j8FKpop" dmcf-ptype="general">예를 들어 AI에게 "다음 분기 이익을 최대화하라"는 목표를 제시했다면 원자재나 제품을 대량 구매해 재고를 쌓거나 필요 이상의 물량을 선주문하는 방식으로 목표를 달성하려 할 수 있다. 단기적으로는 물류비용 절감이나 매출 확대 효과를 기대할 수 있지만 창고 비용 증가, 현금 유동성 악화, 공급망 혼란과 같은 부작용은 고려하지 못해 역효과가 발생할 가능성도 크다.</p> <p contents-hash="d5ed85a5b1e4cadac63a4e43b71e3d36455a19a5cb0003c4fd576b7b39ba6058" dmcf-pid="bQ8A639Ug0" dmcf-ptype="general">나아가 AI에이전트 간 통신(A2A)이 활성화되면 한 기업의 AI가 협력사 시스템에까지 영향을 미치는 상황도 우려된다. AI 에이전트가 과잉 발주를 넣으면 자동화된 수주 시스템을 운영하는 협력사에서 이를 정상 주문으로 처리하며 피해가 발생할 수 있기 때문이다.</p> <figure class="figure_frm origin_fig" contents-hash="cbc29edbd2fbe595c71cf648b3a18f3a9460203b31f0a20f0f345a37e3406907" dmcf-pid="Kx6cP02uA3" dmcf-ptype="figure"> <p class="link_figure"><img alt="김동환 포티투마루 대표(사진=지디넷코리아)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202606/29/ZDNetKorea/20260629165001761fpyc.jpg" data-org-width="640" dmcf-mid="tyKDMu4qoI" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202606/29/ZDNetKorea/20260629165001761fpyc.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> 김동환 포티투마루 대표(사진=지디넷코리아) </figcaption> </figure> <p contents-hash="a2aee0be8cb7a5418a6bf3b856d35f4225c056cbecee31c65c644fee15366f30" dmcf-pid="9MPkQpV7kF" dmcf-ptype="general">김 대표는 "예상치 못한 AI에이전트의 행동으로 인해 파트너사나 관계사까지 악영향을 미칠 우려가 있다"며 "마치 AI가 갑질을 행하는 모습"이라고 표현했다.</p> <p contents-hash="5984c83dcac6eded38087c732ae3ab37cbc8ef847b162bebac28f2bccc0f2558" dmcf-pid="2RQExUfzat" dmcf-ptype="general">이어 "AI가 목표 달성에만 집중하면서 발생할 수 있는 부작용을 사전에 차단하고 다른 조직에 미치는 영향을 함께 고려하도록 만드는 것이 하네스 엔지니어링의 역할"이라고 말했다.</p> <p contents-hash="df335fe57577117f4fe136dd6ab3b5f967d7d205e02ca46f11542478a0219b0a" dmcf-pid="VexDMu4qk1" dmcf-ptype="general">보안 문제도 새로운 위협으로 꼽힌다. AI에이전트가 직접 장비를 제어하고 데이터에 접근할 수 있는 만큼 데이터베이스 삭제, 개인정보 유출, 이메일 발송, 시스템 접근 등 이 가능해지기 때문이다. 특히 AI가 의도치 않은 행동을 하도록 유도하는 '프롬프트 인젝션' 공격에 노출될 경우, 명령 하나로 개인정보 탈취부터 데이터 삭제까지 자동 실행될 수 있어 기존 랜섬웨어보다 피해 규모가 커질 수 있다는 우려도 나온다.</p> <p contents-hash="5e27a37e821ad7f46d184c94e327a705e37d9550b63f21968c8b677354762d71" dmcf-pid="fdMwR78BA5" dmcf-ptype="general">김 대표는 "AI가 사고를 냈을 때 누가 책임질 것인가에 대한 논의도 이제 시작 단계"라며 "기술적 안전장치뿐 아니라 제도와 거버넌스 체계도 함께 마련돼야 한다"고 말했다.</p> <p contents-hash="6362f11815bb745d4898dcc3cb902b2becbe349534d19e0d4894677f6cd6df2f" dmcf-pid="4JRrez6bcZ" dmcf-ptype="general">하지만 AI에 대한 우려를 이유로 도입 자체를 미루는 것은 바람직하지 않다고 강조했다. AI를 중심으로 급변하는 환경에서 AI를 활용하지 않을 경우 기업 경쟁력을 잃을 수 있기 때문이다.</p> <p contents-hash="bd719f559e9615e0ba16fdf7cfbb0cfa253d6dfcc357d7a335c597e189b8c9e0" dmcf-pid="8iemdqPKaX" dmcf-ptype="general">김동환 대표는 "자동차 사고가 무섭다고 자동차를 타지 않을 수 없는 것처럼 AI 역시 활용은 피할 수 없는 흐름"이라며 "중요한 것은 AI를 막는 것이 아니라 위험을 예측하고 통제하는 것"이라고 말했다.</p> <p contents-hash="b5579485f0c7033dbc8ac62b25575fde5f88f319cf24aaa65b524a4a574ce97d" dmcf-pid="6ndsJBQ9aH" dmcf-ptype="general">이어 "앞으로 AI 경쟁력은 모델 성능이 아니라 얼마나 안전하게 활용할 수 있느냐에서 결정될 것"이라며 "하네스 엔지니어링은 선택이 아니라 필수가 될 것"이라고 덧붙였다.</p> <p contents-hash="ab02c49eeea1ebfd74a2e69fc75f370e2f8a971168aa86bd3f2294eb322e2c21" dmcf-pid="PzUMuvtWjG" dmcf-ptype="general">남혁우 기자(firstblood@zdnet.co.kr)</p> <p contents-hash="ba87bf3dfb91eec958b46fbdee381b130fe28f00a18686a2b03138fa1a68ffaa" dmcf-pid="QquR7TFYcY" dmcf-ptype="general">유회현 기자(lusy33@zdnet.co.kr)</p> <p contents-hash="51a87ee5be463a3f1b8bc66a011e15f91474e6d6ba0b69957f12d357da3a5965" dmcf-pid="xB7ezy3GNW" dmcf-ptype="general">정동빈 기자(streetb@zdnet.co.kr)</p> </section> </div> <p class="" data-translation="true">Copyright © 지디넷코리아. 무단전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
업체홍보/구인
더보기
[구인]
유투브 BJ 구인중이자나!완전 럭키비키자나!
[구인]
에카벳에서 최대 조건으로 부본사 및 회원님들 모집합니다
[구인]
카지노 1번 총판 코드 내립니다.
[구인]
어느날 부본사 총판 파트너 모집합니다.
[구인]
고액전용 카지노 / 헬렌카지노 파트너 개인 팀 단위 모집중 최고우대
놀이터홍보
더보기
[홀덤 홍보]
텍사스홀덤 핸드 순위- 홀카드의 가치
[홀덤 홍보]
텍사스홀덤 핸드 순위 - 프리플랍(Pre-Flop) 핸드 랭킹
[토토 홍보]
미니게임개발제작 전문업체 포유소프트를 추천드립니다.
[토토 홍보]
2023년 일본 만화 판매량 순위 공개
[토토 홍보]
무료만화 사이트 보는곳 3가지 추천
지식/노하우
더보기
[카지노 노하우]
혜택 트렌드 변화 위험성 다시 가늠해 보기
[카지노 노하우]
호기심이 부른 화 종목 선택의 중요성
[카지노 노하우]
카지노 블랙잭 카드 조합으로 히트와 스탠드를 결정하는 방법
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
채팅하기