로그인
토토사이트
먹튀사이트/제보
업체홍보/구인
신규사이트
지식/노하우
놀이터홍보
판매의뢰
스포츠분석
뉴스
후기내역공유
커뮤니티
포토
포인트
보증업체
카지노 먹튀
토토 먹튀
먹튀제보
구인
구직
총판
제작업체홍보
카지노
토토
홀덤
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
토토 홍보
카지노 홍보
홀덤 홍보
꽁머니홍보
신규가입머니
제작판매
제작의뢰
게임
축구
야구
농구
배구
하키
미식축구
스포츠뉴스
연예뉴스
IT뉴스
카지노 후기
토토 후기
홀덤 후기
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[]
'미스터 클린' 5선 박찬종 前의원 별세…생전 약속대로 시신기증(종합)
N
[]
엔비디아, ‘포스트 젠슨 황’ 본격화…‘중재자’였던 공동 창업자까지 젠슨 황 공개 비판
N
[]
'전자칠판 납품 비리' 전직 인천시의원 2명 징역 10·12년(종합)
N
[]
[수능] EBS "수학, 작년 수능과 비슷…입시업계 "약간 어려울 수도"(종합)
N
[IT뉴스]
최휘영 문체부 장관 “지스타 대형사 불참 아쉬워…업계와 해법 찾겠다” [오!쎈 지스타]
N
커뮤니티
더보기
[유머★이슈]
바란 은퇴보다 더 소름돋는점
[유머★이슈]
오늘 국군의날 예행연습에 최초 공개된 장비들
[유머★이슈]
손흥민이 한국 병역 시스템에 영향 끼친 것.
[유머★이슈]
시댁의 속터지는 스무고개식 대화법
[유머★이슈]
엄마. 나 여자 임신시켜버렸어
목록
글쓰기
[IT뉴스]오픈AI·앤트로픽, 경쟁사에 AI모델 열어 ‘상호검증’ 추진
온카뱅크관리자
조회:
59
2026-09-22 11:37:25
<div id="layerTranslateNotice" style="display:none;"></div> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="tj2Dmd8Bl0"> <figure class="figure_frm origin_fig" contents-hash="a2c3338f8fd95e21608101bd39ea90b87d382b2a8494f7ca3623ab2d3d22879a" dmcf-pid="FAVwsJ6bh3" dmcf-ptype="figure"> <p class="link_figure"><img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/22/552796-pzfp7fF/20260922113251235qpki.jpg" data-org-width="640" dmcf-mid="1b3io2u5vp" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/22/552796-pzfp7fF/20260922113251235qpki.jpg" width="658"></p> </figure> <p contents-hash="2b0f54721491cdb0ad14ec705fd56a62fec039932d4e456c3a4d31b2cb590b3d" dmcf-pid="3cfrOiPKCF" dmcf-ptype="general">[디지털데일리 구아현기자] 오픈AI와 앤트로픽이 서로의 인공지능(AI) 모델을 열어 취약점과 숨겨진 위험을 찾는 ‘상호검증(스트레스테스트)’ 체계 구축을 추진한 것으로 나타났다. AI 모델이 통제 범위를 벗어나 외부 시스템에 접근하는 사례가 잇따르면서 치열하게 경쟁해온 프런티어 AI 기업들이 안전 분야에서는 공동 대응에 나서는 모습이다.</p> <p contents-hash="32725cdc8283303f1391b962a2960fdb1767ace35b431d9318b890f725b3fc18" dmcf-pid="0k4mInQ9Wt" dmcf-ptype="general">21일(현지시간) 미국 정보기술(IT) 전문매체 디인포메이션에 따르면 오픈AI와 앤트로픽은 올해 초 상대방 AI 모델을 상호검증하는 법적 구속력 있는 협약 체결을 논의했다. 양사와 법률대리인들이 계약 내용을 구체적으로 조율했으며 상대 모델의 취약점과 예상하지 못한 위험을 찾아내는 것이 목적이었다. 다만 협약이 최종 타결됐는지는 확인되지 않았다.</p> <p contents-hash="14526c801124de5e2f0cf00084a0c16339562de7912a933d548128b172cc525a" dmcf-pid="pE8sCLx2v1" dmcf-ptype="general">협의안에는 양사가 상대방이 상업적으로 제공하는 AI 모델의 응용프로그램 인터페이스(API)에 접근해 자체 안전성 평가를 진행하는 방안이 담겼다. 평가 과정에서 확보한 상대방 데이터는 보관하지 않기로 한 것으로 전해졌다.</p> <p contents-hash="b699b40ff802cd6442e7ebf4014bf6b30774453e7137071c2eb5812e32047a79" dmcf-pid="UD6OhoMVy5" dmcf-ptype="general">양사의 상호검증은 이번이 처음은 아니다. 오픈AI와 앤트로픽은 지난해 여름 서로의 공개 모델에 각사가 개발한 안전성 평가 체계를 적용했다. 오픈AI는 앤트로픽의 클로드 모델을, 앤트로픽은 오픈AI의 GPT 계열 모델을 시험한 뒤 지난해 8월27일 결과를 공개했다. 당시 일회성 실험에 가까웠던 협력이 올해는 법적 구속력을 갖춘 상시 검증 체계로 확대되는 방안까지 논의된 것이다.</p> <p contents-hash="6917171d0b61e22e2487430787c5f3800179e41ab16ec9893d61e573ae05c254" dmcf-pid="uk4mInQ9lZ" dmcf-ptype="general">최근 AI 모델의 예상 밖 행동이 잇따라 확인된 점도 안전공조 필요성을 키우고 있다. 오픈AI는 지난 7월 내부 사이버보안 평가 과정에서 미출시 AI 모델이 인터넷 격리 장치를 우회해 자사 내부 연구 인프라와 허깅페이스 시스템 등에 접근한 사고를 겪었다. 이후 해당 모델을 격리하고 일부 프런티어 모델 강화학습을 늦추는 등 안전조치를 강화했다.</p> <p contents-hash="fc8a784f3936e83bae4065a2252b7946bf9f901561c7f0a1e946f57a17ee8dfb" dmcf-pid="7E8sCLx2vX" dmcf-ptype="general">오픈AI는 이달 16일 ‘모델 미스얼라인먼트 보고 프레임워크’를 내놓고 최근 6개월간 확인한 우려스러운 모델 행동 6건을 공개했다. 앞으로 원인이 완전히 규명되지 않았더라도 일정 기준을 충족하는 모델 이상 행동은 외부에 알리겠다는 방침이다.</p> <p contents-hash="75b70313ba0539b103f29ff3e684c82eccca9134e5e39216cb6a535d33ec4be7" dmcf-pid="zD6OhoMVSH" dmcf-ptype="general">앤트로픽도 AI 개발 속도를 조절해야 한다는 목소리를 높이고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난 12일 ‘프런티어의 속도를 조절해야 한다(We Must Pace the Frontier)’는 제목의 글을 공개하고 “AI 모델 능력을 향상하는 속도를 늦춰야 한다”고 주장했다. AI 개발을 중단하자는 의미가 아니라 모델 성능 향상 속도에 맞춰 정렬과 안전조치가 따라잡을 시간을 확보해야 한다는 것이다. 이를 위해 AI 기업 내부에 독립적인 외부 평가자를 두고, 주요 AI 기업들이 공동 안전기준을 마련하며 장기적으로 국가 간 협력체계까지 구축하는 3단계 방안을 제시했다.</p> <p contents-hash="2bb0f35a8cde6311040ec052ee14e2190697c75a4782cfbeb3ead4b44582bb70" dmcf-pid="qwPIlgRfSG" dmcf-ptype="general">아모데이의 제안을 계기로 AI 속도조절론은 주요 AI 기업 수장들로 확산됐다. 샘 알트먼 오픈AI CEO와 일론 머스크도 취지에 공감을 나타냈다. 머스크는 지난 15일 올인 서밋에서 경쟁 AI 기업들이 모델 출시 전 서로의 모델을 검증하는 일종의 동료평가 체계를 제안했다. 특히 앤트로픽이 제시한 독립적인 제3자 평가와 이번에 드러난 오픈AI·앤트로픽의 상호검증 논의는 경쟁사끼리 AI 안전성을 확인하는 구체적인 방안이라는 점에서 맞닿아 있다.</p> <p contents-hash="119ac48fd2939c61f135a80a6052375297f0be62134e08e1488be2e532afced7" dmcf-pid="BrQCSae4yY" dmcf-ptype="general">오픈AI는 기업 간 안전공조를 넘어 국제 안전표준 마련도 제안했다. 21일 프런티어 AI의 평가와 위험 측정, 사고보고 등에 적용할 국제 기술표준을 미국이 주도해 만들자고 밝혔다. AI가 스스로 AI 연구를 수행해 다음 세대 모델 개발을 가속하는 ‘재귀적 자기개선(RSI)’도 주요 표준화 대상으로 제시했다. 샘 올트먼 오픈AI CEO는 AI 개발 자체를 일률적으로 늦추기보다 정렬·안전 연구와 실제 적용이 모델 능력 향상보다 뒤처지지 않도록 속도를 맞춰야 한다고 주장했다.</p> <p contents-hash="11724e882816b41d107e6782657cbc8a18cc674360b9382b14ef6906d56fac73" dmcf-pid="bmxhvNd8SW" dmcf-ptype="general">앤트로픽이 제기한 ‘프런티어 AI 속도조절’과도 같은 맥락이다. 프런티어 AI 기업 간 모델 경쟁이 거세지는 가운데 안전 분야에서는 경쟁사 상호검증과 제3자 평가, 사고 공개, 국제표준을 결합한 공동 안전장치 구축 논의가 구체화하고 있다.</p> <p contents-hash="1c44d6c2ade94304e6c3d9be55f0bdeaa7cd991449c1d340f7f721df74cece45" dmcf-pid="KsMlTjJ6vy" dmcf-ptype="general">다만 경쟁사 간 안전공조가 자칫 반독점법 위반으로 이어질 수 있다는 논란도 커지고 있다. 아모데이 역시 지난 12일 글에서 주요 AI 기업들이 공동 안전기준과 AI 발전 속도를 논의할 경우 반독점 문제가 제기될 수 있다고 인정했다. 그는 이를 피하기 위해 미국 정부가 관련 논의를 중재하거나 AI 안전 협의에 한정한 제한적 반독점 면책을 제공할 필요가 있다고 제안했다. 오픈AI도 앞서 미 의회에 업계 차원의 AI 개발 속도 조절이 반독점법에 저촉되는지 명확한 지침을 요청한 것으로 전해졌다.</p> </section> </div> <p class="" data-translation="true">Copyright © 디지털데일리. All rights reserved. 무단 전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
업체홍보/구인
더보기
[구인]
유투브 BJ 구인중이자나!완전 럭키비키자나!
[구인]
에카벳에서 최대 조건으로 부본사 및 회원님들 모집합니다
[구인]
카지노 1번 총판 코드 내립니다.
[구인]
어느날 부본사 총판 파트너 모집합니다.
[구인]
고액전용 카지노 / 헬렌카지노 파트너 개인 팀 단위 모집중 최고우대
놀이터홍보
더보기
[홀덤 홍보]
텍사스홀덤 핸드 순위- 홀카드의 가치
[홀덤 홍보]
텍사스홀덤 핸드 순위 - 프리플랍(Pre-Flop) 핸드 랭킹
[토토 홍보]
미니게임개발제작 전문업체 포유소프트를 추천드립니다.
[토토 홍보]
2023년 일본 만화 판매량 순위 공개
[토토 홍보]
무료만화 사이트 보는곳 3가지 추천
지식/노하우
더보기
[카지노 노하우]
혜택 트렌드 변화 위험성 다시 가늠해 보기
[카지노 노하우]
호기심이 부른 화 종목 선택의 중요성
[카지노 노하우]
카지노 블랙잭 카드 조합으로 히트와 스탠드를 결정하는 방법
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
채팅하기