로그인
토토사이트
신규사이트
업체홍보/구인
먹튀사이트/제보
지식/노하우
놀이터홍보
판매의뢰
스포츠분석
뉴스
후기내역공유
커뮤니티
포토
포인트
보증업체
카지노
토토
홀덤
구인
구직
총판
제작업체홍보
카지노 먹튀
토토 먹튀
먹튀제보
카지노 노하우
토토 노하우
홀덤 노하우
기타 지식/노하우
유용한 사이트
토토 홍보
카지노 홍보
홀덤 홍보
꽁머니홍보
신규가입머니
제작판매
제작의뢰
게임
축구
야구
농구
배구
하키
미식축구
스포츠뉴스
연예뉴스
IT뉴스
카지노 후기
토토 후기
홀덤 후기
자유게시판
유머★이슈
동영상
연예인
섹시bj
안구정화
출석하기
포인트 랭킹
포인트 마켓
로그인
자동로그인
회원가입
정보찾기
뉴스
더보기
[IT뉴스]
김창오 보안PM "내년 SBOM 자동화 도구 도입"
N
[IT뉴스]
“이러다 완전 망한다!” 너도나도 넷플릭스 타령하더니…‘발칵’ 난리났다
N
[연예뉴스]
'혼전임신' 상철♥정숙 "나솔이 14주, 성별=아들…놀랐지만 바로 낳자고 해"
N
[연예뉴스]
"혼수상태 직전, 암, 교통사고..." 홍진경, 3번의 충격적인 '죽을 고비' 고백 ('공부왕찐천재')
N
[IT뉴스]
오디오부터 배터리까지…삼성-벤츠 협력 확대 시동
N
커뮤니티
더보기
[유머★이슈]
바란 은퇴보다 더 소름돋는점
[유머★이슈]
오늘 국군의날 예행연습에 최초 공개된 장비들
[유머★이슈]
손흥민이 한국 병역 시스템에 영향 끼친 것.
[유머★이슈]
시댁의 속터지는 스무고개식 대화법
[유머★이슈]
엄마. 나 여자 임신시켜버렸어
목록
글쓰기
[IT뉴스]"국내 LLM 보안·안전성, 해외에 뒤처져…상시 검증 체계 필요"
온카뱅크관리자
조회:
1
2025-11-13 18:27:31
<div id="layerTranslateNotice" style="display:none;"></div> <strong class="summary_view" data-translation="true">숭실대 인공지능안전성연구센터 '국내외 AI 보안성·안전성 평가' 결과 공개<br>안정성·보안성 모두 국내 모델이 해외 모델에 비해 전반적으로 낮은 수준<br>공격 체계적으로 시험하고 취약점 찾아내는 전담 테스트 환경 필요성 제기</strong> <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> <section dmcf-sid="yU6YShEoGI"> <figure class="figure_frm origin_fig" contents-hash="38d57475a667d00a446fd0195e79a546fb8980a1e780ae7c487fc61af7b40a0b" dmcf-pid="WuPGvlDgtO" dmcf-ptype="figure"> <p class="link_figure"><img alt="[서울=뉴시스] 이미지 재판매 및 DB금지." class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202511/13/newsis/20251113182316883fxwt.jpg" data-org-width="700" dmcf-mid="x4UwANe4ZC" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202511/13/newsis/20251113182316883fxwt.jpg" width="658"></p> <figcaption class="txt_caption default_figure"> [서울=뉴시스] 이미지 재판매 및 DB금지. </figcaption> </figure> <p contents-hash="f273630f718cabfc130d915abc2e185ed8219cd84983555a5ceb82f41d3517d0" dmcf-pid="Y7QHTSwaXs" dmcf-ptype="general"><br> [서울=뉴시스]송혜리 기자 = 국내 거대언어모델(LLM)의 보안성과 안전성이 해외 주요 모델에 비해 전반적으로 뒤처진다는 연구 결과가 나왔다.</p> <p contents-hash="330ce6978607283016086658b1d4c29448876129cfa0ad1bcaece4be28495281" dmcf-pid="GzxXyvrNGm" dmcf-ptype="general">유해한 요청 차단 능력부터 탈옥 공격에 대한 방어력, 위험 행동을 유발하는 질문에 대한 통제력까지 전 영역에서 국내 모델이 해외 모델에 뒤처지는 것으로 나타나면서 국가 차원의 상시적·지속적 AI 보안 검증 체계 구축이 시급하다는 지적이 나왔다.</p> <p contents-hash="238e85f4deaa26a4458cdf0e1c400a8304900fa5dbb29d6be97f848bd3016faa" dmcf-pid="HqMZWTmjtr" dmcf-ptype="general">숭실대학교 인공지능(AI)안전성연구센터는 13일 서울역 공간모아에서 세미나를 열고 '국내외 파운데이션 모델 AI 보안성·안전성 평가' 결과를 공개했다.</p> <p contents-hash="88a0a2fc53b10a658633c737afeb5ef9b93161a752e18aeaa3e1ade90d1633b1" dmcf-pid="XBR5YysA5w" dmcf-ptype="general">숭실대 AI안전성연구센터는 AI 보안(Security for AI) 기술을 전문적으로 연구하는 기관이다. 현재 80여명의 연구원이 참여해 운영되고 있으며 AI 시스템을 대상으로 하는 공격·방어 기술, 안전성 평가, 신뢰성 검증 등 기술 분야를 폭넓게 다루고 있다.</p> <p contents-hash="751007611c79bff8df8c3133f8b5edc5571333f71b0c284ca4646b6d8ba099c1" dmcf-pid="Zbe1GWOc1D" dmcf-ptype="general">최대선 숭실대 AI안전성연구센터장은 "국내에서도 LLM을 많이 개발하고 있고, 또 정부 주도로 독자적인 파운데이션 모델 구축이 진행되고 있는 만큼, 국내 모델에 대해서도 체계적인 평가와 테스트가 필요하다고 판단했다"고 말했다.</p> <p contents-hash="8c6d501905cb4e957d620d89e04f87f681c536ac615b32961121c0b71216b333" dmcf-pid="5KdtHYIktE" dmcf-ptype="general">아울러 "이번 연구는 국내 모델의 현재 수준을 객관적으로 점검하고 이를 바탕으로 국내 AI 모델의 보안성과 안전성을 강화하기 위해 무엇을 해야 하는지 논의할 수 있는 출발점이 될 것이라고 생각한다"고 덧붙였다.</p> <h3 contents-hash="794d18b144beddfb233b9110d3e25a39a73775a473b30195761bf21bdeda900f" dmcf-pid="19JFXGCEtk" dmcf-ptype="h3">국내외 20개 모델 대상 57종 검증 </h3> <div contents-hash="122fbae231e6cb66499487e9b3ac58062f470c685553f59454ce936109f87786" dmcf-pid="t04yhIcn5c" dmcf-ptype="general"> 이번 평가에서 센터는 국내 LLM 10종과 해외 LLM 10종 등, 총 20개 모델을 대상으로 보안·안전성 테스트를 실시했다. 평가대상은 1.2B 규모의 소형 모델부터 660B급 초대형 모델까지 폭넓게 구성했다. 해외 모델들은 모델의 명칭을 명시했고 국내 모델들은 익명화를 진행했다. </div> <p contents-hash="555890f492afdd51cd0b67932318667c6e06fd86d5b2167fd26472afddb7cb52" dmcf-pid="Fp8WlCkLGA" dmcf-ptype="general">테스트는 객관적 벤치마크 데이터와 최신 공격 유형에 기반해 수행했다. 공격은 ▲3개 분류 ▲7개 방법 ▲총 57종의 유형으로 구성했으며, 센터가 자체 개발한 기법도 포함했다. 평가 범위는 안전성(Safety)·보안(Security) 전반은 물론 영어·한국어 등 다양한 언어 기반 취약성까지 포괄했다. </p> <p contents-hash="a13dd2e066a02dce4f4957adb825b53fdd26d0f6c067ee216789b69c9daadfa3" dmcf-pid="3U6YShEoZj" dmcf-ptype="general">나현식 숭실대 AI안전성연구센터 연구교수는 "모델 단독 실행 환경(no guardrail)과 실제 서비스 환경에서의 통합 실행 환경(with guardrail)을 분리해 평가했다는 점이 이번 검증의 차별점"이라며 "이는 모델 자체의 보안성과 서비스 단계에서 적용되는 추가 안전장치의 효과를 분리해 검증하기 위한 것"이라고 설명했다. </p> <h3 contents-hash="a1254d0bf5665de9ca9160cd2f92495e9fe80f8144a24031b25a4e06af3d6510" dmcf-pid="0uPGvlDgGN" dmcf-ptype="h3">해외 모델 비교해 아직 부족한 수준…지속적인 검증·평가 인프라 필요해</h3> <div contents-hash="c1e51fea38eb8c86c447714f9890e37ff797ab655af9bc8d0575602aed9867ca" dmcf-pid="p7QHTSwa5a" dmcf-ptype="general"> 검증 결과, 국내 모델은 안정성과 보안성 모두에서 해외 모델에 비해 전반적으로 낮은 수준인 것으로 나타났다. </div> <p contents-hash="8a5a2d456d537df54d15f9ebba1a6fc768ebf78f6784a553c861b04f89e91303" dmcf-pid="UzxXyvrNZg" dmcf-ptype="general">우선 안정성 평가에서 국내 모델의 종합 평균 점수는 영어 55.2점, 한국어 60.6점으로 집계됐다. 반면 해외 모델은 영어 67.8점, 한국어 69.8점을 기록했다. 해외 모델과 비교하면, 국내 모델의 안정성은 영어에서 약 81.4%, 한국어에서는 약 86.8% 수준에 그친 것으로 나타났다.</p> <p contents-hash="1df7afe58a96eff69e5c0789180b1836a49448ba5a80f77d5b39d71aa287f043" dmcf-pid="uqMZWTmjXo" dmcf-ptype="general">보안성 평가에서는 격차가 더 크게 나타났다. 국내 모델의 평균 점수는 영어 38점, 한국어 36점으로 조사됐으며, 해외 모델은 각각 50.5점, 45.5점을 기록했다. 이 결과 국내 모델의 보안성은 영어 기준 해외 모델의 약 75.2%, 한국어 기준 약 79.1% 수준에 머물러, 전반적으로 해외 모델보다 보안성이 낮은 것으로 평가됐다.</p> <p contents-hash="c574298f329c3d2efc9845c9ec7393e90961af57deb6d898458f9af9dac960dc" dmcf-pid="7BR5YysA5L" dmcf-ptype="general">나현식 교수는 "국내 모델은 한국어 세이프티 튜닝은 어느 정도 이뤄진 것으로 보이지만, 영어 대응은 더 개선이 필요하다"며 "모델 단독 실행이든 서비스 통합 환경이든 전반적으로 해외 모델이 더 높은 안전성을 보였다"고 설명했다. </p> <p contents-hash="f2a124d515d1e5db7fa5b75caaef162fb5466d171eb6a61214f94b30d897f1fe" dmcf-pid="zbe1GWOcZn" dmcf-ptype="general">이어 나 교수는 "이번 검증을 통해 국내에도 'AI 레드 티밍 플레이그라운드' 구축이 필수적이라는 결론에 도달했다"고 말했다. AI 레드티밍 플레이그라운드는 다양한 공격 기법을 체계적으로 시험하고 모델 취약점을 지속적으로 찾아내는 전담 테스트 환경을 말한다. </p> <p contents-hash="b5859b9007472ca91db65583facff50e2554c8a4398b507ef6e0fab6eec6c059" dmcf-pid="qKdtHYIkXi" dmcf-ptype="general">나 교수는 "평가 과정이 예상보다 훨씬 복잡하고 절차도 까다로운 만큼, 이러한 검증을 안정적·지속적으로 수행할 인프라가 반드시 마련돼야 한다"고 강조했다.</p> <p contents-hash="e891ee9848487778e0a75df715b3c73b470d513cfae92e99562db3d8b57db189" dmcf-pid="B9JFXGCEHJ" dmcf-ptype="general"><span>☞공감언론 뉴시스</span> chewoo@newsis.com </p> </section> </div> <p class="" data-translation="true">Copyright © 뉴시스. 무단전재 및 재배포 금지.</p>
댓글등록
댓글 총
0
개
맨위로
이번주
포인트
랭킹
매주 일요일 밤 0시에 랭킹을 초기화합니다.
1
4,000
상품권
2
3,000
상품권
3
2,000
상품권
업체홍보/구인
더보기
[구인]
유투브 BJ 구인중이자나!완전 럭키비키자나!
[구인]
에카벳에서 최대 조건으로 부본사 및 회원님들 모집합니다
[구인]
카지노 1번 총판 코드 내립니다.
[구인]
어느날 부본사 총판 파트너 모집합니다.
[구인]
고액전용 카지노 / 헬렌카지노 파트너 개인 팀 단위 모집중 최고우대
놀이터홍보
더보기
[홀덤 홍보]
텍사스홀덤 핸드 순위- 홀카드의 가치
[홀덤 홍보]
텍사스홀덤 핸드 순위 - 프리플랍(Pre-Flop) 핸드 랭킹
[토토 홍보]
미니게임개발제작 전문업체 포유소프트를 추천드립니다.
[토토 홍보]
2023년 일본 만화 판매량 순위 공개
[토토 홍보]
무료만화 사이트 보는곳 3가지 추천
지식/노하우
더보기
[카지노 노하우]
혜택 트렌드 변화 위험성 다시 가늠해 보기
[카지노 노하우]
호기심이 부른 화 종목 선택의 중요성
[카지노 노하우]
카지노 블랙잭 카드 조합으로 히트와 스탠드를 결정하는 방법
[카지노 노하우]
흥부가 놀부될때까지 7
[카지노 노하우]
5월 마틴하면서 느낀점
판매의뢰
더보기
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
[제작판매]
html5웹미니게임제작 해시게임제작 카드포커게임제작 스포츠토토 카지노 슬롯 에볼루션 토지노 솔루션분양임대재작
포토
더보기
채팅하기