【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]"10년 안에 인류 멸종 가능"…AI는 왜 제동없는 전차가 됐나 [김인엽의 AI 프런티어]

온카뱅크관리자

2026-09-14 14:07:25

<div id="layerTranslateNotice" style="display:none;"></div> 오픈AI “AGI 시대 왔다” 학계는 “정의 없는 승리 선언” AI가 후속 AI 만드는 시대, IPO용 마케팅 비판도 “우리 생명 걸고 도박” 개발자들 잇따라 위험 경고 안전 연구 경계 흐려지며 성능 강화에 이용돼 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="4GciBMV7hr">
 <div contents-hash="bd065f63cff011f3798a4736c19b79a1b373c53a84241ec02aed4735395ffea0" dmcf-pid="8HknbRfzyw" dmcf-ptype="general">
 <div>
 한국경제신문의 투자 전문 유료 플랫폼<a href="http://www.hankyung.com/premium9" target="_blank">'한경 프리미엄9'</a><a href="http://www.hankyung.com/premium9" target="_blank">(www.hankyung.com/premium9)</a>에 실린 기사입니다. <a href="https://www.hankyung.com/premium9" target="_blank">'한경 프리미엄9</a>'을 구독하시면 더 많은 글로벌 투자 기사를 찾아볼 수 있습니다.
 </div>
 
 </div>
 <figure class="figure_frm origin_fig" contents-hash="cfa9ecb4ca37c0107d1e191e0d853d00f9115e54bc501de01ae9aa551b0c2643" dmcf-pid="6XELKe4qlD" dmcf-ptype="figure">
 <img alt="사진=게티이미지뱅크" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/14/ked/20260914140538540vpav.jpg" data-org-width="737" dmcf-mid="bb5A8oMVWh" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/14/ked/20260914140538540vpav.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 사진=게티이미지뱅크
 </figcaption>
 </figure>
 "범용인공지능(AGI) 시대에 온 것을 환영합니다."
 <figure class="figure_frm origin_fig" contents-hash="b2933668add2c233d83fe1cf98d2881dafa64893009d03bb2a03272c03e7b54d" dmcf-pid="QpCkPae4Tk" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/14/ked/20260914140539804fkcm.jpg" data-org-width="1200" dmcf-mid="Kvm6F2u5WC" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/14/ked/20260914140539804fkcm.jpg" width="658">
 </figure>
 그렉 브록먼 오픈AI 사장(사진)은 지난 3일(현지시간) 신모델 GPT-6 아스트라를 공개하며 이같이 말했습니다. 그는 능력 면에서 세대적 도약을 이뤘다며, 모두가 AGI를 다르게 정의하는 모호한 개념이지만 나중에 돌아보면 사람들은 바로 이 시기, 이 모델쯤에서 AGI가 시작됐다고 생각할 것이라고 했습니다. 
 AI 비판론자인 개리 마커스 뉴욕대 명예교수는 곧바로 반박했습니다. 일반적인 정의에 따르면 아스트라는 아직 한참 부족하고, 정의 없는 승리 선언은 상황만 혼란스럽게 만든다는 겁니다.
 그래서 오늘은 아스트라 자체보다 그 앞뒤를 좀 들여다보려고 합니다. AGI가 뭔지, 왜 AI 회사들이 이 단어를 놓지 못하는지 말입니다.
 <figure class="figure_frm origin_fig" contents-hash="cd639c22d394e6067ee13bbc8b1a1fd465ebed7d22e5095e8b44eaf74acef940" dmcf-pid="Yk6BWUZvCN" dmcf-ptype="figure">
 <img alt="스탠퍼드대 인간중심연구소의 범용인공지능(AGI) 정의. 스탠퍼드대 인간중심연구소" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/14/ked/20260914140541074krqh.jpg" data-org-width="907" dmcf-mid="9Ax5rYCEWI" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/14/ked/20260914140541074krqh.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 스탠퍼드대 인간중심연구소의 범용인공지능(AGI) 정의. 스탠퍼드대 인간중심연구소
 </figcaption>
 </figure>
  AGI가 대체 뭐길래
 AGI는 모든 영역에서 인간을 뛰어넘는 AI를 말합니다. 
 AGI를 설명할 때 자주 인용되는 개념이 있습니다. 저명한 컴퓨터과학자 한스 모라벡이 1997년 내놓은 '대홍수(The Great Flood)' 비유입니다. 이는 인간의 능력을 지형도로 그린 겁니다. 낮은 저지대에는 산수와 단순 암기가 있습니다. 언덕에는 정리 증명과 체스가 있고, 높은 봉우리에는 보행과 손눈 협응, 사회적 상호작용이 있습니다. 컴퓨터 성능이 올라가는 건 이 지형에 물이 차오르는 것과 같다는 게 모라벡의 설명입니다. 각기 다른 높이의 이 영역을 모두 올라가면 그 때가 바로 AGI의 시대라는 겁니다. 
 <figure class="figure_frm origin_fig" contents-hash="5700e5093938d56b8042e92a6dca9c8c128d62585c7b49d9950fe481ec378be1" dmcf-pid="ZrM2XqFYhL" dmcf-ptype="figure">
 <img alt="한스 모라벡의 '대홍수' 개념을 미래학자 맥스 테그마크 MIT 교수가 다시 그린 모습. 바다는 이미 기계가 앞서는 영역, 해안가는 곧 AI가 대체할 영역, 산 정상은 마지막으로 AI가 대체할 영역. 라이프 3.0" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/14/ked/20260914140542327dmpk.jpg" data-org-width="1200" dmcf-mid="2ETmekLxSO" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/14/ked/20260914140542327dmpk.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 한스 모라벡의 '대홍수' 개념을 미래학자 맥스 테그마크 MIT 교수가 다시 그린 모습. 바다는 이미 기계가 앞서는 영역, 해안가는 곧 AI가 대체할 영역, 산 정상은 마지막으로 AI가 대체할 영역. 라이프 3.0
 </figcaption>
 </figure>
   지금 널리 쓰이는 지형도는 맥스 테그마크 매사추세츠공대(MIT) 교수가 2017년 저서 '라이프 3.0'에서 이 비유를 그림으로 옮긴 것입니다. 여기엔 곧 잠길 저지대로 통역과 운전, 음성인식이 적혀 있습니다. 2026년 지금 보면 통역은 딥엘과 구글 번역이, 운전은 웨이모와 테슬라가, 음성인식은 웬만한 앱이 다 하고 있습니다.
 아직 물 밖에 남은 봉우리에는 과학, 저서 집필, 영화, 예술이 있습니다. 그리고 그중 하나에 'AI 설계'가 적혀 있습니다. AI가 AI를 만든다는 뜻이고, 유식한 말로는 재귀적 자기 개선(recursive self-improvement)이라고 합니다.
 오픈AI가 아스트라를 AGI의 시작으로 보는 이유도 여기에 있습니다. 핵심은 ‘AI 자동화’입니다. 인간이 AI에 일을 맡기던 시대에서 AI가 스스로 일하는 시대로 전환되고 있다는 겁니다. 오픈AI 연구조직에서 AI의 총 가동시간은 지난 6월까지 인간 근무시간보다 적었지만, 그로부터 두 달이 지난 뒤 인간의 3.1배로 늘었습니다. 첨단 AI모델이 한 번의 요청에 4~8시간 연속 작업할 수 있게 된 결과입니다.
 오픈AI는 2028년 3월이면 완전 자동화된 AI 연구원을 개발할 수 있다고 보고 있습니다. AI가 후속 AI모델을 개발하는 ‘지능 폭발’의 시대가 열린다는 뜻입니다.
   "자의적 정의는 혼란을 초래할 뿐"
 학계의 시선은 훨씬 차갑습니다. 마커스 교수는 지난해 10월 33명의 AI 석학이 공동으로 쓴 논문 'AGI의 정의'를 인용하며 아직 AGI는 멀었다고 지적했습니다.
 <figure class="figure_frm origin_fig" contents-hash="2062707c7e7c11f8a0cd3633f9c4e23520d4bb23f8ce0bcb78e9f0c1e6ffa760" dmcf-pid="pg9ph1yOWM" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/14/ked/20260914140543594ylqn.png" data-org-width="529" dmcf-mid="VFOA8oMVSs" dmcf-mtype="image" height="auto" src="https://img2.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/14/ked/20260914140543594ylqn.png" width="658">
 </figure>
 이 논문은 인간 지능 연구에서 가장 검증된 모형인 CHC 이론을 가져와 지능을 10개 영역으로 쪼갠 뒤, 각 영역에 10%씩 똑같은 비중을 준 평가표입니다. 각 항목은 일반지식, 읽기·쓰기, 수학, 즉석 추론, 작업기억, 장기기억 저장, 장기기억 회수, 시각처리, 청각처리, 속도입니다.
 결과는 GPT-4가 27%, GPT-5가 57%였습니다. 빠르게 올라오고는 있지만 절반 수준입니다. 더 눈에 걸리는 건 모양입니다. 지식과 수학 영역은 꽉 찬 반면 장기기억 저장은 0%입니다. 연구진은 이를 훈련이 덜 된 문제가 아니라 구조적 한계로 봤습니다. 시험을 아무리 잘 봐도 어제 배운 것을 오늘로 넘기지 못한다는 뜻입니다.
 얀 르쿤 AMI랩스 창업자는 더 직설적입니다. 메타 수석과학자인 그는 현재 AI의 근간인 대규모언어모델(LLM)로는 충분하지 않고 세계를 이해하는 '월드모델'이 필요하다고 봅니다. 르쿤은 고양이가 LLM보다 상식과 세상에 대한 이해가 낫다고 했습니다. 낙하산을 크게 만들면 새처럼 날 수 있느냐고도 물었습니다. 크게 펴면 활공 시간은 늘겠지만 새가 되는 건 아니라는 거죠. 
 그럼에도 오픈AI가 AGI를 고수하는 이유는 무엇일까요. 
 일각에서는 오픈AI의 '마케팅 전략'이라고 봅니다. 앤트로픽과 기업공개(IPO) 규모와 시기를 두고 경쟁 중인 오픈AI 입장에서는 AGI만큼 자사의 우위를 명확히 보여줄 수 있는 지표를 찾기 힘듭니다. 다리오 아모데이 앤트로픽 CEO는 이러한 이유로 AGI 대신 '강AI'라는 표현을 쓰기도 합니다.
 젠슨 황 엔비디아 CEO 역시 아스트라 공개 당시 "AGI 시대가 왔다"며 오픈AI팀을 축하했습니다. 엔비디아야말로 AGI를 통해 기대하는 바가 뚜렷합니다. 최근 들어 잦아진 ‘AI 거품론’을 잠재울 수 있다는 겁니다. AGI 출현은 GPU의 막대한 수요도 추가로 불러올 것으로 예상됩니다. 생성형 AI를 돌리기 위해 2만~10만 개의 GPU가 필요하다면 AGI를 구동하기 위해선 GPU가 최소 100만 개에서 1000만 개까지 필요할 것으로 빅테크는 보고 있습니다.
  커지는 지능폭발 우려
 AGI 달성 여부에 대한 논란은 있지만, 놀랍도록 빠르게 성장하는 AI 역량을 연구자들은 두려워하공 있습니다.
 앤트로픽 연구원이었던 제이컵 콕슨은 지난 8일 밤 X(옛 트위터)에 사직 소식을 올렸습니다. 오픈AI와 앤트로픽에서 3년간 사전훈련 연구를 했다는 27세 연구원입니다. 그는 두 회사 모두 책임 있게 행동하지 않고 있다며 "우리 생명을 걸고 도박하고 있다"고 썼습니다. 
 그의 주장은 "AI를 만드는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수 있다고 진심으로 믿고 있으며, 이건 마케팅용 과장이 아니다"라는 겁니다. 임원과 고참 연구자들이 언론 앞에서는 점잖게 말을 고르지만 사석에서는 같은 두려움을 말하는 걸 자신이 직접 들었다고 했습니다. 이 글은 조회수 1억6500만회를 넘겼습니다.
 <figure class="figure_frm origin_fig" contents-hash="64b6086532de55dca386814a95aa542a4a96a5b1cb2e61799052435cb5dcbd79" dmcf-pid="VmRVZB3GSK" dmcf-ptype="figure">
 <img class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/14/ked/20260914140544839nala.jpg" data-org-width="821" dmcf-mid="fKYIiwaeym" dmcf-mtype="image" height="auto" src="https://img1.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/14/ked/20260914140544839nala.jpg" width="658">
 </figure>
 앤트로픽에서 정렬 연구를 이끄는 에반 휴빙거는 콕슨의 의견에 동의하며 "향후 10년 안에 그 확률을 10% 넘게 본다"고 적었습니다. 회사가 최선을 다하고 있다고 믿지만 초지능의 정렬을 풀 계획은 아직 없고 그 궤도에 올라 있지도 않다는 말도 덧붙였습니다. 정렬은 AI가 인간의 의도대로 움직이도록 설계하는 작업을 말합니다.
 그렇다면 왜 오픈AI와 앤트로픽은 AGI라는 위험한 질주를 멈추지 못할까요. 구글 딥마인드와 오픈AI에서 안전·거버넌스 연구를 했던 리처드 응오는 지난달 AI 안전 커뮤니티 '레스롱(Lesswrong)'에 올린 글에서 정렬팀이 오히려 개발 경쟁을 가속했다고 지적했습니다.
 대표 사례가 인간 피드백 강화학습(RLHF)입니다. 사람의 평가로 AI를 길들이자는 안전 연구로 출발했는데, 결과적으로 챗봇 역량을 강화하는데 사용됐다는 겁니다. 안전 연구와 성능 연구의 경계가 무너졌다고 그는 지적했습니다. 여기에 "안전을 연구하려면 강력한 AI가 먼저 있어야 한다"와 "우리가 앞서야 덜 책임 있는 경쟁자를 막을 수 있다"는 두 논리가 서로를 떠받치면서, 결국 모두가 개발을 앞당기고 있다는 게 그의 결론입니다.
 오픈AI는 콕슨의 발표 다음 날인 9일 폴 크리스티아노를 재단 이사회에 선임했다고 발표했습니다. 정렬연구센터(ARC) 창립자이자 미 상무부 산하 AI표준혁신센터(CAISI)의 수석기술고문으로, AI 안전 분야에서 가장 강경한 축에 속하는 인물입니다. 
 <div contents-hash="5a6f6de4d3fdf45a64d5a25b3c01d35dfc0f6768f84e5280563bf5a7810ff3cf" dmcf-pid="Pk6BWUZvS7" dmcf-ptype="general">
 오픈AI의 AGI 선언이 맞는지는 몇 년 뒤에야 알 수 있을 겁니다. 물이 어디까지 찼느냐를 두고는 다투면서도, 물이 차오르고 있다는 것 자체를 부인하는 사람은 실리콘밸리에서 만나기 어렵습니다.
  
 <div>
 테크의 중심지 실리콘밸리는 빠르게 AI의 최전선으로 바뀌고 있습니다. 이곳에서 지능을 개척하는 선구자들을 만나고 느끼는 이야기를 'AI 프런티어'에서 전해드립니다. 기자 페이지를 구독해주세요.
 </div> 
 </div>
 실리콘밸리=김인엽 특파원 inside@hankyung.com
 </section> 
 </div> 
 Copyright © 한국경제. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기