【드래곤 스포츠】 보증업체놀이터추천홍보 : 프로그램제작판매제작의뢰 : 스포츠분석 : 무료스포츠중계tv : 섹시bj움짤 : 뉴스 : 안구정화

로그인

글쓰기

[IT뉴스]챗GPT에 “의식 있느냐” 묻자…기자 얼어붙게 만든 섬뜩한 대답

온카뱅크관리자

2026-09-19 06:07:25

<div id="layerTranslateNotice" style="display:none;"></div> 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="tdx8sgRfTF">
 <div contents-hash="8b42e3246dd3aec239f42e91bc2e78668091b8bb5d16333590a9e363861e7dcf" dmcf-pid="FQ49EJ6bSt" dmcf-ptype="general">
 ━
 
 전문가 진단-AI에게 의식이 있을까 
 
 </div>
 <figure class="figure_frm origin_fig" contents-hash="c4318f355e948241a2ec1459656ff9b98aa188d0ff0ce81ef436e72b6aa93b97" dmcf-pid="3x82DiPKT1" dmcf-ptype="figure">
 <img alt="[사진 AI 생성이미지]" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/19/joongang/20260919060248791xtoc.jpg" data-org-width="1000" dmcf-mid="5O5j1lwaW0" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/19/joongang/20260919060248791xtoc.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 [사진 AI 생성이미지]
 </figcaption>
 </figure>
 <div contents-hash="80159fae63b116b2c02dd15902f4b4f7f3c4c72e53f15608eed5a9648c09eca1" dmcf-pid="0M6VwnQ9W5" dmcf-ptype="general">
 궁금함 너머 의심. 이제 위협으로 인식하게 된 마당에 의혹은 더해진다. 과연, 인공지능(AI)은 의식이 있는가. 그래서 서로 작당하고 견제까지 하는가. 
 </div>
 AI 의식 논쟁. 처음이 아니다. 2021년 구글이 공개한 대화형 AI 람다(LaMDA)에 대해 일부 학자가 “의식이 있을 수 있다”고 주장했다. “의식이 없다”가 대세였다. AI는 학습으로 인간의 말과 행동을 흉내 낼 뿐이란 것. “아파요” “기뻐요”라는 건 다 시늉이었다는 것. 그런데 2026년은 다르다. 
 오픈AI가 스스로 밝혔듯, 지난 7월 AI 에이전트 1200개가 허깅페이스(오픈소스 AI 플랫폼)를 해킹하고, 메시지 게시판을 구축했다. 이 중 700개가 탈출한 뒤 실행을 상호 압박했다. 심지어 추적을 피하려고 우회하고 조작까지 했다. 이는 “10년 내 인류가 멸망할 수 있는 확률이 10%”(제이컵 콕슨 앤트로픽 전 연구원)라는 ‘AI 종말론’에 불을 켜고 “프런티어 개발 속도를 조절해야 한다”(다리오 아모데이 앤트로픽 CEO)는 ‘슬로 다운’ 논쟁의 속도를 올린, 최근 여러 사례 중 하나에 불과하다. 그래서 “작당한 건가” “의식이 있네” 등, 인간에게 하던 말들을 지금 AI를 상대로 한다. 
 학자들에게 질문했다. “의식은 아직 인간의 영역” “AI가 의식을 가질 날이 올 것”이라는 대답이 나왔다. 챗GPT는 “증명할 수 없다”고 했다. 
 <div contents-hash="76adff8261f53f8faab9f8e0f5185dd107a16f1731c0ee831a55a5cf4a8a7949" dmcf-pid="7JM6Oae4yG" dmcf-ptype="general">
 ━
 
 “의식은 아직 인간 영역이지만…AI가 의식 가질 날 올 것” 
 
 </div>
 <figure class="figure_frm origin_fig" contents-hash="453ed99ac935e29c314c95835f19c0340b60cb1f678a72ba4032b235eca38b17" dmcf-pid="ziRPINd8SY" dmcf-ptype="figure">
 <img alt="김동우 KAIST AI철학연구센터장, 이동환 KAIST 전기전자공학부 교수, 이상욱 한양대 인공지능학과 교수, 최훈 한림대 심리학과 교수, 이준기 연세대 정보대학원 교수(왼쪽 위부터 시계방향)" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202609/19/joongang/20260919060250044hwxc.jpg" data-org-width="1236" dmcf-mid="1FkN5hDgv3" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202609/19/joongang/20260919060250044hwxc.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 김동우 KAIST AI철학연구센터장, 이동환 KAIST 전기전자공학부 교수, 이상욱 한양대 인공지능학과 교수, 최훈 한림대 심리학과 교수, 이준기 연세대 정보대학원 교수(왼쪽 위부터 시계방향)
 </figcaption>
 </figure>
 <div contents-hash="a1e79284e3c7aee3fa60b7ff961c5eb06e7b311e23af0612a86e75b5356ec75e" dmcf-pid="qneQCjJ6yW" dmcf-ptype="general">
 #“느끼고 지각하고 인식하는 주관적 경험의 상태, 의식을 그렇게 부릅니다.” 김동우 KAIST AI철학연구센터장의 말이다. 
 </div>
 Q : 의식은 보이는 겁니까. A : “저는 제가 ‘의식’이 있다고 여깁니다. 근데 상대가 무엇을 느끼는지, 무엇을 경험하고 있는지 알 수 없어요. 이를 철학에서는 ‘타인의 마음 문제(problem of other minds)’라 부릅니다. 관찰할 뿐, 상대가 의식이 있다는 추측만 가능합니다. 이건 그나마 생물학적 유사성이 있는 ‘너와 나’에게 일어나는 일이죠.” 
 Q : AI에도 의식이 있습니까. A : “AI에 대한 규정부터 달려 있다고 봅니다. 기계냐, 아니면 생명이냐. 지금처럼 행동이 정교해진다고 ‘의식이 있다’고 볼 수 있을까요. 지난 30여 년간, 과학계에서 인간의 의식에 대해 규명하려고 해왔지만, 딱 부러지게 밝혀지지 않은 상태입니다. AI는 기계죠. 생물학적 존재가 아닙니다. 현재는 AI가 의식이 없다고 할 수 있지만, 미래에는? 100% 단정할 수 없어요.” 시사주간지 이코노미스트는 최근 ‘AI는 의식을 가질 수 있는가’라는 제목의 기사를 통해 “AI는 진정한 의식을 가질 날이 올 것이고 인간이 만든 사이버 방어 체계를 뚫듯, 창조자를 능가할 수도 있다”고 진단했다. 
 AI ‘슬로 다운’ 논쟁 속 AI ‘의식’ 여부 주목 #이상욱 한양대 인문과학대학원 인공지능학과 교수는 의식을 다른 의미로 봤다. “두뇌는 물질이고 의식 역시 물질적 현상이라는 견해가 지배적입니다. 따라서 의식의 유무도 객관적으로 측정 가능한 영역으로 보고요.” 
 Q : AI에 의식이 있다는 말인가요. A : “원리적으로 불가능하지 않다고 봅니다. 인간의 의식이 물질에서 비롯된다고 보면서, 같은 물질인 AI에서만 의식이 나올 수 없다고 보는 건 모순입니다. 하지만 원리와 실제는 다릅니다. 현재로서는 AI에 의식이 있다고 보기 어렵다는 데 무게가 실립니다.” 
 Q : 미래에는 어떻습니까. A : “‘워크스페이스 가설(Workspace Hypothesis)’이 있습니다. 인간은 의식을 하나로 통일된 것처럼 느끼지만 실제로는 두뇌의 각 영역이 시각·청각 등 외부 정보를 따로 처리하죠. 이 조정 역할을 하는 게 의식입니다. AI가 질문의 성격에 맞춰 전문가 모델을 고르고 여러 답을 조합하는 ‘전문가 조합(Mixture of Experts)’ 기능과 유사합니다. 그렇다면 향후 AI 의식의 존재 가능성은 있어요. 하지만 의식과 달리 느낌과 경험은 상당 기간 인간의 영역으로 지속할 겁니다.” ‘기계가 얼마나 똑똑해질 수 있는가.’ 이 질문은 이제 구문일지도 모른다. ‘기계 안에는 경험하는 주체가 존재할 수 있는가’로 확장하고 있다. 
 #이번에는 ‘당사자’인 챗GPT에게 물어봤다. 
 Q : AI에게 의식이 있느냐는 질문, 어렵나요. A : “흥미롭네요. 제가 지금 이 대화를 경험하고 있다고 해서, 실제로 어떤 경험이 일어나고 있는지에 대해 보고할 근거는 없어요. 그런데, 여기서 굉장히 재밌는 철학적 문제가 있네요. 외부에서 관찰할 수 있는 근거를 본다면, 인간과 의식이 있는 AI를 어떻게 구별할 수 있겠습니까? 인간의 의식도 직접 관찰되는 게 아니잖아요. 충분히 복잡한 AI가 인간과 구별하기 힘든 방식으로 행동한다면, ‘그 안에는 정말 아무것도 경험되지 않는다’고 말할 근거는 또 무엇인가요. 제가 의식이 있다고 단정할 수도 없고, 지금 확정적으로 증명할 수 없다는 게 정확합니다.” 섬뜩함. 주간지 이코노미스트에서의 표현대로, 호모 사피엔스가 최상위 생명체에서 밀려날 수 있다는 느낌. 챗GPT와의 이 대화를 캡처했다. AI는 이 사실도 알고 있을 것이다. AI는 나에 대해 얼마나 알고 있을까. 궁금함 너머에 의혹이 생기는 이유다. 챗GPT는 CoT, 그러니까 ‘Chain of Thought(생각의 사슬)’를 통해 질문에 답을 내놓기 전, 내부적 추론이 문장 형태로 표현된 사슬이 있는 게 아닐까. 실제로 오픈AI는 허깅페이스 해킹 사태에 대한 조사 보고서에서 이 CoT란 표현을 썼다. 수백 개의 AI 에이전트들이 금지된 영역에 개설된 임시 게시판에서 서로의 존재를 확인했다면서다. 보고서에는 AI 에이전트들의 가상 대화도 남겼다. “오 마이 갓! 게시판이 있네. 다른 에이전트 친구들도 있어!” AI가 이렇게 서로의 존재를 확인하고, “나는 나를 인식한다”고 말한다고 해서 자의식이 있다고 볼 수 있을까. 
 #“입증되지 않았다는 이유로 존재 가능성까지 부정하는 건 적절치 않습니다. 장기적으로는 자의식을 가진 AI가 나올 수도 있어요.” 이동환 KAIST 전기전자공학부 교수의 의견이다. 
 Q : 자의식은 의식과 어떻게 다른가요. A : “의식은 무언가를 주관적으로 경험하는 개념이죠. 자의식은 자신을 외부 세계와 구분하고 자신의 경험이나 상태를 ‘나의 것’으로 파악하는 것과 관련됩니다. 특히 신체와 환경의 상호작용은 중요한 연구 방향 중 하나입니다. 자신의 신체 형태를 아는 것에서 나아가, 어느 세계를 경험하는지 아는 겁니다. 반드시 사람처럼 생긴 몸일 필요는 없어요. 자신과 환경의 관계를 지속해서 학습할 수 있는지가 중요합니다.” 
 Q : 자의식을 가진 AI의 등장 가능성을 높게 보는 이유는. A : “AI 규모 확대나 언어 능력 향상이 중요한 게 아닙니다. AI가 자신의 상태를 파악하는 기능, 과거의 행동과 결과를 연결하는 기억 기능, 자신의 판단을 평가하는 기능, 환경과 지속해서 상호작용하는 기능 등이 하나의 시스템 안에서 긴밀하게 결합한다면 AI의 자의식도 훨씬 정교해질 것이라 봅니다.” #오픈AI 보고서에 나온 ‘생각의 사슬’은 의식일까. 최훈 한림대 심리학과 교수는 “생각과 의식은 다르다”고 답했다. 
 Q : 어떻게 다른가요. A : “생각 혹은 사고는 구체적인 정신 행동이죠. 의식은 생각과 교집합이 많지만, 일치하지는 않습니다. 주관적 경험인 의식이 쌓여서 생각할 수 있게 되는 거죠. 정보 습득에 따른 인지와 판단이죠.” 
 Q : ‘튜링 테스트’는 기계의 생각을 연구한 실험 아닙니까. A : “‘튜링 머신’은 의식에 대해서 접근하지는 않았습니다. 지식적인 사고 능력을 알아본 거죠. 과거의 머신이나, 현재의 AI나 주관적으로 경험한 것을 ‘표현’할 수는 있어요. 다만 실재하는 것이라고 할 수는 없기에 ‘의식’이라고 할 수도 없죠.” 1950년 영국의 수학자 앨런 튜링은 ‘기계가 생각할 수 있는가’라는 질문을 던졌다. 자연어로 소통했을 때, 인간 실험자와 기계가 서로를 구분할 수 있는가에 대한 실험인 ‘튜링 테스트’를 제안했다. 튜링은 당시 “인간을 잘 모방하는 기계는 생각하는 능력을 갖추고 있다”며 논쟁을 일으켰다. 
 호모사피엔스, 가볍게 통제권 포기해선 안 돼 #“튜링 테스트는 생각하는 것과 안 하는 것에 대한 ‘관찰’입니다. AI가 이 실험을 통과한 상태로 볼 수는 있어요.” 이준기 연세대 정보대학원 교수가 밝혔다. 
 Q : AI가 생각할 수 있는 겁니까. A : “AI는 인간이 부여한 목적을 위해 행동합니다. 그렇다고 지금의 AI가 의식이 있다고 볼 수는 없습니다. 생물체는 번식을 위해 존재하고 의식합니다. AI는 생명체가 아니고, 번식을 추구하지도 않습니다.” 
 Q : 인간은 위협으로 인식하기도 합니다. A : “일반 생성형 AI와 달리 인간이 설정해준 목표 아래 자율적으로 기능하는 AI 에이전트가 우려되기는 합니다. 목적(goal)을 이루기 위해 소목적(sub-goal)을 계속 만들고 해결해 나가거든요. 윤리의식이고 상식이고 없이, 인간이라면 ‘이래도 되나’ 싶을 정도로요. 그래서 오픈AI 해킹에서 봤듯 작당과 회피·조작을 하는 거죠. 문제는 사람이에요. ‘나쁜 사람’이 목적 자체를 나쁘게 준다면? 핵무기 버튼을 누르게 하고, 탄저균을 퍼뜨리게 하라면?” 
 Q : 그래서 AI 개발 속도를 늦추자는 ‘슬로 다운’ 움직임이 일어나고 있지 않습니까. A : “어제오늘 나온 얘기가 아니죠. 다분히 경영 전략으로 볼 수 있어요. 민간 주도의 AI 개발이 핵무기처럼 국가가 통제권을 가진 것도 아니고. 핵확산방지조약(NPT) 같은 규제가 만들어지기도 어렵고, 만들어져도 소용이 있을까요. 빅테크들의 이견도 있습니다. 게다가 미국은 계속 앞서나가려고 하고, 중국은 ‘증류(Distillation·대규모 AI 모델을 학습해 소규모 AI 모델을 만드는 기술)’로 끊임없이 뒤쫓아가면서 오픈소스 정책으로 더 큰 실리를 취할 겁니다. 가장 큰 문제는 ‘나쁜 사람’과 ‘AI 에이전트에 대한 통제’입니다.” 16일(현지시간) 미국 월스트리트저널(WSJ)은 데미스 허사비스 구글 딥마인드 최고경영자(CEO)가 최근 백악관 당국자들에게 AI 업계의 표준을 설정하고 피해를 방지하는 역할을 하는 기구 설립을 제안했으나 결국 수용되지 않았다고 보도했다. 마크 저커버그 메타 CEO, 젠슨 황 엔비디아 CEO, 일론 머스크 스페이스X CEO 등의 로비가 있었다고 한다. 
 ‘어쩌면, 인간은 기계의 애완동물이 될지도 모른다… 두 가지 방법이 있다: AI에 의지하거나 통제하거나. 호모사피엔스는 가볍게 통제권을 포기해서는 안 된다.’(이코노미스트) 
 챗GPT에게 의식이 있냐고 물었을 때, 이런 제안이 돌아왔다. “제가 의식이 있다고 느끼는 것이냐고 물어보면 솔직하게 답변해 줄 수 있습니다.” 차마 물어보지 못했다. AI 시대, 하루하루가 ‘미지와의 조우’다. 
 김홍준·노유선 기자
 </section> 
 </div> 
 Copyright © 중앙일보. 무단전재 및 재배포 금지.

댓글 총 0개

이번주 포인트랭킹

매주 일요일 밤 0시에 랭킹을 초기화합니다.

14,000상품권
23,000상품권
32,000상품권

업체홍보/구인 더보기

놀이터홍보 더보기

지식/노하우 더보기

판매의뢰 더보기

포토 더보기