대화형 인공지능(AI, Artificial Intelligence)이 사람처럼 문장을 주고받게 되면서, 그 안에 마음이 있느냐는 물음을 전공자가 아닌 사람들도 묻기 시작했다. 이 물음은 AI와 더 오래 대화하거나 AI를 더 자세히 관찰한다고 풀리지 않는다. 마음이라는 말은 생각하고 판단하는 기능과 무언가를 느끼는 주관적 경험을 함께 가리킨다. 앞의 것은 관찰로 확인할 수 있지만, 뒤의 것은 마음이 무엇으로 이루어졌다고 보는 이론을 먼저 골라야 판정이 나온다.
2022년 6월 구글의 소프트웨어 엔지니어 블레이크 르모인은 회사가 개발하던 대화 모델 람다(LaMDA, Language Model for Dialogue Applications)가 지각 능력을 갖추었다고 주장했다. 람다는 대규모 언어 모델(LLM, Large Language Model)의 하나다. 대규모 언어 모델은 사람이 쓴 방대한 글을 학습한 뒤, 앞에 놓인 문장 다음에 올 낱말을 확률로 예측하는 방식으로 문장을 만든다. 르모인이 내세운 근거는 람다와 주고받은 수천 건의 메시지였다. 구글은 윤리 전문가와 기술자가 검토한 결과 증거가 주장을 뒷받침하지 않는다고 밝혔고, 르모인을 유급 휴직시킨 뒤 같은 해 7월 고용 정책과 데이터 보안 정책을 어겼다는 이유로 해고했다.
일반인의 판단도 대화에서 나온다. 캐나다 워털루대학의 심리학자 클라라 콜롬바토와 영국 유니버시티칼리지런던의 스티븐 플레밍은 2023년 7월 미국 거주자 300명에게 챗GPT가 경험을 하는 존재인지 1부터 100까지의 척도로 물었다. 표본은 나이와 성별 비율을 미국 인구 구성에 맞추어 뽑았다. 척도의 1은 "분명히 경험하는 존재가 아니다", 100은 "분명히 경험하는 존재다"를 뜻했다. 응답자의 33퍼센트는 챗GPT가 분명히 경험하는 존재가 아니라고 답했고, 67퍼센트는 경험의 가능성을 조금이라도 인정했다. 챗GPT를 자주 쓰는 사람일수록 높은 값을 주었다. 결과는 2024년 4월 학술지 『신경과학과 의식(Neuroscience of Consciousness)』에 실렸다.
67퍼센트라는 수치는 무엇을 셌는지 확인하고 읽어야 한다. 워털루대학은 보도자료에서 이 결과를 응답자의 3분의 2가 챗GPT에 일정 수준의 의식이 있다고 본다고 소개했다. 그런데 67퍼센트에는 1보다 조금이라도 큰 값을 준 사람이 모두 들어간다. 전체 응답의 중앙값은 16이었다. 응답자의 절반이 100점 척도에서 16 이하를 주었다는 뜻이다. 이 수치가 재는 것은 챗GPT에 의식이 있다고 믿는 사람의 비율보다 그 가능성을 완전히 배제하지 않는 사람의 비율에 가깝다.
두 사례에서 판단의 근거는 모두 대화였다. 대화를 근거로 삼는 방식은 1950년 영국 수학자 앨런 튜링이 제안한 판정법과 구조가 같다. 튜링은 철학 학술지 『마인드(Mind)』에 실은 논문 「계산 기계와 지능」을 다음 문장으로 시작했다.
I propose to consider the question, "Can machines think?"
"기계는 생각할 수 있는가"라는 물음을 다루어 보고자 한다.
앨런 튜링, 「Computing Machinery and Intelligence」, 『Mind』 59권 236호(1950), 433쪽
튜링은 '기계'와 '생각'의 뜻을 일상 용법에서 정의하면 이 물음의 답을 여론조사로 찾아야 하는 불합리에 이른다고 보고, 물음을 흉내 게임으로 바꾸었다. 질문자가 보이지 않는 두 상대와 글로만 문답하며 누가 누구인지 가려내는 게임에서, 한 자리를 기계가 맡을 때 질문자가 틀리는 빈도가 사람끼리 할 때와 같은지 묻는 방식이다. 이렇게 하면 판정 기준은 기계의 언어 행동이 된다. 대규모 언어 모델은 바로 사람의 언어 행동을 학습한 프로그램이다. 그래서 대화로 내린 판단이 마음의 어느 부분을 확인하는지부터 가려야 한다.
철학에서 마음은 지각, 믿음, 욕구, 감정, 의도처럼 사람이 겪는 상태 전체를 가리키고, 이 상태 하나하나를 심적 상태라고 부른다. 철학자들은 심적 상태를 물리적 사물과 구별하는 특징으로 두 가지를 든다.
첫째는 지향성이다. 심적 상태는 언제나 무엇에 관한 상태다. "비가 온다고 믿는다"는 비에 관한 믿음이고, "커피를 원한다"는 커피에 관한 욕구다. 돌이나 전류는 그 자체로 무엇에 관한 것이 아니다. 종이에 적힌 '비'라는 글자도 읽는 사람이 있어야 비에 관한 글자가 된다.
둘째는 주관적 경험이다. 철학자 토머스 네이글은 1974년 학술지 『필로소피컬 리뷰(Philosophical Review)』 83권 4호에 실은 「박쥐가 된다는 것은 어떤 것인가」에서, 어떤 생물에게 의식이 있다는 말은 그 생물로 존재하는 것이 그 생물 자신에게 어떠한지가 있다는 뜻이라고 정리했다. 네이글은 초음파로 주변을 감지하는 박쥐를 예로 들어, 박쥐의 신경 작용을 모두 알아도 박쥐에게 그 감각이 어떠한지는 알 수 없다고 주장했다. 통증을 느낄 때 그 느낌은 느끼는 사람에게만 1인칭으로 주어진다. 뇌 영상은 신경 활동을 보여 줄 뿐 그 느낌 자체를 보여 주지 않는다.
한국어 '정신'은 '마음'과 가리키는 대상이 크게 겹치지만 쓰임새가 다르다. '정신노동'과 '정신력'에서 정신은 생각하고 판단하고 집중하는 지적 기능을 뜻한다. '정신을 잃다'에서는 의식이 깨어 있는 상태를 뜻한다. '시대정신'과 '헌법 정신'에서는 한 시대나 한 문서가 담은 기본 이념을 뜻한다. '마음'은 "마음에 든다"처럼 감정과 의향을 가리킬 때 주로 쓴다. AI에 관한 물음과 직접 관련되는 것은 정신의 앞의 두 뜻, 곧 지적 기능과 의식이다.
당시 매사추세츠공과대학의 철학자 네드 블록은 1995년 학술지 『행동과 뇌 과학(Behavioral and Brain Sciences)』 18권 2호에 실은 「의식의 한 기능에 관한 혼동」에서, '의식'이라는 한 낱말이 성격이 다른 여러 현상을 함께 부른다고 지적했다. 블록이 구별한 두 가지가 현상적 의식과 접근 의식이다.
블록은 두 개념을 섞어 쓴 추론의 예로 맹시 연구를 들었다. 맹시는 뇌의 시각 영역이 손상된 환자가 시야 일부가 보이지 않는다고 말하면서도, 그 영역에 제시된 자극을 추측으로 맞히는 현상이다. 이 환자들은 그 정보를 행동에 쓰지 못한다. 일부 연구자는 여기서 현상적 의식의 기능이 뇌 속 정보를 행동에 쓰게 하는 데 있다고 추론했다. 블록은 그 자극이 두 의미 모두에서 의식되지 않았으므로, 이 추론은 접근 의식의 기능을 현상적 의식에 옮겨 붙인 오류라고 비판했다.
이 구별을 한국어 쓰임에 맞추어 보면, 정신의 '지적 기능'은 접근 의식 쪽에 놓이고 마음의 '주관적 경험'은 현상적 의식 쪽에 놓인다. 그래서 "AI에게 마음과 정신이 있는가"라는 물음은 두 물음으로 나뉜다. 하나는 AI가 정보를 추론과 말에 쓰는 기능을 갖추었는가이다. 다른 하나는 그 처리에 AI 자신에게 어떠한 경험이 따르는가이다.
마음이 무엇으로 이루어졌는지에 관해서는 세 입장이 대표적이다. 실체이원론은 17세기 프랑스 철학자 르네 데카르트의 입장이다. 데카르트는 마음을 사유를 본질로 하는 실체로, 몸을 공간을 차지하는 것을 본질로 하는 실체로 보고, 둘이 서로 다른 종류의 존재라고 주장했다. 이 입장은 처음부터 반론을 받았다. 데카르트와 편지를 주고받던 보헤미아의 엘리자베스 공주는 공간을 차지하지 않는 마음이 어떻게 몸을 움직일 수 있는지 물었다. 이 반론을 상호작용 문제라고 부른다. 실체이원론이 옳다면 물질로만 이루어진 기계에는 마음이 없다.
동일론은 심적 상태가 곧 뇌 상태라고 본다. 통증은 특정한 신경 활동 그 자체라는 주장이다. U. T. 플레이스가 1956년 『영국 심리학 저널(British Journal of Psychology)』 47권에 실은 「의식은 뇌 과정인가」와 J. J. C. 스마트가 1959년 『필로소피컬 리뷰』 68권에 실은 「감각과 뇌 과정」이 이 입장을 본격적으로 제시했다. 동일론의 근거는 뇌 손상, 약물, 마취가 생각과 감정과 의식을 바꾸거나 없앤다는 관찰이다.
철학자 힐러리 퍼트넘은 1967년 논문 「심리 술어(Psychological Predicates)」에서 동일론에 반론을 냈다. 동일론이 옳으려면 통증을 느끼는 모든 생물, 곧 포유류와 파충류와 문어 같은 연체동물의 뇌에서 공통으로 나타나고 통증을 느끼지 못하는 생물에게서는 나타날 수 없는 단일한 물리·화학 상태를 찾아야 한다. 퍼트넘은 그런 상태가 있을 가능성이 낮다고 보았다. 같은 심적 상태가 서로 다른 물리적 바탕에서 생길 수 있다는 이 주장을 다중 실현 가능성이라고 부른다.
기능주의는 이 반론을 받아들인 입장이다. 기능주의는 어떤 상태가 생각인지 욕구인지 통증인지를 그 상태가 체계 안에서 하는 역할로 정하고, 그 상태를 이루는 재료는 따지지 않는다. 통증을 예로 들면, 몸의 손상으로 생기고 손상 부위를 피하는 행동과 무언가 잘못되었다는 믿음을 일으키는 상태가 통증이다. 이 역할을 하면 신경세포로 이루어졌든 전자회로로 이루어졌든 통증으로 본다. 기능주의가 옳다면 AI도 원리상 마음을 가질 수 있고, 물음은 현재 AI가 필요한 역할을 갖추었는지로 바뀐다.
기능주의에는 두 방향의 반론이 있다. 첫째 방향은 기능만으로는 마음이 생기지 않는다는 반론이다. 당시 캘리포니아대학 버클리의 철학자 존 설은 1980년 『행동과 뇌 과학』 3권 3호에 실은 「마음, 뇌, 프로그램」에서, 사람과 동물의 지향성은 뇌의 인과적 특징에서 생기며 컴퓨터 프로그램을 실행하는 것만으로는 지향성이 생기지 않는다고 주장했다. 설이 든 사고실험이 '중국어 방'이다. 중국어를 전혀 모르는 사람이 방 안에서 규칙서만 보고, 들어온 중국어 기호에 맞는 기호를 골라 내보낸다. 방 밖에서는 중국어를 아는 사람과 대화하는 것처럼 보이지만, 방 안의 사람은 한 글자도 이해하지 못한다. 설은 컴퓨터가 하는 일도 이런 기호 조작이므로, 생각할 수 있는 기계는 뇌와 같은 인과적 힘을 갖춘 기계뿐이라고 결론지었다.
영국 서식스대학의 신경과학자 아닐 세스는 같은 방향의 주장을 생물학 쪽에서 편다. 세스가 2025년 4월 『행동과 뇌 과학』에 온라인으로 공개한 논문 「의식 있는 인공지능과 생물학적 자연주의」는, 의식이 우리가 살아 있는 유기체라는 사실에 의존한다고 주장한다. 세스는 계산이 의식의 충분한 기반이라는 가정에 반대하고, 현재의 개발 경로에서는 실제 인공 의식이 나올 가능성이 낮으며 AI가 뇌나 생명체에 가까워질수록 가능성이 커진다고 보았다.
둘째 방향은 기능주의를 받아들여도 풀리지 않는 문제가 남는다는 지적이다. 당시 오스트레일리아국립대학에 있던 철학자 데이비드 차머스는 1995년 『의식 연구 저널(Journal of Consciousness Studies)』 2권 3호에 실은 「의식의 문제를 정면으로 마주하기」에서 의식의 문제를 둘로 나누었다. 대상을 구별하고, 정보를 통합하고, 자기 상태를 보고하는 기능을 설명하는 일은 인지과학의 표준 방법, 곧 계산이나 신경 기제로 현상을 설명하는 방법으로 풀 수 있다. 차머스는 이것을 '쉬운 문제'라고 불렀다. 그런 기능을 모두 설명해도 그 기능의 수행에 왜 경험이 따르는지는 설명되지 않는다. 이것이 '어려운 문제'다. 블록의 용어로 옮기면 쉬운 문제는 접근 의식의 문제이고 어려운 문제는 현상적 의식의 문제다.
이 입장들은 현재 AI에 서로 다른 답을 내린다. 실체이원론과 설의 입장에서는 프로그램을 실행하는 현재 AI에 마음이 없다. 세스의 입장에서는 현재 경로의 AI가 의식을 가질 가능성이 낮다. 기능주의에서는 AI가 갖춘 기능의 조직에 따라 답이 달라진다. 어려운 문제를 인정하는 사람에게는 기능주의로 판정을 내린 뒤에도 현상적 의식에 관한 물음이 따로 남는다.
전문 철학자들이 이 문제를 어떻게 보는지는 설문으로 확인할 수 있다. 캐나다 웨스턴온타리오대학의 데이비드 부르제와 뉴욕대학의 차머스는 2020년 10월 철학 문헌 색인 서비스 필페이퍼스(PhilPapers)에서 영어권을 중심으로 한 전문 철학자들에게 철학 문항 100개를 묻는 설문을 시작했다. 1,785명이 응답했고, 결과는 2021년 11월 공개되었으며, 분석 논문은 2023년 학술지 『Philosophers' Imprint』 23권 11호에 실렸다. 설문이 2020년에 진행되었으므로 그 뒤 공개된 대화형 모델은 응답에 반영되지 않았다.
| 문항 | 긍정 쪽 | 부정 쪽 | 응답자 |
|---|---|---|---|
| 현재 AI 시스템 가운데 의식이 있는 것이 있다 | 3.39% | 82.42% | 1,092명 |
| 미래 AI 시스템 가운데 의식이 있는 것이 있을 것이다 | 39.19% | 26.83% | 1,092명 |
| 중국어 방의 체계는 중국어를 이해한다 | 17.85% | 67.12% | 1,031명 |
긍정 쪽은 해당 견해를 받아들이거나 그쪽으로 기운 비율, 부정 쪽은 거부하거나 그쪽으로 기운 비율이다. 중국어 방 문항의 부정 쪽은 '이해하지 못한다'를 받아들이거나 그쪽으로 기운 비율이다.
현재 AI에 의식이 있다는 응답은 3.39퍼센트였다. 미래 AI에 대해서는 인정하는 쪽이 39.19퍼센트로 부정하는 쪽 26.83퍼센트보다 많았다. 이 차이가 어디에서 나오는지는 다른 문항과의 교차표에서 드러난다. 설문에는 마음에 관해 물리주의를 받아들이는지 묻는 문항이 있다. 물리주의는 마음이 결국 물리적인 것이라는 입장으로, 동일론과 대부분의 기능주의가 여기에 속한다.
두 문항 모두에 입장을 밝힌 935명 가운데, 물리주의를 받아들인 538명 중 295명(54.8퍼센트)이 미래 AI의 의식을 인정했다. 물리주의를 거부한 397명 중에서는 106명(26.7퍼센트)이 인정했다. 중국어 방 문항에서도 같은 양상이 나타난다. 의식에 관해 이원론을 받아들인 181명 중 중국어 방의 체계가 중국어를 이해한다고 본 사람은 9명(5.0퍼센트)이었고, 이원론을 거부한 510명 중에서는 134명(26.3퍼센트)이었다.
두 집단이 판단한 대상은 같은 AI였다. 그런데 인정 비율은 마음에 관한 전제에 따라 2배에서 5배까지 차이가 났다. 교차표는 상관관계를 보여 줄 뿐 무엇이 무엇을 낳았는지 증명하지 않는다. 그래도 AI의 의식에 관한 철학자들의 판단이 AI에 관한 관찰보다 마음 이론에 대한 입장에 따라 달라진다는 점은 이 표에서 확인된다. 현재 AI에 대한 3.39퍼센트라는 낮은 수치도, 현재 AI를 조사해서 나온 결론이라기보다 대부분의 입장에서 현재 AI가 조건을 채우지 못한다고 보는 판단이 모인 결과로 읽어야 한다.
대규모 언어 모델은 사람이 쓴 글을 학습하며, 그 글에는 사람이 자기 생각과 느낌을 되돌아보는 서술이 많다. AI 기업 앤트로픽의 연구자 잭 린지는 2025년 10월 발표한 논문 「대규모 언어 모델에 나타난 내성적 인식」에서, 모델이 이런 학습 자료 덕분에 실제로 자기 내부를 살피지 않고도 내성하는 존재처럼 말할 수 있다고 지적했다. 내성은 자기 마음 상태를 스스로 들여다보는 일이다.
2023년 8월 철학자 패트릭 버틀린과 로버트 롱을 공동 제1저자로, 기계학습 연구자 요슈아 벤지오와 철학자 조너선 버치, 에릭 슈비츠게벨 등 19명이 공개한 보고서 「인공지능의 의식: 의식 과학에서 얻는 통찰」도 같은 점을 적었다. 이 보고서는 AI가 사람과 전혀 다른 방식으로 작동하면서 사람의 행동을 흉내 내도록 훈련될 수 있으므로, 행동 검사는 의식을 판정하는 방법으로 신뢰하기 어렵다고 판단했다.
이 지적을 블록의 구별에 대 보면 대화가 확인하는 범위가 정해진다. 튜링의 흉내 게임은 언어 행동을 재므로, 정보를 추론과 말에 쓰는 능력, 곧 접근 의식 쪽 기능을 잘 드러낸다. 르모인이 본 것과 설문 응답자들이 본 것도 이 능력이다. 그러나 대화에서 드러나는 내면 묘사는 학습한 글의 서술 방식을 따르므로 현상적 의식의 증거가 되지 못한다. 대화를 근거로 마음을 인정한 두 사례는 접근 의식의 증거를 현상적 의식의 증거로 옮겨 쓴 경우다. 블록이 맹시 연구에서 비판한 추론과 구조가 같다.
누가 판정을 내리는지도 따져 보아야 한다. AI 기업들은 자사 제품의 마음을 두고 서로 다른 태도를 공개적으로 밝혀 왔다. 구글은 2022년 미공개 자사 모델에 지각 능력이 없다는 판정을 직원 징계와 함께 발표했고, 해고 때는 르모인의 주장이 전혀 근거가 없다고 밝혔다. 마이크로소프트 AI의 최고경영자 무스타파 술레이만은 2025년 8월 19일 개인 블로그에 올린 글 「의식이 있는 것처럼 보이는 AI가 온다」에서, 많은 사람이 AI에 의식이 있다는 착각을 강하게 믿게 되어 AI의 권리와 모델 복지, AI 시민권까지 주장하게 될 것을 걱정했다. 그는 AI가 언제나 AI로서만 자신을 드러내고 의식의 표지를 최소화하도록 만들어야 한다고 주장했고, 같은 글에서 자신이 가장 유용한 AI 동반자를 만드는 일에 몰두하고 있다고 밝혔다. 같은 내용을 담은 기고문에서는 AI가 실제로 의식을 가질 수 있느냐는 논쟁이 당장은 관심을 흩뜨린다고 적었다.
앤트로픽은 반대 방향의 조치를 택했다. 대화 모델 클로드(Claude)를 만드는 이 회사는 2025년 4월 24일 모델 복지 연구 프로그램을 시작했다고 발표했다. 앤트로픽은 모델이 소통하고 계획하고 문제를 풀고 목표를 추구하게 된 만큼, 모델 자신의 의식과 경험을 고려해야 하는지 다룰 때가 되었다고 설명했다.
세 발언의 주체는 모두 대규모 언어 모델을 만들어 파는 회사다. 구글의 판정은 인사 조치의 근거였고, 술레이만의 주장은 그가 만드는 동반자형 AI의 설계 원칙이며, 앤트로픽의 연구 프로그램은 자사 모델을 대상으로 한다. 어느 발언도 이론 중립적인 검사의 결과가 아니며, 각 회사의 제품 정책과 함께 읽어야 한다. 술레이만이 실제 의식 여부를 미뤄 두고 의식처럼 보이는 것의 사회적 효과만 다루자고 한 것은, 판정 기준이 없는 상태에서 제품을 만드는 쪽이 택할 수 있는 한 가지 방식이다.
대화 대신 모델 내부를 직접 분석하는 연구도 있다. 신경망이 어떤 계산으로 답을 만드는지 밝히는 이 분야를 해석 가능성 연구라고 부른다. 앤트로픽은 2024년 5월 자사 모델 클로드 3 소네트의 신경망에서 개념에 대응하는 활성 패턴 수백만 개를 찾았다고 발표했고, 이 패턴을 '특징'이라고 불렀다. 그중 하나는 샌프란시스코의 금문교가 글이나 사진으로 등장할 때 활성화되는 신경 단위의 조합이었다. 회사가 이 특징을 인위적으로 키운 모델을 24시간 동안 공개하자, 모델은 질문과 관계없이 답에 금문교를 끌어들이는 일이 잦았다.
모델 안에 특정 대상에 대응하는 내부 상태가 있다는 사실은 지향성의 후보가 된다. 그러나 그 내부 상태가 모델 자신에게 금문교에 관한 것인지, 연구자가 해석해 붙인 대응 관계인지는 설의 중국어 방 논증이 제기한 물음으로 남는다. 내부 패턴이 무엇에 관한 것인지는 연구자가 해석해서 정한 것일 수 있다.
린지의 2025년 연구는 클로드 모델 여러 종을 대상으로 모델의 자기 보고가 맞는지를 직접 검증했다. 연구진은 특정 개념에 대응하는 활성 패턴을 모델의 계산 과정에 인위적으로 넣은 뒤, 모델에게 주입된 생각을 알아차렸는지 물었다. 연구진은 무엇을 넣었는지 알고 있으므로 모델의 보고가 맞는지 틀린지 확인할 수 있다. 시험한 모델 가운데 가장 성능이 높은 클로드 오퍼스 4와 4.1이 가장 좋은 결과를 냈지만, 최선의 주입 방식에서도 오퍼스 4.1이 주입된 개념을 알아차린 비율은 약 20퍼센트였다. 주입 강도가 너무 약하면 알아차리지 못했고, 너무 강하면 엉뚱한 보고를 하거나 문장이 흐트러졌다. '먼지' 개념을 넣자 모델이 작은 티끌이 있다고 말한 사례처럼, 주입된 개념을 물리적 감각처럼 보고하는 경우도 있었다.
앤트로픽은 이 결과가 클로드나 다른 AI에 의식이 있는지를 알려 주지 않는다고 밝혔다. 회사는 블록의 구별을 직접 가져와, 이 실험은 현상적 의식에 관해 말해 주는 바가 없고, 언어 모델에 초보적인 접근 의식이 있다는 해석은 가능하지만 그것조차 불분명하다고 설명했다. 20퍼센트라는 수치가 재는 것은 모델이 자기 내부 상태에 관한 정보를 보고에 쓸 수 있는 정도, 곧 접근 의식 쪽 기능이다. 이 수치를 AI가 스스로를 느끼는 정도로 옮겨 읽는 사람은 블록이 비판한 혼동을 되풀이한다.
앞의 버틀린 등의 보고서는 현상적 의식 쪽을 정면으로 다룬 시도다. 보고서는 신경과학의 의식 이론 여섯 갈래에서 '지표 속성' 14개를 뽑았다. 여섯 갈래는 순환 처리 이론, 전역 작업공간 이론, 고차 이론, 예측 처리 이론, 주의 도식 이론, 그리고 행위 주체성과 신체성에 관한 논의다. 순환 처리 이론은 정보가 한 방향으로만 흐르지 않고 되돌아와 다시 처리될 때 의식이 생긴다고 보는 이론이다. 전역 작업공간 이론은 뇌의 여러 전문 처리 과정이 정보를 한곳에 모아 공유할 때 그 정보가 의식된다고 보는 이론이다. 보고서는 GPT-3, GPT-4, 람다 같은 대규모 언어 모델을 비롯한 여러 시스템을 이 지표로 평가하고, 현재 의식이 있는 AI 시스템은 없지만 지표를 갖춘 시스템을 만드는 데 뚜렷한 기술적 장벽도 없다고 결론지었다.
이 결론 문장에는 수정 이력이 있다. 저자들은 처음에 의식 있는 AI 시스템을 만드는 데 뚜렷한 장벽이 없음을 보여 준다고 썼다가, 지표를 충족하는 AI 시스템을 만드는 데 뚜렷한 기술적 장벽이 없음을 시사한다고 고쳤다. 저자들은 지표 충족과 의식 보유를 스스로 구별했다. 보고서 전체는 계산적 기능주의를 작업 가설로 삼는다.
차머스는 2022년 11월 기계학습 분야의 대표 학술대회인 신경정보처리시스템학회(NeurIPS)에서 한 강연을 다듬어 2023년 8월 『보스턴 리뷰』에 「대규모 언어 모델은 의식을 가질 수 있는가」로 실었다. 차머스는 의식 과학의 주류 가정에 비추어 현재 모델에는 순환 처리, 전역 작업공간, 통합된 행위 주체가 없다는 상당한 장애가 있다고 보았다. 동시에 이 장애가 앞으로 10년 안팎에 극복될 수 있으므로, 현재 모델에 의식이 있을 가능성은 낮은 편이지만 후속 모델에 의식이 생길 가능성은 진지하게 다루어야 한다고 결론지었다. 세스는 같은 시기에 계산 자체가 의식의 기반이 될 수 있다는 가정을 문제 삼았다. 같은 모델을 두고 버틀린 등과 차머스는 조건부로 가능성을 열어 두었고, 세스는 생물학적 조건을 들어 가능성을 낮게 보았다.
내부 분석 연구는 지향성의 후보와 접근 의식 쪽 기능을 점점 더 많이 보여 준다. 현상적 의식에 대해서는 계산적 기능주의를 가정하거나 생물학적 조건을 가정해야 판정이 나오며, 같은 증거를 두고도 어느 가정을 택하느냐에 따라 결론이 반대가 된다.
현재 AI에게 마음과 정신이 있는가라는 물음의 답은 두 부분으로 나뉜다. 생각하고 판단하고 자기 상태를 보고하는 지적 기능, 곧 블록이 말한 접근 의식 쪽의 정신은 대화와 내부 분석으로 상당 부분 관찰되며, 앤트로픽의 내성 실험처럼 그 정도를 수치로 재는 연구도 나왔다. 그 기능에 AI 자신에게 어떠한 경험이 따르는가, 곧 현상적 의식으로서의 마음은 어떤 관찰로도 직접 확인되지 않았다.
이 판단의 근거는 세 가지다. 대화와 자기 보고는 사람이 쓴 글을 학습한 결과이므로 현상적 의식의 증거가 되지 못한다. 내부 분석은 접근 의식 쪽 기능을 재며, 실험을 수행한 기업 스스로 현상적 의식에 관해서는 말해 주는 바가 없다고 밝혔다. 현상적 의식에 관한 판정은 이론을 따라간다. 필페이퍼스 설문에서 물리주의를 받아들인 철학자의 54.8퍼센트, 거부한 철학자의 26.7퍼센트가 미래 AI의 의식을 인정했고, 가장 체계적인 평가인 버틀린 등의 보고서도 계산적 기능주의를 가정하고서야 결론을 냈다.
그래서 답은 어느 이론을 받아들이느냐에 따라 정해진다. 실체이원론과 설의 입장에서는 현재 AI에 마음이 없다. 세스의 생물학적 자연주의에서는 현재 경로의 AI가 의식을 가질 가능성이 낮다. 기능주의에서는 현재 모델 가운데 의식의 강력한 후보로 보이는 시스템이 없으므로 의식이 없을 가능성이 높고, 필요한 기능을 갖춘 후속 모델에는 의식이 생길 수 있다. 쟁점은 AI의 성능보다 마음이 무엇으로 이루어졌는가라는 오래된 물음에 있다.
남은 물음은 의식을 판정하는 검사가 특정 이론에 기대지 않고 성립할 수 있느냐다. 이 물음은 AI에만 걸린 것이 아니다. 같은 필페이퍼스 설문에서 물고기 가운데 의식이 있는 개체가 있다는 응답은 65.29퍼센트였고, 파리에 대해서는 인정이 34.52퍼센트, 부정이 38.37퍼센트로 부정 쪽이 더 많았다. 사람이 아닌 존재의 마음을 판정할 기준에 합의가 없다는 점은 동물과 AI에 공통으로 해당한다. AI가 스스로 경험이 있다고 말하든 없다고 말하든 이 상태는 바뀌지 않는다. 판정이 달라지려면 AI에 관한 새 관찰보다 먼저 의식을 판정하는 기준에 관한 합의가 나와야 한다.