사색
인공지능이 인간의 사고력을 갉아먹는다는 걱정은 새로운 것이 아니다. 같은 형태의 걱정이 문자·인쇄술·계산기·검색엔진 앞에서 되풀이됐고, 그때마다 걱정은 빗나갔다는 반박도 함께 되풀이됐다. 그런데 되풀이의 목록을 나열하는 것만으로는 아무것도 정해지지 않는다. 2400년 전의 그 경고를 원래 논증까지 따라가 보면, 겨눠진 과녁이 기억력이 아니었다는 사실이 드러난다.
플라톤의 대화편 『파이드로스』 274c~275b에는 짧은 설화가 하나 들어 있다. 이집트의 신 테우트가 파라오 타무스를 찾아가 자기가 만든 것들을 바친다. 수와 계산, 기하학과 천문학, 그리고 마지막으로 문자다. 테우트는 문자를 두고 이집트인을 더 지혜롭고 기억력 좋은 사람으로 만들어 줄 것이라 자랑하며, 자신이 기억과 지혜의 파르마콘(φάρμακον)을 찾아냈다고 말한다. 파르마콘은 고대 그리스어에서 약을 뜻하는 동시에 독을 뜻한다.
τοῦτο δέ, ὦ βασιλεῦ, τὸ μάθημα σοφωτέρους Αἰγυπτίους καὶ μνημονικωτέρους παρέξει· μνήμης τε γὰρ καὶ σοφίας φάρμακον ηὑρέθη.
임금님, 이 배움은 이집트인을 더 지혜롭고 더 잘 기억하는 사람으로 만들어 줄 것입니다. 기억과 지혜의 약을 찾아냈으니 말입니다.
『파이드로스』 274e, 테우트의 말
왕은 선물을 받지 않는다. 대신 같은 단어를 되받아 뒤집는다.
ὦ τεχνικώτατε Θεύθ, ἄλλος μὲν τεκεῖν δυνατὸς τὰ τέχνης, ἄλλος δὲ κρῖναι τίν᾽ ἔχει μοῖραν βλάβης τε καὶ ὠφελίας τοῖς μέλλουσι χρῆσθαι· καὶ νῦν σύ, πατὴρ ὢν γραμμάτων, δι᾽ εὔνοιαν τοὐναντίον εἶπες ἢ δύναται. τοῦτο γὰρ τῶν μαθόντων λήθην μὲν ἐν ψυχαῖς παρέξει μνήμης ἀμελετησίᾳ, ἅτε διὰ πίστιν γραφῆς ἔξωθεν ὑπ᾽ ἀλλοτρίων τύπων, οὐκ ἔνδοθεν αὐτοὺς ὑφ᾽ αὑτῶν ἀναμιμνῃσκομένους· οὔκουν μνήμης ἀλλὰ ὑπομνήσεως φάρμακον ηὗρες. σοφίας δὲ τοῖς μαθηταῖς δόξαν, οὐκ ἀλήθειαν πορίζεις· πολυήκοοι γάρ σοι γενόμενοι ἄνευ διδαχῆς πολυγνώμονες εἶναι δόξουσιν, ἀγνώμονες ὡς ἐπὶ τὸ πλῆθος ὄντες, καὶ χαλεποὶ συνεῖναι, δοξόσοφοι γεγονότες ἀντὶ σοφῶν.
재주가 누구보다 뛰어난 테우트여, 기술을 낳는 능력을 지닌 자와, 그 기술이 쓰는 이들에게 얼마만큼의 해와 이로움을 가져올지 판별하는 자는 서로 다른 사람이오. 그런데 지금 그대는 문자의 아버지인 까닭에, 애정 때문에 그것이 실제로 지닌 힘과 정반대되는 말을 했소. 이것은 배우는 자들의 영혼에 망각을 낳을 것이오. 기억을 단련하지 않게 되기 때문이지. 그들은 글에 의지한 나머지 바깥에서, 자기 것이 아닌 남의 표시에 기대어 떠올릴 뿐, 안에서 스스로의 힘으로 떠올리지 않게 되오. 그러니 그대가 찾아낸 것은 기억의 약이 아니라 상기(想起)의 약이오. 또 그대는 배우는 자들에게 지혜의 진실이 아니라 지혜라는 겉모습을 줄 뿐이오. 가르침 없이 많이 주워듣기만 한 그들은 많이 아는 듯 보이겠지만 대개는 무지할 것이고, 함께 지내기 어려운 자들이 될 것이오. 지혜로운 자가 아니라 지혜로워 보이는 자가 되었으니 말이오.
『파이드로스』 274e~275b, 타무스의 답변
널리 인용되는 것은 망각을 말한 한 문장뿐이다. 그러나 왕의 답변에서 무게가 실린 곳은 마지막 낱말이다. 지혜로운 자(σοφοί)가 아니라 지혜로워 보이는 자(δοξόσοφοι)가 된다는 것. 앞부분만 떼어 읽으면 암기력을 잃는다는 경고가 되지만, 끝까지 읽으면 문제는 기억의 양이 아니라 앎의 겉모습이 된다.
고발은 하나가 아니라 셋이다. 첫째, 기억을 쓰지 않게 만든다. 둘째, 글은 그림처럼 침묵한다 — 무엇을 물어도 늘 같은 말만 되풀이한다. 셋째, 글은 자기 아버지 없이 아무 데나 굴러다니며, 오해를 받아도 스스로를 변호하지 못한다. 첫째만 떼어 인용하면 이 경고는 암기력 예찬처럼 읽힌다. 셋을 함께 놓으면 다른 것이 보인다. 왕이 문제 삼은 것은 앎의 양이 아니라, 앎에 대해 대답할 수 있는 자가 그 자리에 있는지 여부다. 물어도 답하지 않고, 틀려도 책임질 사람이 없는 앎. 망각은 그 상태의 증상이지 병 자체가 아니다.
δεινὸν γάρ που, ὦ Φαῖδρε, τοῦτ᾽ ἔχει γραφή, καὶ ὡς ἀληθῶς ὅμοιον ζωγραφίᾳ. καὶ γὰρ τὰ ἐκείνης ἔκγονα ἕστηκε μὲν ὡς ζῶντα, ἐὰν δ᾽ ἀνέρῃ τι, σεμνῶς πάνυ σιγᾷ. ταὐτὸν δὲ καὶ οἱ λόγοι· δόξαις μὲν ἂν ὥς τι φρονοῦντας αὐτοὺς λέγειν, ἐὰν δέ τι ἔρῃ τῶν λεγομένων βουλόμενος μαθεῖν, ἕν τι σημαίνει μόνον ταὐτὸν ἀεί. ὅταν δὲ ἅπαξ γραφῇ, κυλινδεῖται μὲν πανταχοῦ πᾶς λόγος ὁμοίως παρὰ τοῖς ἐπαΐουσιν, ὡς δ᾽ αὕτως παρ᾽ οἷς οὐδὲν προσήκει, καὶ οὐκ ἐπίσταται λέγειν οἷς δεῖ γε καὶ μή. πλημμελούμενος δὲ καὶ οὐκ ἐν δίκῃ λοιδορηθεὶς τοῦ πατρὸς ἀεὶ δεῖται βοηθοῦ· αὐτὸς γὰρ οὔτ᾽ ἀμύνασθαι οὔτε βοηθῆσαι δυνατὸς αὑτῷ.
파이드로스여, 글에는 참으로 묘한 데가 있어서 그림과 꼭 닮았소. 그림이 낳은 것들은 살아 있는 듯 서 있지만, 무엇 하나 물어보면 자못 근엄하게 침묵하지. 글도 마찬가지요. 무언가 아는 듯이 말한다고 여기겠지만, 그 말한 바를 배우려고 물으면 언제나 똑같은 한 가지만 가리킬 뿐이오. 그리고 한번 쓰이고 나면 모든 말은 알아듣는 이들에게든 아무 상관 없는 이들에게든 똑같이 아무 데나 굴러다니며, 누구에게 말해야 하고 누구에게 말하지 말아야 하는지를 알지 못하오. 부당한 취급을 받고 억울하게 욕을 먹어도 언제나 아버지의 도움을 필요로 하지. 스스로는 자기를 지킬 수도 도울 수도 없기 때문이오.
『파이드로스』 275d~e, 소크라테스의 말
이 경고에는 잘 알려진 역설이 붙어 있다. 소크라테스는 한 줄도 쓰지 않았고, 이 비판은 플라톤이 글로 적어 남긴 덕분에 오늘까지 전해진다. 자크 데리다는 1968년 논문 「플라톤의 약국」에서 이 대목을 파고들어, 파르마콘이라는 한 단어가 약과 독 어느 한쪽으로 정리되기를 거부한다는 점을 보였다. 번역자가 그 말을 '치료제'로 옮기든 '독'으로 옮기든 원문에는 없는 결정을 대신 내리는 셈이라는 것이다. 기술 비판의 문법이 처음부터 결정 불가능한 자리에서 출발했다는 뜻이기도 하다.
같은 형태의 걱정은 이후에도 반복됐다. 자주 인용되는 사례가 15세기 독일 슈폰하임 수도원장 요하네스 트리테미우스다. 그는 1492년 『필경사 예찬(De laude scriptorum)』을 써서 손으로 베껴 쓰는 전통을 옹호했다. 이 일화는 대개 "인쇄술이 나오자 수도원장이 사람들 게을러진다고 한탄했다"는 한 줄로 소비된다. 두 가지가 빠져 있다.
첫째는 그가 인쇄술을 배척하지 않았다는 사실이다. 『필경사 예찬』은 1494년 마인츠에서 인쇄본으로 출간됐다. 그는 인쇄술을 경이로운 기술이라 불렀고, 인쇄본을 사들여 수도원 장서를 마흔 권에서 이천 권 규모로 늘렸으며, 자기 저작 서른 종 남짓이 15세기 안에 인쇄본으로 나왔다. 신기술을 거부한 사람의 행적이 아니다.
둘째는 그의 논지가 생산성이 아니라 형성(形成)에 관한 것이었다는 점이다. 그가 지키려 한 것은 필사라는 노동이 필경사 자신에게 남기는 흔적이었다. 한 글자씩 옮겨 쓰는 동안 텍스트와 맺어지는 관계는 다른 공정으로 대체되지 않는다는 주장이다. 물론 그의 예측 가운데 틀린 것도 있다. 종이에 찍은 책은 금방 사라지고 양피지 필사본만 남으리라고 했지만, 가장 오래된 인쇄본들이 지금도 남아 있다.
여기서 이 사례가 흔히 쓰이는 방식이 무너진다. "기술 비관론은 늘 틀렸다"는 목록에 트리테미우스를 올려놓으려면 그가 인쇄술 자체를 반대했어야 한다. 그는 반대하지 않았다. 그가 던진 물음은 산출물이 아니라 산출 과정에 관한 것이었고, 그 물음은 아직 반박되지 않았다. 인쇄된 책이 필사본보다 정확하고 널리 퍼졌다는 사실은, 필사하는 동안 사람 안에서 벌어지던 일이 무엇이었는지에 대해 아무 말도 해 주지 않는다. 두 질문은 서로 다른 것을 묻는다.
실증 자료가 있는 사례로 옮겨 보면 사정은 더 분명해진다. 계산기가 교실에 들어올 때도 암산 능력이 사라진다는 경고가 쏟아졌고, 이후 축적된 연구는 그 경고를 대체로 기각했다. 레이 헴브리와 도널드 데사트가 1986년 『수학교육연구지(Journal for Research in Mathematics Education)』에 발표한 메타분석 — 여러 연구의 결과를 통계적으로 합산해 전체 경향을 보는 방법이다 — 은 79편의 연구를 종합해, 계산기를 기존 수학 수업과 함께 쓴 학생들이 종이와 연필로 푸는 기초 계산과 문장제 풀이 모두에서 평균적으로 더 나았다고 보고했다. 계산기를 쓴 학생들은 수학에 대한 태도와 자기 인식도 더 좋았다.
그런데 이 결과에는 예외가 하나 있다. 4학년이다. 4학년에서 계산기를 지속적으로 사용한 경우에는 평균적인 학생의 기초 계산 능력 발달이 저해되는 것으로 나타났다. 구구단을 비롯한 기본 연산이 몸에 붙는 바로 그 시기다.
계산기 연구가 말한 것은 "외부 도구는 인지 능력을 해치지 않는다"가 아니다. "그 능력이 형성되는 중이 아닐 때는 해치지 않는다"이다. 두 문장은 전혀 다른 주장이며, 교육 현장에서 갈리는 지점도 정확히 여기다.
이 구분은 인공지능 논쟁에 그대로 옮겨진다. 이미 판단력을 갖춘 사람이 초안 작성을 맡기는 일과, 판단력이 형성되는 중인 사람이 같은 일을 맡기는 것은 같은 행위가 아니다. 도구가 능력을 대체하는지를 묻는 대신 그 능력이 언제 만들어지는지를 물어야 한다는 뜻이다. 트리테미우스의 물음이 4학년 교실에서 숫자로 확인된 셈이다.
"기술은 오히려 인류를 똑똑하게 만들었다"는 반박은 대개 플린 효과를 근거로 든다. 20세기 내내 여러 나라에서 지능검사 평균 점수가 세대마다 꾸준히 올랐고, 이를 처음 체계적으로 정리한 심리학자 제임스 플린의 이름이 붙었다. 문자 해득률과 학교 교육의 확산이 인류 전체의 인지 수행을 끌어올렸다는 서사가 여기에 얹힌다.
그 곡선은 꺾였다. 베른트 브라츠베르그와 올레 로게베르그가 2018년 『미국국립과학원회보(PNAS)』에 낸 연구는 1962년부터 1991년까지 태어난 노르웨이 남성 징집자 73만여 명의 인지검사 자료를 분석해, 점수가 1975년 출생 코호트에서 정점을 찍고 그 뒤 해마다 0.2점가량 떨어졌음을 보였다. 노르웨이만의 현상도 아니어서 덴마크·핀란드·프랑스·영국의 대규모 자료에서도 1990년대 중반 이후 정체나 하락이 관측됐다.
이 연구가 결정적인 이유는 하락의 크기보다 그것이 어디서 왔는지를 가려냈다는 데 있다. 하락은 같은 집안 형제들 사이에서도 나타났다. 늦게 태어난 동생이 형보다 낮은 점수를 받았다. 부모 세대의 구성이 달라졌다거나 이민이 평균을 끌어내렸다는 설명은 형제 비교 앞에서 성립하지 않는다. 유전적 선택으로도 설명되지 않는다. 남는 것은 환경이다. 논문 제목이 그대로 결론이다. 플린 효과도 그 역전도 모두 환경이 만들었다.
같은 지표가 양쪽 주장을 다 배신한다. 상승 국면을 근거로 기술 확산의 인지적 효용을 말하려면, 하락 국면도 같은 논리로 기술 확산에 귀속시켜야 한다. 그렇게 하지 않으려면 상승 국면의 공로도 되돌려 놓아야 한다. 어느 쪽도 하지 않은 채 필요한 구간만 인용하는 것이 이 논쟁의 흔한 관행이다. 게다가 하락의 원인으로 지목된 환경 요인은 아직 특정되지 않았다. 교육 방식의 변화, 여가 시간의 구성, 검사 자체와 학교 교과의 어긋남이 모두 후보로 남아 있다. 지능검사 곡선은 이 물음에 답을 주는 자료가 아니라, 답이 아직 없다는 사실을 알려 주는 자료다.
더 근본적인 문제도 있다. 지능검사는 정해진 시간 안에 정답이 있는 문제를 얼마나 푸는지를 잰다. 그것은 앎의 양과 속도에 관한 측정이다. 왕이 문제 삼은 것은 정답률이 아니라 대답할 수 있는 자의 유무였다. 논쟁의 두 진영이 같은 곡선을 놓고 다투는 동안, 원래의 물음은 측정 대상에서 빠져 있었다.
기억을 바깥에 두는 일이 그 자체로 결손인가. 이 물음에 정면으로 답한 것이 앤디 클라크와 데이비드 차머스가 1998년 발표한 논문 「확장된 마음」이다. 마음이 두개골 안에서 끝나지 않고 외부 사물까지 포함할 수 있다는 주장이며, 다음 사고실험으로 논증된다.
잉가는 미술관에 가려고 한다. 기억을 더듬어 53번가라는 답을 떠올리고 그리로 간다. 오토는 알츠하이머병 초기 환자로, 필요한 정보를 늘 수첩에 적어 두고 다닌다. 그는 수첩을 펴 53번가를 확인하고 그리로 간다. 두 사람의 행동은 같고, 정보가 놓인 자리만 다르다. 클라크와 차머스는 묻는다. 잉가가 미술관 위치를 믿고 있었다고 말할 수 있다면, 오토도 그렇게 말할 수 있어야 하지 않는가. 그렇다면 수첩의 문장은 오토의 믿음을 실현하는 물리적 매체이며, 그런 의미에서 그의 기억의 일부다.
다만 아무 외부 사물이나 마음이 되는 것은 아니다. 두 사람은 네 가지 조건을 붙였다.
첫째, 그것은 삶에서 항상적이다. 관련된 상황에서 그것을 참조하지 않고 행동하는 일이 거의 없다. 둘째, 담긴 정보에 어려움 없이 곧바로 접근할 수 있다. 셋째, 꺼내 온 정보를 자동으로 승인한다. 넷째, 그 정보는 과거 어느 시점에 의식적으로 승인되었고, 그 승인의 결과로 거기에 놓여 있다.
인지 기능을 바깥에 넘기는 일은 이렇게 보면 능력의 상실이 아니라 위치의 재배치다. 베르나르 스티글레르는 여기서 한 걸음 더 나아가, 왕이 갈라놓은 두 항을 뒤집는다. 밖에 새겨진 기억이 안의 사유를 잠식하는 것이 아니라, 밖에 새겨진 기억이 있어야 안의 사유가 비로소 가능해진다는 것이다. 문자가 없었다면 플라톤을 읽을 수 없고, 읽지 못했다면 문자를 비판하는 사유도 없었다. 왕의 논증은 자기가 서 있는 발판을 부정한다.
실증 쪽에서 가장 자주 인용되는 것은 베치 스패로와 동료들이 2011년 『사이언스』에 발표한 이른바 구글 효과다. 나중에 다시 찾아볼 수 있으리라 기대하면 사람들은 정보 자체를 덜 기억하고 대신 그것을 어디서 찾는지를 더 잘 기억한다는 결과다. 무엇을 아는가에서 어디서 찾는가로 기억의 대상이 옮겨 갔다는 이야기로 널리 인용된다.
다만 이 연구를 인용할 때는 단서를 함께 달아야 한다. 네 개의 실험 가운데 첫 번째 — 어려운 질문을 받은 뒤 인터넷 관련 단어에 반응이 느려진다는 이른바 '구글 스트룹 효과' — 는 콜린 카머러 등이 2018년 수행한 사회과학 재현 프로젝트에서 두 차례 재현에 모두 실패했다. 원저자의 개선 제안을 반영해 다시 설계한 2020년 베를린의 후속 실험에서도 효과는 확인되지 않았다. 널리 인용되는 개념의 실험적 토대가 부분적으로 무너져 있다는 뜻이다. 인지의 외부화라는 그림 자체가 틀렸다는 말은 아니지만, 이 한 편으로 그 그림이 입증됐다고 말할 수는 없다.
확장된 마음 논제를 인공지능에 그대로 적용하려는 시도는 자연스럽다. 수첩이 오토의 기억이라면, 대화창도 사용자의 기억이 아닐 이유가 없어 보인다. 그런데 네 조건을 하나씩 대 보면 마지막 하나에서 유비가 끊긴다.
항상성은 성립한다. 즉시성도 성립한다. 자동 승인은 — 이것이 문제이긴 하지만 — 현실에서 대체로 일어난다. 무너지는 것은 네 번째다. 오토의 수첩에 적힌 문장은 오토 자신이 과거에 확인하고 승인해서 거기 놓인 것이다. 수첩은 그가 이미 한 번 통과시킨 판단을 되돌려 준다. 대규모 언어모델(LLM)이 내놓는 문장은 그렇지 않다. 사용자가 그것을 승인한 적이 없고, 승인한 다른 누구도 특정되지 않는다. 그 문장은 처음 보는 것이고, 보는 순간 이미 답의 형태를 하고 있다.
차이는 저장과 생성의 차이로 요약된다. 수첩과 도서관과 검색엔진은 누군가가 어느 시점에 써서 넣어 둔 것을 돌려준다. 출처를 거슬러 올라가면 사람이 나온다. 생성형 인공지능은 학습한 것을 재료로 그 자리에서 새 문장을 만든다. 거슬러 올라가면 확률분포가 나온다. 앎이 놓인 위치가 바깥으로 옮겨 갔다는 점은 같지만, 옮겨 간 곳에 승인의 주체가 있느냐가 다르다.
이것은 도구의 성능에 관한 지적이 아니다. 모델의 정확도가 높아져도 네 번째 조건은 회복되지 않는다. 정확한 답을 내놓는 것과, 그 답을 누군가 책임지고 승인했다는 것은 별개의 사실이기 때문이다. 성능 향상으로 메울 수 있는 종류의 결여가 아니다.
승인의 주체가 비어 있어도 사용자는 대개 불편을 느끼지 않는다. 오히려 반대 방향의 일이 벌어진다.
매슈 피셔와 마리엘 고두, 프랭크 카일이 2015년 『실험심리학회지: 일반(Journal of Experimental Psychology: General)』에 발표한 아홉 개의 실험이 이를 다룬다. 참가자에게 "지퍼는 어떻게 작동하는가" 같은 일상적 질문을 주고, 한 집단은 인터넷으로 답을 찾게 하고 다른 집단은 검색을 금지했다. 그다음 전혀 다른 영역의 질문들을 제시하고 자신이 얼마나 잘 설명할 수 있을지 스스로 평가하게 했다. 검색한 집단이 일관되게 자기 지식을 높게 평가했다. 검색 시간과 내용, 검색의 자율성을 통제해도 결과는 유지됐다. 검색으로 아무것도 찾지 못한 경우에도 마찬가지였다.
가장 인상적인 것은 뇌 활동 그림을 이용한 실험이다. 검색한 집단은 무관한 질문에 답하는 동안 자기 뇌가 더 활발하게 작동하는 쪽 영상을 골랐다. 바깥에 있는 정보에 닿았다는 사실이 자기 머릿속의 상태에 대한 판단까지 밀어 올린 것이다. 접근 가능성이 이해로 오인된다.
인공지능 환경에서 이 착각이 어떻게 나타나는지에 관한 자료도 쌓이고 있다. 마이크로소프트 리서치와 카네기멜런대학교 연구진이 2025년 인간-컴퓨터 상호작용 학술대회 CHI에서 발표한 조사는 생성형 인공지능을 주 1회 이상 업무에 쓰는 지식노동자 319명에게 실제 사용 사례 936건을 진술받아 분석했다. 결과의 방향은 둘로 갈렸다. 도구에 대한 신뢰가 높을수록 비판적 검토를 덜 했고, 자기 능력에 대한 신뢰가 높을수록 더 했다. 두 신뢰가 반대로 작동한다.
같은 조사는 인공지능이 쓰이는 업무에서 인지적 노력의 성격이 바뀐다고 정리한다. 정보를 모으는 일에서 정보를 검증하는 일로, 문제를 푸는 일에서 나온 답을 통합하는 일로, 직접 하는 일에서 감독하는 일로 옮겨 간다는 것이다. 총량이 줄어든다기보다 앞단이 줄고 뒷단이 늘어난다.
여기서 왕의 마지막 문장이 되살아난다. 지혜로운 자가 아니라 지혜로워 보이는 자가 된다는 말은, 2400년 뒤 자기 설명 능력에 대한 자기 평가라는 형태로 실험실에서 측정됐다. 다만 방향은 왕의 예상과 조금 다르다. 착각의 대상은 기억의 양이 아니라 이해의 깊이다. 무엇을 외우고 있는지를 착각하는 것이 아니라, 무엇을 설명할 수 있는지를 착각한다.
세 고발을 지금의 도구에 하나씩 대 보면 결과가 고르지 않다.
| 고발 | 문자 | 생성형 인공지능 |
|---|---|---|
| 기억을 쓰지 않게 만든다 | 해당한다. 다만 그 대가로 분석과 축적이 열렸다. |
해당한다. 기억뿐 아니라 초안을 짜는 단계까지 넘어간다. |
| 물어도 같은 말만 되풀이한다 | 해당한다. 책은 되묻는 독자에게 침묵한다. |
해당하지 않는다. 되물으면 다르게 답하고 예시를 바꿔 준다. |
| 아버지 없이 떠돌며 스스로를 변호하지 못한다 | 부분적으로 해당한다. 저자를 특정할 수 있고 원문에 물을 수 있다. |
전면적으로 해당한다. 대답하는 자는 있으나 책임지는 자가 없다. |
두 번째 고발은 무효가 됐다. 생성형 인공지능은 되묻는 사람에게 답한다. 설명을 바꾸고, 수준을 조정하고, 반례를 요구하면 반례를 내놓는다. 소크라테스가 대화에만 가능하다고 본 성질을 기계가 흉내 낸다. 문자에 대한 그의 비판 가운데 가장 강력했던 항목이 기술적으로 해소된 셈이다.
세 번째 고발은 반대로 커졌다. 책에는 저자가 있다. 틀린 문장에 대해 물을 대상이 있고, 그 사람의 다른 저작과 대조할 수 있으며, 학계라면 반박문이 실린다. 모델의 출력에는 그런 대상이 없다. 출처를 물으면 출처처럼 생긴 문장이 돌아오고, 그 문장이 실재하는지는 다시 사람이 확인해야 한다. 왕이 "아버지 없이 떠돈다"고 표현한 상태가, 되묻기가 가능해진 만큼 오히려 눈에 덜 띄게 됐다.
대답의 유창함과 책임의 소재가 분리된 것이 지금 상황의 특징이다. 문자는 침묵함으로써 자신이 사람이 아님을 계속 알렸다. 대화형 인터페이스는 그 표시를 지운다. 착각이 깊어지는 조건은 정확히 여기서 마련된다.
실험 자료는 한 방향을 가리키지 않는다. 서로 다른 방향을 가리키는 두 연구를 나란히 놓아야 무엇이 갈리는지가 보인다.
나탈리야 코스미나를 비롯한 매사추세츠공과대학교 미디어랩 연구진은 2025년 6월 공개한 연구에서, 참가자 54명을 세 집단으로 나눠 같은 조건으로 세 차례 에세이를 쓰게 했다. 한 집단은 대규모 언어모델을 쓰고, 한 집단은 검색엔진만 쓰고, 한 집단은 아무 도구도 쓰지 않았다. 쓰는 동안 뇌전도(EEG)로 뇌 활동을 기록했다. 뇌 영역 간 연결성은 외부 도구의 도움이 클수록 약해졌다. 도구 없이 쓴 집단이 가장 넓고 강한 연결을 보였고, 검색엔진 집단이 중간, 언어모델 집단이 가장 약했다. 네 번째 회차에서 집단을 서로 바꿨을 때, 앞서 모델을 쓰던 사람들은 도구 없이 쓰면서도 알파·베타 대역 연결이 낮게 유지됐다. 자기가 쓴 글에 대한 소유감은 모델 집단에서 가장 낮았고, 자기 글을 정확히 인용하는 데도 어려움을 겪었다.
이 연구는 학술지 심사를 거치지 않은 사전공개 논문이며, 2025년 12월 밀로시 스탄코비치를 비롯한 빈대학교·드레스덴공과대학교 연구자들이 반론을 냈다. 표본이 작다는 점, 뇌전도 분석 방법의 문제, 결과 보고의 불일치, 재현 가능성의 한계를 지적하며 결과를 더 보수적으로 읽어야 한다는 내용이다. '인지 부채'라는 표현이 논문의 제목에서 언론의 표제로 옮겨 가는 동안 54명이라는 표본 크기는 대체로 함께 옮겨 가지 않았다.
반대 방향의 자료는 파브리치오 델아쿠아와 하버드경영대학원 연구진이 보스턴컨설팅그룹과 함께 2023년 수행한 현장 실험이다. 컨설턴트 758명에게 실제 업무와 비슷한 과제 18종을 주고, 인공지능 접근 없음·GPT-4 접근·GPT-4 접근에 사용법 안내 추가의 세 조건으로 나눴다. 모델의 능력 범위 안에 있는 과제에서 인공지능을 쓴 집단은 과제 완수율이 12.2% 높았고, 25.1% 빨리 끝냈으며, 평가자들이 매긴 결과물 품질이 40% 이상 높았다. 그리고 이득의 분포가 고르지 않았다. 기존 성과가 하위권이던 사람들의 향상 폭이 상위권보다 두 배 이상 컸다.
다만 같은 실험에서 반대 결과도 나왔다. 모델의 능력 범위 바깥에 있는 과제에서는 인공지능을 쓴 쪽이 쓰지 않은 쪽보다 정답률이 19퍼센트포인트 낮았다. 연구진이 '들쭉날쭉한 기술 경계'라고 부른 것이 이것이다. 겉보기 난도가 비슷한 두 과제 가운데 하나는 모델이 잘 해내고 하나는 못 해내는데, 사용자는 그 경계가 어디인지 미리 알 수 없다.
한쪽은 학생에게 시험용 에세이를 쓰게 했고, 다른 쪽은 숙련된 전문가에게 자기 분야의 과제를 주었다. 한쪽에서 측정한 것은 쓰는 동안의 뇌 활동과 사후 회상이고, 다른 쪽에서 측정한 것은 산출물의 품질이다. 한쪽 참가자는 결과물을 판정할 기준을 아직 갖추지 못했고, 다른 쪽 참가자는 갖추고 있었다.
계산기 메타분석의 4학년이 여기 다시 나타난다. 판정 기준이 있는 사람에게 도구는 증폭기로 작동하고, 그 기준이 형성되는 중인 사람에게는 형성을 건너뛰게 하는 우회로가 된다.
이 자료들이 어디서 나왔는지도 함께 보아야 한다. 미디어랩 연구는 전용 웹사이트와 함께 공개돼 심사 이전 단계에서 대중적으로 유통됐고, 자극적으로 요약되기 쉬운 개념어를 제목에 넣었다. 마이크로소프트 리서치의 조사는 문제를 진단한 뒤 해법으로 도구 설계의 개선을 제시하는데, 그 회사는 해당 도구를 만들어 파는 곳이다. 보스턴컨설팅그룹 실험은 피험자가 그 회사 컨설턴트이고, 그 회사의 사업 가운데 하나가 기업의 인공지능 도입 자문이다. 어느 것도 결과를 무효로 만들지 않는다. 다만 어떤 결과가 어떤 형태로 강조되고 무엇이 여백으로 남는지는 발화 위치와 무관하지 않다.
지금까지의 자료는 한 가지를 공통으로 가리킨다. 갈리는 것은 도구가 아니라 도구가 놓이는 자리다. 그런데 어떤 자리가 위탁해도 되는 자리인지를 정하려면 앎을 한 덩어리로 다루기를 그만두어야 한다.
한나 아렌트가 『정신의 삶』에서 칸트를 빌려 세운 구분이 여기에 쓸모가 있다. 칸트가 지성(Verstand)과 이성(Vernunft)이라 부른 두 능력을 아렌트는 인식(knowing)과 사고(thinking)라는 두 활동으로 옮긴다. 인식은 감각이 주는 것을 붙잡아 참인 명제를 얻으려 한다. 목표는 진리이고, 결과물이 남으며, 오류는 새 사실로 교정된다. 사고는 다른 것을 좇는다. 그것이 있다는 사실은 전제로 두고, 그것이 있다는 것이 무슨 의미인지를 묻는다. 목표는 의미이고, 결과물이 남지 않으며, 물음은 답해지지 않은 채 되풀이된다.
아렌트는 이 둘을 혼동하는 것을 가장 근본적인 오류로 지목한다. 의미를 진리의 모형으로 해석하는 것, 즉 사고를 인식의 미완성 형태로 취급하는 것이다. 그는 아돌프 아이히만의 재판을 지켜본 경험에서 이 구분의 무게를 끌어냈다. 아이히만의 문제는 자기가 무엇을 하는지 몰랐다는 데 있지 않았다. 자기가 무엇을 하는지 사고하지 않았다는 데 있었다. 그런 종류의 결여는 정보를 더 주어서 메워지지 않는다.
이 구분은 위탁의 경계를 그린다. 인식은 위탁할 수 있다. 답이 있고 검증할 수 있는 일은 누가 하든 결과가 남고, 그 결과를 다시 확인할 수 있다. 문자·인쇄술·계산기·검색엔진이 넘겨받은 것이 이것이며, 넘겨받은 뒤 인류의 형편은 대체로 나아졌다. 사고는 위탁할 수 없다. 위탁하면 대체되는 것이 아니라 없어진다. 결과물이 남지 않는 활동이므로 대신 해 준 것을 받아 볼 방법 자체가 없기 때문이다. 남는 것은 사고의 산물처럼 보이는 문장뿐이다.
생성형 인공지능이 이전 도구와 갈리는 지점이 여기다. 계산기는 계산만 가져갔고 계산은 인식에 속한다. 언어모델은 문장을 가져가는데, 문장은 인식의 결과이기도 하고 사고의 흔적이기도 하다. 둘은 겉으로 구별되지 않는다. 판단이 담긴 문단과 판단이 담긴 것처럼 보이는 문단은 읽어서 가려낼 수 없고, 쓴 사람 자신도 종종 가려내지 못한다. 미디어랩 실험에서 모델을 쓴 참가자들이 자기 글에 대한 소유감을 낮게 보고하고 자기가 쓴 문장을 정확히 인용하지 못했다는 결과는, 그 구별이 실제로 흐려진 상태를 보여 준다.
"기술이 인간을 멍청하게 만드는가"라는 물음은 애초에 잘못 세워져 있다. 이 글이 따라온 자료들은 그 물음이 답을 얻지 못하는 이유를 세 갈래로 보여 준다.
첫째, 물음이 겨눈 과녁이 원래의 과녁이 아니다. 『파이드로스』의 고발은 셋이었고 기억은 그중 하나였다. 나머지 둘 — 물어도 답하지 않는다, 아버지 없이 떠돌며 스스로를 변호하지 못한다 — 은 앎에 대해 대답할 수 있는 자가 그 자리에 있는지를 묻는다. 지능검사 곡선은 이 물음을 재지 않는다. 그래서 플린 효과의 상승도, 노르웨이 형제 자료에서 확인된 1975년생 이후의 하락도, 어느 쪽 진영에도 결정적인 근거가 되지 못한다.
둘째, 도구가 능력을 대체하는지가 아니라 능력이 언제 만들어지는지가 갈림길이다. 계산기 메타분석은 모든 학년에서 무해했던 것이 아니라 4학년에서만 해로웠다. 컨설턴트 758명 실험에서 모델의 능력 범위 안 과제는 품질을 40% 이상 끌어올렸고 범위 밖 과제는 정답률을 19퍼센트포인트 떨어뜨렸다. 트리테미우스가 인쇄술을 쓰면서도 필사를 옹호했을 때 지키려 한 것도 산출물이 아니라 그 노동이 사람에게 남기는 흔적이었다. 판정 기준을 갖춘 사람에게 도구는 증폭기이고, 그 기준이 형성되는 중인 사람에게는 형성을 건너뛰게 하는 우회로다.
셋째, 외부화 자체는 결손이 아니지만 이번에는 한 조건이 빠져 있다. 오토의 수첩이 그의 기억일 수 있는 것은 거기 적힌 문장을 그가 과거에 승인해 넣었기 때문이다. 모델의 출력에는 그 승인이 없고, 승인한 다른 누구도 특정되지 않는다. 이것은 성능으로 메워지는 결여가 아니다. 그리고 승인의 부재는 잘 감춰진다. 검색만으로도 자기 설명 능력을 과대평가한다는 아홉 개의 실험 결과가 있고, 지식노동자 319명 조사에서는 도구를 신뢰할수록 검토를 덜 하고 자기 능력을 신뢰할수록 더 하는 반대 방향의 상관이 나왔다.
그래서 소크라테스는 틀리지 않았고 다만 정확하지 않았다. 문자는 기억을 약화시켰지만 그 대가로 축적과 대조와 반박을 가능하게 했고, 무엇보다 저자를 남겼다. 되묻지 못하는 대신 누가 썼는지는 남았다. 지금의 도구는 그 거래를 뒤집는다. 되묻기는 가능해졌고 저자는 사라졌다. 인식은 위탁할 수 있고 사고는 위탁하면 없어진다는 아렌트의 구분이 실질적인 무게를 갖는 것은 이 뒤집힘 때문이다.
남는 물음은 이 구분을 실제로 그을 수 있느냐다. 인식과 사고는 개념으로는 갈라지지만 문장으로는 갈라지지 않는다. 판단이 담긴 문단과 판단이 담긴 것처럼 보이는 문단은 읽어서 구별되지 않고, 쓴 사람 본인도 자주 구별하지 못한다. 논문 심사, 법정의 증거, 임상 판단, 학교의 평가처럼 "누가 이것을 승인했는가"를 전제로 굴러가는 제도들은 그 전제가 비어 있는 문서를 어떻게 다룰지를 아직 정하지 못했다. 출처 표기와 이용 고지는 승인의 자리를 표시할 뿐 채우지는 못한다.
파르마콘이 약인지 독인지는 2400년 동안 결정되지 않았다. 데리다가 지적한 대로 그 결정을 대신 내리는 번역은 원문에 없는 것을 집어넣는 일이다. 지금 벌어지는 논쟁도 같은 자리에 서 있다. 다만 이번에는 그 단어가 물으면 대답을 한다.
인용한 그리스어 원문은 존 버넷이 교정한 『플라톤 전집(Platonis Opera)』(Oxford, 1903)을 따랐고, 우리말 옮김은 새로 했다.