케일럽 그로스(Caleb Gross)가 최근 자신의 사이트에 “You can just say it”(그냥 말하면 된다)이라는 짧은 글을 올렸다. AI(인공지능) 시대에 인간의 가치를 변호하는 흔한 논법을, 그는 이렇게 정리한다. 어떤 역할은 인간이 더 잘하니까, 결과물이 비슷해 보여도 인간의 것에는 기계가 따라오지 못하는 미묘한 결이 있으니까, 적어도 AI는 그 결을 일관되게 재현하진 못하니까. 골대 밑동에 긁힌 자국이 보이지 않느냐고 그는 묻는다. 논거가 막힐 때마다 골대를 옮겨온 흔적이라는 것이다.
이 논법의 약점은 분명하다. 모두가 인간과 AI 사이의 능력 격차에 기대고 있는데, 그 격차는 줄어드는 중이다. 격차가 메워지는 순간 “그러므로 인간은 가치 있다”는 결론도 함께 무너진다. 그로스의 대안은 간결하다. 조건을 달지 말고 그냥 인간은 가치 있다고 말하라. 그 명제는 최신 모델이 어떤 시험에서 몇 점을 받았는가에 좌우되지 않는, 훨씬 견고한 진술이다.
이 출발점은 옳다. 가치를 성능에 조건부로 묶는 순간, 능력이 떨어지는 사람—장애가 있거나, 늙었거나, 아직 서툰 사람—의 존엄도 함께 흔들린다는 함의가 따라온다. 칸트의 존엄 개념이든, 인간이 신의 형상으로 지어졌다는 오랜 신학적 직관이든, 이 반론은 이미 정리되어 있다. 공교롭게도 시의적절하게, 레오 14세 교황의 첫 회칙 『마니피카 후마니타스』(Magnifica Humanitas, 인공지능 시대 인간의 보호)가 같은 자리를 짚는다. 인간을 완성하거나 능가해야 할 대상으로 다루기 시작하면, 어떤 생명은 덜 유용하고 덜 가치 있다는 생각을 받아들이기 쉬워진다는 것이다. 인간의 존엄은 그의 쓸모에 달려 있지 않다. 그러니 “인간은 가치 있다, 끝”이라는 명제의 토대 자체는 단단하다.
문제는 그다음에 있다. 글은 ‘가치’라는 한 단어를 서로 다른 두 뜻 사이에서 미끄러뜨린다. 하나는 인격의 도덕적 가치다. 이것은 무조건적이고, 그로스의 말처럼 그냥 말하면 되는 것이다. 다른 하나는 특정 역할에서 인간 노동이 갖는 기능적 가치, 그리고 인간이 만든 결과물의 미학적 가치다. 이것은 능력에 조건부다. 그런데 그로스가 첫머리에서 반박하려는 논법들—“그래도 어떤 역할은 인간을 써야 한다”—은 대부분 뒤쪽, 곧 기능적 가치에 관한 주장이다.
그리고 기능적 가치는 그냥 말할 수 없다. AI가 흉부 X선 판독을 사람보다 잘하게 되면, 그 진단 업무를 위해 인간 판독의를 고용할 근거는 실제로 약해진다. 판독의가 한 인간으로서 갖는 존엄은 조금도 손상되지 않지만, 그것은 전혀 다른 명제다. 글이 가진 설득력의 상당 부분은, 무조건적 명제의 견고함을 조건부 명제가 슬그머니 물려받는 데서 나온다. 한 사람이 무한히 존엄하면서 동시에 가치 없는 결과물을 만들어낼 수 있다는 사실이, 이 둘이 분리된다는 가장 단순한 증거다.
이 분리는 글 안에서도 긴장으로 드러난다. 그로스는 의도와 형식에 관한 논의를 “중요하지만 불필요한 곁가지”라 부르고선, 정작 글의 대부분을 거기에 쓴다. 그가 펼치는 의도-형식 이론은 이렇다. 창작이란 의도를 형식으로 빚어내는 일이고, 인간은 머릿속 그림에 들어맞을 때까지 결과물을 거듭 고쳐나간다. 생성형 AI의 기이함은, 의도를 거의 들이지 않고도 상당한 형식을 뽑아낸다는 데 있다. 그래서 그는 ‘AI 슬롭(slop)‘을 형식 뒤의 의도를 알아보기 어려운 상태로 다시 정의한다. 그런데 이 의도-형식 이론은 결국 결과물의 가치를 재는 기준—그가 치워뒀다고 한 바로 그 조건부 질문—이다. 글의 전반부는 “결과물로 인간의 가치를 재지 말라”고 하고, 후반부는 결과물을 재는 정교한 잣대(의도의 가독성)를 세운다. 둘은 서로 다른 질문에 답하고 있다.
의도-형식 이론 자체도 한 번쯤 눌러볼 만하다. 의도는 결과물 품질의 필요조건도, 충분조건도 아니다. 존 케이지의 우연성 음악, 뒤샹의 기성품(레디메이드), 초현실주의자들의 자동기술, 그리고 AI 이전부터 존재한 생성 예술과 절차적 예술은 의도가 희박하거나 읽히지 않아도 가치를 인정받았다. 거꾸로 의도가 가득한 인간의 작업이 형편없을 수도 있다. 그로스가 실제로 짚고 있는 것은 “형식 속의 의도”가 아니라, 형식에서 제작자의 마음을 읽어내던 추론이 깨졌다는 사실에 가깝다. 공교롭게도 그가 인용한 조지 호츠(George Hotz)의 글이 정확히 그 말을 한다. 사람은 어떤 인공물을 보면 그것을 만든 과정을, 그리고 그 뒤에 인간적인 정신 상태가 있었으리라고 무심코 가정해 왔는데, 이제 그 가정이 더는 참이 아니라는 것이다. 이것은 인공물 자체의 속성이 아니라 관계적·인식론적 문제다. 그리고 이렇게 보는 편이 “의도 없는 형식”이라는 그로스 자신의 표현보다 더 정확하다. 결과물은 그대로인데, 그것에서 만든 이의 마음을 거슬러 읽어내는 우리의 능력이 신뢰를 잃은 것이다.
마지막으로, 그로스가 인용한 톰 허드슨(Tom Hudson)의 말—LLM(대규모 언어 모델)으로 이메일을 쓸 바엔 차라리 프롬프트를 보내달라, 그래야 무슨 말을 하려 했는지 알 테니—은 멋지지만 좁은 영역에서만 참이다. 산문이나 이메일처럼 ‘말로 풀어내는 일’이 곧 창작에 근접한 경우엔 맞는다. 하지만 의도는 있되 그것을 형식으로 옮길 기예가 없는 영역—이를테면 “가본 적 없는 곳을 향한 향수 같은 멜로디”—에서는, 프롬프트가 결과물 근처에 있지 않다. 여기서 AI는 부재하는 의도를 세탁하는 것이 아니라 실제 번역 노동을 한다. 그래서 “생성형 AI의 병리는 의도 없는 형식을 너무 쉽게 허용하는 데 있다”는 마지막 문장은, 보편적 진단이 아니라 게으른 사용에 한정된 진단이다. 그로스 자신도 앞에서는 AI가 진입 장벽을 낮췄을 뿐 인간도 슬롭을 만든다고 인정해 놓고, 끝에 가서는 원인을 다시 AI 쪽으로 미는 미세한 비일관을 남긴다.
정리하면 이렇다. “인간은 가치 있다, 그냥 말하라”는 도덕적 주장은 옳고, 잘 방어된다. 다만 그 견고한 명제로 결과물과 노동의 조건부 가치까지 덮으려 할 때, 글은 본래 분리되어야 할 두 질문을 하나로 뭉갠다. 그리고 슬롭을 ‘의도의 가독성’으로 다시 정의한 대목은, 실은 형식에서 마음으로 가는 추론의 붕괴를 가리킨다고 보는 편이 더 날카롭다. 인간이 가치 있다는 말은 조건 없이 해도 된다. 인간이 만든 것이 더 낫다는 말은, 여전히 무엇이 어떻게 더 나은지를 보여야 하는 말이다.