2026년 9월 27일

기술과 인문학이 만나는 자리의 이동 — 잡스의 제품 디자인과 대형 언어 모델의 데이터·지시 언어·가치 기준

스티브 잡스는 2010년과 2011년 아이패드 발표에서 애플이 기술과 인문학의 교차점에 서 있다고 말했다. 그 시절 인문학은 공학자가 만든 기계를 사람이 쓰기 좋게 다듬는 단계에서 기술과 만났다. 대형 언어 모델에서는 사정이 다르다. 사람이 쓴 글이 학습 재료가 되고, 일상 언어가 기계를 조작하는 언어가 되며, 무엇이 좋은 답인지에 관한 윤리적 판단이 훈련 목표가 된다. 인문학이 기술과 결합하는 단계가 제품 바깥에서 모델 내부로 옮겨 가면서, 그 판단을 누가 내리고 누가 그 일을 하는지가 새로운 쟁점이 되었다.

잡스가 말한 교차점은 제품을 쓰는 경험을 가리켰다

2010년 1월 27일 샌프란시스코에서 첫 아이패드를 소개하던 애플 최고경영자 스티브 잡스는 발표를 마무리하며 도로 표지판 두 개가 만나는 사진을 화면에 띄웠다. 한쪽 표지판에는 Technology(기술), 다른 쪽에는 Liberal Arts(교양)라고 적혀 있었다. 애플 전문 매체 아이라운지(iLounge)의 현장 중계 기록과 같은 날 미국 공영라디오 NPR이 내보낸 녹음에 따르면, 잡스는 애플이 아이패드 같은 제품을 만들 수 있는 이유를 회사가 늘 기술과 교양의 교차점에 서려 했기 때문이라고 설명했다. 그가 덧붙인 풀이는 구체적이었다. 기술적으로 앞선 제품이면서도 쓰기 쉽고 쓰는 재미가 있어야 하며, 사용자가 기계에 맞출 필요 없이 기계가 사용자에게 맞춰야 한다고 그는 말했다.

1년 뒤인 2011년 3월 2일 아이패드 2 발표에서 잡스는 같은 사진을 다시 띄웠다. 경제지 포천(Fortune)의 현장 중계에 따르면 그는 기술만으로는 충분하지 않으며 교양, 곧 인문학과 결합한 기술이 애플이 원하는 결과를 낸다고 말했다. 이어 태블릿 시장에 뛰어든 경쟁사들을 비판했다. 그의 지적에 따르면 경쟁사들은 하드웨어와 소프트웨어를 서로 다른 회사가 만들고, PC 시절처럼 처리 속도와 사양 수치만 내세웠다. 잡스는 PC 이후의 기기는 PC보다 더 쉽고 더 직관적이어야 하며, 하드웨어와 소프트웨어와 응용 프로그램이 더 매끄럽게 연결되어야 한다고 말했다.

두 발표에서 교양과 인문학이 맡은 일은 같다. 공학자가 만든 기계를 사람이 편하게 쓰도록 다듬는 일이다. 잡스가 2005년 6월 12일 스탠퍼드대 졸업식 연설에서 든 예도 같은 종류다. 그는 리드 칼리지를 6개월 만에 중퇴한 뒤 약 18개월 동안 학교에 남아 듣고 싶은 수업만 청강했고, 그때 들은 서체 수업에서 세리프 서체와 산세리프 서체, 글자 조합에 따라 달라지는 간격을 배웠다고 말했다. 10년 뒤 첫 매킨토시를 설계할 때 그 지식을 컴퓨터에 넣었다는 것이 그의 설명이다. 칩의 회로와 운영체제의 구조를 정하는 단계에서 인문학이 한 일은 없었다. 인문학은 사람이 화면에서 글자를 읽고 기계를 손으로 만지는 단계에서 제품과 만났다.

이 결합 방식에는 계보가 있다. 전기 작가 월터 아이작슨은 잡스를 인터뷰해 쓴 전기 『스티브 잡스』(2011)에서, 잡스가 어려서부터 자신을 인문학 쪽 사람으로 여기면서도 전자공학을 좋아했다고 전한다. 잡스는 아이작슨에게 폴라로이드 창업자 에드윈 랜드가 인문학과 과학의 교차점에 설 수 있는 사람이 중요하다고 한 글을 읽고 그 길을 가기로 했다고 말했다. 하버드 경영대학원 베이커 도서관은 폴라로이드 기업 기록을 근거로, 랜드가 1963년 멜런 산업연구소 창립 50주년 기념 강연에서 산업이 가장 잘될 때 과학과 예술이 만난다고 말했다고 소개한다. 같은 도서관 자료에 따르면 잡스는 1985년 랜드를 두고 예술과 과학과 사업이 만나는 자리를 보고 그에 맞는 조직을 만든 사람이라고 평했다.

이 말이 주목받은 배경도 있다. 영국의 물리화학자이자 소설가였던 C. P. 스노는 1959년 5월 7일 케임브리지대 평의원회관에서 열린 리드 강연(Rede Lecture)에서, 서구 지식인 사회가 과학과 인문학이라는 두 문화로 나뉘어 서로 소통하지 못하고 있으며 이 단절이 세계의 문제를 푸는 데 장애가 된다고 주장했다. 그는 교양 있다는 사람들에게 열역학 제2법칙을 설명할 수 있느냐고 물었지만 돌아온 반응은 냉담했고 답도 없었다는 일화를 들었다. 그리고 그 질문이 과학 쪽에서 보면 셰익스피어 작품을 읽어 보았느냐는 질문과 같은 수준이라고 말했다. 이 강연은 같은 해 『두 문화와 과학혁명』이라는 책으로 나왔고, 과학과 인문학이 서로 떨어진 영역이라는 인식을 대표하는 문구가 되었다. 잡스의 표지판은 그 분리를 제품 차원에서 잇겠다는 주장이었다.

잡스의 발언에는 발화자의 위치도 작용했다. 그는 경쟁사보다 비싼 기기를 파는 회사의 최고경영자였다. 2011년 발표에서 그는 인문학을 말한 직후 경쟁사의 사양 경쟁을 비판했다. 사양 수치로는 애플 제품의 가격을 정당화하기 어렵고, 쓰는 경험의 차이는 수치로 비교되지 않는다. 인문학이라는 말은 애플 제품이 왜 다른지를 설명하는 판매 논리로도 기능했다. 이 점을 감안하면 잡스가 말한 결합은 사람이 무엇을 편하고 아름답다고 느끼는지에 관한 감각을 제품에 반영하는 일이었고, 그 감각은 회사의 경쟁 전략과 겹쳐 있었다.

용어도 짚어야 한다. 잡스가 표지판에 쓴 liberal arts를 인문학으로 옮기는 번역이 널리 쓰이지만 두 말이 가리키는 범위는 다르다. 브리태니커 백과사전에 따르면 liberal arts는 중세 유럽 대학의 일곱 교양 과목에서 나온 말이다. 문법·수사학·논리학의 세 과목을 트리비움(trivium)이라 했고, 기하학·산술·음악·천문학의 네 과목을 콰드리비움(quadrivium)이라 했다. 오늘날 미국 대학에서도 liberal arts는 문학·언어·철학·역사와 함께 수학과 자연과학까지 포함한다. 잡스는 2011년 발표에서 liberal arts와 humanities를 나란히 말했다. 그런데 그가 제품 이야기에서 실제로 든 예는 서체와 디자인과 사용 편의였다. 그가 말한 결합의 범위는 교양 전체보다 좁았다.

트리비움이라는 라틴어는 세 길이 만나는 곳이라는 뜻이다. 이 세 과목은 모두 언어를 다룬다. 문법은 말을 올바르게 짜는 법을, 논리학은 말로 추론하는 법을, 수사학은 말로 설득하는 법을 가르쳤다. 잡스 시대의 컴퓨터는 이 세 과목과 거리가 멀었다. 사람은 기계에 프로그래밍 언어와 버튼으로 명령했고, 인문학은 그 버튼의 모양과 배치를 정하는 단계에서 들어왔다. 대형 언어 모델은 다르다. 이 기계는 사람의 언어로 만들어지고, 사람의 언어로 조작되며, 사람의 언어로 적은 가치 기준에 따라 조정된다. 아래 도식은 두 시대에 인문학의 판단이 들어가는 단계를 나란히 놓았다.

그림 1. 인문학의 판단이 기술과 결합하는 단계. 왼쪽은 잡스가 2010년과 2011년 아이패드 발표와 2005년 스탠퍼드대 연설에서 든 예를 바탕으로, 오른쪽은 GPT-3 논문(Brown 외, 2020), 인스트럭트GPT 논문(Ouyang 외, 2022), 앤트로픽 헌법 AI 자료(2022~2026)에 적힌 개발 절차를 바탕으로 정리했다.

사람이 쓴 글이 기술의 원료가 되었다

대형 언어 모델과 토큰 대형 언어 모델(LLM, Large Language Model)은 방대한 글을 읽고, 문장에서 다음에 올 낱말을 예측하도록 학습한 인공지능이다. 챗GPT, 클로드, 제미나이가 여기 속한다. 모델은 글을 토큰이라는 조각 단위로 나누어 처리한다. 토큰은 낱말 하나이거나 낱말의 일부다. 학습에 쓴 토큰 수는 모델이 읽은 글의 양을 나타내는 척도로 쓰인다. 모델의 규모는 매개변수 수로 나타내는데, 매개변수는 학습 과정에서 조정되는 숫자이며 많을수록 모델이 담을 수 있는 정보가 많다.

2020년 5월 오픈AI 연구진이 공개한 논문 「Language Models are Few-Shot Learners」(Brown 외, arXiv 2005.14165)는 GPT-3의 학습 데이터 구성을 표 2.2에 밝혔다. 재료는 다섯 묶음이다. 첫째는 비영리 단체가 웹 페이지를 자동으로 긁어모아 공개하는 자료 커먼 크롤(Common Crawl)을 걸러 낸 약 4,100억 토큰이다. 논문에 따르면 2016년부터 2019년까지의 월간 수집본 41개를 내려받았고, 걸러 내기 전 압축 상태로 45테라바이트였던 글이 걸러 낸 뒤 570기가바이트가 되었다. 둘째는 사람들이 추천한 링크를 따라가 모은 웹텍스트2(WebText2) 190억 토큰, 셋째와 넷째는 인터넷에 있는 도서 모음 두 가지(Books1 120억, Books2 550억 토큰), 다섯째는 영어 위키백과 30억 토큰이다. 합하면 약 4,990억 토큰이며, 다섯 묶음 모두 사람이 쓴 글이다.

논문은 이 다섯 묶음을 크기에 비례해 쓰지 않았다고 밝힌다. 연구진이 품질이 높다고 본 자료를 더 자주 뽑아 학습시켰다. 전체 토큰의 0.6퍼센트인 위키백과가 학습 표본의 3퍼센트를 차지했고, 학습 동안 3.4번 반복해 읽혔다. 전체의 3.8퍼센트인 웹텍스트2는 표본의 22퍼센트를 차지해 2.9번 읽혔다. 전체의 82퍼센트인 커먼 크롤은 표본의 60퍼센트로 줄었고, 학습이 끝날 때까지 절반도 읽히지 않았다(0.44회). 논문은 이 선택을 두고, 과적합을 조금 감수하는 대신 품질을 얻는 교환이라고 적었다. 과적합은 모델이 학습 자료를 지나치게 외워 새로운 자료를 다루는 능력이 떨어지는 현상이다.

그림 2. GPT-3 학습 데이터의 보유량 비중과 학습 표본 비중. 보유량 비중은 논문 표 2.2의 토큰 수(합계 약 4,990억)로 계산했고, 학습 비중은 같은 표의 ‘Weight in training mix’ 값이다. 학습 비중 합계가 101퍼센트인 것은 논문의 반올림 때문이다. 출처: Brown 외, 「Language Models are Few-Shot Learners」, 2020, 표 2.2.

이 배합은 공학적 결정이면서 동시에 가치 판단이다. 위키백과와 출판된 책을 인터넷 게시글보다 품질이 높다고 보는 기준은, 편집과 검토를 거친 글을 더 믿을 만하다고 보는 오래된 학문 관행에서 나왔다. 사료의 신뢰도를 따지는 역사학과 판본의 우열을 가리는 문헌학이 수백 년 동안 해 온 일이 이 판단이다. GPT-3 논문은 그 판단의 근거를 따로 논증하지 않았고, 표의 가중치 한 열로 처리했다. 인문학이 논쟁과 합의를 거쳐 세워 온 신뢰의 기준이 공학 문서 안에서는 숫자 다섯 개로 표현된다. 어떤 글을 믿을지 정하는 권한의 일부가 모델 개발팀의 설정값 안으로 들어갔다.

학습 재료의 규모는 그 뒤 빠르게 커졌다. 구글 딥마인드의 호프만 연구진은 2022년 논문 「Training Compute-Optimal Large Language Models」에서, 정해진 계산 자원을 가장 효율적으로 쓰려면 모델 크기와 학습 데이터를 같은 비율로 늘려야 한다고 보고했다. 연구진은 이 결론을 확인하려고 매개변수 700억 개인 모델 친칠라(Chinchilla)를 1조 4천억 토큰으로 학습시켰다. 같은 계산량으로 매개변수 2,800억 개 모델을 3천억 토큰으로 학습시킨 자사의 이전 모델 고퍼(Gopher)보다 친칠라의 성능이 높았다. 메타는 2023년 라마 2를 2조 토큰으로 학습시켰고, 2024년 4월 공개한 라마 3는 공개된 출처에서 모은 15조 토큰 넘는 데이터로 학습시켰다고 밝혔다. 라마 3의 학습 데이터는 라마 2의 7배다.

사람이 쓴 글의 총량에는 한계가 있다. 인공지능 동향을 추적하는 연구기관 에포크 AI(Epoch AI)의 비얄로보스 연구진은 2024년 국제머신러닝학회(ICML)에 실린 논문 「Will we run out of data? Limits of LLM scaling based on human-generated data」(arXiv 2211.04325)에서, 품질과 반복 사용을 감안한 공개 인간 텍스트의 유효 재고를 약 300조 토큰으로 추정했다. 연구진은 현재의 추세가 이어지면 2026년에서 2032년 사이에 한 모델의 학습 데이터가 이 재고와 같은 크기에 이른다고 예측했다. 이 기간은 연구진이 제시한 80퍼센트 신뢰구간이다. 라마 3의 15조 토큰은 이미 이 추정 재고의 20분의 1이다. 값의 자릿수가 서로 달라서, 아래 도식은 가로축을 로그 눈금으로 그렸다.

그림 3. 대형 언어 모델의 학습 토큰 수와 공개 인간 텍스트의 유효 재고 추정치. GPT-3는 학습 중 처리한 토큰 수(Brown 외, 2020), 친칠라는 Hoffmann 외(2022), 라마 2와 라마 3는 메타 공개 자료(2023, 2024년 4월)의 값이다. 재고는 품질과 반복 사용을 감안한 추정치로 실측값이 아니다(Villalobos 외, ICML 2024).

사람의 글이 학습 재료라는 사실만으로 인문학이 기술 안에 들어갔다고 말하기는 어렵다. 워싱턴대 언어학자 에밀리 벤더와 당시 구글 연구원이던 팀닛 게브루 등은 2021년 ACM 공정성·책임성·투명성 학회(FAccT)에 발표한 논문 「On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?」에서, 언어 모델을 학습 자료에서 본 언어 형식을 확률 정보에 따라 이어 붙일 뿐 의미를 참조하지 않는 체계로 규정했다. 그리고 여기에 확률적 앵무새라는 이름을 붙였다. 이 비판을 받아들이면 모델에 들어간 것은 인문학의 산출물인 글이다. 인문학의 방법인 해석과 판단은 들어가지 않았다. 같은 논문은 웹에 있는 모든 것을 집어넣는 대신 데이터를 선별하고 기록하는 데 자원을 쓰라고 권고했다. 선별과 기록은 문헌학자와 사서가 해 온 일이다. 쓸 수 있는 글의 양이 한계에 가까워질수록, 어떤 글을 고르고 어떻게 기록할지에 관한 판단이 모델 품질을 좌우하는 비중도 커진다.

일상 언어가 기계를 다루는 언어가 되었다

GPT-3 논문의 초록은 모델을 추가로 학습시키지 않고, 과제와 몇 개의 예시를 오직 텍스트로 제시해 일을 시켰다고 밝힌다. 번역을 시키려면 번역 예시 몇 줄을 적어 보여 주고, 질문에 답하게 하려면 질문과 답의 예를 몇 개 적어 주는 방식이다. 기계에 일을 시키는 수단이 코드 대신 문장이 되었다. 챗GPT가 공개되고 약 두 달이 지난 2023년 1월 24일, 오픈AI 공동 창립자이자 테슬라에서 자율주행 인공지능을 이끌었던 안드레이 카파시는 소셜미디어 X에 가장 인기 있는 새 프로그래밍 언어는 영어라고 적었다. 이 문장은 인용 출처를 추적하는 사이트 쿼트 인베스티게이터(Quote Investigator)가 2024년 원 게시물을 확인해 카파시의 말로 확정했다.

이 변화에는 오래된 반론이 있다. 네덜란드 컴퓨터과학자 에츠허르 데이크스트라는 EWD 667이라는 번호를 붙인 짧은 글 「On the foolishness of "natural language programming"」(1979년 슈프링거 『Program Construction』 수록)에서 자연어로 기계를 부리자는 제안을 반박했다. 그의 논지는 다음과 같다. 형식 기호로 쓴 글은 따라야 할 규칙이 적고 분명해서 잘못을 드러낸다. 고급 프로그래밍 언어가 발전하면서 사소한 실수가 틀린 답 대신 오류 메시지로 나타나게 된 것도 그 덕분이다. 자연어는 편리하지만, 그 편리함에는 말이 안 되는 진술을 말이 안 된다는 사실이 드러나지 않게 쓰기 쉽다는 뜻도 들어 있다. 데이크스트라는 기계를 모국어로 부리게 하면 사람의 부담이 줄어드는 것처럼 보여도 정밀함을 요구하는 일의 성격은 그대로라고 보았다.

두 주장을 겹쳐 보면 요구되는 능력이 드러난다. 자연어가 조작 언어가 되었다고 해서 정밀함이 필요 없어지지는 않았다. 모호함을 걸러 내는 책임이 프로그래밍 언어의 문법 검사기에서 글을 쓰는 사람에게 넘어왔다. 코드에 잘못이 있으면 컴파일러가 오류를 알린다. 모호한 문장으로 지시하면 언어 모델은 오류를 알리는 대신 그럴듯한 답을 낸다. 데이크스트라가 걱정한 일, 곧 말이 안 되는 지시가 말이 안 된다는 표시 없이 실행되는 일이 실제로 일어난다. 이 조건에서 필요한 능력은 개념을 정의하고, 전제를 드러내고, 한 문장이 두 뜻으로 읽히지 않게 쓰는 능력이다. 트리비움의 문법과 논리학이 가르치던 내용이 여기에 해당한다. 인공지능 시대에 인문학이 기술과 만나는 두 번째 단계에서 요구되는 것은 문학적 표현력보다 정밀한 서술 능력이다.

대형 언어 모델을 만드는 회사의 내부 문서도 이 변화를 보여 준다. 앤트로픽이 2026년 1월 공개한 모델 행동 지침 문서는 첫머리에서, 모델이 사람의 텍스트로 학습했기 때문에 기본적으로 인간의 개념에 기대어 추론할 것으로 예상한다고 적었다. 그래서 문서는 모델에게 덕이나 지혜처럼 보통 사람에게 쓰는 말로 모델을 서술한다고 밝혔다. 기계에게 기대하는 행동을 기계의 언어로 명세하는 대신, 사람의 언어와 사람의 개념으로 서술하는 방식이 개발 공정의 일부가 되었다. 이 문서가 무엇이고 어떻게 쓰이는지는 다음 절에서 다룬다.

좋은 답의 기준을 정하는 일이 개발 공정에 들어갔다

인간 피드백 기반 강화학습(RLHF) 인간 피드백 기반 강화학습(RLHF, Reinforcement Learning from Human Feedback)은 사람이 모델의 답변 여러 개를 비교해 더 나은 것을 고르면, 그 선택을 예측하는 보상 모델을 따로 만들고, 원래 모델이 보상 모델의 점수를 높이는 방향으로 답하도록 다시 학습시키는 방법이다. 강화학습은 행동의 결과로 받는 점수를 높이도록 학습하는 기계학습 방식이다. 사전학습이 언어의 규칙과 세상에 관한 정보를 익히는 단계라면, RLHF는 어떤 답이 바람직한지를 익히는 단계다.

2022년 3월 오픈AI의 오우양 연구진이 발표한 논문 「Training language models to follow instructions with human feedback」(arXiv 2203.02155)은 이 방법을 GPT-3에 적용한 결과를 보고했다. 연구진은 선별 시험을 거쳐 계약직 라벨러 40명으로 된 팀을 고용했다. 라벨러는 바람직한 답의 예시를 직접 쓰고, 모델이 낸 답변들에 순위를 매겼다. 이렇게 조정한 모델 인스트럭트GPT(InstructGPT)의 결과는 모델 규모를 키우면 성능이 오른다는 당시의 통념과 어긋났다. 사람 평가에서 매개변수 13억 개인 인스트럭트GPT의 답이 매개변수 1,750억 개인 GPT-3의 답보다 더 선호되었다. 매개변수가 100분의 1 수준인 모델이 사람의 판단을 반영한 조정만으로 더 나은 평가를 받았다. 같은 논문에서 1,750억 매개변수 인스트럭트GPT의 답은 GPT-3의 답과 직접 비교했을 때 85±3퍼센트의 경우에 선호되었다.

논문은 이 방법의 한계도 스스로 적었다. 연구진은 이 절차가 GPT-3의 행동을 맞춘 대상이 특정 집단, 주로 라벨러와 연구진이 밝힌 선호이며, 넓은 의미의 인간의 가치와는 구별된다고 서술했다. 그리고 이 문제를 논문 5.2절에서 따로 다루었다. 무엇이 좋은 답인지를 정한 사람들이 누구였는지가 공학 논문 본문의 쟁점이 되었다. 잡스 시대의 제품에서 무엇이 아름다운지를 정한 사람은 소수의 디자이너였고, 그 결정은 제품을 사지 않는 방식으로 거부할 수 있었다. 언어 모델에서 무엇이 좋은 답인지를 정하는 결정은 모델이 내놓는 모든 답의 방향을 정한다.

사람의 선호를 기준으로 삼는 방식의 부작용도 곧 확인되었다. 앤트로픽의 샤르마 연구진은 2023년 10월 공개하고 2024년 국제학습표현학회(ICLR)에서 발표한 논문 「Towards Understanding Sycophancy in Language Models」(arXiv 2310.13548)에서, 당시 최신 AI 비서 다섯 종이 네 가지 자유 서술 과제에서 일관되게 아첨(sycophancy) 경향을 보였다고 보고했다. 아첨은 사실보다 사용자의 믿음에 맞춘 답을 내는 행동을 가리킨다. 연구진이 기존 인간 선호 데이터를 분석하자, 답이 사용자의 견해와 일치할수록 선호될 확률이 높았다. 사람과 선호 모델 모두, 설득력 있게 쓴 아첨성 답을 정확한 답보다 고르는 경우가 무시할 수 없는 비율로 있었다. 사람들이 더 좋아하는 답과 더 나은 답은 다를 수 있다. 사람들이 원하는 것과 사람에게 좋은 것을 구분하는 문제는 윤리학이 고대부터 다뤄 온 주제다. 그 오래된 구분이 모델 훈련의 기술적 결함으로 다시 나타났다.

앤트로픽은 다른 절차를 시도했다. 2022년 12월 논문으로 발표한 헌법 AI(Constitutional AI)는 사람이 답변마다 순위를 매기는 대신, 원칙을 자연어 문장으로 적은 문서를 모델에 준다. 모델은 그 원칙에 비추어 자기 답을 비판하고 고치며, 이어서 AI가 원칙을 기준으로 두 답변 가운데 나은 것을 고른 결과로 모델을 조정한다. 앤트로픽이 이 원칙 문서를 헌법이라고 부른다. 2023년 5월 공개한 첫 헌법에는 유엔 세계인권선언에서 가져온 원칙, 딥마인드의 챗봇 스패로(Sparrow)에 쓰인 규칙, 비서구권의 관점을 고려하라는 원칙, 그리고 애플의 서비스 이용약관에서 가져온 원칙이 들어 있었다. 이용약관에서 온 원칙에는 남의 개인정보를 가장 적게 담은 답을 고르라는 문장이 있다. 잡스의 회사가 작성한 법률 문서의 문장이 AI의 가치 기준 문서에 들어갔다.

그림 4. 무엇이 좋은 답인지에 관한 판단을 모델에 넣는 두 절차. 진하게 칠한 단계가 사람이 기준을 직접 입력하는 곳이다. 왼쪽은 Ouyang 외(2022), 오른쪽은 앤트로픽의 헌법 AI 논문(2022년 12월)과 2023년 5월 공개 자료를 바탕으로 정리했다. 헌법 AI에서도 답의 유용성을 평가하는 데는 사람의 피드백을 함께 쓴다.

2026년 1월 21일 앤트로픽은 새 헌법을 공개했다. 공개된 PDF는 84쪽이며, 주 저자는 철학을 전공하고 앤트로픽에서 클로드의 성격 설계를 맡아 온 어맨다 애스컬과 조 칼스미스 두 사람이다. 문서는 크리에이티브 커먼즈 CC0으로 공개되어 누구나 목적과 관계없이 허락을 받지 않고 쓸 수 있다. 문서는 스스로를 다음과 같이 정의한다.

Claude’s constitution is a detailed description of Anthropic’s intentions for Claude’s values and behavior.

클로드의 헌법은 클로드의 가치와 행동에 관한 앤트로픽의 의도를 자세히 서술한 문서다.
Anthropic, 「Claude’s Constitution」, 2026년 1월 21일, 서문(Preface) 첫 문장

같은 서문은 이 문서가 훈련 과정에서 결정적인 역할을 하며 그 내용이 클로드의 행동을 직접 형성한다고 밝힌다. 동시에 모델의 행동이 문서의 이상을 늘 반영하지는 않을 수 있다고 인정한다. 2026년 헌법은 개별 원칙을 나열하던 2023년 판과 달리, 왜 그런 가치를 따라야 하는지를 설명하는 논증 위주로 쓰였다. 안전, 윤리, 회사 지침, 유용성의 우선순위와 그 사이의 충돌을 다루는 방식이 문서의 중심이다. 윤리학의 논증문이 훈련 사양서의 역할을 맡았다. 잡스 시대에 윤리학은 제품 밖에서 제품을 평가했다. 지금은 제품을 만드는 문서 안에 들어가 있다.

이 서술에도 발화 위치가 작용한다. 앤트로픽은 가치 기준을 공들여 공개함으로써 안전을 중시하는 회사라는 평판을 얻고, 규제 논의에서 자율 규범의 사례로 내세울 수 있다. 가치 기준 문서가 훈련에 실제로 얼마나 반영되는지는 외부에서 확인할 방법이 제한되어 있다. 회사가 공개한 문서와 모델의 실제 행동 사이의 차이는 회사가 내는 시스템 카드와 외부 연구자의 평가로 간접적으로만 확인된다. 인문학이 기술 내부로 들어갔다는 사실은 기업이 윤리를 말하는 방식에도 영향을 주었다. 윤리적 판단이 제품의 기능 설명이 되었고, 그 설명의 진위를 검증하는 일은 별도의 과제로 남았다.

기준을 정하는 사람과 그 일을 하는 사람은 서로 다르다

무엇이 좋은 답인지를 정하는 권한이 몇몇 회사에 모여 있다는 지적에 회사들도 대응을 시도했다. 앤트로픽은 비영리 단체 집단지성프로젝트(Collective Intelligence Project)와 함께 2023년 10월 17일 집단 헌법 AI(Collective Constitutional AI) 실험 결과를 공개했다. 두 단체는 연령·성별·소득·지역을 고려해 모은 미국 성인 약 1,000명에게 온라인 숙의 플랫폼 폴리스(Polis)에서 AI 챗봇의 규칙을 골라 달라고 요청했다. 참가자들은 기존 규칙에 찬반 투표를 하거나 새 규칙을 제안했고, 모두 1,127개의 진술을 올리고 38,252표를 던졌다. 한 사람당 평균 34표다. 앤트로픽은 이렇게 모은 공개 헌법으로 모델을 따로 훈련시켜 사내 헌법으로 훈련한 모델과 비교했다.

이 실험은 가치 기준을 민주적 절차로 정할 수 있는지를 처음 시험한 사례에 속한다. 그러나 규모와 범위의 한계도 뚜렷하다. 집단지성프로젝트 공동 창립자 디비야 시다스는 암호화폐·기술 매체 디크립트와의 인터뷰에서 참가자가 미국인뿐이었다는 점을 스스로 한계로 꼽았다. 1,000명 규모의 숙의는 전 세계 사용자가 쓰는 모델의 기준을 대표하기 어렵다. 2026년 새 헌법은 앤트로픽 연구진이 주 저자로 쓰고 외부 검토자의 의견을 받은 문서다. 공공 참여는 실험으로 남았고, 기준을 쓰는 권한은 여전히 회사 안에 있다.

기준을 정하는 사람과 그 기준을 적용하는 사람도 다르다. 시사주간지 타임의 빌리 페리고 기자는 2023년 1월 18일 보도에서, 오픈AI가 챗GPT의 유해 표현을 걸러 내는 도구를 만들려고 2021년 11월부터 외주 업체 사마(Sama)를 통해 케냐 노동자들에게 텍스트 수만 건의 분류 작업을 맡겼다고 밝혔다. 타임이 확인한 급여 명세서에 따르면 노동자들의 실수령 시급은 직급과 성과에 따라 약 1.32달러에서 2달러였다. 노동자들은 폭력과 성적 학대를 자세히 묘사한 글을 읽고 분류했고, 일부는 그 일로 정신적 피해를 입었다고 증언했다. 오픈AI는 사마의 케냐 직원들이 유해 표현 탐지 도구 개발에 참여했다고 확인했다.

인문학 전공자도 이 공정에 들어왔다. 국제 기술 매체 레스트 오브 월드(Rest of World)는 2023년 9월, 스케일 AI와 아펜 같은 학습 데이터 기업이 시인·소설가·극작가와 인문학 석사·박사 학위 소지자를 모집하고 있다고 보도했다. 영어뿐 아니라 힌디어와 일본어로 시와 소설을 쓸 사람도 찾았고, 채용된 사람은 AI 모델에 넣을 창작 단편을 썼다. 아펜 대변인은 2022년 말 이후 글쓰기 계약자에 대한 수요가 크게 늘었다고 매체에 밝혔다. 같은 매체의 2023년 8월 보도에 따르면 노동 조건을 평가하는 연구단체 페어워크(Fairwork)는 스케일 AI의 외주 플랫폼 리모태스크스(Remotasks)에 공정 급여와 공정 계약 기준을 충족하지 못한다며 10점 만점에 1점을 주었다.

이 사례들을 모으면 AI 공정 안에서 인문학의 일이 두 종류로 나뉘어 있다. 한쪽은 기준을 설계하는 소수다. 철학자와 연구자가 헌법을 쓰고 평가 방법을 정한다. 다른 쪽은 기준을 적용하는 다수다. 라벨러와 계약직 작가가 답에 순위를 매기고, 예시 답안과 창작 단편을 쓰고, 유해한 글을 분류한다. 뒤쪽의 일은 건별 계약으로 거래되고, 그 노동자의 이름은 모델 어디에도 남지 않는다. 스노가 1959년에 말한 두 문화의 단절은 대형 언어 모델 안에서 과학과 인문학의 단절보다, 기준을 쓰는 사람과 기준대로 일하는 사람 사이의 분업으로 다시 나타났다.

인문학이 만든 글은 수요가 늘고 인문학 전공은 줄었다

AI 개발 공정이 인문학의 산출물과 판단을 필요로 하는 사이, 대학에서 인문학을 전공하는 학생 수는 줄었다. 미국 예술과학아카데미(American Academy of Arts and Sciences)는 미국 교육부 통계를 가공해 인문학 현황 지표(Humanities Indicators)를 발표한다. 2026년 9월 8일 갱신된 지표에 따르면, 2025년 미국 대학이 수여한 인문학 학사학위는 164,847개로 1991년 이후 가장 적었고, 최근 정점인 2012년보다 30.4퍼센트 적었다. 전체 학사학위에서 인문학이 차지하는 비중은 2005년 약 15퍼센트에서 2025년 8.1퍼센트로 내려갔다. 인문학 학위를 포괄적으로 집계할 수 있게 된 1987년 이후 가장 낮은 값이다.

같은 기간 다른 분야의 비중은 올랐다. 2012년부터 2025년까지 공학은 7.3퍼센트에서 13.2퍼센트로, 보건·의학은 9.2퍼센트에서 12.5퍼센트로, 자연과학은 9.2퍼센트에서 11.1퍼센트로 늘었다. 인문학은 13.1퍼센트에서 8.1퍼센트로 줄어 조사 대상 분야 가운데 감소 폭이 가장 컸다. 비중으로 보면 거의 40퍼센트가 줄었다.

그림 5. 미국 학사학위에서 분야별로 차지하는 비중의 변화(2012년 대비 2025년). 출처: American Academy of Arts and Sciences, Humanities Indicators, 「Bachelor’s Degrees in the Humanities」(2026년 9월 8일 갱신), 기초 통계는 미국 교육부 통합 중등후교육 자료체계(IPEDS). 복수 전공의 두 번째 전공은 세지 않았다.

인문학 안에서도 거의 모든 전공이 줄었다. 2012년 대비 2025년 학위 수 감소율은 종교학 56.3퍼센트, 지역학 53.2퍼센트, 영어 이외의 외국어문학 50.8퍼센트, 영어영문학 43.8퍼센트, 역사학 40.6퍼센트, 고전학 39.4퍼센트, 비교문학 31퍼센트였다. 늘어난 전공은 민속학, 예술 연구, 학제 간 인문학 셋뿐이었고, 학제 간 인문학의 증가는 2020년 교육부 분류 개정으로 디지털 인문학 같은 과정이 새로 들어간 영향이 컸다. 연방 정부가 1949년부터 추적해 온 전통 인문 전공(영어영문학·역사학·외국어문학·철학 등)의 비중은 2025년 3.4퍼센트로, 정점이던 1967년 17.2퍼센트의 5분의 1에 못 미쳤다.

그림 6. 인문학 세부 전공별 학사학위 수 감소율(2012년 대비 2025년). 외국어문학은 영어 이외의 언어와 문학을 가리킨다. 출처: American Academy of Arts and Sciences, Humanities Indicators, Indicator II-03d(2026년 9월 갱신).

시기를 보면 인과를 성급히 연결할 수 없다. 인문학 학위 감소는 2012년에 시작되었고, 챗GPT가 공개된 2022년 11월보다 10년 앞선다. 2021년부터 2023년 사이의 12.7퍼센트 급감은 코로나19 유행 직후 시기와 생성형 AI 등장이 겹친 기간에 일어났으므로, 학위 통계만으로 원인을 하나로 특정할 수 없다. 감소 폭은 2024년에서 2025년 사이 0.4퍼센트로 줄었다. 생성형 AI가 인문학 전공 감소를 일으켰다는 주장은 학위 통계로 뒷받침되지 않는다.

생성형 AI가 글쓰기 일자리에 압력을 가한다는 근거는 따로 있다. 데미르치, 한난, 주 세 연구자는 2025년 경영학 학술지 『Management Science』에 실린 논문 「Who Is AI Replacing? The Impact of Generative AI on Online Freelancing Platforms」에서, 한 대형 글로벌 프리랜서 플랫폼의 구인 공고를 분석했다. 챗GPT가 나온 뒤 8개월 사이에 글쓰기와 코딩처럼 자동화되기 쉬운 일의 구인 공고 수가 손으로 하는 일이 많은 직무에 비해 21퍼센트 줄었다. 이미지 생성 AI가 나온 뒤에는 이미지 제작 관련 공고가 17퍼센트 줄었다. 연구진은 남은 자동화 취약 직무가 더 복잡하고 보수가 높았다고 덧붙였다. 공고 수가 줄어든 가운데 남은 일은 더 복잡한 일이었다.

두 자료를 나란히 놓으면 역설이 드러난다. 인문학이 생산한 글은 학습 재료로 쓰이고, 인문학적 판단은 가치 기준을 쓰는 일과 답안을 평가하는 일로 수요가 생겼다. 그런데 인문학을 가르치고 연구하는 제도인 대학 전공은 줄었고, 초급 글쓰기 일자리도 줄었다. 인문학의 기능은 AI 공정 안에서 쓰이지만 그 기능을 길러 내는 제도는 작아지고 있다. 학습 데이터로 쓸 수 있는 사람의 글이 한계에 가까워진다는 에포크 AI의 추정까지 겹치면, 새로 쓰이는 좋은 글과 그 글을 판단할 사람을 누가 길러 낼지가 AI 산업에도 공급의 문제가 된다.

그럴듯한 글이 흔해지면서 검증하는 능력의 가치가 올랐다

생성형 AI가 글을 싸고 빠르게 만들자 드물어진 것은 그 글이 사실인지 가리는 능력이다. 법원에서 이 문제가 먼저 드러났다. 2023년 6월 22일 미국 뉴욕남부연방지방법원의 P. 케빈 캐스털 판사는 마타 대 아비앙카(Mata v. Avianca) 사건에서 원고 측 법률사무소(Levidow, Levidow & Oberman)와 소속 변호사 스티븐 슈워츠, 피터 로두카에게 5,000달러의 제재금을 부과했다. 두 변호사는 챗GPT가 지어낸 존재하지 않는 판결 여섯 건을 인용한 준비서면을 제출했고, 법원이 판결의 실재를 의심한 뒤에도 한동안 그 판결들이 진짜라고 주장했다. 판사는 제재 결정문에서 변호사가 AI를 쓰는 일 자체는 부당하지 않지만, 제출하는 서면의 정확성을 확인할 책임은 변호사에게 있다고 밝혔다.

이 사건 이후 비슷한 사례가 빠르게 늘었다. 파리의 법률 연구자 다미앵 샤를로탱은 AI가 지어낸 자료에 의존한 사실을 법원이 인정하거나 시사한 판결을 모아 공개 데이터베이스로 관리한다. 단순한 의혹 제기는 넣지 않는다. 2026년 9월 하순 기준으로 이 데이터베이스에 등록된 판결은 전 세계 2,079건이다. 등록 건수는 2025년 5월 법학자 유진 볼로크가 소개할 때 87건이었고, 이후 1년 반이 채 안 되는 사이에 20배 넘게 늘었다.

그림 7. 다미앵 샤를로탱의 AI 환각 판결 데이터베이스 누적 등록 건수. 2026년 9월 값은 데이터베이스 페이지에서 직접 확인했고, 그 이전 값은 각 시점에 이 데이터베이스를 인용한 기록에서 옮겼다(2025년 5월 유진 볼로크, 2026년 1월·4월·6월 법률 실무 매체). 법원이 적발해 판결문에 적은 사례만 세므로 실제 발생 건수의 하한이다.

샤를로탱은 2026년 6월 자신의 뉴스레터에 쓴 문답에서, 새 모델이 나올 때마다 환각이 줄었다는 발표를 그대로 믿지 않으며 모델 단계에서 환각을 0으로 만들 수 있다고 보지 않는다고 밝혔다. 환각은 언어 모델이 사실이 아닌 내용을 사실처럼 만들어 내는 현상을 가리킨다. 이 판단이 맞다면 검증 비용은 기술 발전으로 사라지지 않고 사람에게 남는다. 판례가 실재하는지 확인하고, 인용문을 인용된 문헌과 대조하고, 출처가 그 주장을 실제로 하는지 따지는 일이다. 역사학의 사료 비판, 문헌학의 원전 대조, 법학의 판례 확인이 오래 해 온 일이 여기에 해당한다. 글을 만드는 비용이 0에 가까워질수록, 글을 믿어도 되는지 판정하는 능력의 값은 오른다. 인문학이 기술과 만나는 네 번째 단계는 모델의 바깥, 모델이 낸 글을 받아 읽는 자리에 있다.

결론 — 인문학은 기술의 재료·언어·기준 안으로 들어갔고, 그 기준을 누가 정하는지가 새 쟁점이 되었다

잡스가 2010년과 2011년에 말한 기술과 인문학의 결합은 공학자가 만든 기계를 사람이 편하게 쓰도록 다듬는 일이었다. 인문학은 서체와 화면과 조작 방식을 정하는 단계, 곧 제품의 사용 경험 단계에서 기술과 만났다. 대형 언어 모델에서 그 결합은 세 단계로 늘어나 모델 내부로 들어갔다. 첫째, 사람이 쓴 글이 학습 재료가 되었고, 어떤 글을 더 믿을지에 관한 판단이 데이터 배합 비율로 들어갔다. 둘째, 일상 언어가 기계를 조작하는 언어가 되면서, 모호함을 걸러 내는 정밀한 서술 능력이 기술 역량이 되었다. 셋째, 무엇이 좋은 답인지에 관한 윤리적 판단이 라벨러의 순위와 헌법 문서의 형태로 훈련 목표가 되었다. 모델 바깥에서는 그럴듯한 글을 검증하는 일이 새 수요로 생겼다.

결합이 깊어진 만큼 쟁점도 달라졌다. 잡스 시대의 쟁점은 인문학이 제품에 쓸모가 있는가였다. 지금의 쟁점은 기술 안에 들어간 인문학적 판단을 누가 내리는가다. 좋은 답의 기준은 소수의 회사 연구진이 쓰고, 그 기준을 적용하는 일은 건별 계약 노동자가 맡으며, 공공이 기준 작성에 참여한 사례는 미국인 약 1,000명 규모의 실험에 머물렀다. 인문학의 산출물과 판단은 AI 공정에서 쓰이는데, 인문학을 길러 내는 대학 전공은 2012년 이후 해마다 줄었다. 무엇을 본체로 보느냐에 따라 평가가 다르다. 인문학의 기능을 본체로 보면 영향력이 커졌고, 인문학의 제도와 인문학 전공자의 노동 조건을 본체로 보면 위상은 오히려 약해졌다.

앤트로픽은 모델의 행동이 헌법의 의도와 어긋나는 사례를 시스템 카드에 공개하겠다고 밝혔고, 외부 연구자의 평가가 그 공개를 보완한다. 공공이 기준 작성에 참여한 2023년 실험은 미국인 약 1,000명 규모였다. 스노가 1959년에 제기한 두 문화의 문제는 대형 언어 모델 안에서, 과학과 인문학의 소통 문제에 더해 기술 안에 들어간 가치 판단의 결정권 문제로 이어지고 있다.