철학 · 과학과 규범
사실 진술만 쌓아서는 당위 진술이 나오지 않는다. 이 지적은 1740년에 나와 지금까지 견디고 있다. 그러나 그 지적으로 기계가 수단을 맡고 사람이 목적을 맡는다는 분업까지 세울 수는 없다.
2003년 12월, 헌법재판소는 생물학자에게서 의견서 한 통을 받았다. 호주제의 근거로 거론되던 부계혈통주의에 과학적 근거가 있는지를 묻는 질의에 당시 서울대학교 생명과학부 교수 최재천이 답한 문서다. 호주제는 호주를 정점에 두고 가(家)라는 관념적 집합체를 만든 뒤 그 지위를 직계비속 남자에게 물려주는 제도다. 헌법재판소는 뒤에 이 제도를 남계혈통을 중심으로 가족 집단을 구성해 대대로 이어 가는 법적 장치라고 규정하게 된다.
의견서의 뼈대는 짧다. 유성생식을 하는 생물에서 세포핵 안의 유전자는 암수가 절반씩 내놓는다. 그러나 핵을 뺀 세포질은 난자가 홀로 제공한다. 미토콘드리아는 세포가 쓸 에너지를 만들어 내는 세포소기관인데 핵과 별개로 자기 DNA를 가지고 있고, 그 DNA는 온전히 암컷에게서 온다. 의견서는 이 사실을 들어, 생물의 계통을 밝히는 연구가 미토콘드리아 DNA를 비교하며 암컷의 계보를 거슬러 올라간다고 적는다. 그리고 부계혈통주의는 생물계에 존재하지도 않고 존재할 수도 없다는 결론으로 나아간다.
문서의 첫머리에서 최재천은 자기가 무엇을 하려는지 밝혀 둔다. 철저하게 과학적인 논리로 남녀평등의 당위성을 논의하겠다는 것이다. 사실 진술에서 당위 진술을 끌어내겠다는 선언이다.
헌법재판소는 2005년 2월 3일 호주제 관련 민법 조항에 헌법불합치 결정을 내렸다. 재판관 6명의 다수의견이었다. 결정의 근거는 미토콘드리아가 아니라 헌법 제36조 제1항, 곧 혼인과 가족생활이 개인의 존엄과 양성의 평등을 기초로 성립하고 유지되어야 한다는 조항이었다. 재판부는 헌법 제9조의 '전통'을 근거로 호주제를 정당화할 수 있는지도 따로 다뤘고, 전래의 가족제도라 하더라도 개인의 존엄과 양성평등에 반하면 전통을 근거로 헌법적 정당성을 주장할 수 없다고 못박았다. 자연을 근거로 들었을 때와 전통을 근거로 들었을 때 재판부가 취한 태도는 같았다. 그 근거로는 제도가 서지 않는다.
왜 서지 않는가. 이 물음은 1740년에 이미 던져졌다.
데이비드 흄은 『인간 본성에 관한 논고』 제3권 제1부 제1절의 마지막 문단에서, 도덕을 다루는 책들을 읽다 보면 어느 순간 문장의 연결사가 바뀌어 있더라고 적었다. 이 문단은 흄 연구에서 가장 많이 인용되는 대목이다.
In every system of morality, which I have hitherto met with, I have always remark'd, that the author proceeds for some time in the ordinary way of reasoning, and establishes the being of a God, or makes observations concerning human affairs; when of a sudden I am surpriz'd to find, that instead of the usual copulations of propositions, is, and is not, I meet with no proposition that is not connected with an ought, or an ought not. This change is imperceptible; but is, however, of the last consequence. For as this ought, or ought not, expresses some new relation or affirmation, 'tis necessary that it shou'd be observ'd and explain'd; and at the same time that a reason should be given, for what seems altogether inconceivable, how this new relation can be a deduction from others, which are entirely different from it.
지금까지 접한 모든 도덕 체계에서 나는 늘 이런 점을 눈여겨보았다. 저자는 한동안 보통의 추론 방식으로 나아가며 신의 존재를 확립하거나 인간사에 관한 관찰을 늘어놓는다. 그러다 문득, 명제를 잇는 보통의 연결사인 '이다'와 '아니다' 대신, '해야 한다'나 '해서는 안 된다'와 이어지지 않은 명제가 하나도 없음을 발견하고 나는 놀란다. 이 변화는 눈에 띄지 않게 일어나지만 더없이 중대하다. 이 '해야 한다'나 '해서는 안 된다'는 어떤 새로운 관계나 단언을 나타내므로, 그것을 짚어 설명해야 하고, 아울러 그 새로운 관계가 그것과 전혀 다른 관계들로부터 어떻게 도출될 수 있는지, 도무지 상상하기 어려워 보이는 그 일에 대해 이유를 대야 한다.
흄, 『인간 본성에 관한 논고』 제3권(1740) 제1부 제1절 (T 3.1.1.27; 셀비비지 판 469-70쪽). 인용자 옮김.
이 문단에서 흄은 금지어를 쓰지 않았다. 그가 요구한 것은 설명이고 이유다. 문단이 오늘날의 이름을 얻은 것은 20세기에 들어와서다. 스탠퍼드 철학사전은 20세기의 지배적 해석이 이 대목을 '이다'로만 이루어진 전제에서 '해야 한다'는 판단을 추론할 수 없다는 금지로 읽었다고 정리하면서, 흄 연구에서 이만큼 해석 논쟁을 낳은 대목이 드물다고 덧붙인다.
해석이 엇갈려도 논지의 뼈대는 남는다. 연역에서 결론은 전제에 없는 항을 새로 만들어 내지 못한다. 사실만 나열한 전제 목록에서 당위가 튀어나왔다면 어딘가에서 말없이 무언가를 집어넣은 것이다. 반대로 규범 전제를 하나 명시해 넣으면 추론은 곧바로 성립한다. 이렇게 놓인 규범 전제를 다리 원리라 부른다.
다리가 없는 논증과 있는 논증
전제 1미토콘드리아 DNA는 모계로만 전해진다.
전제 2계통 연구는 그 DNA를 비교한다.
결론호주제는 폐지해야 한다.
전제 1호주제는 성별에 따라 사람을 차별한다.
전제 2사람을 성별에 따라 차별해서는 안 된다.
결론호주제는 폐지해야 한다.
아래쪽 논증에서 두 번째 전제가 다리다. 그것을 빼면 결론이 공중에 뜬다. 위쪽 논증에는 그 자리가 비어 있다. 헌법재판소가 채워 넣은 것이 바로 그 자리였고, 재판부가 쓴 다리는 헌법 제36조 제1항이었다.
흄의 간극과 짝을 이뤄 불려 나오는 이름이 자연주의적 오류다. 두 이름은 한 덩어리로 취급되는 일이 많지만 서로 다른 문제를 가리킨다.
이 말을 만든 사람은 케임브리지의 철학자 조지 에드워드 무어다. 1903년에 낸 『윤리학 원리』에서, 그는 '좋음'이라는 단순한 개념을 다른 개념과 동일시하는 것을 자연주의적 오류라고 불렀다. 그가 겨눈 것은 정의였다. 당시 벤담과 밀 계열은 좋음을 쾌락으로 정의하려 했고, 허버트 스펜서 계열은 진화적으로 더 나아간 상태로 정의하려 했다. 무어는 그런 정의 시도 자체가 잘못이라고 보았다.
근거로 든 것이 열린 물음 논변이다. 『윤리학 원리』 제13절에 나온다. 어떤 낱말이 다른 낱말로 정의된다면 둘을 바꿔 넣어도 뜻이 그대로여야 한다. 총각을 결혼하지 않은 남자로 정의했다고 하자. "이 사람은 결혼하지 않은 남자인데, 그래도 총각인가"라는 물음은 성립하지 않는다. 정의가 맞다면 답이 이미 나와 있다. 그런데 좋음을 쾌락으로 정의한 뒤 "이것은 쾌락을 주는데, 그래도 좋은 것인가"라고 물으면 이 물음은 멀쩡히 성립한다. 제11절에서 무어는 같은 논지를 다른 각도로 짚었다. 좋음이 쾌락이라면 "쾌락은 좋다"는 문장은 "쾌락은 쾌락이다"라는 무의미한 동어반복이 되어야 하는데, 실제로 그것은 정보를 담은 문장이라는 것이다.
여기서 두 가지가 드러난다. 첫째, 무어의 표적에는 자연적 속성만 있는 것이 아니다. 좋음을 신의 명령으로 정의하는 것도, 형이상학적 실재로 정의하는 것도 그의 기준으로는 같은 오류다. 이름에 '자연주의'가 붙었을 뿐 자연에 관한 문제가 아니다. 둘째, 이것은 추론의 잘못이 아니라 개념을 잘못 다루는 일이라 통상적인 의미의 오류에 들지 않는다.
이 어긋남을 처음 정리한 사람이 윌리엄 프랑케나다. 케임브리지에서 무어에게 배운 그는 1939년 『마인드』에 실은 논문에서, 무어가 말한 것은 정의주의적 오류라 불렸어야 한다고 지적했다. 자연적 속성에 국한되지도 않고 엄밀한 의미의 오류도 아니라는 것이다. 프랑케나는 열린 물음 논변이 논점을 미리 취하고 있다는 비판도 함께 내놓았다. 정의를 제시하는 쪽에 대고 그 물음이 열려 있다고 선언하는 것은, 그 정의가 틀렸다는 결론을 전제로 삼는 일이라는 뜻이다.
과학사학자 로렌 대스턴은 2014년 『아이시스』에 실은 논문에서 두 이름이 붙어 다니게 된 경위를 추적했다. 무어의 오류는 1930년대에 이르러 사실 명제에서 당위 처방으로 넘어가는 추론이라는, 더 익숙한 종류의 잘못과 뒤섞였다. 대스턴은 여기에 얄궂은 대목이 있다고 지적한다. 무어의 기준으로 보면 흄 자신이 자연주의적 오류를 범한 사람이다. 도덕 판단을 정념에서 끌어냈기 때문이다. 프랑케나가 안개를 걷어 내려 애썼지만 소용이 없었고, 반세기 뒤에도 버나드 윌리엄스는 이만큼 이름을 잘못 붙인 사례를 철학사에서 찾기 어렵다고 적었다.
정리하면 이렇다. 자연을 근거로 제도를 정당화하는 논증을 비판할 때 쓸 도구는 흄 쪽이다. 무어는 다른 문제를 다루고 있었다.
흄의 지적이 형식 논리에 기대고 있다면, 같은 결론에 이르는 실질적인 경로도 있다. 자연을 근거로 삼는 순간 상대에게도 같은 무기가 넘어간다는 것이다. 존 스튜어트 밀이 이 점을 가장 짧게 적었다.
Either it is right that we should kill because nature kills; torture because nature tortures; ruin and devastate because nature does the like; or we ought not to consider at all what nature does, but what it is good to do. If there is such a thing as a reductio ad absurdum, this surely amounts to one. If it is a sufficient reason for doing one thing, that nature does it, why not another thing? If not all things, why anything?
자연이 죽이니 우리도 죽이는 것이 옳고, 자연이 고문하니 우리도 고문하는 것이 옳고, 자연이 그리하니 우리도 부수고 파괴하는 것이 옳거나, 아니면 자연이 무엇을 하는지는 아예 따지지 말고 무엇을 하는 것이 좋은지를 따져야 한다. 귀류법이라는 것이 있다면 이것이야말로 귀류법이다. 자연이 그렇게 한다는 것이 어떤 일을 할 충분한 이유가 된다면, 다른 일이라고 안 될 이유가 무엇인가. 모든 일이 아니라면 어느 하나인들 왜 되겠는가.
밀, 「자연」, 『종교에 관한 세 편의 논고』(1874). 인용자 옮김.
대스턴은 자연사가 어떤 입장에도 인용될 수 있는 사례의 보고라고 적는다. 신천옹의 일부일처를 들면 붉은어깨검은새의 일부다처가 나오고, 위계적인 침팬지를 들면 평등한 보노보가 나온다. 한 종을 근거로 든 정당화는 다른 종의 반례로 반박되며, 그 반례도 똑같이 자연이다.
대스턴의 논문은 여기서 한 걸음 더 나아간다. 자연주의적 오류라는 범주 자체가 근대의 산물이라는 것이다. 계몽기에 자연은 개혁가의 무기였다. 자연법과 자연권은 현실을 재단하는 아르키메데스의 점이었고, 1789년 프랑스 인권선언은 공공의 불행과 정부의 부패를 인간의 자연적 권리에 대한 무지와 망각 탓으로 돌렸다. 그때 자연은 있는 그대로의 현실이 아니라 도달해야 할 상태였다. 19세기 중반에 자연은 편을 바꾼다. 토머스 맬서스가 윌리엄 고드윈의 완전가능성 구상을 논박하며 잡은 어조가 그 전환을 보여 준다. 사정이 이러한 것은 우리 본성의 불가피한 법칙 때문이며 개선 노력은 헛되거나 해롭다는 것이다. 19세기 말 여성의 고등교육에 반대한 논거도 같은 자리에서 나왔다. 여성의 자연적 소명은 아내와 어머니라는 것이었다.
이 대목이 앞의 의견서를 다시 보게 만든다. 의견서의 마지막 단락은 방향을 튼다. 동물 사회에 부계혈통주의가 없다고 해서 인간 사회도 가지면 안 된다는 단순한 논리를 내세우려는 것이 아니라고 의견서는 미리 못박는다. 그리고 최종 주장을 좁힌다. 호주제가 유독 한반도에서만 살아남아야 한다는 논리에는 아무런 과학적 증거를 댈 수 없다는 것이다.
이 좁힌 주장은 오류가 아니다. 전제를 무너뜨리는 일과 결론을 세우는 일은 대칭이 아니기 때문이다. 상대가 부계가 자연의 이치라고 주장할 때 자연은 그렇지 않다고 되받는 것은 논리적으로 흠이 없다. 비용은 논리가 아니라 틀에 있다. 자연이 제도의 근거가 될 수 있다는 전제를 승인해 버리고, 밀이 지적한 무기를 상대 손에 남겨 두는 것이다.
더 큰 문제는 그 사실 전제가 정확하지 않다는 데 있다. 미토콘드리아 DNA만 계통 추적에 쓰이는 것이 아니다. Y염색체의 비재조합 구간, 곧 부계로만 전해지는 부분도 나란히 쓰인다. 2021년 『사이언티픽 리포츠』에 실린 Y염색체 포획 기법 연구는 두 표지가 30년 동안 각각 모계와 부계의 역사를 밝히는 데 사용되어 왔다고 정리한다. 연구자들이 미토콘드리아를 선호해 온 이유는 세포당 사본 수가 많고 치환 속도가 빨라 열화된 시료에서도 회수하기 쉽기 때문이지, 모계가 본래의 계보이기 때문이 아니다. 같은 논문은 Y염색체 쪽이 역돌연변이와 포화에 덜 취약하고 서열이 길어 정보량이 더 많을 수 있다고 덧붙인다. 2014년 『인베스티게이티브 지네틱스』 5권에 실린 연구는 인간 유전체 다양성 패널에 속한 51개 집단 남성 623명을 대상으로 Y염색체 비재조합 구간 약 500킬로베이스와 미토콘드리아 유전체 전체를 함께 시퀀싱해 부계와 모계의 인구사를 같은 해상도로 비교했다.
그러니 생물학적 족보가 여성의 혈통만 기록한다는 진술은 사실과 다르다. 그리고 여기에는 흄의 간극과는 다른 종류의 어긋남이 하나 더 있다. 미토콘드리아 추적은 자연의 속성이 아니라 연구자의 방법 선택이다. 시료에서 잘 뽑히니까 쓰는 것이다. 방법론상의 편의를 자연의 구조로 바꿔 읽으면, 당위로 넘어가기 전에 '존재' 진술부터 어긋난다.
여기까지 보면 결론이 깔끔해 보인다. 목적과 가치는 과학 바깥에서 오고, 과학은 그 목적에 이르는 방법을 알려 준다. 목적과 수단을 나눠 놓으면 각자 제자리를 지킬 수 있다.
이 그림에 금을 낸 논문이 1953년에 나왔다. 리처드 러드너가 『필로소피 오브 사이언스』 20권 1호에 실은 여섯 쪽짜리 글이다. 그때까지 과학자가 가치판단을 한다는 주장은 대개 세 갈래였다. 과학을 하기로 한 결정 자체가 가치판단이라는 것, 어느 문제를 골라 연구할지가 가치판단이라는 것, 과학자도 사람이라 편향을 떨칠 수 없다는 것이다. 셋 다 반박당했다. 앞의 둘은 연구를 시작하기 전의 일이니 과학의 절차 바깥이고, 셋째는 최소화해야 할 결함이지 방법의 일부가 아니라는 것이다.
러드너는 다른 길로 들어갔다. 과학의 방법을 어떻게 분석하든 과학자가 가설을 받아들이거나 물리친다는 진술은 빠질 수 없다. 그런데 완전히 검증된 가설은 없다. 그러므로 가설을 받아들인다는 것은 증거가 충분히 강하다고, 확률이 충분히 높다고 판단한다는 뜻이다. 얼마나 강해야 충분한가. 러드너는 틀렸을 때 치를 대가에 달려 있다고 답한다.
그가 든 예는 두 가지다. 어떤 약물에 든 독성 성분이 치사량에 못 미친다는 가설이라면 높은 확증도를 요구해야 한다. 틀렸을 때의 결과가 도덕적 기준으로 무겁기 때문이다. 기계로 찍어 낸 벨트 버클 한 묶음에 불량이 없다는 가설이라면 요구할 확증도가 그만큼 높지 않아도 된다. 통계 용어로 옮기면 유의수준을 정하는 일이다. 러드너는 당시 통계 교재를 인용해, 관행으로 쓰이는 1퍼센트와 5퍼센트에는 엄밀한 이론적 근거가 없이 관행으로 굳었을 뿐이라고 적었다. 그는 맨해튼 계획을 예로 들며, 첫 원폭을 터뜨리기 전에 통제 불능의 연쇄반응이 일어나지 않는다는 가설에 어느 정도의 확률을 요구했는지, 왜 그보다 높은 값이 아니라 그 값이었는지 알아보면 유익할 것이라고 덧붙였다.
예상되는 반박이 있다. 과학자의 일은 확증도가 얼마인지 정하는 데서 끝나고, 그것을 받아들일지는 사회 구성원으로서 하는 판단이라는 것이다. 러드너는 이 반박이 겉보기에만 그럴듯하다고 답한다. 확증도가 얼마라고 정하는 일 자체가, 확증도가 그만큼이라는 가설을 받아들이는 일이기 때문이다.
이 논변이 정설로 굳은 것은 아니다. 리처드 제프리는 과학자의 본래 임무가 가설을 받아들이는 것이 아니라 확률을 부여하는 것이라고 반박했고, 아이작 레비는 어떻게 행동할지에 관한 결정과 무엇을 믿을지에 관한 결정을 구별하면 가치판단은 앞쪽에만 필요하다고 반박했다. 2021년 『유러피언 저널 포 필로소피 오브 사이언스』에 실린 토비아스 헨셴의 논문은 이 두 반박이 아직 제대로 반박되지 않았다고 본다. 반대 방향에서는 헤더 더글러스가 2000년 『필로소피 오브 사이언스』 67권에 실은 논문으로 이 논지를 귀납적 위험이라는 이름 아래 넓혀 놓았다.
논쟁의 승패와 별개로 러드너가 옮겨 놓은 것은 자리다. 가치판단이 연구를 시작하기 전이나 결과를 쓸 때가 아니라 방법의 한가운데에 있다는 것이다. 목적을 정해 놓아도 그 아래에서 결정할 일이 대량으로 남고, 그 결정들은 사실 판단의 외양을 하고 있다.
이 대목이 인공지능을 놓고 자주 되풀이되는 정식과 부딪친다. 기계가 아무리 좋아져도 어떻게 하는지에만 답할 수 있고 무엇을 해야 하는지는 사람의 몫이라는 정식이다. 앞의 절반은 흄에서 곧장 따라 나온다. 규범 전제 없이는 규범 결론이 나오지 않고, 이 제약은 계산 능력이 늘어난다고 풀리지 않는다. 성능의 문제가 아니기 때문이다.
뒤의 절반은 따라 나오지 않는다. 두 자리에서 막힌다.
첫째, 흄의 논지는 규범 전제가 어딘가 필요하다는 것이지 그 전제를 사람만 공급할 수 있다는 것이 아니다. 닉 보스트롬이 2012년 『마인즈 앤드 머신즈』 22권에 실은 논문에서 내놓은 직교성 논제가 이 구별을 분명하게 만든다. 지능의 수준과 최종 목표는 서로 직교하는 축이며, 거의 어떤 수준의 지능도 거의 어떤 최종 목표와 결합될 수 있다는 주장이다. 원리상 가능하다는 말이지 실제로 그렇게 만들기 쉽다는 말은 아니라고 보스트롬은 단서를 달았다. 이 논제가 옳다면 목표를 갖는 데 특정한 지능 수준이 필요하지도, 높은 지능이 특정 목표를 낳지도 않는다. 기계가 목적을 정할 수 없다는 원리적 보장은 논리에서 나오지 않는다.
사람이 정해야 하는 이유는 다른 데 있다. 결과를 실제로 겪는 것이 사람이고, 잘못됐을 때 책임을 물을 수 있는 것도 사람이며, 그 결정에 정당성을 부여하는 절차를 가진 것도 사람의 제도다. 이것은 논리적 불가능성의 논거가 아니라 정당성의 논거다. 근거를 바꿔 놓지 않으면 반대 논거가 들어올 자리를 알아볼 수 없다.
둘째, 목적과 방법의 경계가 깨끗하지 않다. 딥마인드의 이아손 가브리엘이 2020년 『마인즈 앤드 머신즈』 30권에 실은 논문은 정렬 문제의 규범적 측면과 기술적 측면이 서로 얽혀 있다는 명제를 첫 번째로 내세운다. 정렬이라고 뭉뚱그려 부르는 것 안에 지시에 맞추는 것, 의도에 맞추는 것, 겉으로 드러난 선호에 맞추는 것, 이상적 선호에 맞추는 것, 이익에 맞추는 것, 가치에 맞추는 것이 각각 다르게 들어 있다는 것이다. 가브리엘은 세 번째 명제로, 이론가의 중심 과제가 참된 도덕 원리를 찾아내는 데 있지 않고 도덕적 신념이 널리 엇갈리는 조건에서도 반성적 승인을 받을 수 있는 공정한 원리를 찾는 데 있다고 적는다. 목적을 사람이 정한다는 선언만으로는 이 선택지들 사이에서 아무것도 정해지지 않는다.
러드너의 논지를 여기에 대입하면 자리가 더 분명해진다. 오탐과 미탐 가운데 어느 쪽을 줄일 것인가. 손실함수에 무엇을 넣고 각 항에 얼마의 가중치를 줄 것인가. 어떤 실패율을 배포 차단 사유로 삼을 것인가. 위험 평가에서 확인되지 않은 위해를 없는 것으로 셀 것인가 있는 것으로 셀 것인가. 모두 임계값을 정하는 문제이고, 러드너의 기준으로는 모두 틀렸을 때의 대가를 저울질하는 가치 결정이다. 그런데 이 결정들은 목적 선언보다 아래층에 놓여 있어서, 목적은 사람이 정했다는 선언만으로는 손이 닿지 않는다.
러드너가 논문 끝에서 요구한 것도 가치판단을 몰아내는 일이 아니었다. 어떤 가치판단이 내려지고 있고 또 내려질 수 있었는지를 정확하게 밝히는 일이 객관성이라고 그는 적었다. 판단을 의식 밖으로 밀어내고 직관과 관행에 맡기면 방법의 핵심 부분이 통제 밖으로 나간다는 것이다. 1953년의 통계 실무를 두고 한 말이지만 문장의 구조는 지금 그대로 옮겨 붙는다.
사실 진술만으로는 당위 진술이 나오지 않는다. 결론에 전제가 갖지 않은 항이 들어 있기 때문이고, 이것은 윤리학의 특수한 주장이 아니라 연역의 성질에 관한 이야기다. 그래서 자연이 이러하니 제도도 이래야 한다는 논증은 다리가 빠진 채로 서 있다. 헌법재판소가 호주제를 폐지하면서 미토콘드리아가 아니라 헌법 제36조 제1항을 근거로 삼은 것도, 전통을 근거로 삼는 주장을 같은 이유로 물리친 것도 그 다리를 명시하는 일이었다.
다만 이 논지가 감당하는 범위는 좁다. 세 가지가 그 바깥에 있다. 첫째, 무어의 자연주의적 오류는 흄의 간극과 다른 문제다. 무어가 겨눈 것은 추론이 아니라 정의였고, 그 표적에는 자연이 아닌 것도 들어 있었으며, 프랑케나가 1939년에 지적한 대로 이름부터 어긋나 있다. 자연을 근거로 든 논증을 비판할 때 꺼낼 도구는 흄 쪽이다. 둘째, 전제를 무너뜨리는 일과 결론을 세우는 일은 대칭이 아니다. 상대가 자연을 근거로 들 때 자연은 그렇지 않다고 되받는 쪽은 논리적으로 성립한다. 다만 그렇게 하면 자연이 근거가 될 수 있다는 틀을 승인하게 되고, 밀이 지적했듯이 자연사에는 어느 편에나 댈 사례가 남아 있다. 셋째, 규범 전제가 하나 놓이고 나면 그 뒤로는 거의 전부가 사실 판단의 모양을 하고, 러드너가 보인 대로 그 안에 가치 결정이 대량으로 들어 있다.
이 세 번째가 인공지능을 놓고 되풀이되는 정식에 직접 걸린다. 기계는 방법을, 사람은 목적을 맡는다는 분업은 흄에서 나오지 않는다. 보스트롬의 직교성 논제가 옳다면 기계가 목적을 가질 수 없다는 원리적 보장은 없고, 사람이 목적을 정해야 하는 이유는 논리가 아니라 피해를 겪고 책임을 지는 자리에서 나온다. 그리고 가브리엘이 짚었듯이 무엇에 정렬할 것인가라는 물음 자체가 기술 사양의 얼굴을 하고 규범을 결정한다. 목적을 사람이 정했다는 선언은 그 아래층에 손을 대지 못한다.
그래서 흄의 문단은 안심의 근거로 쓰기에 맞지 않는다. 그것은 잘못 놓인 근거를 지우는 도구이지 일을 나누는 도구가 아니다. 지워진 자리를 무엇으로 채울지, 채운 뒤 그 아래에서 내려지는 임계값 결정들을 누가 어떤 절차로 감당할지는 흄의 문단 바깥에 남는다. 대스턴이 자연주의적 오류의 역사에서 끌어낸 교훈도 이쪽에 가깝다. 무엇을 자연이라 부르고 그 자연에 어떤 권위를 실어 주는가는 시대마다 달랐고, 오류의 이름을 붙이는 일만으로 그 권위가 사라지지는 않았다.