jacobhan.me

종교의 진화과학은 얼마나 단단한가 — 네이처 논문 철회와 점화 실험 논쟁이 드러낸 것

신이 협력을 감시했다는 설명은 논리가 깔끔해서 널리 퍼졌다. 그 설명을 떠받치던 심리 실험과 역사 자료 분석은 지난 10년 사이에 각각 재분석과 철회를 겪었다. 가설이 틀렸다는 뜻은 아니고, 확정된 것으로 다룰 수 없다는 뜻이다.

2026년 9월 12일

작은 무리에서는 누가 몫을 가로챘는지 모두가 안다. 집단이 커지면 익명성이 생기고 평판에 의한 감시가 무너진다. 그러면 낯선 사람끼리 협력할 이유가 사라지는데, 실제로는 대규모 협력이 나타났다. 이 공백을 메운 것이 사람 대신 감시하는 신이었다는 설명이 있다.

이 설명의 학술적 형태는 아라 노렌자얀이 2013년 프린스턴대학출판부에서 낸 『Big Gods: How Religion Transformed Cooperation and Conflict』에 있다. 도덕을 알고 어기면 벌하며 어디서나 보는 신에 대한 믿음이 문화적으로 진화해, 낯선 사람 사이의 협력을 넓혔다는 논지다.

논리는 깔끔하다. 문제는 이 논리를 뒷받침하는 증거가 얼마나 단단한가다. 증거는 두 갈래로 제시됐다. 하나는 사람의 행동을 직접 조작해 보는 심리 실험이고, 다른 하나는 역사 기록에서 시간 순서를 읽는 대규모 자료 분석이다. 두 갈래 모두 지난 10년 사이에 흔들렸다.

신을 떠올리게 하면 더 나눠 주는가

심리학 쪽 실험의 원형은 아짐 샤리프와 노렌자얀이 2007년 학술지 『Psychological Science』 18권 9호 803~809쪽에 실은 논문이다.

점화 어떤 개념을 미리 활성화시켜 놓으면 이후의 판단과 행동이 그 개념 쪽으로 기운다는 심리학의 조작 기법이다. 참가자에게 뒤섞인 낱말을 바른 문장으로 재배열하게 하면서 '신', '신성한', '예언자' 같은 낱말을 섞어 넣는 방식이 대표적이다. 참가자는 낱말 과제를 푸는 줄 알지 무엇이 활성화됐는지 의식하지 못한다. 이렇게 의식하지 못하게 하는 것을 암묵적 점화라 하고, 성경 구절을 직접 읽히는 것처럼 종교적 성격을 감추지 않는 것을 명시적 점화라 한다.
독재자 게임 경제학 실험에서 쓰는 단순한 과제다. 참가자에게 일정한 돈을 주고 익명의 상대와 나눠 가지라고 한다. 상대는 거부할 수도 보복할 수도 없으므로, 참가자가 자기 이익만 따진다면 한 푼도 주지 않는 것이 답이다. 그러니 실제로 넘겨준 액수가 친사회성의 지표가 된다. 익명이 보장되므로 평판을 의식한 행동은 배제된다.

샤리프와 노렌자얀이 보고한 결과는 종교 관련 낱말로 점화된 참가자가 독재자 게임에서 더 많은 돈을 넘겼다는 것이었다. 익명 조건에서 나온 결과이므로, 평판 압력 없이도 신에 대한 관념이 활성화되면 행동이 바뀐다는 뜻으로 읽혔다. '신이 지켜본다'는 논리가 실험실에서 재현됐다.

이 연구를 시작으로 관련 실험이 쌓였고, 샤리프와 아이야나 윌러드와 테리사 앤더슨과 노렌자얀은 2016년 학술지 『Personality and Social Psychology Review』 20권 1호 27~48쪽에 메타분석을 실었다. 93건의 연구와 참가자 1만 1,653명을 모은 규모였다. 이들이 쓴 방법은 전통적인 효과크기 분석과 p-곡선 분석과 출판 편향 보정을 합친 것이었다.

출판 편향 효과가 있다고 나온 연구는 학술지에 실리고 효과가 없다고 나온 연구는 서랍에 남는 경향을 가리킨다. 이렇게 되면 발표된 논문만 모아 평균을 내도 실제보다 큰 효과가 나온다. 이를 보정하려는 여러 통계 기법이 있는데, 기법마다 가정이 다르고 같은 자료에서 다른 답을 내놓기도 한다.

메타분석의 결론은 종교적 점화가 여러 종류의 결과 변수에서 견고한 효과를 보이며 친사회성도 그중 하나라는 것이었다. 다만 한 가지 단서가 붙었다. 종교성이 거의 없거나 전혀 없다고 보고한 사람에게는 효과가 신뢰할 만하게 나타나지 않았다. 저자들은 이를 점화가 문화적으로 전달받은 종교적 믿음을 인지적으로 활성화하는 데 의존한다는 뜻으로 해석했다.

같은 자료에서 정반대 결론이 나왔다

메타분석이 나온 해에 반론이 나왔다. 미키엘 판 엘크와 도라 마츠케와 퀜틴 그로나우와 마이미 관과 요아힘 판데케르코버와 에릭얀 바헨마커스가 2015년 9월 15일 학술지 『Frontiers in Psychology』 6권 1365번으로 실은 글이다.

이들은 같은 자료를 두 가지 방법으로 다시 분석했다. 첫째 방법은 PET-PEESE라 불리는 기법으로, 연구마다 표본 크기가 다르다는 점을 이용한다. 표본이 작을수록 추정치의 오차가 크므로, 출판 편향이 있다면 표본이 작은 연구일수록 효과크기가 커 보이는 관계가 나타난다. 이 관계를 추정해 표본이 무한히 컸을 때의 효과크기를 외삽하는 방식이다. 이 방법으로 보면 종교적 점화의 효과는 출판 편향만으로 설명됐다.

둘째 방법은 베이즈 편향 보정이었다. 이 방법으로 보면 출판 편향을 통제한 뒤에도 효과가 남았다.

같은 자료에서 기법에 따라 정반대의 답이 나왔다. 판 엘크와 공저자들이 이 결과에서 끌어낸 결론은 어느 한쪽 편을 드는 것이 아니었다. 메타분석 기법만으로는 효과의 존재 여부를 확정할 수 없으며, 실험자 편향과 출판 편향을 동시에 없애려면 사전등록된 대규모 재현 연구가 필요하다는 것이었다. 사전등록이란 자료를 모으기 전에 가설과 분석 방법을 공개 등록해 두어, 결과를 본 뒤 분석을 바꾸는 일을 막는 절차다.

별도의 재현 시도도 나왔다. 한 연구진은 샤리프와 노렌자얀의 독재자 게임 실험을 온라인 환경에서 재현했는데, 온라인에서는 익명성이 더 확실하게 보장된다는 점이 앞선 실험과 다르다. 여기에 기본적인 이기심이 더 잘 드러나도록 돈을 가져가는 선택지도 추가했다. 두 실험 모두에서 종교적인 참가자가 비종교적인 참가자보다 평균적으로 더 많이 넘겼다. 그러나 암묵적 점화가 넘긴 액수를 늘렸는지에 대해서는 베이즈 분석이 영가설을 지지했다. 종교적인 참가자 안에서도 마찬가지였다.

정리하면 이렇다. 사람의 종교성과 친사회적 행동 사이의 상관은 여러 자료에서 나타난다. 종교 개념을 무의식적으로 활성화하면 행동이 바뀐다는 인과 주장은 흔들린다. 뒤엣것이 '신이 지켜본다'는 기제를 직접 검증하던 자리였다.

역사 자료 쪽에서는 논문이 철회됐다

같은 가설을 역사 기록으로 검증하려는 시도가 있었다. 도덕적 신이 사회 복잡성보다 먼저 나타나면 가설이 지지되고 나중에 나타나면 반증된다는 설계다.

하비 화이트하우스를 제1저자로 하고 피터 프랑수아와 패트릭 세비지 등 13명이 참여한 논문이 2019년 3월 20일 『Nature』 568권 7751호 226~229쪽에 실렸다. 자료는 세샤트 세계사 데이터베이스였고, 1만 년에 걸친 414개 사회에 대해 사회 복잡성 지표 51개와 도덕적 신 지표 4개를 코딩했다.

결과는 가설과 반대였다. 도덕적 신은 사회 복잡성의 전제 조건이 아니었고, 복잡한 다민족 제국이 일단 성립한 뒤 그것을 유지하고 확장하는 데 기여했을 가능성이 제시됐다. 대규모 인구에 종교 전통을 표준화하는 의례는 도덕적 신보다 먼저 나타났다. 논문이 제시한 임계값은 인구 100만 명 언저리였다. 저자 중 한 사람인 화이트하우스는 사회에서 협력을 촉진하는 데 종교적 믿음보다 집합적 정체성이 더 중요하다는 결과라고 정리했다.

발표 뒤 바스티안 베하임과 공저자들이 『Nature』에 반론을 제출했다. 결측치 처리 방식이 주요 결과를 좌우했다는 지적이었다. 어떤 사회에 대해 도덕적 신의 존재 여부가 기록되지 않았을 때 연구진은 이를 부재로 코딩했는데, 자료가 부족한 이른 시기가 이 처리 때문에 자동으로 '도덕적 신 없음'이 되어 시간 순서가 만들어진다고 이들은 지적했다.

저자들은 2021년 7월 7일 논문을 철회했다. 『Nature』 595권 7866호 320쪽에 실린 철회 공지에서 이들은 최선의 증거로 가설을 공정하게 검증하려 했고, 심사 과정과 발표 이후에 자료와 코드를 모범 관행에 따라 공개했다고 밝혔다.

수정판은 2022년 학술지 『Religion, Brain & Behavior』에 실렸다. 저자들은 결측치 처리의 오류를 바로잡고 코드북과 데이터베이스를 확장했으며 자료 관리 방법을 개선했다고 보고했다. 인과를 검정하는 더 직접적인 통계 방법도 썼다. 이들의 결론은 원 논문의 핵심 결과가 확인됐다는 것이다. 같은 호에는 동료 논평 7편과 저자 답변이 함께 실렸다. 피터 터친을 제1저자로 하는 별도 논문도 같은 자료로 도덕화 종교의 부상을 설명하는 경쟁 가설들을 검정했다.

비교 자료의 코딩 기준이 결론을 정해 놓는 경우

세 번째 취약점은 자료 자체의 구조에 있다.

큰 신 가설은 소규모 사회의 초자연적 존재가 사람의 도덕에 관심이 없다는 전제에 기댄다. 이 전제를 확인할 때 연구자들이 쓴 대리 지표는 표준비교문화표본의 '도덕적 고신' 변수였다. 이 자료집은 조지 머독과 더글러스 화이트가 1969년에 만든 것으로, 세계 각지 186개 사회를 서로 독립적이도록 골라 각 사회의 특징을 변수로 코딩해 두었다.

애런 라이트너와 공저자들은 2022년 학술지 『Evolution and Human Behavior』에 이 변수의 코딩 기준을 문제 삼는 논문을 실었다. 이 변수는 해당 신이 우주의 창조자이거나 지휘자인지 여부로 정의돼 있고, 그 신의 권능이나 전지성은 묻지 않는다. 창조자가 아니면서 사람의 도덕에 깊이 관여하는 신은 이 기준에서 '도덕적 고신 없음'으로 코딩된다. 소규모 사회의 신 가운데 상당수가 그런 유형이다.

라이트너 연구진의 결론은 도덕적으로 처벌하는 신과 사회 복잡성 사이에 양의 상관이 있다는 통설에 의문을 제기하며, 민족지 증거는 소규모 사회에서도 도덕적 신이 널리 퍼져 있었다는 쪽을 지지한다는 것이었다.

흔들리지 않은 자료도 있다

세 갈래 문제를 늘어놓았다고 해서 이 분야 전체가 무너진 것은 아니다. 흔들리지 않은 자료도 있다.

벤저민 퍼지츠키를 비롯한 연구진은 수렵채집민과 목축민과 원경민과 임금노동자를 포함한 15개 집단 2,228명을 대상으로 두 가지 행동 실험과 면담을 수행했다. 검정하려 한 가설은 두 개였다. 처벌하고 개입하는 신에 대한 믿음이 멀리 있는 같은 신앙 공동체 구성원에게까지 협력을 넓히는가, 그리고 그 효과가 종교적 내집단에 한정되어 외집단을 배제하는 쪽으로 작동하는가.

결과는 도덕적이고 처벌하며 아는 신에 대한 믿음이 멀리 있는 같은 신앙 구성원에 대한 공정한 행동을 늘린다는 가설을 지지했다. 별도로 검토한 하드자 수렵채집민 자료에서는 두 신격이 도덕에 관심을 갖는 존재로 나타났고, 선교사와의 직접 접촉으로 설명된다는 근거는 없었다. 연구진은 신의 마음을 도덕화하는 편향이 널리 퍼져 있되 사회마다 정도가 다른 종교적 표현형의 일부이며, 종교와 협력의 오래 알려진 연관에 기여하는 후보 기제라고 정리했다.

이 연구가 흥미로운 이유는 방향이 두 쪽으로 갈리기 때문이다. 도덕적 신이 협력을 넓힌다는 부분은 큰 신 가설을 지지하고, 소규모 수렵채집 사회에도 도덕적 신이 있다는 부분은 그 가설의 전제를 약화시킨다.

왜 이런 구조가 반복되는가

세 갈래의 취약점에는 공통된 원인이 있다.

첫째, 검정하려는 대상이 수천 년 단위의 과정인데 자료는 간접적이다. 고대 사회가 어떤 신을 믿었는지는 남은 기록에서 읽어야 하고, 기록은 문자를 가진 사회에서만 남는다. 문자를 가진 사회는 이미 복잡한 사회이므로, 복잡성과 기록 가능성이 함께 움직인다. 이 구조에서 결측치를 어떻게 처리하느냐가 결론을 정할 수 있다.

둘째, 심리 기제를 검증하는 실험은 현대인을 대상으로 한다. 현대 대학생에게서 관찰한 점화 효과를 신석기 사회의 기제로 옮기려면 여러 단계의 추론이 필요하다. 그 실험 자체가 재현에서 흔들리면 추론의 출발점이 사라진다.

셋째, 비교문화 자료집은 만들어질 당시의 분류 기준을 고정해 후속 연구에 전달한다. 1969년의 코딩 기준이 2020년대 논문의 결론을 좌우하는 상황이 생긴다.

이 셋은 이 문제를 다루는 방식 자체에 붙어 있는 제약이고 연구자의 부주의에서 오지 않는다. 그러니 같은 종류의 흔들림이 앞으로도 반복될 것으로 보는 편이 맞다.

결론 — 논리의 매끄러움과 증거의 강도는 별개다

신이 감시자 역할을 했다는 설명은 논리가 깔끔하고, 그래서 검증되기 전에 널리 퍼졌다. 심리 실험 쪽에서는 2007년 독재자 게임 연구에서 출발해 93건 1만 1,653명 규모의 메타분석까지 갔지만, 같은 자료가 PET-PEESE에서는 출판 편향만으로 설명되고 베이즈 보정에서는 효과가 남는 상태이며, 온라인 익명 조건의 재현에서는 암묵적 점화에 대해 영가설이 지지됐다. 역사 자료 쪽에서는 414개 사회를 분석한 『Nature』 논문이 결측치 처리 때문에 철회되고 수정판이 다른 학술지에 실렸다. 비교문화 자료의 핵심 변수는 1969년의 코딩 기준 때문에 소규모 사회의 도덕적 신을 체계적으로 놓칠 수 있다.

그렇다고 가설이 반증된 것도 아니다. 15개 사회 2,228명을 대상으로 한 실험에서는 도덕적이고 처벌하는 신에 대한 믿음이 멀리 있는 같은 신앙 구성원에 대한 공정성을 높인다는 결과가 나왔다. 같은 연구가 하드자 수렵채집민에게서 도덕에 관심 있는 신격을 찾아냈으므로, 가설의 한 부분은 지지되고 다른 부분은 약화된 상태다.

남는 문제는 이 분야가 자기 증거의 강도를 어떻게 전달하는가다. 철회된 논문의 내용은 철회 전에 이미 언론과 대중서에 퍼졌고, 사전등록 재현이 필요하다는 요구가 나온 지 10년이 지났다. 수천 년 단위의 과정을 간접 자료로 검증한다는 조건은 바뀌지 않으므로, 이 분야의 주장을 읽을 때는 결론의 방향과 그 결론을 떠받치는 자료의 상태를 따로 확인해야 한다.