1957년, 코넬대학교의 심리학자 프랭크 로젠블랫이 “퍼셉트론”이라는 기계를 공개했다. 사람의 뇌세포를 흉내 낸 이 장치는 예시를 보여주면 스스로 패턴을 익혔다. 로젠블랫은 이것이 충분히 발전하면 인간 수준의 인지가 가능하리라 낙관했다. 같은 시기, 존 매카시와 마빈 민스키는 전혀 다른 길을 걷고 있었다. “만약 A이면 B이다”같은 논리 규칙을 컴퓨터에 직접 입력하는 방식이었다. 전자를 연결주의, 후자를 기호주의라 부른다. 인공지능은 태어나자마자 쌍둥이처럼 두 갈래로 나뉜 셈이다. 단순한 기술적 차이가 아니었다. “지능이란 규칙을 따르는 것인가, 아니면 경험에서 배우는 것인가”라는, 지금까지도 이어지는 철학적 분기점이기도 했다.
1969년, 민스키가 동료 시모어 페퍼트와 함께 퍼셉트론의 수학적 한계를 증명하면서 연결주의 쪽 연구비가 급감했다. 엄밀히 말하면 “단층 퍼셉트론”의 한계였지 신경망 전체의 불가능성은 아니었으나, 학계에서는 사실상 사망선고로 받아들여졌다. 연구소들이 문을 닫고 자금이 기호주의 쪽으로 대거 이동한 이 시기가 이른바 “AI 겨울”이다. 그러나 1980년대에 역전파 알고리즘과 다층 신경망이 등장하며 상황이 뒤집혔다. 민스키가 부순 것은 “1층짜리 건물”이었는데, “여러 층을 쌓으면 된다”는 해법이 나온 것이다. 그리고 2012년, 딥러닝이 이미지 인식 대회를 압도하면서 연결주의가 완전한 역전승을 거뒀다. 현재의 ChatGPT와 Claude가 모두 이 계보의 후손이다.
그런데 최근, 승자인 줄 알았던 딥러닝에 낯익은 약점이 드러나고 있다. “왜 그렇게 판단했나”라고 물으면 제대로 설명하지 못하고, 모르는 것도 자신 있게 지어내는 “환각”이 구조적으로 발생한다. Anthropic이 2024년에 자사 AI 모델의 내부를 정밀 분석한 결과, 한 계층에서만 수백만 개의 특징이 서로 뒤엉켜 있었고, 그마저도 전체 지식의 극히 일부에 불과했다. 의료 진단이나 법률 판단처럼 근거 제시가 필수적인 분야에서는 치명적인 한계다. 기호주의가 “추론은 잘하지만 세상을 인식하지 못한다”는 이유로 무너졌듯, 연결주의는 “인식은 잘하지만 추론을 설명하지 못한다”는 정확히 거울 대칭의 벽에 부딪힌 것이다. 한쪽 패러다임에만 의존하면 다른 축에서 반드시 한계가 드러난다는, AI 역사 70년간 반복되어 온 패턴이다.
여기서 오래전에 갈라졌던 두 뿌리가 다시 만난다. “뉴로심볼릭 AI”가 그것이다. 신경망(뉴로)의 패턴 인식 능력과 기호 논리(심볼릭)의 추론 능력을 한 시스템 안에서 결합하자는 접근법이다. 둘 중 누가 이기느냐가 아니라, 각자의 강점을 합산하겠다는 발상의 전환이다. 미국 국방고등연구계획국(DARPA)이 2023년부터 ANSR 프로그램을 통해 이를 본격 추진 중이며, UCLA, 카네기멜론대학교, SRI 인터내셔널 등이 참여하고 있다.
실제 성과도 나오고 있다. 구글 딥마인드의 AlphaGeometry는 신경망이 기하학적 직관으로 보조선을 제안하면, 기호 엔진이 엄밀한 수학적 증명을 수행하는 하이브리드 구조다. 이 방식으로 국제수학올림피아드 기하 문제 30개 중 25개를 풀었다(Nature, 2024). 인간 금메달리스트의 평균 해결 수가 25.9개이니 사실상 금메달 수준이다. 신경망 단독으로도, 기호 엔진 단독으로도 불가능한 성과였다. MIT-IBM 팀의 시스템은 별도의 추가 라벨 없이 시각적 질의응답에서 98.9%의 정확도를 달성하면서도, 자신의 판단 근거를 단계별로 제시할 수 있었다. 구조화된 사실 데이터베이스인 지식 그래프를 대규모 언어 모델에 결합하여 환각을 줄이는 연구에서도, 벤치마크 정확도가 수 배 향상된 사례들이 보고되고 있다.
물론 넘어야 할 기술적 난제도 분명히 남아있다. 신경망의 연속적 학습 방식과 논리의 이산적 작동 방식을 매끄럽게 결합하는 것은 아직 미해결 과제이며, 대규모 실전 적용은 초기 단계에 머물러 있다. 그러나 70년간 따로 걸어온 AI의 두 길이 마침내 합류하기 시작했다는 사실 자체가, 다음 세대 인공지능의 방향을 뚜렷하게 가리키고 있다.