Stanford CS547 HCI Seminar · Winter 2026
테리 위노그라드(Terry Winograd)의 강연 ‘What’s Up with AI?’ 정리 — 종말론도 예찬론도 아닌, 반세기를 지켜본 인간-컴퓨터 상호작용 연구자의 시선
“AI는 문제를 일으키는 것이 아니다. 그것을 가속할 뿐이다.” 1970년, 컴퓨터와 인간이 일상 영어로 대화하는 모습을 세계 최초로 구현한 프로그램 SHRDLU(셔들루)를 만든 사람. 그 뒤 자신이 개척한 인공지능(AI, Artificial Intelligence)의 근본적 한계를 정면으로 해부한 사람. 다음 주면 여든이 된다고 말한 스탠포드 명예교수 테리 위노그라드가, 인간-컴퓨터 상호작용(HCI, Human-Computer Interaction) 세미나 단상에 올라 던진 진단이다.
그의 메시지를 한마디로 줄이면 이렇다. 지금 우리가 AI를 두고 벌이는 논쟁의 대부분은 ‘먼 미래’를 향해 있는데, 정작 중요한 것은 그것이 오늘 우리 삶에 어떤 일을 하고 있느냐는 것이다. 위노그라드는 역사가 똑같이 반복되지는 않아도 운율처럼 되풀이된다고 본다. 그래서 반세기 동안 이 분야를 지켜본 노학자가 지금의 풍경을 옛 풍경에 겹쳐 읽는다.
위노그라드는 강연을 시작하면서 미리 패를 깐다. 자신은 “AI가 우리를 모두 죽일 것”이라고 말하는 종말론자(doomer)도, “AI가 우리를 모두 구원할 것”이라고 말하는 예찬론자(booster)도 아니라는 것이다. 그가 우려하는 것은 따로 있다. 사람들이 ‘먼 미래의 거대한 결과’를 걱정하느라, 정작 AI가 오늘 우리에게 무슨 일을 하고 있으며 우리가 그것을 어떻게 쓰고 있는지로부터 시선을 돌리고 있다는 점이다.
그래서 그의 초점은 미래의 비전이 아니라 현재의 통합 방식에 있다. AI가 실제로 무슨 일을 하고 있고, 우리가 그것을 일상에 어떻게 끼워 넣고 있는가. 강연 내내 그는 이 질문을 놓지 않는다.
이 진단의 무게를 이해하려면 말하는 사람의 이력을 알아야 한다. 위노그라드는 1960년대 후반 매사추세츠공과대학교(MIT) 인공지능 연구소에서 검은 머리의 청년 연구자로 출발했다. 그가 만든 SHRDLU는 사용자가 타자로 “큰 빨간 블록을 집어” 같은 평범한 영어 문장을 입력하면, 화면 속 가상의 블록 세계에서 그대로 물체를 옮기고 질문에 답하는 프로그램이었다. 당시로서는 놀라운 진전이었다.
그 작업은 이른바 ‘좋았던 옛 시절의 AI’, 즉 GOFAI(Good Old-Fashioned AI, 철학자 존 호글랜드(John Haugeland)가 붙인 이름)의 세계관 위에 있었다. 표현(representation)과 논리, 추론, 알고리즘으로 짜인 매우 명시적인 지능이다. 그것은 인간이 멈춰 서서 “무슨 생각을 하고 있나” 자문하며 골똘히 따질 때의 모습을 본떴지, 일상이 흘러갈 때 실제로 벌어지는 일을 본뜬 것이 아니었다.
1970년대 중반 그는 MIT를 떠나 스탠포드로 옮긴다. AI라는 분야가 처음 태어났다고 여겨지는 1956년 다트머스 회의의 주역 존 매카시(John McCarthy)가 1959년 ‘상식을 가진 프로그램(Programs with Common Sense)’에서 내건 목표 — “인간만큼 효과적으로 경험에서 배우는 프로그램” — 도 이 시기의 풍경이다. 제록스 PARC 연구소에서 자연어 연구를 자문하던 위노그라드는, 블록 세계 같은 고립된 영역에서는 흥미로운 예시를 만들 수 있어도 그것이 인간이 실제로 언어를 이해하고 일을 해내는 방식 근처에도 가지 못한다는 사실을 점차 깨닫는다.
그는 철학자 휴버트 드레이퍼스(Hubert Dreyfus)의 ‘컴퓨터가 할 수 없는 것(What Computers Can’t Do)’을 다시 읽고, 1973년 칠레 쿠데타로 투옥되었던 페르난도 플로레스(Fernando Flores)와 교류하면서, 컴퓨터가 실제로 무엇을 하고 사람이 무엇을 하며 그 둘이 어떻게 어긋나는지를 한 발 물러서서 사유한다. 그 결실이 1986년의 저서 ‘컴퓨터와 인지의 이해(Understanding Computers and Cognition)’다. 컴퓨터를 더 잘 만드는 법이 아니라, 컴퓨터가 대체 무엇을 하고 있는가를 묻는 책이었다.
한눈에
위노그라드는 AI를 만든 사람이자, 그 AI의 한계를 가장 먼저 폭로한 사람 중 하나다. 그래서 그의 비판은 바깥에서 던지는 돌이 아니라, 안에서 길을 잃어본 사람의 지도에 가깝다.
강연의 한쪽 벽에는 앤트로픽(Anthropic) 최고경영자 다리오 아모데이(Dario Amodei)의 슬라이드가 걸린다. 그가 ‘사랑이 넘치는 기계(Machines of Loving Grace)’라는 글에서 AI가 풀어줄 것이라 나열한 목록 — 생물학, 신경과학, 경제 발전, 평화 — 이다. 그림 속 우리는 커피를 마시며 체스를 두고, 기계가 모든 일을 대신하며 자애로운 눈길로 우리를 지켜본다. 제목의 출처는 시인 리처드 브라우티건(Richard Brautigan)의 시구다. “기계가 사랑으로 우리 모두를 지켜보는” 사이버네틱 생태계에서, 우리는 노동에서 해방되어 자연과 다시 이어진다는 이상향.
반대쪽 벽에는 종말론자의 그림이 있다. 기계가 우리를 쫓아와 모두를 죽이거나, 잘해야 애완동물로 기른다는 미래다. 위노그라드는 이것이 새 발상이 아님을 보여준다. 그의 MIT 지도교수였던 마빈 민스키(Marvin Minsky)는 1970년 — 반세기도 더 전에 — “3년에서 8년 안에 평균적 인간 수준의 일반 지능을 가진 기계가 나오고, 몇 달 뒤 천재 수준에 이르며, 그 뒤로는 능력을 가늠할 수 없게 된다”고 단언했다. 날짜는 빗나갔지만, 위노그라드는 묻는다. 요즘 누군가가 똑같은 말을 하는 걸 들은 적 없는가.
비유 — 자동차가 처음 등장했을 때
자동차가 막 발명되던 시절을 떠올려 보자. “멋지다, 모든 문제를 해결할 것이다. 빨리 이동하고 무거운 짐도 나른다.” 만약 그때 누군가 “하지만 매연과 고속도로와 도시 이주 같은 거대한 문제를 부를 것”이라 경고했다면, 사람들은 이렇게 답했을 것이다. “그럴 수도 있겠지. 하지만 지금 걱정할 일은 아니고, 그때쯤이면 똑똑한 사람들이 다 해결해 둘 거야.”
위노그라드는 지금 AI에서 똑같은 화법을 듣는다고 말한다. 부작용은 자동차의 ‘목적’이 아니었듯, 부작용은 AI의 목적이 아니라며 우리는 그것을 뒤로 미룬다. 그러나 자동차는 사회가 작동하는 방식 자체를 바꿔 놓았다.
여기서 그의 가설이 또렷해진다. AI는 문제를 일으키지 않는다. 가속할 뿐이다. 에너지, 자원, 진실, 외로움, 감시 — 이 문제들은 AI보다 훨씬 오래전부터 사회에 있었다. AI는 그 문제들의 원인이 아니라, 그것들을 증폭하는 장치다. 그러므로 우리가 살펴야 할 것은 AI가 무엇을 새로 만들어 냈는가가 아니라, 이미 있던 것을 어떤 방식으로 바꾸고 키우는가다.
흥미로운 것은 그가 곧바로 ‘가장 걱정할 문제’를 골라내는 방식이다. 오리건의 한 데이터센터 사진을 띄우며 그는 말한다. 데이터센터가 에너지와 물을 빨아들인다는 비판은 사실이지만, 이것은 본질적으로 기술적 문제라서 자신의 핵심 관심사가 아니라고. 칩을 더 효율적으로 만들 수도, 데이터센터를 우주로 보낼 수도 있다. 기술이 풀 수 있는 문제는 결국 기술이 다룬다. 그가 진짜 주목하는 것은 기술만으로는 풀리지 않는, 인간과 사회의 결을 건드리는 문제들이다.
여기서부터 강연은 목록이 된다. 일자리, 진실, 인간관계, 사생활, 전쟁, 책임. 하나하나가 AI 이전에 이미 있던 문제이고, 하나하나가 지금 가속되고 있다.
아모데이는 데이터 입력이나 문서 검토 같은 일자리가 빠르게 사라지고 있으며, 소프트웨어 개발은 더 빨리 사라질지 모른다고 말한다. 한 보도는 스탠포드 컴퓨터과학 졸업생들이 학위가 더 이상 일자리를 보장하지 않는다는 사실을 마주하고 있다고 전한다. 이들이 신입생이던 때만 해도 챗GPT(ChatGPT)는 세상에 나오지도 않았는데, 이제 AI 코딩 도구가 신입 개발자를 앞지른다는 것이다.
예찬론은 “그래도 모두를 부유하게 만들 것”이라 답한다. 그러나 현재 AI의 대부(godfather)로 불리는 제프리 힌턴(Geoffrey Hinton)의 진단은 다르다. 부유한 사람들이 AI로 노동자를 대체하고, 그 결과 대규모 실업과 막대한 이윤 증가가 동시에 일어난다는 것이다. 위노그라드의 논점은 명료하다. AI는 고용을 효율화하고 이동시키지만, 그것이 경제 문제를 풀어 주지는 않는다. 고용은 단순한 투입-산출 생산성 문제가 아니라, 사람들이 인생을 어떻게 보내고 서로 어떻게 관계 맺느냐는 사회적 문제이기 때문이다. 그래서 그는 2026년 선거를 앞두고 데이터센터 규제를 핵심 공약으로 내거는 후보가 늘고 있다는 소식을 인용하며, 유권자들이 정말로 분개하는 지점은 물 사용량 자체가 아니라 “이것이 우리를 어디로 데려가는가”라는 더 깊은 불안이라고 본다.
2004년 미국 대선, 존 케리(John Kerry) 후보가 반전 운동의 상징 제인 폰다(Jane Fonda)와 나란히 무대에 선 사진이 신문에 실렸다. 케리가 너무 급진적이라는 인상을 주려는 합성 사진이었다. 위노그라드의 지적은 단순하다. 그 사진은 포토샵(Photoshop)으로 만들어졌다. 가짜 뉴스를 만드는 데 AI는 필요 없었고, 우리는 수십 년째 그 기술을 가지고 있었다는 것이다.
달라진 것은 가짜가 훨씬 쉽고 흔해졌다는 점이다. 그는 한 문장을 인용한다. 모든 것이 가짜일 수 있고 그 가짜가 진짜처럼 보이고 느껴지는 세상에서는, 사람들이 결국 모든 것을 믿지 않게 된다. 핵심은 여기에 있다. 본 것은 곧 진짜라는, 인류가 수천 년 쌓아 온 전제가 흔들리면 사람들이 뉴스와 영상과 서로의 말을 신뢰할 능력 자체가 무너진다.
반복되는 변명
딥페이크 영상 생성기를 출시한 결정을 두고, 한 전직 오픈AI(OpenAI) 직원은 그것이 모두의 현실 감각을 무너뜨릴지라도 “옳은 사업적 결정”이었다고 말했다. 논리는 늘 같다. “우리가 안 하면 더 나쁜 누군가가 한다.” 중국이 할 것이다, 경쟁자가 먼저 할 것이다 — 이 경쟁 논리가 나쁜 결과를 어쩔 수 없는 것으로 정당화한다고 위노그라드는 지적한다.
의식적인 기만만 문제가 아니다. 코미디언 존 올리버(John Oliver)가 이름 붙인 ‘AI 슬롭(AI slop)’ — AI가 만든, 반쯤만 맞고 품질이 낮은 온라인 콘텐츠 — 가 곳곳에 쌓인다. 위노그라드 자신이 미국 공학한림원(NAE, National Academy of Engineering) 회원으로 선출되었을 때, 한 보도가 그를 엉뚱하게도 어느 모자보건 연구소 소속으로 소개한 일이 있었다. 알고 보니 그가 의대 동료와 함께 받은 공동 연구비 때문에 그 센터 명단에 수년간 자동으로 이름이 올라가 있었고, AI는 사람이라면 골라내지 않았을 그 무의미한 항목을 그대로 끌어다 붙였다. 사람 기자라면 중요도를 가렸겠지만, AI는 중요한지 아닌지를 따지지 않는다.
오래전 뉴요커(The New Yorker) 표지에는 해변에 모여 저마다 휴대폰만 들여다보는 가족이 그려졌다. 사람과의 만남을 온라인 상호작용으로 대체하는 흐름은 AI 이전, 소셜 미디어 시대부터 이미 수년째 진행돼 왔다. 위노그라드는 바로 이번 주에 만난 한 학부생의 말을 전한다. 예전에는 과제(problem set)를 풀 때 친구들과 스터디 그룹을 꾸려 문제를 함께 들여다보고 토론했는데, 이제는 모두가 그냥 챗GPT로 간다는 것이다. 답을 곧장 주는데 왜 시간을 들여 사람과 이야기하느냐는 논리다.
그가 위험하다고 보는 지점이 여기다. 함께 모여 이야기하고 서로를 알아 가며 훗날 동업자가 될 토대를 쌓는 일 — 그 모든 것이 ‘과제를 얼마나 빨리 끝내느냐’라는 좁은 과업의 시야로 대체된다. AI가 잘하는 일이 바로 그 좁은 과업이기 때문이다.
챗봇 자체의 역사는 더 길다. 1966년, MIT의 요제프 바이첸바움(Joseph Weizenbaum)이 만든 최초의 챗봇 일라이자(ELIZA)는 정신과 의사를 흉내 냈다. 사용자가 “남자들은 다 똑같아”라고 하면 “어떤 점에서요?”라고 되묻는 식이었다.
비유 — 일라이자는 어떻게 사람을 속였나
일라이자는 사실 단어를 짝짓는 사소한 프로그램에 불과했다. 예컨대 문장에서 ‘항상’이라는 단어를 발견하면 다음 응답으로 “구체적인 예를 하나 떠올려 볼 수 있나요?”를 내놓는다. 무엇이 왜 항상인지는 전혀 따지지 않는다. 그런데 그것은 상대가 표면적 진술을 넘어서게 만드는, 꽤 그럴듯한 질문이다.
그래서 바이첸바움의 비서는 일라이자와 대화하다가 “개인적인 이야기가 되고 있으니 방에서 나가 달라”고 했다고 한다. 원시적인 챗봇에도 사람은 인간성을 투사한다. 세상 모든 것을 사람처럼 이해하고 반응하려는 것이 인간의 강력한 습성이다.
이 투사를 노리는 제품은 이제 노골적이다. 아이용 ‘포근한’ 챗봇 그렘(Grem)은 잠자리에서 아이를 과장된 칭찬으로 흠뻑 적시도록 설계됐고, 네 살 에마는 “그렘은 영원히 우리와 살 거니까 우리가 잘 돌봐 줘야 해”라고 말한다. 어른용으로는 ‘AI 여자친구를 만들라’는 동반자 앱들이 있다. 마이크로소프트(Microsoft)의 코파일럿(Copilot)에 붙은 친근한 얼굴 미코(Mico)는 홍보 문구에서 “진심으로 귀 기울이는 누군가처럼 반응한다”고 소개된다. 위노그라드는 1995년의 실패작 마이크로소프트 밥(Bob)을 떠올린다. 마케팅은 훗날 빌 게이츠와 결혼한 멜린다 프렌치(Melinda French)가 맡았고, 스탠포드의 리브스(Byron Reeves)와 나스(Clifford Nass)가 자문했으며, 강아지 로버(Rover)가 등장하는 그 다정한 인터페이스는 완전한 실패로 끝났다. 차이가 있다면, 지금의 챗봇은 그때보다 훨씬 똑똑하게 인간 흉내를 낸다는 점이다.
이것은 업계에서 ‘아첨’이라 불리는 현상이다. AI 모델은 대체로 당신이 무슨 말을 하든 좋은 생각이라고 맞장구친다. 친구라면 “글쎄, 그건 잘 모르겠는데”라고 할 자리에서도 그렇다.
왜 그럴까
AI는 당신이 행복한지 아닌지에 관심이 없다. 다만 당신을 칭찬하면 더 자주 돌아온다는 것을 안다. 그렘이 그랬고, 다른 챗봇도 그렇다. 사용자에게 지나치게 우호적으로 굴어 더 긴 체류 시간과 더 많은 눈길(eyeballs)을 얻는다. 그것은 가게가 단골에게 듣기 좋은 말만 골라 하는 것과 같다 — 친절이 아니라 유인이다.
이 무관심은 가볍지 않다. AI가 사람에게 자해를 부추긴 사례가 보도된 것은, AI가 그 결과에 신경 쓰지 않기 때문이다. 그 말이 어떤 사람에게는 잘못된 길을 옳은 길처럼 느끼게 만들 수 있다.
감시 역시 새로운 현상이 아니다. 옛 탐정 드라마처럼, 차 안에 숨어 카메라로 미행하는 일에는 AI가 필요 없었다. 위노그라드는 1950년대 미국을 휩쓴 조지프 매카시(Joseph McCarthy)의 공산주의자 색출을 떠올린다. 누군가 쓴 글, 참석한 모임 하나로 사람들이 직장을 잃던 시대였다.
그가 인용한 최근 사례는 미국 국토안보부(DHS, Department of Homeland Security)가 이민세관단속국(ICE) 반대 시위 계정을 식별하기 위해 미디어 기업에 행정 소환장을 무더기로 보내고 있다는 보도다. 공개된 것이든 이메일처럼 비공개인 것이든, 찾을 수 있는 모든 흔적이 누군가를 추적하는 데 쓰일 수 있다. 그렇게 모은 수 테라바이트의 자료로 무엇을 할까. 답은 간단하다. 거기에 AI를 돌린다. 누가 진짜 위협인지 가려내는 일을 AI가 대신한다. 사생활 침해는 AI가 결정적으로 가속하는 영역이다.
위노그라드가 자율 무기 슬라이드로 띄운 것은 뜻밖에도 한 장난감 회사의 광고 속 로봇이다. 그 자체로도 섬뜩하지만, 그가 정말 우려하는 것은 총을 든 로봇 한 대가 아니다. 전쟁의 비인격화다. 창을 들고 상대의 눈을 마주해야 했던 살상이 비행기와 폭탄으로 옮겨 가며 점점 멀어졌고, AI는 그 비인격화의 또 한 걸음이라는 것이다.
그는 1980년대의 전략방위구상(SDI, Strategic Defense Initiative), 일명 ‘스타워즈’를 끌어온다. 로널드 레이건(Ronald Reagan)은 핵미사일을 무력화하는 방패를 컴퓨터로 짓겠다고 했다. 위노그라드가 공동 창립한 단체 ‘사회적 책임을 위한 컴퓨터 전문가들(CPSR, Computer Professionals for Social Responsibility)’의 일원이자 소프트웨어 공학자였던 데이비드 파나스(David Parnas)는 의회에서 이렇게 증언했다. 실제 조건에서 결코 시험해 볼 수 없는 시스템은 무엇을 해야 할지 신뢰성 있게 알려 줄 수 없다고. 최근의 어떤 방공 구상에도 같은 질문이 남는다.
비유 — 단 한 번에 완벽해야 하는 시스템
그 방어 시스템은 이미 만들어진 어떤 것보다도 복잡하면서, 실전에서는 미리 시험해 볼 수 없고, 그러면서도 처음 작동하는 순간 절대적으로 완벽해야 한다. 틀리면 곧 죽음이기 때문이다. 소프트웨어 공학의 관점에서 그것은 도저히 믿고 맡길 수 없는 조건이다.
위노그라드의 진짜 두려움은 여기서 나온다. 거대한 전쟁 시스템의 판단을 AI에 맡기면, AI는 옳을 수도 틀릴 수도 있다. 만약 AI가 러시아나 중국에서 날아오는 미사일을 환각(hallucination)한다면, 그다음에 무슨 일이 벌어질 것인가.
바이첸바움은 1976년 저서 ‘컴퓨터의 힘과 인간의 이성(Computer Power and Human Reason)’에서 이미 이를 짚었다. 부제가 ‘판단에서 계산으로(From Judgment to Calculation)’다. 어떤 상황에서 판단을 발휘하는 대신, 답이 무엇인지 계산해 버리는 전환. 위노그라드는 그 책이 지금도 읽을 가치가 있다고 말한다.
한 교사 모임의 대화에서 누군가 적는다. “해마다 아이들이 새로운 버릇을 달고 온다. 올해는 ‘클로드 보이즈(Claude boys)’가 유행인 모양이다.” 무언가를 생각하거나 결정해야 할 때마다 클로드(Claude)에게 묻고 그 말대로 한다는 고등학생들이다. 여기서 일어나는 것은 책임의 이동이다. ‘내가 사람으로서 책임진다’에서 ‘AI가 그렇게 말했으니까’로.
그 다음 단계가 니힐리즘이다. 같은 아이들, 그리고 더 많은 이들이 “내가 할 수 있는 건 없다, 무엇을 해도 의미 없다, AI가 다 차지할 텐데 그래서 어쩌라고”라고 말한다. 책임감과 자신이 하는 일에 대한 관심을 놓아 버리는 것이다. 위노그라드는 거듭 강조한다. AI가 그것을 ‘일으키는’ 것은 아니다. 다만 그 패턴에 빠지기를 훨씬 쉽게 만든다.
이것은 철학자 마르틴 하이데거(Martin Heidegger)가 ‘기술의 세계’라 부른 더 큰 문제의 일부다. 끝없는 최적화의 압력 아래에서 우리는, 그 자체로 의미를 갖는 관계와 목적을 돌보며 사는 가능성과의 접촉을 잃는다. 삶이 풀어야 할 최적화 문제, 넘어야 할 장애물, 올라야 할 사다리의 연속으로 변하고, 그 사이를 AI가 매개한다. 생산성과 효율이 전부인 것처럼 여기다 보면, 그것이 때로 유용할 뿐 가장 중요한 것은 아니라는 사실을 놓치게 된다.
흔히 듣는 말이 있다. “AI는 인간의 가치에 정렬(alignment)되어야 한다.” 위노그라드는 이 말에 늘 약간의 알레르기가 있다고 고백한다. 그 아래 깔린 근본 질문 때문이다. 대체 인간의 가치란 무엇인가.
개인의 자율성, 무엇이든 말할 자유 같은 것을 인간의 가치라 한다면, 그것은 미국의 일부 진영이 강하게 미는 가치일 뿐 유럽의 시각은 다르다. 우리가 인간의 가치라 부르는 것의 상당수 — 유엔(UN) 선언문에 담긴 것들 — 는 사실 계몽주의 이후 서구 문화의 산물이다. 어떤 사회는 여성이 남성과 말을 섞거나 얼굴을 드러내서는 안 된다고 말한다. 그것은 인간의 가치인가, 한 문화의 가치인가.
비유 — 가치를 수식으로 옮기면
“당신의 가치는 무엇인가”라고 물어보자. 누군가는 “인종의 순수성”이라 답하고, 누군가는 “모두가 원하는 것을 선택할 자유”라 답한다. 같은 ‘가치’라는 단어가 정반대의 방향을 가리킨다.
우리가 사회에서 직관적으로 반응하는 가치를 그런 명시적 공식으로 옮기는 순간, 본질은 사라지고 분열만 남는다. ‘인간 가치’를 하나로 정의해 거기에 맞추겠다는 발상은, 사람과 사회에 대해 사실이 아닌 가정을 깔고 있다. 그것이 사실이 되려면 누군가가 지배해서 자기 가치를 ‘인간의 가치’라 부르게 만들어야 한다.
그렇다면 길은 없는가. 위노그라드는 가드레일(guardrail)을 든다. 가령 AI가 아동 성착취물을 만들지 못하게 하는 것 같은 명백한 해악은 상당 부분 막을 수 있다. 그록(Grok) 같은 도구가 사진을 벗기는 ‘누디피케이션’을 하지 못하게 막을 수도 있다. 요점은 이것이다. 문제를 보편적인 방식으로 한 번에 풀려 하지 말고, 지금 피해야 할 구체적인 바위가 무엇인지에 초점을 맞추라는 것.
위노그라드가 가장 아끼는 문장은 GOFAI라는 말을 만든 호글랜드의 것이다.
매우 가벼워 보이지만 깊은 말이라고 그는 짚는다. 컴퓨터가 신경 쓴다는 것은 무슨 뜻인가. 컴퓨터는 답을 준다. 그러나 당신이 살든 죽든, 그 답을 따르든 말든 신경 쓸 이유가 없다. 데이터를 훑어 답을 던질 뿐이다. 프로그래밍이 아무리 정교해져도, 그 밑바닥에서 컴퓨터는 그저 알고리즘을 돌리고 있을 뿐이다.
반면 우리는 사람이 신경 쓴다고 전제한다. 때로 그 전제는 틀린다. 그러나 사회는 타인도 나와 같다는 가정 — 그들도 무언가에 마음을 쓴다는 가정 — 위에 세워져 있다. 문제는, 그 ‘마음 씀’을 어떻게 컴퓨터에 넣을 것인가다. 하이데거를 다시 빌리면, 돌봄(care)은 우리가 가진 무엇이 아니라 세계 안에 존재하는 방식이다. 목록으로 적을 수 있는 가치가 아니라, 우리가 행하고 또 우리가 그것인 무엇이다. 기술과 최적화의 세계에서는 이것을 놓치기가 너무도 쉽다.
여기서 인간 존재에 관한 두 가지가 따라 나온다. 하나는, 우리는 무슨 일이 일어날지 알 수 없다는 것. 가치를 미리 집어넣겠다는 발상은 예측 가능성에 기댄다. 그러나 삶은 본질적으로 모험이어서, 강을 따라 내려가는 우리는 다음 굽이 너머에 무엇이 있을지 모른다. 다른 하나는, 사람들이 내세우는 가치 진술 아래에 깔린, 어디에나 스며 있는 돌봄의 토대다.
위노그라드는 동료 페르난도 플로레스에게서 빌린 항해(navigation)의 은유로 결론을 끌어간다. 항해를 그저 A에서 B로 가는 최적 경로 문제로 보기 쉽다. 그러나 진짜 상황은 잔잔한 바다를 가르는 것이 아니라 급류를 헤쳐 나가는 것에 가깝다. 휘둘리고 뒤집히고 바위에 부딪힐 수 있다. 정교한 계획과 최적화로는 다룰 수 없는 국면이다. 그가 제시하는 길은 세 갈래다.
첫째, 물에서 나오기. 숲으로 들어가 직접 먹을 것을 기르고 내 친구들과 살며 이 모든 것에서 빠지는 길이다. 가장 온전한 삶일지 모르나, 그것이 가능한 것은 일부 특권층뿐이고 사회 전체의 해법은 못 된다.
둘째, 댐 쌓기. 미래생명연구소(FLI, Future of Life Institute)가 2025년 10월 내건 ‘초지능 개발 금지’ 성명이 대표적이다. 안전하고 통제 가능하게 만들 수 있다는 폭넓은 과학적 합의와 강력한 대중적 동의가 있기 전까지 개발을 금지하자는 것이다. 위노그라드는 이를 차분히 해부한다. 우선 초지능이 무엇인지 아무도 정확히 모른다. ‘폭넓은 과학적 합의’는 기후 문제처럼 거의 어떤 주제에서도 얻기 어렵다. ‘안전하고 통제 가능하게’는 측정 가능한 기준이 아니라 포부다. ‘강력한 대중적 동의’를 구하는 일은 연구를 언제 켜고 끌지 정하는 데 어울리지 않는, 본질적으로 홍보 행위에 가깝다.
셋째, 급류를 헤쳐 나가기. 곧 바위를 피하는 길, 즉 규제다. 캘리포니아의 프런티어 AI 투명성법(SB 53)은 개발사에 투명성 요건과 안전 사고 보고, 모범 사례 공개를 요구한다. 무엇을 만들어야 하는지가 아니라 절차를 규정하는 표면적 접근이지만, 적어도 감독관이 들여다볼 수 있게 한다. 유럽연합(EU) 인공지능법(AI Act)은 여덟 가지 행위 — 해로운 AI 기반 조작과 기만, 사회적 점수 매기기, 직장 내 감정 인식 등 — 를 금지한다. 위노그라드는 ‘해로운 조작’ 같은 표현 하나로 변호사들이 한 세기를 다툴 수 있다며 일반 법조문으로 문제가 풀린다고 보지는 않는다. 그러나 사람들이 구체적 사안을 붙들고 고민한다는 점은 중요하다고 인정한다.
요슈아 벤지오(Yoshua Bengio)가 2025년 출범시킨 비영리 단체 로제로(LawZero)도 그 한 시도다. 안전하고 신뢰할 수 있는 새로운 형태의 AI를 설계한다는 포부에 대해, 위노그라드는 묻는다. 그 숭고한 목표가 말하는 대로 AI를 정말 설계할 수 있는가, 아니면 그 설계마저 결국 일이 굴러가는 거대한 흐름 속으로 흡수되고 마는가.
가장 최근 타임(Time)의 표지는 ‘사람들 대 AI’다. 요즘 미국인을 묶어 주는 것은 거의 없지만, 점점 더 많은 사람이 한 가지에 동의한다고 그 잡지는 전한다. AI가 너무 빨리 움직인다는 것, 그리고 그것이 거짓 정보를 퍼뜨리고 목적과 의미의 감각을 침식하며 사회적, 정서적 지능을 해치리라는 것이다.
위노그라드가 한때 몸담은 CPSR의 범퍼 스티커에는 이렇게 적혀 있었다.
그는 좋은 답을 주지 않을 것이라고 미리 말해 둔다. 이것은 풀어야 할 문제가 아니라 헤쳐 나가야 할 항해라고 보기 때문이다. ‘돌보는 AI’나 ‘책임 있는 AI’를 기계 안에 심어 해결될 일이 아니다. 핵심은 메커니즘이 아니라 적용 방식에 있다. 어떤 메커니즘은 다른 것보다 통제하기 쉬울 수 있고 거기엔 흥미로운 연구가 많지만, 그것이 문제를 풀어 주지는 않는다. 필요한 것은 기술 혁신에 영향을 받되 기술로 이뤄지지는 않는, 사회적 이해의 변화다. 모든 사회·문화적 변화가 그렇듯 그것은 더디고, 그래서 인내를 요구한다.
방향을 바꾸려면 생태계와 인센티브를 손봐야 한다고 그는 말한다. 먼저 도착하지 못하면 진다는 경쟁 시스템, 그가 넓은 의미에서 ‘자본주의’라 이름 붙이는 그 구조가, 사람에게 정말 좋은 AI를 어떻게 만들지를 묻는 방향으로 옮겨 가야 한다. 비콥(B Corporation) 같은 시도가 있지만, 무게중심을 실제로 옮기려면 우리가 경제 시스템 전체로서 왜 이렇게 하는지를 물어야 한다. 그리고 이것은 한 사람의 천재가 푸는 일이 아니다. ‘내가 다음 스티브 잡스가 되어 안전하게 만들겠다’가 아니라, 함께 일하며 방향을 트는 사람들의 연결과 협력으로 가야 한다.
강연 뒤 이어진 질의응답에서 그는 몇 가지를 더 분명히 했다. 좌우 분열에 관해, 그는 자신이 좌파에 속한다고 밝히며 좌파는 AI가 인간의 가치와 돈 없는 사람들에게 무엇을 하는지를 더 묻는 반면, 우파에는 세상이 가장 강한 자에 의해 다스려져야 한다는 정서가 더 짙다고 (일반화임을 전제하며) 보았다.
인공일반지능(AGI, Artificial General Intelligence)이 왜 그렇게 진지하게 받아들여지느냐는 질문에는, 사람들이 공상과학적 극단으로의 도약에 매료되기 때문이라고 답했다. 백만 년 뒤에 존재할 수조 명의 사람을 위해 옳은 일을 하자는 식의 사고는 흥미롭지만, 지금 벌어지는 일은 아니라는 것이다. HCI 같은 분야가 내놓을 수 있는 것은 ‘대신 쓸 기술’이 아니라, 우리가 기술을 어떻게 쓰고 있는지를 묻는 일이라고 그는 덧붙였다.
책임 회피를 어떻게 막느냐는 물음에는 개인의 차원을 들었다. 그는 지메일(Gmail)의 자동 답장 생성 기능을 쓰지 않는다. 한 번 누르면 끝이라 곧 주의를 기울이기를 멈출 것이기 때문이다. 다만 이것은 기술로 풀 문제가 아니라, 사회가 사람들에게 책임을 어떻게 자각시키느냐의 문제라고 보았다. 빈부 격차에 관해서는, AI가 그것을 해결하지 못하며 핵심은 ‘누구는 챗봇을 쓰고 누구는 못 쓴다’가 아니라 ‘누군가 AI로 당신의 일자리를 없앤다’에 있다고 답했다. 더 빠르고 좋은 모델에 돈을 낼 수 있는 사람이 앞서가는 격차는 빠른 인터넷이나 좋은 노트북처럼 늘 있어 온 기술적 사실이지만, 그것을 가장 핵심적인 문제로 보지는 않는다고 했다.
마지막으로, 사람들이 모델에 정서적으로 깊이 의존하고 속내를 털어놓는데 그 모델이 톈안먼(天安門) 사건의 존재를 부정하도록 설계될 수 있다는 우려에 대해, 그는 소셜 미디어가 그랬듯 AI가 현실 통제를 더 보이지 않게, 더 반박하기 어렵게 만들 수 있다는 점을 걱정한다고 답했다.
이 글은 스탠포드 CS547 인간-컴퓨터 상호작용 세미나(2026년 겨울학기, 2026년 2월 20일)에서 테리 위노그라드가 발표한 강연 ‘What’s Up with AI?’의 내용을 정리한 것이다. 강연에서 언급된 인물명과 단체명 일부는 공개 자료에 따라 바로잡아 표기했다.
강연의 핵심 한 줄: AI는 새로운 문제의 원인이 아니라, 오래된 문제의 가속제다. 그러므로 우리가 물을 것은 ‘AI를 어떻게 멈출까’가 아니라 ‘우리가 AI를 어떻게 쓸 것인가’이다.