한 사람이 마흔 해 동안 네 번의 산업을 갈아엎었다고 하면 과장처럼 들린다. 그러나 짐 켈러(Jim Keller)의 이력서를 따라가다 보면, 1990년대 워크스테이션 시장, 2000년대 64비트 서버 시장, 2010년대 스마트폰 시장, 2010년대 후반 PC 시장이 차례로 그의 손을 거쳐 갔다는 사실이 드러난다. 지금 그는 다섯 번째 무대인 인공지능(Artificial Intelligence, AI) 가속기 시장에서 다시 한 번 같은 일을 시도하고 있다.
짐 켈러는 1958년 미국 뉴저지에서 태어났다. 6남매 중 둘째로 자랐고, 아버지는 제너럴 일렉트릭 항공우주(General Electric Aerospace)의 기계 엔지니어, 어머니는 가정주부였다가 훗날 심리치료사가 되었다. 1980년 펜실베이니아 주립대학교(Penn State)에서 전기공학 학사를 받고, 1982년 디지털 이큅먼트 코퍼레이션(Digital Equipment Corporation, DEC)에 입사하면서 마이크로프로세서 설계의 길에 들어섰다. 그 뒤로 마흔 해 가까이, 같은 일을 멈춘 적이 없다.
그를 한 줄로 소개하기는 어렵다. 어떤 시기에는 “64비트 PC 시대를 연 설계자”였고, 어떤 시기에는 “아이폰의 두뇌를 만든 사람”이었으며, 또 어떤 시기에는 “테슬라 자율주행 칩의 책임자”였다. 지금 그는 텐스토렌트(Tenstorrent)라는 AI 반도체 회사의 최고경영자(Chief Executive Officer, CEO)다. 흥미로운 점은 그가 옮긴 곳마다, 떠난 뒤에도 한참 그가 남긴 설계가 그 회사의 황금기를 떠받쳤다는 사실이다.
“마이크로아키텍처(microarchitecture)”라는 말이 자주 나올 텐데, 자동차에 비유하면 이해가 쉽다. 자동차 엔진은 ‘배기량 2.0리터, 4기통’ 같은 외형 사양이 같아도, 내부에서 연료를 어떻게 분사하고 밸브를 어떻게 여닫는지에 따라 출력과 연비가 완전히 달라진다. 마이크로아키텍처는 바로 그 ‘엔진 내부 설계도’다. x86이나 ARM 같은 명령어 세트가 동일해도, 그 명령을 칩 내부에서 어떤 순서로 쪼개고 병렬로 처리할지를 정하는 것이 마이크로아키텍처다. 짐 켈러는 거의 평생 이 ‘엔진 내부 설계’를 그려 온 사람이다.
1980년대 초반 DEC는 PC가 아닌 미니컴퓨터의 강자였다. 켈러는 처음 VAX 8800이라는 시스템 설계에 참여한 뒤, 회사의 야심작이었던 알파(Alpha) 프로세서 계열로 옮겨 갔다. 알파 21164와 알파 21264가 그가 깊이 관여한 칩이다. 1992년 출시된 첫 알파(21064)는 최대 192 메가헤르츠(MHz)로 돌아갔다. 같은 시기 인텔 펜티엄(Pentium)이 66MHz였으니, 두 배 가까운 격차였다. 1996년 21164의 개량판은 클럭이 500MHz까지 올라가 주류 CPU 가운데 처음으로 그 벽을 넘었고, 1998년에 출시된 21264는 알파 계열에서 처음으로 ‘비순차 실행(out-of-order execution)’ — 명령어 순서를 칩이 알아서 뒤바꿔 처리하는 기법 — 을 본격 도입했다. 켈러는 26세에 DEC의 ‘펠로(fellow)’가 되었는데, 이는 그 직급을 받은 최연소 기록이었다.
역설은 곧 찾아왔다. DEC는 세계에서 가장 빠른 컴퓨터를 만들면서, 동시에 회사로서는 망해 가고 있었다. PC와 일반 서버가 빠르게 따라잡으면서 미니컴퓨터의 시장 자체가 사라지고 있었기 때문이다. 결국 1998년 알파 아키텍처는 컴팩(Compaq)에 팔렸고, 켈러는 그해 어드밴스드 마이크로 디바이시즈(Advanced Micro Devices, AMD)로 자리를 옮긴다.
1990년대 후반 AMD는 인텔(Intel)의 그늘에 가려 있는 ‘제2의 x86 회사’였다. 켈러는 이곳에서 K7(애슬론, Athlon) 설계에 참여하고, 곧이어 K8(애슬론 64, Athlon 64/옵테론, Opteron)의 수석 아키텍트가 되었다. K8은 단순히 ‘조금 더 빠른 AMD 칩’이 아니라, x86 명령어 세트를 64비트로 확장한 x86-64 사양과, 프로세서와 메모리·다른 칩들을 잇는 하이퍼트랜스포트(HyperTransport)라는 고속 연결 규격을 함께 끌어들인 작품이었다. 켈러는 두 사양의 공저자 중 한 사람이다.
당시 인텔은 64비트 시대를 열기 위해 x86과는 호환되지 않는 새로운 명령어 체계인 아이태니엄(Itanium)을 밀고 있었다. PC와 서버 사용자에게 “기존 소프트웨어는 다 버리고 새 칩에 맞춰 다시 짜라”고 요구한 셈이다. AMD가 K8과 함께 내놓은 x86-64는 정반대의 길을 택했다. 기존 32비트 x86 소프트웨어를 그대로 돌리면서, 필요할 때만 64비트로 확장할 수 있게 한 것이다. 비유하자면, 한쪽은 “새 도시로 이사 와서 새 언어를 배우라”고 했고, 다른 한쪽은 “지금 살던 동네에 64층짜리 건물을 새로 세워 줄 테니, 원하는 사람만 올라가라”고 한 것이다. 시장은 후자를 택했다. 오늘날 우리가 쓰는 거의 모든 PC와 서버의 명령어 체계는 인텔이 아니라 AMD가 K8과 함께 제안한 그 사양에 뿌리를 두고 있다.
흥미롭게도 켈러는 K8 기반 칩(데스크톱용 애슬론 64, 서버용 옵테론)이 시장에 풀려 인텔의 서버 라인을 흔들기 전인 1999년에 이미 AMD를 떠난다. ‘설계자가 회사의 황금기를 직접 누리지 않는 패턴’은 그 뒤로도 반복된다.
다음 행선지는 시바이트(SiByte)라는 작은 스타트업이었다. DEC 시절의 동료 댄 도버펄(Dan Dobberpuhl)이 공동 창업한 회사로, 1기가비트(Gbps)급 네트워크 장비에 들어갈 MIPS 기반 프로세서를 만들고 있었다. 여기서 켈러는 ‘한 개의 실리콘 다이에 두 개의 프로세서 코어를 나란히 얹는다’는 듀얼코어(dual-core) 아이디어를 본격적으로 밀어붙였다. 2000년 브로드컴(Broadcom)이 시바이트를 약 20억 달러어치의 주식으로 인수했고, 켈러는 그곳에서 수석 아키텍트로 2004년까지 일했다. PC용 듀얼코어 프로세서가 일반 소비자에게 도달하기 몇 해 전, 라우터와 네트워크 장비 안에서는 이미 그가 만든 듀얼코어가 데이터를 옮기고 있었다.
2004년 켈러는 도버펄이 다시 차린 또 다른 스타트업, P.A. 세미(P.A. Semi)에 엔지니어링 부사장으로 합류한다. P.A. 세미는 저전력 모바일 프로세서에 특화된 회사였다. 그리고 2008년 초, 켈러는 애플(Apple)로 자리를 옮기는데, 공교롭게도 직후 애플이 P.A. 세미를 통째로 인수하면서 그는 다시 옛 동료들과 한 팀이 된다.
이 팀이 만든 첫 칩이 애플 A4(Apple A4)다. A4는 2010년 아이폰(iPhone) 4와 첫 세대 아이패드(iPad)에 들어갔다. 이어서 나온 A5는 아이폰 4S와 아이패드 2에 탑재됐다. 그 전까지 애플은 다른 회사가 만든 칩을 사다 쓰는 회사였지만, A 시리즈를 기점으로 ‘자체 설계 칩으로 차별화하는 회사’가 된다. 오늘날 맥(Mac)에 들어가는 M 시리즈 칩의 먼 조상이, 그러니까 켈러가 합류한 그 시점의 P.A. 세미 출신 팀이다.
흔히 “애플 A4 칩”이라고 부르는 것은 사실 칩 하나에 CPU, 그래픽 처리 장치(Graphics Processing Unit, GPU), 메모리 컨트롤러, 영상 처리기 따위가 함께 들어 있는 ‘작은 도시’에 가깝다. 이런 칩을 시스템 온 칩(System on Chip, SoC)이라고 한다. 옛날식으로 메인보드에 여러 칩을 따로 박는 방식은 비유하자면 동네별로 따로 떨어진 가게들이 줄지어 있는 구도이고, SoC는 한 건물 안에 식당·약국·서점·은행이 모두 들어 있는 복합몰 같은 구도다. 모바일 기기에서 전력과 공간을 아끼려면 후자가 압도적으로 유리하다. 켈러는 SoC 설계 운동의 대표적인 1세대 인물 중 하나로 꼽힌다.
2012년 8월, 켈러는 다시 AMD로 돌아온다. 이때 AMD는 절벽 끝에 서 있었다. 인텔과의 격차가 너무 벌어져 있었고, ‘불도저(Bulldozer)’ 계열로 대표되던 마이크로아키텍처는 시장에서 좋은 평을 받지 못하고 있었다. 켈러의 임무는 차세대 x86-64 마이크로아키텍처와, 같은 시기에 같은 모듈에서 자라난 ARM 기반 K12의 설계를 이끄는 것이었다. 전자가 우리가 아는 ‘젠(Zen)’이다.
그는 2015년 9월 AMD를 떠났지만, 그 뒤에 출시된 라이젠(Ryzen) 1세대(2017년)와 에픽(EPYC) 서버 라인이 본격적으로 시장 점유율을 회복시키기 시작했다. 젠은 칩렛(chiplet)이라는 개념도 함께 끌어들였다. 큰 칩 한 장을 통째로 만드는 대신, 작은 코어 묶음(다이)을 여럿 만들어 패키지 위에서 이어 붙이는 방식이다.
예전 방식이 거대한 통짜 케이크를 한 번에 굽는 일이라면, 칩렛은 작은 컵케이크 여러 개를 따로 굽고 접시 위에 모아 두는 일에 가깝다. 통짜 케이크는 한 곳만 타도 전체를 버려야 하지만, 컵케이크는 잘 구워진 것만 골라 모을 수 있다. 반도체에서는 이것이 곧 ‘수율(yield)’과 비용 문제로 직결된다. 큰 다이는 결함이 들어갈 확률이 높지만, 작은 다이는 그렇지 않다. 젠은 이 컵케이크식 발상을 데스크톱과 서버 시장 한가운데로 가져온 첫 사례 중 하나였다.
다시 한 번, 그는 자신이 설계한 작품이 시장을 장악하기 전에 떠나 있었다. 그러나 그가 떠난 시점에서 가장 어려운 결정들 — 코어 구조, 캐시 위계, 칩렛 분할 방침 같은 ‘마이크로아키텍처 골조’ — 은 이미 굳어져 있었다.
2016년 켈러는 테슬라(Tesla)로 옮긴다. 직책은 ‘오토파일럿 하드웨어 엔지니어링 부사장’이었다. 당시 테슬라는 모빌아이(Mobileye)와 엔비디아(NVIDIA) 같은 외부 회사의 칩으로 운전자 보조 기능을 돌리고 있었지만, 일론 머스크(Elon Musk)는 그 의존에 만족하지 못했다. 보도에 따르면, 머스크는 켈러를 만나 “테슬라가 직접 자율주행 칩을 설계해야 한다”는 결론에 도달했고, 켈러는 그 일의 책임자가 됐다.
그 결과물이 이른바 하드웨어 3.0(Hardware 3.0)에 탑재된 FSD(Full Self-Driving) 칩이다. 14나노 공정의 SoC였고, 신경망 추론에 특화된 가속기를 칩 안에 직접 박아 넣었다. 켈러는 이 칩이 양산 직전이던 2018년 4월 테슬라를 떠나 인텔로 이동했지만, 자율주행에 쓸 칩을 자동차 회사가 직접 설계한다는 발상 자체가 산업계에 미친 충격은 그가 떠난 뒤에 본격적으로 드러났다.
2018년 4월부터 2020년 6월까지 켈러는 인텔의 실리콘 엔지니어링 그룹(Silicon Engineering Group) 수석부사장(Senior Vice President, SVP)으로 일했다. 이때 그가 관리한 엔지니어는 약 1만 명에 이르렀다고 알려져 있다. 인텔은 당시 7나노 공정 지연과 제품 출시 차질이 겹쳐 있었고, 켈러의 임무는 ‘설계 자산의 모듈화와 단순화’를 통해 회사가 다시 한 번 빠르게 신제품을 낼 수 있도록 골조를 다시 짜는 일이었다.
그러나 그는 2년 남짓 만에 ‘개인적 사정’을 이유로 인텔을 떠났다. 이 갑작스러운 사임은 업계에서 한동안 회자됐다. 그가 인텔에서 어떤 흔적을 남겼는지는 시간이 더 지나야 평가가 가능할 것이다. 다만 이후 인텔이 칩렛 기반 설계와, x86이 아닌 다른 아키텍처를 적극 끌어안는 방향으로 움직인 데에는 그 시기의 영향이 적지 않다는 것이 일반적인 견해다.
2020년 12월, 켈러는 토론토에 본사를 둔 AI 반도체 스타트업 텐스토렌트(Tenstorrent)에 최고기술책임자(Chief Technology Officer, CTO) 겸 사장으로 합류한다. 2023년 1월에는 같은 회사의 CEO 자리에 올랐다. 텐스토렌트는 두 줄기의 제품군을 키우고 있다. 하나는 자체 설계한 AI 가속기 코어 ‘텐식스(Tensix)’이고, 다른 하나는 RISC-V(리스크 파이브) 명령어 세트를 기반으로 한 고성능 범용 CPU 코어 ‘아스칼론(Ascalon)’ 계열이다.
x86은 인텔과 AMD가, ARM은 영국 회사 ARM 홀딩스가 사용 권한을 통제한다. 칩을 만들려는 회사는 누구든 이들에게 라이선스 비용을 내거나 사양 변경에 제약을 받는다. RISC-V(Reduced Instruction Set Computer, 다섯 번째 세대)는 이 통제를 받지 않는 ‘오픈 표준’ 명령어 세트다. 비유하자면, x86과 ARM이 특정 회사가 소유한 ‘유료 도로’라면, RISC-V는 누구나 쓸 수 있는 ‘공공 도로 규격’이다. 도로 규격은 공짜이지만, 그 위에 달릴 차(즉 실제 칩 설계)는 만드는 회사의 실력에 달려 있다. 켈러가 텐스토렌트에서 노리는 자리가 바로 그 ‘RISC-V 위에서 가장 빠른 차를 잘 만드는 회사’의 지위다.
전기차 시장이 ‘공통 충전 규격을 받아들이면서 폭발적으로 커진’ 사례와 비슷한 일을 켈러는 데이터센터 CPU 시장에서 기대하고 있다. 텐스토렌트는 2024년 12월 시리즈 D 라운드에서 약 6억 9,300만 달러를 조달했고, 이때의 평가가치는 약 20억 달러로 보도됐다. 2025년 들어서는 추가 펀딩 보도와 함께 가치 평가가 더 올라갔다는 외신 보도가 이어졌다. 같은 해 켈러는 인텔의 첨단 아키텍처 그룹 출신들이 세운 RISC-V 스타트업 어헤드컴퓨팅(AheadComputing)의 이사회에 합류한다고 직접 알렸다. RISC-V 진영을 두텁게 만들겠다는 그의 의도가 비교적 분명하게 드러난 결정이었다.
한편 켈러는 2023년 샘 젤로프(Sam Zeloof)와 함께 아토믹 세미(Atomic Semi)라는 별도의 스타트업도 공동 창업했다. 이 회사의 목표는 한층 더 의외인데, ‘작고 저렴한 반도체 제조 장비’를 만들어 소규모 팹(fab) 구축의 진입 장벽을 낮추겠다는 것이다. 칩 설계자가 칩을 직접 굽는 장비까지 만들겠다고 나선 셈이다.
인터뷰와 강연에서 켈러가 가장 자주 입에 올리는 단어는 ‘단순함(simplicity)’과 ‘모듈성(modularity)’이다. 그는 ‘복잡함은 결국 비용’이라는 입장을 고수해 왔다. 큰 칩일수록 어디 한 군데가 어긋나면 전체가 무너지기 때문에, 가능한 한 작은 모듈들로 쪼개고, 각 모듈은 정해진 입출력만 갖도록 하라는 것이다. 그가 만든 작품들 — 알파의 비순차 실행, K8의 64비트 확장, A 시리즈의 SoC 통합, 젠의 칩렛 — 을 가로지르는 공통 문법이 바로 이것이다.
“나는 컴퓨터 아키텍트이기 때문에, 조직도 컴퓨터 아키텍처처럼 본다. 기능 블록을 정의하고, 입출력을 정하고, 블록끼리 약속한 대로만 주고받게 한다. 사람을 기능 블록이라고 부르면 듣기에는 좋지 않지만, 큰 조직을 움직이려면 결국 그 발상이 필요하다.”
그는 또한 ‘좋은 설계자는 평생 같은 자리에 머무르지 않는다’는 견해를 가지고 있다. 그가 자주 옮긴 이유는 단순히 더 큰 자리를 찾아서가 아니라, ‘배울 것이 있는 곳’과 ‘가르칠 것이 있는 곳’을 번갈아 가는 자기 학습 전략에 가깝다. 그의 표현을 빌리면, 애플과 테슬라에는 자신이 바꾸러 간 것이 아니라 자신이 바뀌러 갔고, AMD와 인텔에는 그 반대였다.
한 사람이 마흔 해 동안 같은 일에 몰두하면, 그 일은 어느 시점부터 그 사람을 통과해서 흘러간다. 1990년대의 워크스테이션, 2000년대의 64비트 PC와 서버, 2010년대의 스마트폰과 자율주행차, 그리고 2020년대의 AI 가속기까지 — 짐 켈러의 이름은 그때마다 결정적인 자리에 있었다. 그가 만든 칩 중 어떤 것은 시장을 장악했고, 어떤 것은 그렇지 못했다. 그러나 그가 떠난 뒤에도 그가 그어 놓은 골조 위에서 후속 세대가 자라났다는 점은 공통이다.
지금 그가 RISC-V 위에서 다시 같은 일을 시도하고 있다는 사실은, 단순히 한 사람의 도전 이야기로 그치지 않는다. 지난 40년 동안 한 차례씩 산업의 흐름이 바뀔 때마다 그곳에 같은 이름이 등장했다는 사실 자체가, 다음 흐름이 어디로 갈지를 가늠하는 한 가지 단서가 된다.