서른 날과 서른세 해: 젠슨 황이 NVIDIA를 떠나다
2026년 11월 12일 오후(미 동부시간), NVIDIA 뉴스룸에 300단어가 채 안 되는 성명이 올라왔다. 젠슨 황이 사장, 최고경영자, 이사직에서 즉시 물러난다는 내용이었다.
전환 기간도 없었다. “모일 날짜에 사임한다”는 문구도 없었다. 창업자가 보통 붙잡는 고문 직함도 없었다.
주가는 장전 10% 넘게 빠졌고 4.34% 하락으로 마감하며 약 1820억 달러의 시가총액이 사라졌다. 이사회는 같은 날 두 가지를 결정했다. 콜레트 크레스 최고재무책임자가 임시 CEO를 맡아 재무도 계속 맡고, 하비 C. 존스 전 시놉시스 CEO가 33년 만에 첫 이사회 의장이 된다. 그 자리는 애초에 없었다.
성명은 이유를 쓰지 않았다. 사업과 고객 약속, 제품 로드맵은 예정대로 진행되고 3분기 실적은 11월 17일에 발표한다고만 밝혔다.
추도문은 쓰기 쉽고 쓸모없다. 더 나은 질문은 이 33년의 결정 중 무엇이 황 개인의 판단이었고 무엇이 이미 조직의 근육 기억이 되었는가다. 11월 17일 콜은 두 번째 범주를 시험한다.
데니스의 부스
1993년 4월 5일, 캘리포니아 산호세, 데니스의 한 부스. 세 사람. LSI 로직에서 막 나온 황, 그리고 선마이크로시스템즈 출신의 크리스 말라코프스키와 커티스 프림. 초기 자본 4만 달러. 황의 나이 서른.
이름은 라틴어 invidia, 시기에서 왔다. 초기 파일에는 NV 접두사가 붙었다. next version의 약자다. 그들은 구체적인 한 가지를 믿었다. PC가 사무용 기계에서 소비자 기기로 바뀌고, 소비자 기기가 처음 필요로 하는 것은 화면이라는 것.
1993년에 이 믿음은 괴상하지 않았다. 그래픽 칩 회사가 스물 몇 개였고 3년 뒤에는 일흔 개가 됐다. 2006년까지 독립 상태로 남은 곳은 한 곳이었다.
괴상했던 것은 믿음이 아니라 베팅의 크기였다.
첫 번째 잘못된 베팅: NV1과 곡면
1995년 NV1은 교과서적인 실패였고, 실패는 기하학에 있었다.
폴리곤 렌더링은 삼각형으로 돌아갔고 마이크로소프트의 DirectX가 그것을 사실상 표준으로 만들고 있었다. NV1은 2차 곡면 텍스처 매핑을 택했다. 곡면 패치로 물체를 만드는 방식으로, 이론상 대역폭을 아끼고 윤곽을 부드럽게 하며 삼각형의 계단 현상을 없앤다.
세가가 아케이드작 버추어 파이터를 이식했고, NVIDIA 칩에서 돌아간 첫 3D 게임이 됐다. 카드는 Diamond Edge 3D로 판매됐다.
문제는 연산이 아니라 툴체인이었다. 모델링 소프트웨어, 아트 에셋, 렌더 엔진, 프로그래머의 손버릇이 모두 삼각형을 중심으로 자랐다. 곡선만 그리는 카드는 산업 전체에 작업 흐름을 다시 만들라고 요구한다. 어떤 성능 우위로도 메울 수 없다.
세가는 후속 주문을 취소했다. 황은 일본으로 날아가 당시 책임자였던 이리마지리 쇼이치로에게 노선의 오류를 인정하고, 이미 지급된 돈을 남겨달라고 부탁했다. 그는 주문금을 500만 달러 투자로 전환했다. 약 6개월치 목숨이었다.
1996년 그는 절반 이상을 해고하고 남은 현금을 아직 테이프아웃도 못 한 설계에 걸었다.
“우리 회사는 망하기 30일 전이다.” 이후 10년간 전 직원 회의에서 반복한 말이다. 수사가 아니었다. 현금 런웨이였다.
두 번째 베팅: RIVA 128과 표준
1997년 RIVA 128은 그 베팅의 결과물이다. 세계 최초 128비트 3D 프로세서, 곡면 없이 삼각형만, Direct3D에 전면적으로 올라탔다. 4개월에 100만 장.
출시 당시 통장 잔고는 월급 한 달치였다. 이 이야기는 반전 드라마로 회자되지만 핵심은 놓친다. 잘못된 기술 노선을 인정하는 비용이 손에 있는 현금보다 작아야 한다는 것. NV1과 RIVA 128 사이에 있는 것은 천재성이 아니라, 이미 돈을 낸 고객 앞에서까지 이뤄진 공개적이고 값비싼 인정이다.
대부분의 회사는 여기서 죽는다. 노선은 틀렸는데 조직에 인정할 어휘가 없어서 자원이 매몰 비용으로 계속 흘러간다.
단어를 만들다: 1999년의 GPU
1999년 1월, NVIDIA는 나스닥에 주당 12달러로 상장했다.
같은 해 10월, GeForce 256. NVIDIA는 GPU라는 단어를 만들고 검증 가능한 정의를 붙였다. 단일 칩에 트랜스폼, 라이팅, 삼각형 셋업과 클리핑, 렌더링 엔진을 통합하고 초당 최소 1000만 폴리곤을 처리하는 프로세서.
실체는 하드웨어 T&L이었다. 그전까지 정점 변환과 라이팅은 CPU 일이었고 카드는 계산이 끝난 삼각형을 칠하는 역할이었다. T&L을 카드로 가져오면서 카드는 처음으로 자기 연산을 갖게 됐다. 더 이상 캔버스가 아니었다.
공식 연혁은 비교를 준다. 오늘날 GPU는 초당 70억 개 넘는 폴리곤을 처리한다. 27년, 세 자릿수 차이.
이 단어는 나중에 그래픽스를 벗어나 연산의 단위가 됐다.
제품으로 경쟁하는 회사는 제품을 출하한다. 범주로 경쟁하는 회사는 단어를 만든다. 이름을 붙인다는 것은 점수판을 세우는 일이고, 점수판을 세운 쪽이 다음 라운드의 종목을 정한다.
아무도 좋아하지 않던 베팅: CUDA
2006년 G80 아키텍처는 통합 셰이더를 가져왔다. 픽셀과 정점 셰이더가 물리적으로 분리되지 않고 모든 스트림 프로세서가 범용 코드를 실행할 수 있게 됐다. G80에는 128개 프로세서가 여덟 그룹으로 나뉘어 있었다.
이어서 회사 역사상 가장 중요한 결정이 왔다. 제품 결정이 아니었다. 그 프로그래머블 코어를 비그래픽 연산에 개방하는 것. CUDA는 2006년 11월에 나왔다.
기술적으로는 소박했다. C와 비슷한 문법의 병렬 모델. 스레드는 블록으로, 블록은 그리드로 묶이고, 32개 스레드가 워프를 이뤄 한 사이클에 한 명령을 실행하며 데이터 레지스터로만 구별된다. 프로그래머는 카드에 SM이 몇 개인지 몰라도 된다. 문제에 독립적인 데이터가 몇 개인지만 답하면 된다.
이 추상화 계층이 베팅의 실제 기술 내용이다. 병렬성을 하드웨어 세부에서 프로그래밍 모델로 바꾸고, 대가로 실리콘 면적과 드라이버 스택, 컴파일러, 디버거, 20년치 하위 호환성을 낸다.
상업적으로는 전혀 소박하지 않았다. CUDA는 모든 GeForce에 들어갔고, 게임만 하려고 산 카드에도 들어갔다.
월가는 비용으로 봤다. 아무도 쓰지 않는 컴파일러 때문에 게임 카드가 왜 트랜지스터와 검증 비용을 치러야 하나. 2008년 금융위기에 주가는 70% 빠졌다.
“우리는 슈퍼컴퓨팅을 민주화하고 있었다”고 황은 나중에 말했다.
2008년에는 자기 위로처럼 들렸다. 사실 진술이 되기까지 6년이 걸렸다.
6년 뒤: GTX 580 두 장
2012년 토론토대의 세 사람, 알렉스 크리제프스키와 일리야 수츠케버, 제프리 힌턴이 소비자용 GeForce GTX 580 두 장으로 합성곱 신경망을 훈련해 ImageNet에 나갔다. 오류율 15.3%, 2위는 26.2%.
중요한 기술적 사실은 알고리즘이 이겼다는 게 아니다. 하드웨어가 이미 거기 있었다는 것이다. 소매 진열대에 10년치 CUDA가 깔려 있다는 것은 전 세계 모든 연구실이 이미 딥러닝을 돌릴 기계를 갖고 있었다는 뜻이다. 아무도 알려주지 않았을 뿐이다.
생태계의 복리는 이렇게 계산된다. 2012년에 누군가를 설득해 카드를 사게 할 필요가 없다. 2006년에 카드가 그들의 책상 위에 있으면 된다.
이것이 해자의 정체이기도 하다. 기업용 GPU 92%는 한 세대의 성능 우위로 유지되지 않는다. 어느 논문의 코드든 GitHub에서 클론해 돌릴 수 있다는 사실로 유지된다. 전환 비용은 칩이 아니라 이미 쓰인 수백만 줄의 CUDA에 있다.
상자를 옮기다: DGX-1과 ’한 대의 기계’라는 경계
2016년 8월, 황은 샌프란시스코까지 차를 몰고 가 첫 DGX-1을 직접 OpenAI 사무실로 옮겼다. 12만 9000달러짜리 기계에 P100 여덟 장이 NVLink로 연결돼 있었다. 일론 머스크도 그 방에 있었다.
수백억 달러 기업의 CEO가 몇 달 된 비영리 연구소에 컴퓨터를 배달하고 직접 들었다. 이 이야기는 농담처럼 회자되지만, 회사가 스스로를 가장 정확히 묘사한 장면이다. 그들이 파는 것은 칩이 아니라 연산이 어떤 모습이어야 하는지에 대한 견본이다.
2017년 볼타는 Tensor 코어를 얹었다. 4×4 행렬 곱셈 유닛이다. 트랜스포머의 핵심 연산자는 거의 전부 배치 행렬 곱이고, 2020년에서 2025년 사이 훈련 비용의 급락은 절반이 공정과 패키징, 절반이 그 연산 전용 하드웨어에서 왔다.
이후 정밀도는 세대마다 내려갔다. V100의 FP16, A100의 BF16과 TF32, H100의 FP8, Blackwell의 FP4. 각 단계가 한 일은 같다. 모델이 필요로 하지 않는 정밀도를 실리콘과 대역폭에서 덜어내는 것.
범용 인터페이스, 전용 코어. “전용 칩이 GPU를 대체할 것”이라는 예측이 매년 나오고 매년 실현되지 않는 이유다.
## 행렬 곱셈을 실리콘에 용접하다
2017년 볼타와 함께 V100에 Tensor 코어가 들어갔다. 4×4 행렬 곱셈누적 유닛으로, 한 클록에 한 묶음의 곱셈누적을 처리한다. 당시 대부분의 프레임워크는 여전히 FP32로 cuBLAS를 호출했고, FP16 경로를 쓰려면 코드를 고쳐야 했다.
5년 뒤 이 결정은 결정적이 됐다. 트랜스포머의 핵심 연산자는 거의 전부 배치 행렬 곱이고, 어텐션의 QK 전치와 softmax 이후의 가중 합은 하드웨어에서 대규모 GEMM으로 내려앉는다. 2020년에서 2025년 사이 훈련 비용의 급락은 절반이 공정과 패키징, 절반이 그 연산 전용 하드웨어를 만든 결정에서 왔다.
이후 정밀도는 세대마다 내려갔다. V100의 FP16, A100의 BF16과 TF32, H100의 FP8, Blackwell의 FP4. 각 단계가 한 일은 같다. 모델이 필요로 하지 않는 수치 정밀도를 실리콘 면적과 메모리 대역폭에서 덜어내는 것.
돌아보면 CUDA 전략에 대한 영리한 헤지였다. 밖으로는 범용 프로그래밍 모델을 유지하고, 안으로는 가장 빈번한 커널을 전용 하드웨어로 만든다.
범용 인터페이스, 전용 코어. “전용 칩이 GPU를 대체한다”는 예측이 매년 나오고 매년 실현되지 않는 이유다. 도전자는 범용성을 잃거나, 이미 쓰인 수백만 줄을 잃는다.
한 번의 실패: 테그라
1993년부터 2026년까지의 이야기에는 성공보다 실패가 많다. 다만 소리가 작다.
2008년 NVIDIA는 테그라를 내고 휴대폰에 들어갔다. 테그라는 Zune HD와 몇몇 태블릿, 차량 헤드유닛에 들어갔고, 이후 퀄컴과 애플 자체 SoC에 밀려 주류에서 사라졌다. 2015년 무렵 이 사업은 휴대폰 전쟁을 떠나 차량 콕핏과 자율주행으로 갔다.
NV1과 같은 교훈을 더 싼 학비로 배운 셈이다. 남의 생태계 안에서 더 빠른 칩을 만들어도 생태계를 정의하는 쪽을 이기지 못한다.
살아남은 갈래 — 차량과 로보틱스 — 는 10년 뒤 체화된 AI의 입구가 됐다.
1조에서 5조로
H100은 2022년에 나왔다. 몇 달 뒤 ChatGPT가 등장했다. 타이밍이 너무 좋았다.
시가총액은 2023년 1조, 2024년 3조를 넘었고, 2025년 10월에는 처음으로 5조 달러를 돌파했다. 기업용 GPU 점유율은 약 92%.
운은 있었다. AlexNet이 그들의 카드에서 돌았고, 트랜스포머의 핵심 연산자는 행렬 곱이며, 대형 모델은 수천 장의 카드를 한 대의 기계로 엮어야 한다. 하지만 운은 정상을 설명할 뿐, 모든 정상에 그들이 있었던 이유는 설명하지 않는다.
그의 표현은 ’황의 법칙’이었다. 성능은 2년마다 두 배가 되고 단위 원가는 떨어진다. 무어의 법칙을 고쳐 쓴 것이 아니라, 아키텍처와 패키징, 상호연결, 소프트웨어 네 층을 하나의 리듬으로 압축한 것이다. 전제는 네 층이 한 회사에 있고, 분기 실적 콜에 장기 투자를 설명하지 않아도 되는 사람이 서명한다는 것이다.
2026년 9월 2일 하워드 러트닉 상무장관과의 대담에서 그는 말했다. “일을 그만둘 수도 있지만 놓치고 싶지 않다. 앞으로 10년, 15년을 놓치지 않을 것이다.” 2030년까지 100기가와트의 컴퓨팅 인프라가 더 필요하다고도 했다.
열 주 뒤, 그는 없었다.
두 장의 지도
중국 사업은 11월 12일 이후의 질의 배경이다.
2022년 10월 미 상무부가 A100과 H100의 대중 수출을 제한했고, NVIDIA는 대역폭을 깎은 A800과 H800을 내놨다. 2023년 10월 새 규정이 성능 밀도 기준을 조문에 넣자 그 제품들도 목록에 올랐고, 이어 H20의 반복이 있었다. 제한, 그리고 2025년 조건부 허가.
결과는 매출 구성의 변화다. 중국 데이터센터 매출은 전체의 5분의 1 이상에서 거의 0으로 떨어졌다가 일부 회복했다. 엔지니어링으로 풀 문제가 아니다. 측정되는 것이 성능이 아니라 라이선스이기 때문이다.
그래서 11월 12일 이후 도착한 서한은 연산이 아니라 누가 무엇을 승인했고 기록이 어디 있는지를 물었다. 리처드 닐과 론 와이든은 상무부에 기록 보존을 요청했다. 소수당이므로 물을 수는 있어도 강제할 수는 없다.
AI 공장의 청구서
2026년 9월, 황은 데이터센터를 “AI 공장”이라 부르기 시작하며 일정을 제시했다. 2030년까지 100기가와트.
대형 원전 한 기가 약 1기가와트다. 이 숫자는 논의를 칩 출하에서 전력과 부지로 옮긴다. 같은 달 네비우스는 2027년 400억 달러 설비투자 계획을 내놓고 주가가 17% 빠졌고, 마이크로소프트의 뉴저지 프로젝트는 몇 달 지연됐다. 병목이 가속기에서 변전소로 넘어갔다.
이것이 승계의 가장 어려운 부분이다. 황이 팔던 것은 칩만이 아니었다. 연산이 계속 부족할 것이라는 기대였고, 그 기대는 매주 누군가 반복해야 유지된다.
추론이 주인이 된 뒤
2024년에서 2026년 사이 수요의 모양이 바뀌었다. 훈련 설비투자는 거대하지만 둔화했고, 추론이 올라왔다. 긴 문맥, 도구를 반복 호출하는 에이전트, 여러 차례의 자기 점검.
경제학이 다르다. 훈련은 최고 FLOPS와 상호연결 대역폭을 보상한다. 추론은 토큰당 한계 비용을 본다. 메모리 용량이 KV 캐시를 얼마나 담는지, 대역폭이 디코드 속도를, 양자화가 같은 VRAM에 들어가는 모델 크기를 결정한다. KV 캐시를 5배 압축하면 같은 카드로 5배의 동시 요청을 처리한다.
그래서 Blackwell 이후 FP4로 가고, 그래서 KV 캐시 압축과 추측 디코딩, 배치 스케줄링이 2026년 연구 목록의 대부분을 차지한다.
해자에는 불리한 전환이다. 훈련 시대는 가장 빠른 카드를 보상했다. 추론 시대는 토큰당 최저 비용을 보상하고, 그 땅은 자체 ASIC이 파고들 수 있다. 구글 TPU, AWS 트레이니엄, 메타 MTIA가 밀고 있다. 황은 연간 아키텍처 리듬으로 격차를 유지했다. 두 번째 사람이 그 리듬을 지킬 수 있는지가 11월 17일 이후의 관전 포인트다.
직속 60명
그의 경영 방식은 실리콘밸리에서도 이례적이었다. 직속 보고자가 약 60명. 일대일 면담 없음. 슬라이드 없음.
모두가 매주 Top 5 Things 메일을 보냈다. 가장 중요한 다섯 가지와 지금 무엇을 생각하는지. 정보는 계층을 오르내리지 않고 옆으로 흘렀다. 이 관행은 직원 1만 명을 넘겨서도 유지됐고, 대가는 CEO의 찢긴 일정이었다.
“망하기 30일 전”은 이 체계의 정서적 기준선이었다. 4조 달러 기업을 긴장 상태로 붙잡아 두었다. 동시에 33년 동안 아무도 후계자로 자라지 못하게 한 이유이기도 하다.
음모가 아니라 구조다. 모든 핵심 의사결정 회로에 자신을 넣는 CEO는 두 번째 결정권자의 형성을 체계적으로 억제한다.
11월 12일 이후
크레스는 59세다. 2013년 9월 CFO로 합류했고 그전에는 텍사스인스트루먼트, 마이크로소프트, 시스코에서 약 25년간 재무를 맡았다. 로이터가 만난 사람들은 그를 황의 대립적 스타일의 정반대, 침착함이라고 표현한다.
시장은 완전히 납득하지 않았다. 무어 인사이츠의 안셸 사그는 직설적이다. CFO를 임시 자리에 앉히는 것은 시장을 진정시키지만, NVIDIA가 현재 궤도를 이어가는 데 필요한 장기 비전가는 아니다.
세 이름이 거론된다. 2004년 입사해 AI 하드웨어와 소프트웨어 제품을 이끌고 초기 CUDA를 만든 이안 벅. Arm CEO로 NVIDIA에서 7년 부사장을 지낸 르네 하스. 그리고 AMD CEO 리사 수, 가장 직접적인 경쟁자다.
11월 17일 장 마감 후 3분기 실적이 나온다. 새 리더십의 첫 공개 질의응답이 될 것이다.
같은 날 하원 세입위원회와 상원 재정위원회의 민주당 간사인 리처드 닐과 론 와이든은 엔비디아의 대중국 칩 판매 처리 방식을 두고 러트닉 상무장관에게 서한을 보내 관련 기록 보존을 요청했다. 소수당이므로 물을 수는 있어도 강제할 수는 없다.
흰 가죽 재킷
33년 동안 회사는 CEO를 한 번 바꿨다. 이제 바꿨다.
시험대에 오른 것은 후계자의 역량이 아니라 더 조용한 질문이다. 이 베팅들 — 삼각형, 하드웨어 T&L, 통합 셰이더, CUDA, Tensor 코어, NVLink — 중 얼마가 개인적 판단이었고 얼마가 이미 조직의 기본값이 되었는가.
CUDA는 답의 전반부다. 4000개가 넘는 가속 라이브러리, 수백만 개발자, 20년치 호환성. 아무도 x86을 뒤집지 못하듯 어떤 후계자도 이걸 뒤집지 못한다. 이것은 회사의 자산이지 개인의 자산이 아니다.
후반부는 30일의 긴장이다. 프로세스 문서에 쓸 수 없다. 누군가 반복해서 말하고 일정표로 보여줄 때만 존재한다. 이것은 개인의 자산이다.
11월 12일의 성명이 둘을 갈랐다. 시장은 그 분리에 1820억 달러의 값을 매기고 11월 17일을 기다린다.
실리콘의 주기는 3년, 아키텍처는 10년, 생태계는 20년이다. 한 사람의 임기는 33년이었고, 세 층 모두에 한 번씩 맞히기에 딱 맞았다.
흰 가죽 재킷은 아직 옷장에 있다. 그것을 입던 사람은 더 이상 회의실에 없다.