Jensen Huang: Nvidia의 미래, 물리적 AI, 에이전트의 부상, 추론 폭발, AI PR 위기

게시 2026/03/24 업데이트 2026/03/24

By BLUEBUG

49 분읽는 시간

출처: All-In Podcast
일자: 2026년 3월 20일
진행: Brad Gerstner, Jason Calacanis, David Sacks, David Freeberg
게스트: Jensen Huang (Nvidia CEO)

Groq 인수와 추론(Inference) 폭발
세계에서 가장 가치 있는 기업의 의사결정
물리적 AI의 50조 달러 시장과 OpenClaw의 미래
AI의 PR 위기와 두머(Doomer) 서사 반박
매출 역량, 직원 토큰 배분, 에이전트 미래
오픈소스, 글로벌 확산, 이란/대만 공급망 리스크
자율주행 플랫폼과 경쟁 구도
우주 데이터센터, AI 헬스케어, 로보틱스
OpenAI/Anthropic 매출 잠재력과 AI 해자(Moat)
AI 시대 젊은이들에게 주는 조언

서론: Jensen Huang, All-In에 등장하다

All-In Podcast 역사상 세 번의 정규 방송 중단 사례가 있다. 트럼프 대통령, 예수, 그리고 Jensen Huang이 바로 그 세 명이다. 이 에피소드는 Nvidia의 연례 개발자 컨퍼런스인 GTC 2026을 배경으로 진행되었다. 행사장에는 모든 주요 테크 기업, 모든 AI 기업, 모든 산업군이 모여 있었고, 그 열기를 바탕으로 Jensen Huang은 약 1시간에 걸쳐 Nvidia의 전략, 기술 비전, 그리고 AI 산업의 미래 전반에 대해 심층적으로 이야기했다.

1. Groq 인수와 추론(Inference) 폭발

Groq 인수의 배경: 분산 추론(Disaggregated Inference)

Jensen은 Groq 인수가 어느 날 갑자기 이루어진 결정이 아니라, 약 2년 반 전 GTC에서 공개적으로 발표한 전략의 일환임을 밝혔다. 그 전략의 핵심은 Dynamo라는 AI 팩토리 운영체제였다. Dynamo라는 이름은 19세기 지멘스(Siemens)가 발명한 발전기(Dynamo machine)에서 따왔다. 당시 다이나모는 물을 전기로 바꿔 산업 혁명의 공장을 가동시켰다. Jensen은 이 이름이 다음 산업 혁명, 즉 AI 팩토리 시대의 운영체제에 완벽한 이름이라고 생각했다.

Dynamo의 핵심 기술은 분산 추론(Disaggregated Inference) 이다. 추론 파이프라인은 오늘날 존재하는 컴퓨팅 문제 중 가장 복잡한 것으로, 방대한 규모와 다양한 수학적 연산을 요구한다. Nvidia는 추론 파이프라인의 일부는 특정 GPU에서, 나머지는 다른 GPU에서 실행되도록 처리 과정을 분리하는 방식을 도입했다. 이 사고방식은 자연스럽게 이기종 컴퓨팅(Heterogeneous Computing)으로 발전했으며, 멜라녹스(Mellanox) 인수와도 맥락을 같이한다.

오늘날 Nvidia의 컴퓨팅은 GPU, CPU, 스케일업 스위치, 스케일아웃 스위치, 네트워킹 프로세서로 분산되어 있으며, 여기에 Groq(LPU)를 추가함으로써 올바른 워크로드를 올바른 칩에 배치하는 전략을 완성한다. Jensen은 이 진화를 “Nvidia는 GPU 회사에서 AI 팩토리 회사로 변모했다”는 말로 요약했다.

Groq LPU와 Vera Rubin의 조합

Jensen은 데이터센터 공간의 약 25%를 Groq LPU와 Vera Rubin GPU의 조합에 할당해야 한다고 주장했다. 이는 Prefill-Decode 분리(Prefill-Decode Disaggregation) 라는 차세대 추론 아키텍처 개념으로, LLM 처리에서 에이전트 처리로의 전환을 반영한다.

에이전트 처리 환경에서는 워킹 메모리 접근, 장기 메모리 접근, 도구 사용, 스토리지 집약적 작업, 에이전트 간 협업이 동시에 이루어진다. 에이전트 중 일부는 대형 모델, 일부는 소형 모델, 일부는 디퓨전 모델, 일부는 자기회귀 모델로 구성된다. Nvidia는 이러한 다양한 워크로드를 처리하기 위해 Vera Rubin을 설계했다.

세 가지 컴퓨터 구조

Jensen은 AI 생태계를 구성하는 세 가지 기본 컴퓨터 개념을 제시했다:

훈련 컴퓨터(Training Computer): AI 모델을 개발하고 창조하는 컴퓨터
평가 컴퓨터(Evaluation Computer, Omniverse): 물리 법칙을 준수하는 소프트웨어로 구성된 가상 환경에서 로봇, 자동차 등을 평가하는 시뮬레이션 컴퓨터
엣지 컴퓨터(Edge Computer): 자율주행차, 로봇, 테디베어 같은 소형 기기, 그리고 통신 기지국에 이르는 엣지 디바이스 컴퓨터

특히 통신 기지국을 AI 인프라의 일부로 전환하는 사업은 2조 달러 규모의 산업이며, 이 모든 것이 AI 인프라의 확장으로 이어질 것이라고 강조했다.

추론 수요는 “백만 배” 증가할 것

1년 전 Jensen이 “추론은 1000배가 아니라 훨씬 더 늘어날 것”이라고 말했을 때 많은 사람들이 과장이라고 생각했다. 그러나 현재 추론 수요는 폭발적으로 증가했고, 실제로 추론 제약(Inference Constrained) 상태에 이르렀다. Nvidia는 기존 대비 10배 높은 처리량(Throughput)을 가진 추론 팩토리를 발표했다.

비용 논쟁에 대해 Jensen은 명확히 반박했다. “팩토리의 가격”과 “토큰의 비용”을 동일시해서는 안 된다. 500억 달러 규모의 팩토리가 실제로 가장 낮은 단위 토큰 비용을 생산할 수 있음을 증명할 수 있다고 했다. 500억 달러 팩토리와 경쟁사의 250~300억 달러 팩토리의 차이는 대부분 토지, 전력, 건물 비용이다. 실질적인 GPU 가격 차이는 전체의 작은 비율에 불과하지만, 처리량은 10배 차이가 난다는 것이 핵심 논지다.

2. 세계에서 가장 가치 있는 기업의 의사결정

Nvidia의 전략 결정 프레임워크

진행자들이 3500억 달러 이상의 연매출과 2000억 달러의 잉여 현금 흐름(Free Cash Flow)을 창출하는 회사를 어떻게 운영하는지 물었을 때, Jensen은 CEO의 핵심 역할을 명확히 정의했다.

CEO의 일은 전략을 정의하고 비전을 수립하는 것이다. 이 과정은 물론 회사 전체의 뛰어난 컴퓨터 과학자와 기술자들의 도움을 받지만, 최종 판단은 CEO가 내려야 한다.

Jensen의 전략 선택 기준은 두 가지다:

“이것이 극도로 어려운 일인가?” — 쉬운 일이라면 경쟁자가 넘쳐난다. 따라서 쉬운 일에서는 물러서야 한다.
“이것은 아무도 해본 적 없는 일이며, 우리 회사의 특별한 능력과 교차하는가?” — 이 두 조건의 교차점을 찾아야 한다.

그리고 여기에 덧붙인 조건이 있다: “위대한 것은 쉽게 이루어지지 않는다. 엄청난 고통과 어려움이 따를 것이다. 그러므로 그 과정을 즐길 수 있어야 한다.”

이 원칙은 Jensen이 고난과 고통을 성공의 전제 조건으로 보는 철학, 즉 스탠퍼드 졸업 연설에서 밝힌 “젊은이들에게 고통과 어려움을 빈다”는 유명한 발언과 일맥상통한다.

3. 물리적 AI의 50조 달러 시장과 OpenClaw의 미래

물리적 AI(Physical AI): 기술 산업 역사상 최초의 50조 달러 기회

Jensen은 물리적 AI를 기술 산업이 지금껏 다뤄본 적 없는 50조 달러 규모의 기회로 정의했다. 이 산업은 역사적으로 기술이 거의 침투하지 못했던 분야다. Nvidia는 10년 전부터 이 여정을 시작했으며, 이제 물리적 AI는 연간 거의 100억 달러에 달하는 사업으로 성장하면서 지수적으로 성장하고 있다.

디지털 바이올로지: 바이오의 ChatGPT 모멘트가 온다

Jensen은 디지털 바이올로지 분야가 “ChatGPT 모멘트”에 가까워지고 있다고 선언했다. 현재 AI는 화학물질을 이해하는 수준을 넘어, 유전자, 단백질, 세포를 표현하고 이해하는 방향으로 나아가고 있다. Jensen의 예측으로는 향후 2~5년 내에 디지털 바이올로지가 헬스케어 산업에 본격적으로 영향을 미치기 시작할 것이며, 농업 분야는 이미 영향이 나타나고 있다.

OpenClaw: 현대 컴퓨팅의 새로운 운영체제

Jensen은 AI 에이전트 분야에서 지난 2년간 세 가지 중요한 변곡점이 있었다고 설명했다:

ChatGPT (생성형 AI): ChatGPT가 AI를 대중의 인식 속으로 가져왔다. 기술 자체는 몇 달 전부터 존재했지만, ChatGPT가 사용자 인터페이스를 입혀 생성형 AI를 폭발시켰다.
추론(Reasoning): 생성형 AI가 내부 소비(사고)와 외부 소비를 위한 토큰을 생성하면서 추론 단계로 발전했다. OpenAI의 o1, o3 모델이 이 물결을 이어받아 AI가 질문에 더 근거 있게 답하도록 했다. 이 단계에서 OpenAI의 경제 모델이 본격적으로 성장하기 시작했다.
에이전트(Agentic): Claude Code가 업계 내부에서 최초의 실용적인 에이전트 시스템으로 등장했지만, 기업 대상으로만 제공되어 일반 대중은 접하기 어려웠다. OpenClaw(오픈 클로드 코드) 가 이것을 대중의 인식 속으로 가져온 것이다.

Jensen은 OpenClaw의 중요성을 단순히 소프트웨어 도구 이상으로 평가했다. OpenClaw가 정의하는 컴퓨팅 모델의 구성요소를 분석했을 때:

단기 메모리: 파일 시스템(스크래치패드)
장기 메모리(스킬): API를 통해 다양한 애플리케이션을 실행하는 능력
리소스 관리 및 스케줄링: 작업 분해, 에이전트 생성, 크론 작업
I/O 서브시스템: WhatsApp 연결 등 입출력 기능

이 네 가지 요소는 컴퓨터를 정의하는 근본 요소다. 따라서 OpenClaw는 최초의 개인 인공지능 컴퓨터이며, 오픈소스로 어디서나 실행 가능한 현대 컴퓨팅의 운영체제 청사진이라고 Jensen은 결론지었다.

다만 에이전트 소프트웨어는 민감한 정보에 접근하고, 코드를 실행하며, 외부와 소통할 수 있으므로 반드시 거버넌스와 보안 정책이 필요하다. Nvidia는 Peter Steinberger 팀과 협력하여 에이전트에게 동시에 세 가지 권한(민감 정보 접근, 코드 실행, 외부 통신)을 모두 부여하지 않는 정책 구조를 개발했다.

4. AI의 PR 위기와 두머(Doomer) 서사 반박

AI 입법의 한계와 정책 입안자 교육

Jensen은 AI 거버넌스와 규제에 대해 정책 입안자들과 지속적으로 소통해야 한다고 강조했다. 특히 다음과 같은 잘못된 인식을 바로잡아야 한다고 했다:

AI는 생물학적 존재가 아니다
AI는 외계 존재가 아니다
AI는 의식이 없다
AI는 컴퓨터 소프트웨어다

“우리가 AI를 전혀 이해하지 못한다”는 주장도 사실이 아니다. 우리는 이 기술에 대해 많은 것을 이해하고 있다.

Jensen이 가장 우려하는 것은 미국의 AI 확산 속도다. 다른 국가들이 AI를 적극 채택하는 동안, 미국 사회가 AI에 분노하거나 두려워하거나 편집증적인 태도를 취한다면, 미국의 산업과 사회가 AI의 혜택을 누리지 못하게 된다는 것이다. 이는 핵 산업의 전철을 밟는 셈이다. 현재 미국에서 핵 에너지에 대한 거부감으로 인해 중국은 100개의 핵분열 원자로를 건설하고 있는 반면 미국은 0개를 건설하고 있다는 점을 상기시켰다.

Anthropic의 커뮤니케이션 실수

국방부와의 논란에 대해 Jensen은 Anthropic의 기술은 뛰어나며 보안과 안전에 대한 집중도도 훌륭하다고 평가했다. 그러나 다음과 같이 우려를 표명했다:

“경고는 좋다. 그러나 공포를 조장하는 것은 덜 좋다.”

기술 리더들의 말은 이제 사회 전반에 큰 영향을 미친다. 따라서 다음이 필요하다:

더 많은 신중함(Circumspect)
더 많은 겸손함(Humility) — 미래를 완전히 예측할 수 없다는 인정
더 많은 균형(Balance)
증거 없는 극단적이고 파국적인 예언 자제

AI에 대한 미국 내 지지율은 17%에 불과하다. Jensen은 업계가 더 적극적으로 AI의 긍정적인 면을 알려야 한다고 주장했다.

5. 매출 역량, 직원 토큰 배분, 에이전트 미래

에이전트 시대, 계산량이 1만 배 증가했다

Jensen은 AI 계산 수요의 폭발적 증가를 단계별로 설명했다:

생성형 → 추론(Reasoning): 약 100배 계산 증가
추론 → 에이전트(Agentic): 약 100배 추가 증가
합산: 불과 2년 만에 계산량이 1만 배(10,000x) 증가

그리고 사람들은 정보에도 돈을 지불하지만, 궁극적으로는 일(Work)에 돈을 지불한다. 챗봇과 대화하는 것은 훌륭하지만, 실제로 일을 처리해주는 것에는 그보다 훨씬 더 큰 돈을 지불할 의향이 있다. 에이전트 시스템은 바로 그 일을 처리한다.

직원 토큰 소비: 새로운 패러다임

Nvidia는 43,000명의 직원 중 38,000명이 엔지니어다. Jensen은 토큰 소비에 대한 혁명적인 관점을 제시했다:

연봉 50만 달러짜리 소프트웨어 엔지니어가 연간 토큰 소비량을 물었을 때 5,000달러라고 답한다면, Jensen은 경악할 것이라고 했다. 그의 기준은 이렇다:

“50만 달러짜리 엔지니어가 최소 25만 달러어치의 토큰을 소비하지 않는다면, 나는 깊은 우려를 느낄 것이다.”

이는 종이와 연필만 쓰겠다는 칩 디자이너와 다를 바 없다. 최고의 지식 근로자에게 초인적 능력을 부여하는 것, 이것이 진정한 패러다임 전환이다. LeBron James가 자신의 몸을 관리하는 데 연간 100만 달러를 쓰고 41세에도 현역인 것처럼, 뛰어난 지식 근로자에게는 그에 맞는 AI 투자가 이루어져야 한다.

오토리서치(Auto Research)와 7년짜리 박사 논문이 30분 만에

David Freeberg가 경험을 공유했다. 그는 CEO로서 일요일 밤 10시에 시작해 11시 30분에 전체 소프트웨어 스택을 Claude를 사용해 90분 만에 교체했다. 더 놀라운 것은 Auto Research를 사용한 경험이었다. 팀이 유전체학 데이터를 가지고 Auto Research를 돌렸는데, 정상적으로는 7년이 걸리는 박사 논문급 연구 결과가 30분 만에 나왔다. 그것도 Nature/Science 수준의 연구였다.

Jensen은 이에 대해 OpenClaw가 성공한 가장 근본적인 이유는 LLM의 돌파구와의 타이밍이라고 설명했다. 만약 ChatGPT와 Claude가 현재 수준에 도달하지 않았다면, 오픈소스 에이전트 프레임워크는 존재할 수 없었을 것이다.

엔터프라이즈 소프트웨어는 파괴될까, 확장될까?

일부에서는 에이전트가 엔터프라이즈 소프트웨어 산업을 파괴할 것이라고 주장한다. Jensen은 반대 관점을 제시했다. 엔터프라이즈 소프트웨어는 지금까지 좌석 수(Seats)로 제한되어 있었다. 앞으로는 SQL, 벡터 데이터베이스, Blender, Photoshop에 수백 배의 에이전트가 달라붙을 것이다. 이 도구들은 첫째, 일을 잘 한다. 둘째, 인간이 결과를 제어하는 도구이기 때문이다. Cadence, Synopsis 같은 도구에 결과를 돌려보내야 인간이 제어할 수 있다.

미래의 엔지니어: 아이디어와 명세서를 작성하는 사람

Jensen이 그리는 미래 엔지니어의 모습은 이렇다:

코딩 대신 아이디어, 아키텍처, 명세서 작성
에이전트 팀 조직 및 관리
좋은 결과와 나쁜 결과를 정의하는 평가 기준 설정
브레인스토밍과 반복적 협업

“모든 엔지니어는 100개의 에이전트를 가지게 될 것이다.”

6. 오픈소스, 글로벌 확산, 이란/대만 공급망 리스크

오픈소스 vs 독점 모델: A와 B의 공존

Jensen은 독점 모델과 오픈소스 모델이 OR 관계가 아닌 AND 관계라고 명확히 했다.

대부분의 소비자에게 일반 목적의 수평 지능은 ChatGPT, Claude, Gemini, Grok을 그대로 사용하는 것이 최선이다. 이들은 각자 개성이 있어 기분과 목적에 따라 선택할 수 있다. 이 시장은 번성할 것이다.

반면, 각 산업의 도메인 전문성과 특화된 지식은 오픈 모델을 통해서만 온전히 포착하고 제어할 수 있다. Nvidia는 오픈 모델 생태계에 크게 기여하고 있으며, 그 수준이 이미 프론티어에 근접해 있다.

현재 가장 인기 있는 모델 순위는:

OpenAI — 독점 모델 1위
오픈소스 모델 — 2위 (상당한 격차)
Anthropic — 3위

Nvidia가 투자하는 모든 스타트업은 오픈소스 우선(Open Source First) 전략을 채택하고 있다.

글로벌 확산 전략: AI의 국가 안보

Jensen은 미국이 AI에서 리드하기를 원하며, 트럼프 대통령의 방향과도 일치한다. 그러나 현재 Nvidia는 세계 두 번째로 큰 시장(중국)에서의 점유율을 95%에서 0%로 잃었다. 목표는 미국 기술 스택, 즉 칩부터 컴퓨팅 시스템, 플랫폼까지 세계의 90%가 사용하는 것이다.

이를 위해 중국 기업들에 대한 라이선스를 신청했고, Howard Lutnick 상무장관으로부터 승인된 라이선스를 받았다. 많은 중국 기업들이 이미 구매 주문서를 제출했으며, 공급망을 재가동하는 과정에 있다.

AI 산업이 태양광 패널, 희토류, 자석, 모터, 통신처럼 중국 의존적이 되는 것은 국가 안보 측면에서 최악의 시나리오다.

이란과 대만: 공급망 리스크

Nvidia에는 약 6,000가족이 중동 지역에 있으며, 이란 출신 직원들도 많다. Jensen은 이들의 안위를 최우선으로 생각하며 100% 지원을 약속했다. 또한 전쟁이 끝난 후 중동이 더 안정적이 될 것이라는 믿음으로, 중동 AI 투자 계획을 계속 진행하겠다고 밝혔다.

대만에 대한 전략은 세 가지다:

미국 재산업화 가속: 칩 제조, 컴퓨터 제조, AI 팩토리를 미국 내에서 최대한 빠르게 구축
공급망 다변화: 한국, 일본, 유럽으로 제조 공급망 분산
자제와 인내: 다양성과 복원력을 높이는 동안 불필요한 압박을 가하지 않고 인내

헬륨 공급에 대해서는 공급망에 충분한 버퍼가 있을 가능성이 높다며 당장 큰 문제는 아닐 것이라고 했다.

7. 자율주행 플랫폼과 경쟁 구도

Nvidia의 자율주행 전략: 안드로이드형 오픈 플랫폼

Jensen의 자율주행 비전은 명확하다: 움직이는 모든 것은 언젠가 완전히 혹은 부분적으로 자율화될 것이다.

Nvidia는 자율주행차를 직접 만들지 않는다. 대신 전 세계 모든 자동차 회사가 자율주행차를 만들 수 있도록 돕는다. 이를 위해 네 가지 컴퓨터를 모두 구축했다: 훈련 컴퓨터, 시뮬레이션 컴퓨터, 평가 컴퓨터, 그리고 차량 탑재 컴퓨터.

세계에서 가장 안전한 드라이빙 운영체제를 개발했으며, 최초의 추론 기반 자율주행 차량도 만들었다. 이 추론 시스템은 Alcommyo라고 불리며, 복잡한 주행 시나리오를 AI가 이해할 수 있는 더 단순한 시나리오로 분해한다.

Tesla에는 훈련 컴퓨터를, 다른 파트너들에게는 원하는 조합을 제공하는 유연한 전략을 취하고 있으며, BYD, Uber 등 많은 파트너사와 협력 중이다.

경쟁: 고객들이 경쟁자로 변할 때

Google의 TPU, Amazon의 Inferentia와 Trainium 등 고객이면서 경쟁자인 기업들에 대해 Jensen은 다음과 같이 말했다:

Nvidia는 전 세계 모든 AI 회사와 협력하는 유일한 AI 회사다. 경쟁사들은 Nvidia에게 자신이 무엇을 만드는지 보여주지 않지만, Nvidia는 항상 자신이 무엇을 만드는지 모든 사람에게 보여준다. 경쟁의 우위는 최고의 기술에서 온다.

Nvidia의 고유한 강점은 다음과 같다:

모든 클라우드에서 실행 가능한 유일한 아키텍처
클라우드에서 온프레미스, 자동차, 우주까지 어디서나 이식 가능
전체 AI 팩토리 스택을 제공하는 유일한 기업 — 고객들은 단순히 칩을 사려는 게 아니라 AI 인프라를 구축하려 한다

분석가들의 예측(2026년 +30%, 2027년 +20%, 2029년 +7%)에 대해 Jensen은 단호히 반박했다. 이들은 AI의 규모와 폭넓음을 이해하지 못하고 있다. AI는 상위 5개 하이퍼스케일러에만 있는 것이 아니다. 클라우드 밖의 지역, 엔터프라이즈, 산업, 엣지 전체가 성장하고 있으며, 그것이 Nvidia가 실제로는 시장 점유율을 높이고 있는 이유다.

8. 우주 데이터센터, AI 헬스케어, 로보틱스

우주 데이터센터: 이미 시작됐다

Jensen은 Nvidia가 이미 우주에 있다고 밝혔다. CUDA가 전 세계 위성에 탑재되어 이미징, AI 이미지 처리를 수행하고 있다. 모든 데이터를 지구로 보내서 처리하는 대신 우주에서 직접 처리하는 방식이다.

우주 데이터센터의 가장 큰 기술적 도전은 냉각이다. 우주에서는 전도(Conduction)와 대류(Convection)를 활용할 수 없고, 복사(Radiation)만 가능하기 때문에 매우 큰 표면이 필요하다. 불가능한 문제는 아니며, Nvidia는 우주 데이터센터 아키텍처를 계속 탐구할 예정이다. 이미 방사선 강화(Radiation Hardened) 처리가 되어 있다.

AI 헬스케어: 세 가지 축

Jensen은 Nvidia가 헬스케어에서 세 가지 영역에 관여하고 있다고 설명했다:

AI 바이올로지(AI Biology): AI를 사용하여 생물학적 행동을 표현, 이해, 예측. 신약 개발에 매우 중요. Open Evidence, Hippocratic 같은 기업들과 협력 중.
AI 에이전트: 진단 보조 및 의료 상호작용 혁신. 에이전트 기술이 의사 및 의료 서비스와의 상호작용 방식을 혁신할 것.
물리적 AI(Physical AI): 로봇 수술 등. 미래의 모든 의료 기기(초음파, CT 등)는 에이전트화될 것이며, 안전한 버전의 OpenClaw가 모든 의료 기기 내에 탑재될 것이다.

로보틱스: 3~5년 안에 일상이 된다

Jensen은 로보틱스 분야에 대해 다음과 같이 분석했다:

미국은 로보틱스 산업을 약 5년 일찍 시작했다가 포기했다. 핵심 기반 기술(AI 두뇌)이 등장하기 직전에 지쳐버린 것이다. 그러나 이제 그 기반 기술이 준비되었다.

고기능 로보틱스의 존재 증명(Existence Proof)에서 실용적 제품까지는 기술 역사상 2~3 사이클, 즉 3~5년이 걸린다. Jensen은 3~5년 안에 로봇이 도처에 있게 될 것이라고 확신했다.

중국의 로보틱스에 대해서는 “위협적”이라고 인정했다. 이유는 마이크로 전자기기, 모터, 희토류, 자석 분야에서 중국이 세계 최고이기 때문이다. 이것들이 로보틱스의 기초이며, 전 세계 로보틱스 산업은 중국의 생태계와 공급망에 깊이 의존할 수밖에 없다.

로보틱스가 열어줄 미래

로보틱스의 가능성에 대해 논의가 이어졌다:

Elon Musk의 비전(사람 1명당 로봇 1대)에 대해 Jensen은 “더 많아야 한다”고 했다
공장에서 24시간 일하는 로봇, 집에서 허드렛일을 하는 로봇
가상 존재감(Virtual Presence): 출장 중에 자신의 로봇에 원격 접속해 집을 돌아보고 반려견과 이야기하는 미래
빛의 속도로 이동: 자신의 AI와 로봇을 먼저 보내 환경을 탐색하게 하는 개념
달과 화성 개척: 로봇이 무인 공장을 운영하고, 달의 자원을 활용해 지구에 필요한 것을 생산. 달에서 지구로 돌아오는 에너지 비용은 사실상 제로(태양광 이용 가속)

9. OpenAI/Anthropic 매출 잠재력과 AI 해자(Moat)

트릴리언 달러 전망

Dario Amodei(Anthropic CEO)는 2027~2028년에 모델 및 에이전트 기업들의 매출이 수천억 달러에 달하고, 2030년까지 1조 달러에 이를 것이라고 예측했다. Jensen은 이에 대해 “매우 보수적인 예측”이라며, “Anthropic은 그보다 훨씬 더 잘할 것”이라고 말했다.

그 이유는 Dario가 고려하지 않은 핵심 요소가 있기 때문이다: 모든 엔터프라이즈 소프트웨어 기업이 Anthropic 코드와 토큰의 부가가치 리셀러(VAR)가 될 것이다. OpenAI도 마찬가지다. 이 기업들의 시장 진출(Go-to-Market) 채널이 기하급수적으로 확장되는 효과다.

AI 시대의 해자(Moat)는 무엇인가

진행자들이 “CUDA가 가장 강력하고 알려지지 않은 해자”라고 언급하자, Jensen은 애플리케이션 레이어에서의 해자에 대해 다음과 같이 답했다:

깊은 전문화(Deep Specialization) 가 답이다.

미래의 아키텍처는 다음과 같다: 소프트웨어 기업의 에이전트 시스템에 범용 클라우드 모델과 독점 모델이 연결되고, 여기에 기업 자체가 훈련한 특화된 하위 에이전트들이 포함된다.

이것은 기존 소프트웨어 개발 방식의 역전이다:

기존: 소프트웨어를 만들어 최대한 범용화하고 넓게 판매한 후 커스터마이제이션을 추가
미래: 수직 전문화(Vertical Specialization)가 핵심이며, 도메인 전문성이 깊을수록 강력한 해자가 된다

역설적으로, GSI(글로벌 시스템 통합기업)와 컨설턴트들이 하던 수직 특화 작업이 사실 수평 플랫폼보다 5~6배 더 큰 산업이었다. 앞으로 플랫폼 기업들이 그 전문가 역할을 직접 수행할 기회가 생긴다.

10. AI 시대 젊은이들에게 주는 조언

일자리 대체: 현실적 인식

Jensen은 AI로 인한 일자리 대체가 있을 것임을 인정했다. 특히 운전 관련 일자리 1,000~1,500만 명이 영향을 받을 것이다. 그러나 역사적 사례를 통해 낙관론을 유지했다.

방사선과 의사(Radiologist)의 사례: 딥러닝 혁명 초기에 세계적인 컴퓨터 과학자가 컴퓨터 비전이 방사선과 의사를 완전히 대체할 것이라며 그 직업을 선택하지 말라고 조언했다. 10년 후, 그의 예측은 100% 맞았다. 컴퓨터 비전은 모든 방사선학 기술에 통합되었다. 그런데 놀랍게도 방사선과 의사의 수는 오히려 증가했다.

이유는 간단하다:

스캔이 훨씬 빨리 이루어지면서 더 많은 스캔을 처리할 수 있게 되었다
더 많은 환자를 더 빨리 치료할 수 있게 되었다
병원의 수입이 늘어나면서 더 많은 방사선과 의사를 고용했다

이것이 생산성 증가의 선순환이다:

생산성 증가 → 경제 성장 → 더 많은 교사, 더 많은 학생, 더 많은 의료 서비스

비행기 자동조종장치 유추도 제시했다: 자동조종장치가 비행 시간의 90%를 직접 조종하지만, 조종사 수는 줄어들지 않았다. 오히려 항공 교통량이 늘어나면서 더 많은 조종사가 필요해졌다.

직업 변화의 방향

조종사처럼 미래의 운전기사는 이동 어시스턴트(Mobility Assistant) 로 진화할 것이다. 차가 스스로 운전하는 동안 운전기사는 짐 정리, 일정 조율, 호텔 예약 등 더 많은 부가 서비스를 제공하게 된다.

젊은이들을 위한 구체적 조언

AI 사용 전문가가 되어라: AI를 능숙하게 사용하는 것은 단순하지 않다. 이것이 새로운 핵심 역량이다.
깊은 과학, 깊은 수학: 기초 학문은 여전히 중요하다.
언어 능력: 언어는 AI의 프로그래밍 언어다. 실제로 영문학 전공자가 가장 성공적인 사람이 될 수도 있다.
과도한 지정(Over-prescribe) 없이 가이드하는 기술: AI에게 충분한 창의적 공간을 주면서 원하는 결과를 향해 안내하는 것이 예술이다.
AI로 대체되는 것이 아니라 AI를 사용하는 사람에게 대체된다: 이것이 핵심 통찰이다.

결론: 기술 낙관주의와 겸손함의 균형

Jensen은 대화를 마치며 두머이즘(Doomersism)에 강하게 반대한다고 강조했다. 두 가지 아이디어를 동시에 유지할 수 있어야 한다고 했다:

일부 직업 대체는 현실이다
그러나 기술은 역사적으로 항상 새로운 기회를 창출해왔다

핵심은 “우리는 선택권이 있다(We get to choose)” 는 것이다. 우리에게는 자율성과 행위 능력(Agency)이 있다. AI 시대를 어떻게 헤쳐나갈지는 우리가 결정한다.

마지막으로 Jensen은 “우리는 소프트웨어를 만들고 있을 뿐이다. 이것은 우리가 전에도 해본 일이다. 우리는 전에도 카테고리와 산업을 창조했다. 공포 조장은 아무 도움이 되지 않는다”고 말하며 대화를 마무리했다.

핵심 데이터 및 수치 요약

항목	수치
Nvidia 예상 연 매출	3,500억 달러 이상
Nvidia 예상 잉여 현금 흐름	2,000억 달러
Nvidia 총 직원 수	43,000명
Nvidia 엔지니어 수	38,000명
물리적 AI 시장 규모	50조 달러
Nvidia Physical AI 사업 규모	연 ~100억 달러
Blackwell + Vera Rubin 수주 가시성	1조 달러
2년간 AI 계산량 증가	10,000배 (1만 배)
추론 팩토리 처리량 향상	10배
Nvidia 추천 Groq 비중	데이터센터 공간의 25%
AI 미국 내 지지율	17%
로봇 상용화 예상 기간	3~5년
Anthropic 2030년 예상 매출(Jensen 평가)	1조 달러 이상 (매우 보수적)
미국 운전 관련 일자리	1,000~1,500만 명

주요 인용구

“당신은 AI에게 일자리를 빼앗기는 것이 아니다. AI를 사용하는 사람에게 빼앗기는 것이다.” — Jensen Huang

“팩토리의 가격과 토큰의 비용을 동일시하지 마라. 500억 달러 팩토리가 가장 저렴한 토큰을 생산할 수 있다.” — Jensen Huang

“경고는 좋다. 그러나 공포를 조장하는 것은 덜 좋다.” — Jensen Huang (Anthropic의 커뮤니케이션에 대해)

“언어는 AI의 프로그래밍 언어다. 영문학 전공자가 가장 성공적인 사람이 될 수도 있다.” — Jensen Huang

“나는 Dario와 Anthropic이 훨씬 더 잘할 것이라고 생각한다. 훨씬 더.” — Jensen Huang (Anthropic의 매출 전망에 대해)

“Nvidia는 GPU 회사에서 AI 팩토리 회사로 진화했다.” — Jensen Huang

“움직이는 모든 것은 언젠가 완전히 혹은 부분적으로 자율화될 것이다.” — Jensen Huang

이 문서는 2026년 3월 20일 방영된 All-In Podcast의 Jensen Huang 인터뷰를 기반으로 작성되었습니다.

AI, Material

AI JensenHuang Groq disaggregated-inference NVIDIA physical-ai OpenClaw Anthropic OpenAI Autoresearch Claude.write