엔비디아 24년 4분기 실적 발표 - 젠슨 황 CEO의 답변으로 보는 엔비디아의 미래

엔비디아가 24년 4분기 실적과 25년 1분기 전망을 발표하였습니다. 언제나 그러하였듯이 실적 과 향후 분기 전망 모두 예상을 넘어섰습니다. (그럼에도 주가는 오히려 더 하락하고 있습니다. ㅠㅠ)

 

실적 과 전망에 대한 내용은 이미 잘 공유되고 있어 이번 글은 실적 발표에서 젠슨 황 CEO의 답변을 정리해 보면서 젠슨 황이 향후 엔비디아의 미래에 어떤 비젼을 가지고 있는지 살펴보고자 합니다.

 

 

1. 테스트 타임 컴퓨팅(Test-Time Compute)과 추론(Inference) 확장

 

질문: 테스트 타임 컴퓨팅과 강화 학습의 가능성이 커지면서 훈련과 추론 간 경계가 모호해지고 있습니다. 이는 추론 전용 클러스터의 미래에 어떤 영향을 미칠까요?

 

젠슨 황 답변

• 다양한 확장 법칙: 사전 훈련(Pre-training), 사후 훈련(Post-training), 추론(Inference) 확장의 세 가지 확장 법칙이 존재합니다.
• 사후 훈련의 중요성: 강화 학습을 사용한 사후 훈련은 사전 훈련보다 더 많은 연산량을 필요로 합니다. AI 모델이 AI 모델을 훈련하기 위한 합성 데이터를 생성하기 때문입니다.
• 추론의 폭발적 성장: 추론에 필요한 연산량은 초기 대규모 언어 모델(LLM)보다 이미 100배 이상 증가했으며, 향후 수천 배, 수백만 배 더 증가할 수 있습니다.
• 블랙웰(Blackwell) 아키텍처: 엔비디아는 추론 모델을 염두에 두고 블랙웰 아키텍처를 설계했습니다. 블랙웰은 훈련 성능뿐만 아니라 추론에서도 뛰어난 성능을 보입니다. 특히 장기적인 사고(Long Thinking) 모델에서 처리량이 25배 더 높습니다.
• 통합 아키텍처의 중요성: 엔비디아의 아키텍처는 사전 훈련, 사후 훈련, 추론 확장에 유연하게 대응할 수 있도록 설계되었으며, 통합된 아키텍처에 대한 집중이 더욱 강화될 것입니다.

2. GB200 램프업(Ramp-up) 및 시스템 수준의 병목 현상

 

질문: GB200의 복잡성과 램프업 과정에서의 병목 현상에 대한 질문입니다. NVL72 플랫폼에 대한 기대는 여전한가요?

젠슨 황 답변:

• GB200 생산 확대: GB200 랙 제조에 필요한 150만 개의 부품을 생산하는 350개의 공장을 가동하고 있으며, 생산량을 성공적으로 늘리고 있습니다.
• 수요 충족 노력: GB200에 대한 수요가 매우 높으며, 고객들은 블랙웰 시스템을 간절히 기다리고 있습니다.
  성공적인 초기 구축: 코어위브(CoreWeave), 마이크로소프트, OpenAI 등에서 GB200 시스템이 성공적으로 구축되고 있습니다.
• 어려움 극복: 엔비디아는 어려운 과정을 훌륭하게 극복하고 있으며, 파트너들과 함께 성공적인 결과를 만들어내고 있습니다.

3. 향후 수요 지속 가능성에 대한 확신

 

질문: 1분기(Q1)가 총 마진의 바닥인지, 그리고 향후 강력한 수요가 지속될 것이라고 확신하는 이유는 무엇인가요? DeepSeek과 같은 혁신이 엔비디아의 전망에 영향을 미치나요?

젠슨 황 답변

• 데이터 센터 투자: 데이터 센터 구축에 대한 투자 규모를 파악하고 있으며, 향후 대부분의 소프트웨어가 머신 러닝에 기반할 것이라고 예상합니다.
• 파트너사 전망: 주요 파트너사의 전망과 계획을 고려하고 있습니다.
• 스타트업 생태계: 에이전트 AI, 추론 AI, 물리적 AI 등 다양한 분야에서 혁신적인 스타트업들이 계속 등장하고 있으며, 이들은 컴퓨팅 인프라를 필요로 합니다.
• 소프트웨어의 변화: 소프트웨어가 CPU에서 실행되는 핸드 코딩 방식에서 GPU 및 가속 컴퓨팅 시스템에서 실행되는 머신 러닝 및 AI 기반 소프트웨어로 근본적으로 변화하고 있습니다.
• 새로운 물결: 컨슈머 AI, 검색, 광고, 추천 시스템 외에도 엔터프라이즈용 에이전트 AI, 로보틱스용 물리적 AI, 각 지역별 AI 생태계를 구축하는 소버린 AI 등 새로운 물결이 다가오고 있습니다.

코렛 크레스(Colette Kress) CFO 답변

• 총 마진: 블랙웰 램프업 기간 동안 총 마진은 70% 초반대가 될 것이며, 제조 효율성이 향상됨에 따라 올해 말에는 70% 중반대로 개선될 것으로 예상합니다. 시스템의 복잡성, 네트워킹 옵션, 냉각 방식 등으로 인해 마진 개선의 여지가 있습니다.

4. 블랙웰 울트라(Blackwell Ultra) 출시 계획

 

질문: 블랙웰 울트라가 올해 하반기에 출시될 예정인데, 기존 블랙웰 솔루션 생산량 확대와 함께 어떻게 수요를 관리하고 공급망을 운영할 계획인가요?

젠슨 황 답변:

• 블랙웰 울트라 출시: 블랙웰 울트라는 예정대로 올해 하반기에 출시될 것입니다.
• 파트너 협력: 파트너 및 고객과 긴밀하게 협력하여 필요한 정보를 제공하고 적절한 전환을 지원할 것입니다.
• 시스템 아키텍처: 블랙웰에서 블랙웰 울트라로의 전환은 시스템 아키텍처가 동일하기 때문에 이전 세대보다 훨씬 쉬울 것입니다.
• 로드맵 공개: 이미 파트너들과 다음 세대 제품인 베라 루빈(Vera Rubin)에 대한 정보를 공유하고 있으며, GTC에서 자세한 내용을 공개할 예정입니다.

 

5. 커스텀 ASIC과 엔비디아 GPU의 균형:

 

질문: 커스텀 ASIC의 성장세에 대한 질문입니다. 이기종 슈퍼클러스터(GPU와 ASIC을 함께 사용하는) 구축 계획이 있나요?

젠슨 황 답변:

 

엔비디아 아키텍처의 장점은 다음과 같습니다.

• 범용성: 엔비디아의 아키텍처는 다양한 모델(언어, 비전, 멀티모달 등)에 적합합니다.
• 엔드 투 엔드: 데이터 처리, 훈련, 추론 등 모든 단계에서 뛰어난 성능을 제공합니다.
• 접근성: 모든 클라우드, 온프레미스, 로봇 등 어디에서나 사용할 수 있습니다.
• 빠른 성능 향상: 엔비디아는 지속적으로 성능을 향상시키고 있으며, 이는 고객 수익으로 직결됩니다. AI 팩토리는 큰
• 생성을 통해 직접 수익화할 수 있기 때문입니다.
• 소프트웨어 스택: 엔비디아의 소프트웨어 스택은 매우 복잡하고 빠르게 진화하고 있으며 (연간 2~4배), ASIC으로는 따라올 수 없는 강점입니다.

칩 설계가 완료되었다고 해서 반드시 배포되는 것은 아닙니다. 엔비디아는 빠른 배포 능력과 강력한 소프트웨어 역량을 바탕으로 시장에서 성공하고 있습니다.

 

 

AISIC 과의 균형에 대한 질문에서는 젠슨 황의 대답에서 AI 시대에서 엔비디아의 역할은 절대 축소되지 않을 것이라는 당찬 자신감이 느껴집니다.

---

엔비디아 CEO 젠슨 황은 마지막 코멘트에서 

 

 

"우리는 추론 AI와 추론 시간 스케일링의 시작에 있습니다. 하지만 우리는 AI 시대의 시작에 불과합니다. 우리는 2025년에 강력하게 성장할 것입니다. 앞으로 데이터 센터는 대부분의 자본 지출을 가속 컴퓨팅과 AI에 전념할 것입니다."

 

 

라고 전하며 앞으로 밝은 엔비디아의 미래에 확신하고 있습니다. 3월 중순의 GTC에서 Blackwell Ultra, Rubin, 그리고 다른 새로운 컴퓨팅, 네트워킹, 추론 AI, 물리적 AI 제품, 그리고 훨씬 더 많은 것에 대해 또 많은 이야기가 나올 것입니다.

 

 

결론적으로 엔비디아의 미래는 아무런 걱정이 없어 보입니다. 단지 현재 투자자의 계좌가 살짝 스크레치가 있겠지만, 이 또한 극복하리라 믿습니다.