xAI의 Grok 3는 지금까지 없었던 컴퓨팅 자원과 혁신적인 아키텍처를 결합하여 인공지능 분야의 패러다임을 완전히 바꾸어 놓았습니다. 이러한 xAI의 Grok 3의 최대수혜자는 어디일까요? 바로 엔비디아와 팔란티어라고 생각합니다.
2025년 2월 18일 출시된 이 모델은 기술적 영역에서 최첨단 성능을 보여주면서 인프라 확장 전략을 다시 정의하고 있습니다. xAI의 Grok 3 모델의 기술적 성과, 인프라 기반, AI 생태계 전반에 걸친 파급 효과를 알아보려 합니다.
1. 분야별 기술 성능
수학적 추론
Grok 3는 93–96%의 정확도로 기호 대수학, 미적분학, 조합 최적화 과제에서 GPT-4o(85%)와 Claude 3.5 Sonnet(88%)를 능가합니다. "빅 브레인" 추론 모드에서 Grok 3는 DeepSeek-R1과 같은 전문 모델 대비 15–20% 높은 성공률을 보입니다.
과학적 분석
과학 분야에서 Grok 3는 ScienceQA 벤치마크 94%를 기록해 생화학 경로 분석부터 양자 물리 시뮬레이션까지 Gemini-2 Pro(89%)와 GPT-4o(91%)를 능가합니다. 단백질 접힘 예측 문제 해결 과정에서 드러난 것처럼, 가정·실험 매개변수·오차 범위를 추적하는 "실험 노트" 아키텍처를 통합했습니다.
코딩 능력
Grok 3는 HumanEval 벤치마크 91% 정확도로 Rust, Zig, CUDA를 포함한 12개 언어의 복잡한 프로그래밍 문제를 해결합니다. 공유 메모리 타일링을 혁신적으로 활용해 엔비디아 cuBLAS 라이브러리보다 3% 빠른 행렬 곱셈 커널을 생성하는 자체 최적화 코드 생성이 독특한 특징입니다. 코딩 하위 시스템은 4단계 검증 프로세스를 사용합니다.
- 제한된 디코딩을 통한 구문 검증
- 기호 실행을 통한 런타임 동작 예측
- 하드웨어 사양 대비 성능 프로파일링
- 형식적 방법을 이용한 보안 감사
계산적 확장 및 성능 향상
콜로서스(Colossus) 트레이닝 클러스터는 세 가지 핵심 차원을 통해 Grok 3의 성능을 가능하게 합니다.
- 엔비디아 H100 GPU 20만 대 (400 Gbps CX8 상호연결의 5,000노드 클러스터 구성)
- 2억 GPU-시간의 교육 계산(Grok 2 대비 15배)
- 테슬라 메가팩을 이용한 0.25GW 부하 변동 동적 전력 관리
수학 벤치마크에서 GPU 수 두 배 증가 시 12–15% 정확도 향상을 보입니다. 분산 교육 시 5만 GPU에서 92%의 준선형 약확장 효율성을 나타냅니다. 즉, GPU 의 성능이 좋아지면, Grok 3 의 성능도 아주 당연하게 좋아집니다.
콜로서스 X AI 데이터 센터 인프라 및 미래 확장 계획
현재 인프라
멤피스 기반 콜로서스 클러스터는 42억 달러 규모 투자로 아래 표의 엔지니어링 솔루션을 구현했습니다.
구성 요소 | 사양 |
컴퓨팅 노드 | 5,000노드(노드당 H100 GPU 40개) |
네트워킹 | 1.6PB/s 이분 대역폭 |
전력 인프라 | 250MW 용량(+125MW 배터리 버퍼) |
냉각 시스템 | 95% 열 재활용 수중 냉각 |
전 자동차 공장을 개조해 214일 만에 구축되었으며, 모듈식 변전소와 이동식 냉각기를 통해 신속한 확장이 가능합니다.
미래 GPU 확보 계획
xAI는 선두경쟁에서 우위를 차지하기 위해 콜로서스 규모를 대거 확장할 계획으로 GPU를 100만개까지 늘린다는 방침입니다. 이를 위해 최근 100억달러 규모의 새로운 투자 유치에 나선 것으로 알려졌습니다.
Grok 3 는 Open AI의 GPT 모델에 비하여 엄청나게 빠른 속도로 개발하였습니다. 역시 일런 머스크 인가요? 앞으로는 또 얼마나 빠른 성장을 보여줄지 너무나 기대됩니다. 이러한 성장에 GPU가 원할하게 공급된다면, 그 속도는 더 빨라지는 것이 아닐까요?
엔비디아 전망
xAI의 100만개 GPU 구매 계획이 단시간에 이루어지기는 현실적으로 어렵다고 생각합니다. 이를 위해서는 전력공급, 쿨링 시스템, 등 넘어야 할 산이 많을 것입니다. 하지만 한가지 분명한 것은 향후 엔비디아의 GPU 수요는 계속 차고 넘칠거 같습니다.
사실~ 엔비디아는 xAI의 눈부신 발전이 고맙지 않을까요? 빅테크 기업들의 인프라 투자 확대 경쟁은 엔비디아 입장에서는 너무나 행복한 현실이 아닐까 합니다. 빅테크들에게 아마도 아무나 이겨라 이기는편 우리편 하면서 모두를 응원하고 있지 않을까 합니다.
팔란티어의 전략적 이점
xAI 가 개발한 Grok은 이제 Meta의 Llama, Gemini, GPT-4 및 Anthropic의 Claude를 포함한 다른 LLM과 더불어 팔란티어의 AIP에서 사용할 수 있습니다. 팔란티어는 머스크의 소셜 미디어 플랫폼 X에 올린 게시물에서 "Grok을 기업에 도입했다"고 말했습니다.
이에 일런 머스크는 Grok 도 곧 나온다고 언급하였구요. 팔란티어는 Grok 3와 같은 모델을 AIP 에 도입하여 이러한 LLM을 운영하면서 팔란티어의 상품을 더욱 효율적으로 사용할 수 있습니다. 즉, 어느 특정 회사가 또 더 진보된 LLM을 개발한다면, 팔란티어는 그 모델을 가져다 사용하면 되는 것이죠. 팔란티어 수익모델에는 무조건 이득 입니다.
AI 산업 전반에 걸친 파급 효과는 심오합니다. 엔비디아는 대규모 AI의 촉진자로서 입지를 공고히 할 수 있고, 팔란티어는 최첨단 모델의 군사/기업 가치를 입증했습니다. xAI가 30만을 넘어 100만개 GPU 확장을 준비함에 따라 2025~2026년 동안 더 빠른 역량 도약이 기대됩니다. 이를 토대로 테슬라의 자율주행, 혹은 스페이스 X의 우주 산업 발전 등 앞으로 일런 머스크 행보가 너무 기대됩니다.
엔비디아, 팔란티어, 그리고 테슬라 주주로서 xAI의 행보는 저의 투자 여정을 밝게 해주고 있습니다.
'투자중인 개별 주식 분석' 카테고리의 다른 글
댄 아이브스 - 엔비디아, AI 혁명 속에 "Table Pounder" (29) | 2025.02.22 |
---|---|
팔란티어 급락 원인 - 던져야 될까? or 드디어 분할 매수 기회? (35) | 2025.02.21 |
팔란티어 CEO, 알렉스 카프의 "너무나 솔직한" 인터뷰 (36) | 2025.02.18 |
엔비디아, 소프트뱅크가 투자한 AI 생명공학 기업 - 리커전 (Recursion, RXRX), 텐베거 주식? (30) | 2025.02.17 |
엔비디아 24년 4분기 실적 및 25년 가이던스 전망 - TSMC 25년 1월 매출 + 25년 빅테크 자본 지출 (24) | 2025.02.16 |