AI전쟁과 메모리

Date published
December 10, 2023
Tags
Industry

MI300X 공개 후 12/7일 AMD 주가가 10% 오르며 주목을 받았다. Nvidia H100과 훈련 성능은 동일하고 추론 성능은 더 높다고 밝혔다.

이번 공개 행사에서 24년 AI반도체 매출은 지난 가이던스인 $2B를 상회할 것으로, 27년 AI반도체 예상 시장 크기는 기존 $150B에서 $400B으로 상향했다. (2022년 글로벌 반도체 산업 매출은 $597B 였다).

SemiAnalysis 에 따르면 MI300 시리즈는 이미 205,000개 칩 주문을 확보한 것으로 알려졌고, Digitimes에서 내년 30~40만개 chip을 출하할 수 있을 것이라고 보도한 기사가 있었다. Nvidia H100 ASP가 $17,000 정도로 추정되는데 (추정 제조원가 $3,320, GPM 80%. 소매가는 현재 $25,000이상), MI300X를 $10,790 (추정 제조원가 H100 대비 +30%, 60% GPM 가정. 30만개 출하시 $3.2B, 40만개 출하시$4.3B 매출이 가능하다. 지난 2개 분기 동안 Nvidia의 데이터센터향 매출은 $10B 더해졌다.

                                                   Nvidia 사업부별 매출 추이
Nvidia 사업부별 매출 추이

AMD와 NVDA 주가 반응을 봤을 때 시장은 경쟁이 시작된다는 면에 초점을 맞춘 것 같다. 물론 두고 봐야 알겠지만, 개인적으로 AMD의 MI300X 공개 이벤트의 중요한 implication은

  • AI반도체 시장이 생각보다 훨씬 클 것 같다
  • 메모리 용량 증가 속도가 빨라진다

는 점인 것 같다.

MI300X 단일칩 메모리 용량은 192GB로, H100의 80GB 대비 2.4배 높다고 밝혔는데, MI300 시리즈가 본격적으로 출하되기 시작할 24년 2분기에 Nvidia 또한 H200 판매를 시작할 계획으로, H200의 메모리 용량은 141GB다. Nvidia가 내년 3분기 출시할 것으로 알려진 B100의 메모리 용량은 현재 미공개인 것으로 보인다 (아시는 분은 좀 알려주세요..)

image

아직 점유율은 알 수 없지만 MI300X용 HBM 벤더에는 삼성전자도 포함된 것으로 알려져있다. 지난주에 Western Digital은 앞으로 몇 분기에 걸쳐 낸드 가격을 55% 올리겠다고 했다.

한편 지난주 Google의 Gemini 공개 영상이 조작 이슈로 주말 사이 논란이 되고 있는데, Gemini 성능은 베타 버전이라도 사용해볼 수 있어야 확인이 가능하겠지만, 주요 기업들이 얼마나 빠른 속도로 Chat-GPT를 탑재한 서비스들을 내놓았는지(+수익화가 시작되었는지)를 생각해보면 Google의 설익은 행보들이 이해가 되기도 한다. 전쟁을 방불케 하는 기업들의 AI 투자 Rush를 보면 2017년 데이터센터향 서버발 메모리 호황이 생각난다. AMD는 이번 행사에서 MI300 외에도 온디바이스 AI를 위한 Ryzen 8040 CPU를 공개했는데 PC, 스마트폰 등 온디바이스 HW들 또한 AI 기능을 지원하면서 메모리 용량이 커지는 것이 수순일 것이다.