AMD가 GPU 시장의 절대 강자인 엔비디아에 도전장을 냈다. 다만, 그 전장은 개별 칩이 아닌 통합 서버랙이다. AI 반도체 경쟁이 단순 칩 성능 대결을 넘어 시스템 전쟁으로 확전되는 신호탄이다. 리사 수 AMD CEO는 뉴욕 애널리스트 데이에서 "다수의 CPU와 GPU를 통합한 서버랙 시장에 진출해 성장 기회를 마련하겠다"고 선언했다. 엔비디아의 'GB200 NVL72'를 정면으로 겨냥한 발언이다.
◇ AMD가 넘어야 할 산, GB200 NVL72
AMD가 도전하는 상대는 만만치 않다. 엔비디아 GB200 NVL72는 이미 업계 표준으로 자리잡았다. 하나의 랙에 72개 블랙웰(Blackwell) GPU를 탑재하고 자체 고속 네트워킹 기술 ‘NVLink’로 연결한 이 제품은 FP8 정밀도 기준 720페타플롭스(PFLOPS)의 훈련 성능과 FP4 기준 1.4엑사플롭스(EFLOPS)의 추론 성능을 자랑한다.
오픈AI, 메타, 마이크로소프트 등 주요 빅테크가 이미 대량 발주를 완료했다. 젠슨 황 엔비디아 CEO는 전체 AI 인프라 시장이 2030년까지 약 4조 달러(약 5600조 원) 규모로 성장할 것이라며 통합 솔루션 전략에 자신감을 드러냈다.
숫자는 엔비디아의 독주를 명확히 보여준다. 엔비디아는 2025년 2분기 기준 데이터센터 GPU 시장에서 94% 점유율을 기록하며 사상 최고치를 경신했다. 반면 AMD는 6%로 후퇴했다. 욜 그룹의 2025 데이터센터 반도체 보고서에 따르면, 엔비디아는 2024년 서버 GPU 매출의 93%를 차지했다.
무엇보다 엔비디아의 진짜 경쟁력은 하드웨어가 아니다. 10년 이상 축적한 CUDA 소프트웨어 생태계다. 대부분의 AI 프레임워크가 엔비디아 GPU에 최적화됐고, 개발자들은 CUDA 환경에 익숙하다. GB200 NVL72는 복잡한 시스템 통합 과정 없이 플러그 앤 플레이 방식으로 즉시 가동할 수 있다는 점도 매력적이다.
◇ 전세 뒤집기 위한 AMD의 세 가지 카드는?
AMD는 엔비디아를 정면으로 이길 수 없다는 것을 안다. 대신 ‘유연성’과 ‘선택의 자유’라는 카드를 꺼냈다. 리사 수 CEO는 앞선 발표에서 “AMD는 가장 광범위한 제품 포트폴리오와 전략 파트너십을 바탕으로 차세대 AI 컴퓨팅을 선도할 입지를 확보하고 있다”고 강조했다. 엔비디아가 자사 GPU와 네트워킹 장비로 구성된 폐쇄형 생태계를 구축한 반면, AMD는 고객 맞춤형 개방형 솔루션을 제공하겠다는 것이다.
AMD의 무기는 세 가지다. 첫 번째, 차세대 AI 칩 ‘MI400’ 시리즈다. 2026년 출시 예정인 MI400은 3나노미터 공정으로 제조되며, 고대역폭 메모리(HBM) 용량과 칩 간 통신 속도가 대폭 향상될 예정이다. AMD는 이 칩을 기반으로 한 통합 서버랙으로 GB200 시리즈와 맞붙을 계획이다. 다만 구체적인 사양과 성능 수치는 아직 공개되지 않았다.
두 번째, 시스템 통합 역량 확보다. AMD는 2024년 서버 제조 전문기업 ‘ZT시스템스’를 인수하며 서버랙 설계·제조 노하우를 흡수했다. 또한 AI 모델 최적화 기업 ‘MK1’도 인수해 자사 칩에 AI 모델을 최적화하는 소프트웨어 기술을 확보했다. 리사 수 CEO는 향후에도 전략적 인수를 지속할 것임을 시사했다.
끝으로, 가격 경쟁력과 공급 다변화다. 업계 관계자에 따르면, AMD의 MI325X는 엔비디아 H100 대비 20~30% 저렴한 가격에 공급되고 있다. 엔비디아 GPU 공급 부족을 겪었던 데이터센터 운영사들은 엔비디아 외 선택지를 원한다.
실제로 AMD는 서버 제조사들의 마음을 얻기 시작했다. 2024년 MI325X 발표 이후 HPE, 델, 슈퍼마이크로 등 주요 업체 모두가 AMD 제품을 포트폴리오에 추가했다. HPE는 ProLiant Compute XD685에 최대 8개의 MI325X를 지원하는 시스템을 발표했고, 델은 MI350 시리즈 기반 서버 5종을 공개했으며, 슈퍼마이크로는 최대 10개 GPU를 지원하는 AI 최적화 서버를 출시했다.
최근 눈에 띄는 성과는 오픈AI와의 협력이다. AMD는 지난 10월 오픈AI에 연 수백억 달러 규모의 AI 칩을 공급하는 다년 계약을 체결했다. 계약 조건에는 오픈AI가 AMD 지분 약 10%를 주당 1센트라는 상징적 가격에 인수할 수 있는 옵션도 포함됐다. 단순 공급 계약을 넘어 전략적 동맹으로 발전할 가능성을 열어둔 것이다. GPT 모델을 개발하는 오픈AI가 AMD 플랫폼을 활용한다면, 이는 AMD 칩 성능을 증명하는 강력한 레퍼런스가 된다.
◇ 연 60% 성장 목표, 허풍일까 전략일까
AMD는 공격적인 성장 목표를 제시했다. 향후 3~5년간 데이터센터 사업에서 연 60% 성장, 전체 사업 부문에서 연 35% 성장을 달성하겠다는 것이다. 같은 기간 주당순이익(EPS)이 현재 3.31달러에서 20달러로 6배 증가할 것으로 전망했다. 리사 수 CEO는 데이터센터 칩 시장이 2030년까지 1조 달러(약 1400조 원) 규모로 성장할 것이라고 예측했다.
하지만 현실은 냉정하다. 2025년 현재 엔비디아와 AMD의 점유율 격차를 고려하면, 연 60% 성장은 엔비디아의 파이를 빼앗는다는 의미가 아니다. 급성장하는 시장에서 자신의 몫을 키우겠다는 전략이다. 실제로 업계는 AI 서버 시장이 2025년 2450억 달러에서 2030년 4900억 달러로 2배 성장할 것으로 전망한다. 하이퍼스케일러들의 AI 서버 지출도 2025년 1230억 달러에서 2030년 2740억 달러로 증가할 것으로 예상된다. AMD는 이 성장하는 시장에서 10~15%의 의미 있는 점유율을 확보하는 것이 현실적 목표로 보인다.
업계 관계자는 “과거 CPU 시장에서 인텔 독주 체제가 AMD의 추격으로 경쟁 구도로 바뀐 것처럼, GPU 시장도 비슷한 경로를 밟을 가능성이 있다”면서도 “다만 엔비디아의 CUDA 생태계가 인텔의 x86보다 강력한 우위를 점하고 있어, AMD의 추격은 더 오랜 시간이 걸릴 것”이라고 말했다. 월가 애널리스트들도 신중하다. AMD의 서버랙 시장 진출을 “엔비디아 일강 체제에 균열을 낼 수 있는 실질적 도전”으로 평가하면서, “CUDA 생태계라는 높은 장벽을 넘는 데는 상당한 시간이 필요할 것”이라는 전망을 내놨다.
◇ AMD vs 엔비디아, 싸울수록 시장은 커진다
AMD의 도전이 성공하든 실패하든, 가장 큰 승자는 데이터센터 운영사들이다. 경쟁이 치열해질수록 더 나은 성능, 더 합리적인 가격, 더 안정적인 공급이 보장되기 때문이다. ABI 리서치에 따르면, 2025년 AI 서버 시장은 델 테크놀로지스 20%, HPE 15%, 인스퍼 12%, 레노버 11%, 슈퍼마이크로 9% 순으로 점유율을 나눴다. 델은 2025년 4~7월 기간 121억 달러 규모의 AI 서버 주문을 확보했는데, 이는 전년도 전체 AI 서버 매출을 초과하는 수치다. 이들 서버 제조사들은 엔비디아와 AMD 양사의 경쟁 속에서 선택지를 다양화하며 고객 맞춤형 솔루션을 제공할 것으로 보인다.
AI 칩 시장의 경쟁은 새로운 국면에 접어들었다. 단순히 빠른 칩을 만드는 것을 넘어, 칩과 네트워킹, 소프트웨어, 시스템 설계를 아우르는 종합 솔루션 경쟁이 본격화한 것이다. 엔비디아는 선발주자로서 완성도 높은 생태계와 브랜드 파워로 시장을 방어하고 있다. AMD는 유연성과 가격 경쟁력, 공급 다변화를 원하는 고객의 니즈를 파고들며 추격하고 있다. MI400 시리즈, 오픈AI 파트너십, ZT시스템스·MK1 인수를 통한 생태계 강화는 AMD의 전략이 허수가 아님을 보여준다.
향후 5년간 AMD가 달성할 현실적 목표는 시장 우위가 아닌 ‘신뢰할 수 있는 2등’이다. 그리고 이것만으로도 AI 인프라 시장 전체에는 긍정적 변화다. 서버랙을 둘러싼 이 시스템 전쟁은 단순한 기업 간 경쟁을 넘어 AI 인프라 대중화와 산업 발전을 가속하는 촉매제가 될 것으로 예상된다.