[엔비디아 AI 데이 서울] AI 팩토리 시대 개막, 초거대 산업 혁명 이끈다

엔비디아가 서울 코엑스 그랜드볼룸에서 개최한 ‘엔비디아 AI 데이 서울’에서 AI 팩토리 시대의 본격적인 도래를 18일 선언했다. 마크 해밀턴(Marc Hamilton) 엔비디아 솔루션 아키텍처 & 엔지니어링 부사장은 이날 기조연설에서 “AI는 더 이상 전통적인 IT 산업의 범주를 넘어 전 세계 모든 인간의 업무 역량을 확장하는 수조 달러 규모의 산업으로 성장하고 있다”고 강조했다. 특히 한국에 26만 개의 GPU가 도입되는 등 글로벌 AI 인프라 확장이 가속화하며, 삼성전자, SK하이닉스, 네이버, 현대자동차그룹 등 국내 주요 기업들이 AI 생태계의 핵심 파트너로 부상하고 있다고 밝혔다. 

◇ 새로운 비즈니스 체계 구축할 ‘AI 팩토리’

마크 해밀턴 부사장은 AI 팩토리가 전통적인 데이터센터와 근본적으로 다른 경제 모델을 가지고 있다고 설명했다. 그는 “기존 데이터센터는 기업 매출의 1~10%를 차지하는 비용 항목이었지만, AI 팩토리는 수익을 창출하는 생산 시설”이라며 “자동차나 전자제품 공장처럼 새로운 공장을 지으면 매출이 증가하듯, AI 팩토리도 토큰이라는 제품을 생산해 실질적인 경제적 가치를 창출한다”고 말했다. 

마크 해밀턴 부사장은 “오픈AI의 경우 백만 토큰 기준 명확한 가격표를 제시한다”며 “참고로, GB200 NVL72는 초당 150만 토큰 성능을 낼 수 있다”고 설명했다. 이어 그는 “조립 라인 노동자의 생산성을 10% 향상시키는 토큰과 의사나 변호사의 생산성을 50% 높이는 토큰의 가치는 완전히 다르다”며 “기업들은 이제 AI를 도입할 때 이러한 경제적 모델을 면밀히 검토해야 한다”고 강조했다. 

엔비디아 자체도 AI를 적극 활용해 혁신 속도를 높이고 있다. 마크 해밀턴 부사장은 “엔비디아는 약 3만5000명의 직원을 보유한 작은 회사지만, 전 세계 수백만 명의 직원을 가진 산업 전체와 경쟁하고 있다”며 “칩 설계자 수를 두 배로 늘리지 않고도 칩 개발 속도를 두 배로 높일 수 있었던 것은 기존 설계자에게 AI 어시스턴트를 제공했기 때문”이라고 설명했다. 그는 소프트웨어 개발자, 재무, 법무, 마케팅 팀 모두가 AI를 통해 효율성을 극대화하고 있다고 덧붙였다. 

◇ 마크 해밀턴 “삼성·SK·현대차·네이버, 우리의 핵심 파트너”

AI 추론 시장의 폭발적 성장도 주목할 만한 변화다. 마크 해밀턴 부사장은 “몇 년 전만 해도 업계 일각에서는 모든 추론이 스마트폰이나 CPU에서 처리될 것이라고 예상했지만, 현재 최첨단 모델들은 단일 GPU로도 실행이 불가능하다”고 지적했다. 그는 “세계 최대 모델 개발사들이 추론을 위해 투자하는 GPU 수가 훈련에 필요한 GPU 수를 훨씬 초과한다”며 “모델을 수개월간 훈련하는 데는 수천에서 수만 개의 GPU가 필요하지만, 일단 성공적으로 훈련된 모델은 인터넷에 접속하는 모든 사람이 PC, 로봇, 스마트폰을 통해 사용하게 된다”고 설명했다. 

특히 올해 초 중국의 딥시크(DeepSeek)가 선보인 ‘분산 추론’ 기술은 업계에 큰 충격을 줬다. 해밀턴 부사장은 “딥시크는 추론 비용을 낮춘다는 헤드라인으로 주목받았지만, 더 중요한 것은 에이전틱 AI 시스템의 등장”이라며 “초기 ChatGPT처럼 단순히 질문에 답하는 것이 아니라, AI가 다른 AI들과 대화하며 단일 작업에 수십, 수백, 수천 건의 추론을 수행하는 시대가 왔다”고 강조했다. 그는 “사용자는 에이전틱 및 추론 모델를 활용해 더 높은 정확도로 복잡한 문제를 해결한다. 이는 AI 활용 범위가 확대되는 동시에, 단순한 문제에 대해서는 추론 비용이 낮아져 더 많은 사용자가 접근하게 된 이유다”고 분석했다. 

발표에서는 엔비디아와 국내 주요 기업과의 협력도 주목할 만한 부분이었다. 마크 해밀턴 부사장은 네이버를 2019년부터 함께 작업한 초기 AI 기업 중 하나로 소개하며 “검색 엔진과 클라우드로 시작했지만 AI를 조기에 도입해 현재 다양한 제품에 AI를 통합했다”고 평가했다. 삼성전자에 대해서는 “삼성이 만드는 반도체 없이는 AI 세계가 불가능하다”며 26만 개 GPU 발표의 주요 파트너 중 하나라고 밝혔다. SK하이닉스는 “귀사가 생산하는 HBM은 현재 전체 AI 컴퓨팅을 가능하게 하는 핵심 기술”이라고 강조했다. 

◇ 개발 속도 높이는 엔비디아 ‘이미 준비됐다’

엔비디아의 AI 플랫폼은 GPU 칩을 넘어 CPU, 네트워크, 소프트웨어까지 아우르는 엔드투엔드 시스템으로 진화했다. 마크 해밀턴 부사장은 엔비디아가 GPU뿐 아니라 자체 Arm 기반 그레이스 CPU를 개발해 블랙웰 GPU와 결합하고, 멀티 노드 NVLink 시스템에서 NVLink 스위치가 이를 연결한다고 설명했다. 또한 ConnectX 네트워크 인터페이스 칩, BlueField DPU, Quantum InfiniBand, Spectrum 고성능 이더넷까지 포함된 완전한 데이터센터 생태계를 구축했다고 강조했다. 

마크 해밀턴 부사장은 “젠슨 황 엔비디아 CEO가 GTC에서 랙을 소개할 때 ‘72개의 GPU가 하나의 거대한 GPU처럼 작동한다’고 간단히 말하지만, 각 랙에는 120만 개의 부품, 18개의 서버, 9개의 NVLink 스위치, 수백 수천 개의 네트워크 스위치와의 연결이 포함돼 있다”며 복잡성을 강조했다. 엔비디아는 HPE, Dell, Lenovo, Amazon, Google 등 파트너사에 제품을 출하하기 전에 전체 AI 팩토리를 자체적으로 구축해 소프트웨어를 개발하고 테스트한다. 그는 “3000달러짜리 DGX 워크스테이션에서 실행하든, 500만 달러짜리 NVLink 72 시스템에서 실행하든 동일한 소프트웨어가 모든 곳에서 호환된다”고 말했다. 

끝으로 그는 “현재 우리는 블랙웰을 출하 중이며, 내년에는 루빈(Rubin), 그 다음에는 베라(Vera)를 출시할 계획이다”며 “매년 새로운 칩을 선보이며, GPU뿐 아니라 이와 함께 작동하는 모든 칩을 연간 주기로 개발하고 있다”고 밝혔다.