델 “AI 인프라, 온프레미스가 62% 더 효율적”

“인공지능(AI)과 인류의 엄청난 시간 싸움이 시작됐다. 결국 사람이 AI를 극복하고 이용하는 쪽에 서야 한다.”

김경진 델 테크놀로지스 코리아 총괄사장의 말이다. 그가 17일 서울 코엑스에서 열린 ‘델 테크놀로지스 포럼 2025’에서 던진 이 메시지는 AI 시대를 맞은 한국 기업들의 현실을 단적으로 보여준다. 더 이상 AI 도입이 선택이 아닌 생존의 문제가 됐다는 것이다.

◇ 한국 기업 87% “AI가 산업 변화시킬 것”

유상모 델 테크놀로지스 코리아 부사장은 이날 기조연설에서 한국 기업들의 AI에 대한 인식 변화를 구체적 수치로 제시했다. “조사 결과 87%의 응답자가 AI가 산업을 크게 변화시킬 것으로 답했다”며 “더 이상 AI 도입은 선택의 영역이 아니다”라고 강조했다.

조사에 따르면, 49%의 한국 기업이 향후 12개월 동안 AI PC 도입을 계획하고 있는 것으로 나타났다. 업무 환경의 AI 전환이 본격화되고 있음을 보여주는 수치다. 또한 50%의 한국 기업이 AI를 위한 데이터센터 현대화가 필요하다고 응답했다.

유 부사장은 현재 AI 혁신을 이끄는 핵심 동력으로 AI 도입 가속화, 데이터센터 진화, 차세대 AI PC를 제시했다.

◇ 델이 밝힌 전력 해법 ”온프레미스가 클라우드보다 62% 효율적”

비벡 모힌드라(Vivek Mohindra) 델 테크놀로지스 본사 수석부사장은 델의 종합 AI 솔루션인 ‘델 AI 팩토리’ 개념을 공개하며 구체적인 비용 효율성 데이터를 제시했다. “AI 추론 워크로드를 온프레미스에서 실행하면 클라우드 대비 62% 비용 효과가 높다”며 “ 에이전트 시대에는 컴퓨팅 요구량이 크게 증가하기 때문에 이런 차이가 더욱 중요해질 것”이라고 전망했다.

델이 제시한 AI 전략의 핵심은 데이터의 활용도다. 모힌드라 부사장은 온프레미스 AI 인프라의 중요성을 강조했다. “대형언어모델(LLM)이 학습하는 공개 데이터는 1페타바이트 정도지만, 기업들은 수백 테라바이트의 데이터를 보유하고 있어 AI로 실현하지 못한 가치가 그만큼 크다”며 “매년 50%의 데이터가 엣지에서 생성되며 대부분이 퍼블릭 클라우드 밖에 있어 AI를 데이터로 가져가는 것이 더 효율적”이라고 말했다.

AI 인프라 확산의 최대 걸림돌인 전력 문제에 대한 현실적 해결책도 제시됐다. 그는 “글로벌 데이터센터 전력 소비량은 지난해 426테라와트시(TWh)에서 2030년대 말 1800TWh로 증가할 것”이라며 “국가 단위로는 전 세계 2~3위 수준의 전력 소비”라고 경고했다.

델은 이에 대한 해법으로 1800개 이상의 냉각 기술 특허를 보유한 액체 냉각 기술을 제시했다. 이 기술을 통해 전력 사용량을 60% 줄이고 데이터센터에 16% 더 많은 랙을 설치할 수 있다고 설명했다.

실제 성과 사례도 공개됐다. 엔지니어링 서비스 기업 원리(Worley)는 델 AI 팩토리를 도입해 5만 명의 직원이 10만 명 수준의 업무를 처리할 수 있게 됐고, 생명과학 분석 기업 폴리젠트(Polygent)는 인프라 비용을 90% 절감하면서도 분석 속도를 3일에서 하루 이내로 단축했다.

◇ AI PC 시대 개막과 한국 스타트업의 혁신 솔루션

델은 AI PC의 핵심 가치로 성능 기대치 충족, 비용 효율성, 프라이버시 보안을 제시했다. 신경처리장치(NPU) 탑재로 전력을 절감하면서도 효율적인 AI 처리가 가능하다고 설명했다.

모힌드라 부사장은 “현재 전 세계 PC의 절반인 약 15억 대가 4년 이상 된 모델로 AI PC의 장점을 활용하지 못하고 있다”며 거대한 교체 시장이 열릴 것임을 시사했다.

델은  ‘델 프로(Dell Pro)’, ‘델 프로 맥스(Dell Pro Max)’ 등 여러 제품에 걸쳐 업무 생산성, 데이터 애널리틱스, 경량 AI 모델 개발, 온디바이스 AI 추론 등 다양한 용도의 AI PC를 제공한다고 밝혔다. 델프로 AI 스튜디오(Studio)를 통해 검증된 도구들을 빠르게 구현할 수 있어, 고객들이 AI 워크로드 구현 속도를 75% 향상시킬 수 있다고 설명했다.

이날 포럼에는 한국의 AI 인프라 스타트업인 엘리스그룹도 참여했다. 김재원 엘리스그룹 대표는 “교육 예산 부족 환경에서 가성비 중심으로 AI 인프라를 구축했다”며 “모듈형 데이터센터를 통해 기존 대비 50% 비용을 절감했다”고 발표했다.

엘리스는 랙당 20-80킬로와트(kW) 고전력을 제공하면서 전력사용효율(PUE) 1.1을 달성하고, 3개월 내 신속한 구축이 가능한 솔루션을 제공하고 있다. 현재 H100, B200 등 최신 그래픽처리장치(GPU)를 지원하는 2000장 규모의 클러스터를 구축 중이다.

김경진 총괄사장은 “AI 팩토리의 기반이 되는 것은 보안과 지속가능성”이라며 “환경적 지속가능성이 AI 솔루션 프로세스의 중요한 부분을 차지한다”고 강조했다.