인공지능(AI) 인프라 공급 기업 델 테크놀로지스가 AI 워크로드의 전체 라이프사이클을 지원하는 ‘델 AI 데이터 플랫폼’ 업데이트를 발표했다. 이번 업데이트는 데이터 수집, 변환, 에이전틱 추론에서부터 AI 기반 지식 검색 등 AI 개발 및 운영 전반의 효율성을 극대화하는 데 초점을 맞췄다.
엔터프라이즈 데이터 규모가 빠르게 증가하고 있는 가운데 비정형 데이터 비중이 크게 높아졌지만, 현재 생성형 AI에 활용 가능한 데이터는 극히 일부에 불과한 상황이다. 워크로드가 증가함에 따라 데이터 준비를 간소화하고, 사일로화된 데이터 접근을 통합하며, 엔드투엔드 엔터프라이즈급 성능을 제공하는 인프라에 대한 수요가 높아지고 있다.
델은 이번 플랫폼 업데이트를 통해 비정형 데이터의 수집, 변환, 검색 및 컴퓨팅 성능을 향상시켜 AI 개발 및 배포를 간소화한다고 밝혔다. 이를 통해 방대한 데이터셋을 생성형 AI를 위한 신뢰성 높고 품질이 우수한 실시간 인텔리전스로 전환할 수 있다.
델 AI 데이터 플랫폼은 데이터 준비를 자동화하여 고객이 AI 실험 단계에서 운영 단계로 빠르게 전환할 수 있도록 돕는다. 아키텍처의 핵심에는 AI 에이전트를 고품질 엔터프라이즈 데이터와 원활하게 연결하는 전용 스토리지 및 데이터 엔진이 포함돼 있다. 델 AI 데이터 플랫폼과 엔비디아 AI 데이터 플랫폼 레퍼런스 설계를 결합해 스토리지 엔진과 데이터 엔진을 엔비디아 가속 컴퓨팅, 네트워킹 및 AI 소프트웨어와 통합함으로써 생성형 AI 시스템을 구동하는 검증된 GPU 가속 솔루션을 제공한다.
‘비정형 데이터 엔진’ 기능도 추가됐다. 이 엔진은 추론, 분석, 지능형 검색을 위해 대규모 비정형 데이터셋에 대한 실시간 보안 접근을 제공하도록 설계됐다. 오픈소스 검색 AI 분야의 선도기업인 엘라스틱과의 새로운 협업을 통해 개발된 이 엔진은 AI 애플리케이션 구동에 필수적인 고급 벡터 검색, 의미론적 검색, 하이브리드 키워드 검색 기능을 제공한다. 또한 내장된 GPU 가속화를 활용해 혁신적인 성능을 제공하며, 분산된 정형 데이터를 쿼리하기 위한 페더레이티드 SQL 엔진, 대규모 데이터 변환을 처리하는 프로세싱 엔진, 빠르고 AI에 최적화된 액세스를 위한 스토리지 등 플랫폼 내 다른 도구들과 함께 작동한다.
AI가 일상적인 비즈니스 운영에 점점 더 중요해짐에 따라, 델은 엔비디아 RTX PRO 6000 블랙웰 서버 에디션 GPU를 탑재한 델 파워엣지 R7725 및 R770 서버도 함께 발표했다. 이들 서버는 가속화된 엔터프라이즈 워크로드의 주요 컴퓨팅 기반을 제공하며, 시각적 컴퓨팅, 데이터 분석, 가상 워크스테이션부터 물리적 AI 및 에이전트 추론에 이르기까지 다양한 분야에서 활용이 가능하다.
이들 서버는 에이전틱 AI를 위한 최신 엔비디아 네모트론 모델과 물리적 AI를 위한 엔비디아 코스모스 월드 파운데이션 모델과 같은 엔비디아 AI 추론 모델을 실행하는 데 이상적이다. 다양한 엔터프라이즈 사례에서 성능 대비 비용 효율성을 제공하는 공랭식 시스템으로서, 유연한 고밀도 AI 컴퓨팅의 실현 가능성을 극대화했다. 엔비디아 RTX PRO 6000은 LLM 추론 시 토큰 처리량을 최대 6배, 공학 시뮬레이션 성능을 2배 향상시키며, MIG 지원을 통해 이전 세대 대비 동시 사용자 수를 4배까지 지원한다.
델 파워엣지 R7725 서버는 엔비디아 AI 데이터 플랫폼 레퍼런스 설계를 통합한 첫 번째 2U 서버 플랫폼이 될 예정이다. 이 서버에 엔비디아 RTX PRO 6000 블랙웰 서버 에디션 GPU를 탑재하고 델 AI 데이터 플랫폼 및 새로운 비정형 데이터 엔진과 결합하면, 기업에서 자체 하드웨어 및 소프트웨어 플랫폼을 설계하고 테스트할 필요 없이 즉시 사용 가능한 솔루션을 구축할 수 있다. 두 기술의 결합은 더 빠른 추론, 더 반응이 빠른 시맨틱 검색, 더 크고 복잡한 AI 워크로드 지원을 가능하게 한다.
김경진 한국 델 테크놀로지스 총괄 사장은 “AI의 잠재력을 최대한 발휘하기 위해서는 사일로를 허물고 엔터프라이즈 데이터에 대한 접근을 간소화해야 한다”며 “엔비디아, 엘라스틱과 같은 업계 리더들과 협력하여 델 AI 데이터 플랫폼을 발전시킴으로써 고객들이 혁신을 가속화하고 AI를 자신감 있게 확장할 수 있게 될 것”이라고 기대감을 표했다.
델 AI 데이터 플랫폼의 비정형 데이터 엔진과 엔비디아 RTX PRO 6000 GPU를 탑재한 델 파워엣지 R7725 및 R770 서버는 모두 연내에 출시될 예정이다.