인텔, 벤치마크 통해 아크 프로 B 시리즈·제온 6 성능 입증

인텔은 ML커먼스(MLCommons)가 발표한 최신 MLPerf 추론 v5.1 벤치마크에서 P코어를 탑재한 인텔 제온(Intel Xeon) 및 인텔 아크 프로 B60(Intel Arc Pro B60) 그래픽으로 구성된 인텔 GPU 시스템(코드명 프로젝트 배틀매트릭스)의 추론용 워크스테이션이 달성한 결과를 공개했다고 10일 밝혔다.

인텔은 6가지 주요 벤치마크 테스트 결과, 라마(Llama)4 80B 모델 추론 처리량에서 인텔 아크 프로 B60은 엔비디아 RTX Pro 6000 및 L40S에 비해 각각 최대 1.25배 및 최대 4배의 가격 대비 성능 우위를 보였다고 설명했다. 

인텔에 따르면 이전까지는 전문가들이 독점적인 AI 모델에 의한 과도한 구독 비용 부담 없이 LLM(대규모 언어모델)을 배포하기에 필요한 역량을 갖추기 위한 선택지가 제한적이었다.

코드명 ‘프로젝트 배틀매트릭스(Project Battlematrix)’로 알려진 새로운 인텔 GPU 시스템은 최신 AI 추론 요구사항을 충족하도록 설계됐으며, 검증된 풀스택 하드웨어와 소프트웨어를 결합한 올인원(all-in-one) 추론 플랫폼을 제공한다.

인텔 GPU 시스템은 리눅스(Linux) 환경을 위한 새로운 컨테이너 기반 솔루션을 통해 간소화된 도입과 사용 편의성을 목표로 한다. 또한 멀티 GPU 스케일링 및 PCle P2P 데이터 전송으로 뛰어난 추론 성능을 발휘하도록 최적화되었으며, ECC, SRIOV, 텔레메트리(telemetry) 및 원격 펌웨어 업데이트 등과 같은 엔터프라이즈급 안전성 및 관리 용이성을 갖추고 있다.

CPU는 AI 시스템에서 계속해서 중요한 역할을 수행하고 있다. 오케스트레이션 허브로서 CPU는 데이터 전처리, 전송 및 전반적인 시스템 조율을 담당한다. 지난 4년간 인텔은 CPU 기반 AI 성능을 지속적으로 향상시켜온 결과, 인텔 제온은 GPU 기반 시스템에서 AI 워크로드를 호스팅하고 관리하는 데 가장 선호되는 CPU로 자리매김했다.

리사 피어스(Lisa Pearce) 인텔 소프트웨어, GPU 및 NPU IP 그룹 총괄은 “MLPerf v5.1 벤치마크 결과는 인텔의 GPU 및 AI 전략을 강력히 입증하고 있다. 새로운 추론 최적화 소프트웨어 스택을 탑재한 아크 프로 B-시리즈 GPU는 기업과 개발자가 강력하면서도 설정하기 쉽고, 합리적인 가격에 확장 가능한 추론 워크스테이션으로 AI 분야에서 경쟁력을 높여준다”고 말했다.