래블업, SC25서 500장 GPU 관리 노하우 선보인다

래블업은 16일부터 21일까지 미국 세인트루이스에서 열리는 세계 최대 슈퍼컴퓨팅 컨퍼런스 ‘SC25’에 3년 연속 참가한다고 14일 밝혔다. 래블업은 이번 행사에서 자사 플랫폼인 ‘Backend.AI’를 중심으로 글로벌 AI 인프라 구축 사례와 최신 기술 동향을 공개한다.

래블업은 이번 전시에서 다수의 기업과 교육기관, 연구소가 Backend.AI를 활용해 AI 인프라와 연구 환경을 운영하는 주요 사례를 선보인다. 대한민국 정부 주도 독자 AI 파운데이션 모델 프로젝트에 참여하는 업스테이지 컨소시엄은 Backend.AI를 통해 500여 장 이상의 최신 GPU 클러스터를 관리하고 있다. 

미국 서던 캘리포니아 대학교는 캠퍼스 전체 GPU 자원을 통합 관리하는 시스템을 구축했으며, 국내에서는 성균관대가 Backend.AI를 이용해 한국 최초 대학 수준의 슈퍼컴퓨팅 센터를 성공적으로 운영하고 있다. 국민대는 보유한 GPU 자원을 활용해 다수의 구성원이 머신러닝을 동시에 실습할 수 있는 환경을 마련했다.

기업 활용 사례도 주목할 만하다. 팀리부뜨는 Backend.AI FastTrack 3를 활용해 무역 품목분류코드 입력을 자동화하는 솔루션에 탑재된 대형 언어모델을 미세조정했다. KIST CJLab은 Backend.AI Cloud를 사용해 연구자들이 쉽고 빠르게 시뮬레이션을 수행할 수 있는 환경을 제공하고 있다.

래블업은 부스 내 마련된 발표 공간에서 하이퍼엑셀, 위카, 베스트 데이터, 벌처 등 글로벌 AI 인프라 선도 기업들과 함께 기술 세션을 개최한다. 발표 기업들은 AI 가속기와 고속 스토리지, 클라우드 플랫폼이 각각 AI 인프라에서 담당하는 역할을 강조하며 효율적인 AI 운영을 위한 인프라 최적화 방안을 모색할 예정이다.

인텔과의 파트너십도 강화한다. 래블업은 인텔 이노베이션 패스 프로그램에 작년에 이어 올해도 참여한다. 인텔 이노베이션 패스는 SC25 참가자들이 인텔 및 파트너사 부스를 방문하며 QR 코드를 스캔해 포인트를 적립하고 경품 추첨에 참여할 수 있는 체험형 프로그램이다. 관람객들은 래블업 부스를 방문해 인텔 가우디 3 AI 가속기 위에서 구동되는 Backend.AI 플랫폼의 데모를 체험할 수 있다.

신정규 래블업 대표는 “이번 SC25는 Backend.AI가 교육기관부터 국가 프로젝트까지 다양한 환경에서 이뤄낸 성과를 보여주는 자리”라며 “래블업은 글로벌 파트너들과 함께 AI 인프라의 복잡성을 해결하고, 누구나 AI를 쉽게 활용할 수 있는 환경을 만들어가고 있다”고 밝혔다.