SK텔레콤이 인공지능(AI) 인프라 시장 공략에 나섰다. AI 클라우드 서비스인 ‘SKT GPUaaS(GPU-as-a-Service)’를 공식 출시했다. 미국 람다와 함께 AI 클라우드 시장에서 수익 확보에 나선다는 방침이다.
SKT는 지난 12월 30일 가산 AI 데이터센터(이하 AIDC)를 오픈하고, 시범 운영을 마친 뒤 AI 클라우드 서비스인 ‘SKT GPUaaS(GPU-as-a-Service)’를 출시했다고 13일 밝혔다.
SKT GPUaaS’는 미국 기업인 람다와 1여 년간 함께 준비한 구독형 AI 클라우드다. SKT는 지난 2월 AI DC 사업 본격 추진을 위한 첫 번째 글로벌 행보로 글로벌 그래픽처리장치(GPU) 클라우드 회사인 람다에 투자를 진행한 바 있다. 2012년 AI 엔지니어들이 설립한 람다는 글로벌 빅테크 기업들을 대상으로 AI 클라우드 서비스를 제공하는 GPUaaS 기업이다. SKT는 람다와 협력해 GPU를 안정적으로 확보하고 이를 기반으로 AI 클라우드 시장을 공략한다는 계획이다.
이번에 출시하는 GPUaaS는 엔비디아 GPU H100을 기반으로 한다. H100은 현재 국내에 도입된 GPU 중 가장 성능이 높은 것으로 알려졌다. 다음 모델인 B100은 아직 양산 중이다.
SKT GPUaaS 구독을 원하는 기업 고객은 AI 서비스 규모나 목적에 따라 GPU 수량과 기간을 선택하고, 단독 서버·방화벽·전용회선 등 맞춤형 패키지를 구성할 수 있다.
고객사는 독자적인 GPU를 사용해 안정적 AI 학습과 추론을 시행할 수 있으며, 방화벽과 전용 회선을 활용할 경우 보안성 역시 크게 강화할 수 있다. 또한 고객의 AI 작업량이 급격히 늘어나더라도 단독 서버에 GPU를 손쉽게 추가할 수 있어 추가 시설 투자에 대한 부담을 크게 덜 수 있다. 또한 SKT GPUaaS는 퍼블릭(공유형) 클라우드와 상호 연동이 가능하다. 기업 고객은 기존에 사용하던 클라우드를 그대로 활용하면서 SKT GPU 컴퓨팅 파워를 이용할 수 있다.
SKT는 GPUaaS와 자사 ‘AI 클라우드 매니저’를 함께 활용하면 GPU 자원을 보다 효율적으로 관리할 수 있다고 밝혔다. AI 클라우드 매니저는 수많은 GPU 자원을 마치 한 대의 컴퓨터처럼 관리해 GPU 성능을 극대화하고, AI 개발을 위한 학습 소요 시간을 단축하도록 지원하는 솔루션이다.
SKT GPUaaS 가격은 약정 기간, GPU 개수, 선불형의 과금 형태에 따라 탄력적으로 책정해 고객 편의를 크게 강화했다. 예를 들어 고객이 24개월 동안 32개의 GPU를 원할 경우 이에 맞는 가격을 설정하는 방식이다. 1개월, 2개월 등 단기 서비스 이용도 가능하다.
SKT는 지난 ‘SK AI 서밋 2024’에서 AI 데이터센터, GPUaaS, 에지 AI를 중심으로 한 AI 인프라 구축 전략인 ‘AI 인프라 슈퍼 하이웨이’를 이래 연말 조직 개편에서 ‘AI DC 사업부’를 별도 조직으로 신설하고, GPUaaS를 새롭게 출시하는 등 연이은 행보로 AI 인프라 사업 본격화에 속도를 내고 있다.
이번에 오픈한 가산 AIDC는 랙당 전력밀도가 국내 최고 수준인 44kW로 국내 데이터센터 랙 당 평균 전력밀도인 4.8kW의 약 9배에 달하는 등 고밀도 GPU 서버 운영 환경에 최적화된 데이터 코로케이션(데이터센터 전문기업이 전산실 등의 공간을 임대하고, 고객 장비를 위탁관리·운영하는 서비스) 환경을 제공한다.
김명국 SKT GPUaaS사업본부장은 "이번 GPUaaS 출시는 AI 데이터센터 사업이 고객에게 다가가는 첫 번째 사례로, SK텔레콤이 AI 인프라 핵심 사업자로 자리매김하는데 의미가 크다”며 “국가 AI 경쟁력을 높이는 GPU Farm으로 구축하겠다”고 밝혔다.