김영광 오케스트로 대표 “AI와 클라우드가 서로 이해하는 생태계 필요”

“인공지능(AI)이 클라우드를 이해하고 클라우드가 AI를 완성할 때 서로를 위한 파트너가 되고 우리가 가고 있는 AI 시대의 진정한 혁신이 완성됩니다.”

김영광 오케스트로 대표이사 겸 최고기술책임자(CTO)의 말이다. 그는 AI 네이티브 시대를 위한 클라우드 혁신 방안으로 AI가 클라우드를 이해하고, 클라우드가 AI를 완성하는 생태계를 구축해야 한다고 말했다.

2일 오케스트로는 서울 강남 그랜드 인터컨티넨탈 파르나스에서 ‘오케스트로 솔루션데이 2025’ 기자간담회를 통해 AI 시대를 맞은 클라우드 성과와 AI 시대를 위한 클라우드 아키텍처 ‘오케스트로 스코어(OKESTRO Score)’를 처음 선보였다.

김 대표는 “사람이 직접 클라우드를 설계하고 운영하던 시대는 저물고, 이제 AI가 클라우드를 이해하고 스스로 최적화하는 구조로 전환되고 있다”면서 “이는 단순한 기술 발전이 아니라 인류 역사상 처음으로 문명 운영 체계가 바뀌는 사건”이라고 강조했다.

오케스트로가 새로운 기술을 내놓은 배경에는 기존 클라우드의 구조적 문제가 있다. 현재 대부분 기업의 IT 환경은 서버·스토리지·네트워크 등 물리적 장비와 프라이빗·퍼블릭 클라우드가 각각 다른 방식으로 운영된다.

이 때문에 IT 관리 조직은 복잡한 시스템들을 연결하고 문제를 해결하는 데 대부분의 시간을 쓸 수밖에 없다. 정작 기업의 비즈니스를 발전시키는 본연의 역할은 제대로 할 수 없는 상황이다.

오케스트로가 새롭게 선보인 스코어는 이런 문제를 해결하기 위한 기술이다. 스코어는 ‘악보’라는 뜻으로, 오케스트라의 모든 악기가 하나의 악보를 보고 연주하듯 클라우드의 모든 요소를 하나로 묶는다는 의미다.

핵심은 AI가 이해할 수 있는 데이터 언어를 만드는 것이다. 현재 클라우드에서 나오는 각종 데이터들은 대부분 개별적으로 존재할 뿐 서로 연결되지 않는다. 이 때문에 AI는 부분적인 정보만 보고 판단하게 되고, 잘못된 결론을 내리는 할루시네이션(환각) 현상이 자주 발생한다.

스코어는 메트릭, 로그, 이벤트, 설정정보, 업무 목적 등을 연결해 AI가 직접 읽고 이해할 수 있는 체계적인 지식으로 만든다. 회사는 이를 ‘클라우드 센트릭 온톨로지(Cloud Centric Ontology)’라고 표현했다. 온톨로지는 컴퓨터가 정보의 의미를 파악할 수 있도록 체계적으로 정리한 지식 체계를 뜻한다.

스코어가 적용되면 클라우드 관리 방식이 완전히 바뀔 전망이다. 예를 들어 기존에는 ‘가상 서버의 CPU 사용률이 10% 증가했다’는 단순 알림만 받았다면, 스코어 환경에서는 상황의 맥락과 해결책을 함께 받는다.

이후 ‘GPU 메모리 초과로 인한 CPU 부하 증가가 AI 작업을 지연시키고 있다’는 구체적인 원인 분석과 함께 ‘GPU 전용 구역을 만들고 CPU 작업을 분산 배치하라’는 해결책까지 자동으로 제시하는 식이다.

이 과정에서 오케스트로의 AI 솔루션 ’클라리넷(CLARINET)‘이 운영 관리와 장애 대응, 의사결정 전 과정에 활용된다. 단순히 정해진 규칙에 따라 자동화하는 것이 아니라, 상황을 이해하고 스스로 판단해 행동하는 자율화 단계로 나아간다는 것이다.

오케스트로는 지난 2018년 설립 이후 7년간 클라우드 전 영역의 기술을 자체 개발해왔다. 인프라 서비스(IaaS) 기반 ‘콘트라베이스(CONTRABASS)’, 통합 인프라(PaaS) 기반 ‘비올라(VIOLA)’, 클라우드 통합 관리 플랫폼 ‘오케스트로 CMP(OKESTRO CMP)’, 개발·운영자동화(DevOps) 플랫폼 ‘트럼본(TROMBONE)’, 생성형 AI 솔루션 ‘클라리넷(CLARINET)’ 등 풀스택 클라우드 솔루션을 보유하고 있다.

김 대표는 “이제 인간은 운영자에서 설계자로, 대응자에서 예측자로, 지휘자에서 질문자로 역할이 바뀔 것”이라며 “오케스트로는 AI와 클라우드가 서로를 이해하고 완성하는 새로운 패러다임을 만들어갈 것”이라고 강조했다.