“데이터 주권이 인공지능(AI)의 성공 열쇠입니다. 기업은 자신의 데이터를 소유하고, 모델을 소유해야 합니다. 데이터는 기업의 자산입니다.”
한스 데커스(Hans Dekkers) IBM 아시아·태평양지역 제너럴 매니저의 말이다. 그는 16일 서울 강남 그랜드인터컨티넨탈 파르나스에서 열린 ‘IBM AI 서밋 코리아’의 기조연설에서 기업의 AI 도입 핵심 요소로 데이터 주권(소유권)을 강조했다.
◇ AI 시대에 데이터 통제 능력이 경쟁력
이같은 주장의 배경에는 AI 시대 데이터의 전략적 중요성이 있다. AI의 성능은 데이터의 양과 질에 좌우될 수밖에 없다. 현재 경쟁력의 원천은 데이터 자원이다. 데커스 매니저는 “AI 시대에 기업이 자체적으로 데이터를 통제하고 관리할 수 있는 능력이 경쟁력의 핵심이 된다”고 강조했다.
그는 현재 여러 기업들의 데이터가 분산돼 있다고 설명했다. “데이터가 온프레미스, 프라이빗 클라우드, 퍼블릭 클라우드 등 여러 곳에 분산돼 있고 통합되지 않은 상태”라며 “데이터를 이동시키지 않고도 가시성을 확보할 수 있는 통합된 전략이 필요하다”고 강조했다.
AI 에이전트의 발전 방향에 대해서도 조언했다. “많은 소프트웨어 제공업체들이 자체 AI 에이전트를 만들고 있으며, IBM도 다수의 에이전트를 개발했다”며 “이러한 에이전트들이 함께 작동하고 통합된 플랫폼에서 운영될 수 있도록 하는 것이 중요하다”고 설명했다. 향후 전망에 대해서는 “향후 3~4년 내에 새로운 신흥 기술들이 등장할 것”이라며 “기업 리더로서 유연성과 개방성을 갖추는 것이 매우 중요하다고 궁극적으로는 리더십과 혁신이 결정적인 요소가 될 것”이라고 말했다.
◇ AI 에이전트 시대 도래
AI 에이전트의 시대가 도래했다는 평가도 나왔다. 이날 기조연설에서 제니퍼 캐디(Jennifer Kady) IBM WW데이터 세일즈 제너럴 매니저는 “AI의 약속이 현실이 됐으며, 더 이상 돌이킬 수 없는 변화”라며 “우리는 이제 단순한 어시스턴트가 아닌 행동하고, 사고하고, 관찰할 수 있는 에이전트의 시대에 들어섰다”고 말했다.
캐디 매니저는 IBM 내부의 AI 활용 성과를 구체적으로 공개했다. 그는 “HR 부문에서 94%의 질문이 에이전트를 통해 처리되고 있다”며 “개인적으로도 세일즈 업무에서 25%의 시간을 절약하고 있다”고 밝혔다. 이어 “특히 조달 부문에서는 조달 사이클 타임을 70% 단축했으며, 20억달러(2조7598억원)의 벤더 지출을 절감했다”며 “이는 반복적인 작업과 중복성을 줄이고 효율성을 높인 결과”라고 강조했다.
캐디 매니저는 현재 기업들이 직면한 AI 에이전트 관리의 문제점에 대해서도 언급했다. 그는 “수십 년간 데이터 사이언티스트들만 접근할 수 있었던 AI 개발이 민주화되면서 모든 부서에서 에이전트를 만들고 있다”면서 “이들이 서로 동기화되지 않아 대규모 엔터프라이즈 적용에 어려움을 겪고 있다”고 지적했다. 해결책으로는 멀티 에이전트 감독 플랫폼을 제시했다. 캐디 매니저는 “기존 투자를 잃지 않으면서도 오픈소스 에이전트들과 함께 작동할 수 있는 통합 플랫폼이 필요하다”며 “사용자는 어디서 만들어진 에이전트든 한 곳에서 일관된 경험을 할 수 있어야 한다”고 말했다. 이어 “에이전트들이 기존 자동화 시스템과 통합되어 안전하게 운영되려면 적절한 거버넌스 전략과 신뢰성이 확보되어야 한다”고 덧붙였다.
◇ AI 프로젝트, ROI 달성 비율 25%
이날 기업들의 AI 프로젝트의 ROI 달성 비율은 25% 수준이라는 분석도 나왔다. 이수정 IBM 코리아 대표는 “IBM 글로벌 CEO 연구 결과에 따르면 지난 몇 년간 진행된 AI 프로젝트 중 예상 ROI를 달성한 비율이 25%에 불과하다”면서 “IBM은 이러한 고객의 어려움을 해결하기 위해 자사 기술을 스스로 먼저 사용해보기로 결심했다”고 말했다. 이를 위해 IBM은 자체 AI를 적용하는 프로젝트인 ‘클라이언트 제로’ 프로젝트를 진행했다. 이 프로젝트를 통해 IBM은 하이브리드 환경에서 기업 데이터를 적극 활용하면서 AI를 각 분야에 적용해 3년간 45억달러(6조2078억원)의 효과를 창출했다는 것이 그의 설명이다. “많은 고객들이 다수의 AI 프로젝트를 진행했음에도 불구하고 에이전트끼리 연동이 되지 않거나 기업 데이터를 충분히 활용하지 못해 IT 시스템만 복잡해지는 상황을 경험하고 있다”고 지적했다.
아울러 이 대표는 지금이 골든타임이라고 조언했다. 그는 “한국은 세계 최고 수준의 제조, 통신 인프라와 IT 인력을 보유하고 있다”며 “지금이야말로 우리나라 기업들이 AI를 통해 글로벌 경쟁력을 확보할 수 있는 절호의 기회”라고 강조했다.