“기업이 AI 에이전트를 도입하는데 있어서 내부 시스템 연계가 핵심입니다.”
이승현 S2W KE팀장의 말이다. 그는 기업의 AI 에이전트 도입 전략과 숨은 비용, 이에 따른 기회에 대해 설명했다.
지난 26일 서울 역삼 조선팰리스에서 진행된 S2W의 연례 기술 컨퍼런스 ‘SIS 2025’가 진행됐다. 올해로 4회째를 맞이한 ‘SIS(S2W Intelligence Summit)’는 기술과 데이터가 일상과 사회에 미치는 영향에 관해 함께 논의할 수 있는 지식 교류의 장을 마련하고자 2022년부터 마련됐다. ‘AI와 데이터 사회’라는 주제 아래 진행된 SIS 2025는 기술 트렌드의 움직임과 데이터의 흐름을 의미하는 테마 ‘무브먼트(MOVEMENT)’로 구성됐다.
이날 행사에서 이승현 S2W KE(Knowledge Engineering)팀장은 ‘AI 도입의 숨은 비용? 위기를 기회로!’라는 주제로 세션을 진행했다. 그는 “AI 서비스 구축에는 인프라, 레거시 연동, 인증, 서비스, 기획 등 다양한 숨은 비용이 발생한다”면서 “AI 에이전트를 비롯한 서비스를 구축하는 과정에서 고려해야 할 핵심 요소들이 여러 존재한다”고 설명했다.
이 팀장은 AI 에이전트의 동작 과정을 설명하며 “AI 모델이 해결하지 못하는 기능, 기업 내부 데이터, 생성형 AI 접근 인터페이스 등 세 가지 핵심 컴포넌트가 필요하다”고 강조했다.
특히 엔터프라이즈 환경에서 AI 에이전트가 기업 내부 업무를 자동화하려면 기능, 데이터, 인증 권한이 필수적이라는 것이 그의 설명이다. 이 팀장은 “AI 에이전트가 ERP 시스템의 재고를 조회하거나 이메일을 발송하려면 해당 시스템과의 연계가 필요하다”며 구체적인 예시를 들었다.
내부 시스템 연계 방법으로는 레거시 중심과 AI 플랫폼 중심의 두 가지 접근법을 제시했다. 레거시 중심은 기존 시스템을 그대로 활용해 속도는 빠르지만, 장기적으로는 MCP나 2A 같은 표준화된 프로토콜을 사용하는 AI 플랫폼 중심 접근이 확장성 면에서 유리하다고 조언했다.
사용자 인터페이스에 대해서는 “아무리 AI가 문제를 잘 풀어도 사용자가 접근하지 못하면 의미가 없다”며 공용 인터페이스, 모듈 연계, 기업 특화 SI 개발 등 세 가지 도입 방안을 제시했다.
실제 구축 플랫폼에 대해 S2W의 생성형 AI 플랫폼 ‘SAIP’의 구조도를 보여주며 “버전 관리, 모델 관리, 데이터 파이프라인 처리, 인증 구조, 에이전트 간 통신 등 굉장히 많은 컴포넌트가 필요하다”고 설명했다.
구축 방식으로는 턴키 기반 어플라이언스, 기업 내 PaaS 플랫폼 활용, 기업 맞춤형 구축 등 세 가지를 제시했다. 각각의 장단점을 설명하며 기업 상황에 맞는 선택이 중요하다고 강조했다.
이 팀장은 “AI 플랫폼 도입 시 각 부서별로 이해관계가 다르다”며 “도입 부서는 문제 해결에, 인프라팀은 보안에, 예산 관리 부서는 비용에 관심이 있다”고 조언했다.
도입 시 고려사항으로 △어떤 문제를 풀 것인가 △어떻게 풀 것인가 △얼마나 쓸 것인가를 명확히 해야 한다고 덧붙였다. 특히 “AI로만 문제를 풀 필요는 없다”면서 “같은 문제라도 다른 방법으로 더 쉽게 해결할 수 있다면 그 방법을 선택하는 것이 현명하다”고 강조했다.
도입 후 관리에 대해서는 “성능 하락의 원인은 대부분 새로운 데이터 유입 때문이다”며 “이는 시스템이 활발히 사용되고 있다는 좋은 신호”라고 평가했다. 아울러 “AI는 어쩔 수 없는 동반자”라며 “AI에게 맡길 일과 AI를 통해 확보된 시간에 우리가 할 일을 구분해 생각해야 한다”고 말했다.