벤 만 앤트로픽 창업자 “AI 에이전트, 성공 위한 긴밀한 협력자될 것”

“대부분 사람들이 인공지능 에이전트(AI Agent)에 대해 잘못 알고 있는 것이 있습니다. 그것은 사람을 대체하는 것이 아니라 증강하는 것입니다. 마치 뛰어난 팀원들과 함께 일하는 것과 같습니다.”

4일 서울 코엑스에서 열린 ‘SK AI SUMMIT 2025’에서 벤 만 앤트로픽 공동 창업자가 이같이 강조했다.

벤 만 공동 창업자는 이날 ‘혁신적 AI 에이전트의 세 가지 핵심 요소’를 발표했다. 그는 “향후 1년간 AI 에이전트를 정의할 로드맵을 공개한다”며 “에이전트가 단순한 수행자를 넘어 성공을 위한 진정한 협력자로 나아가야 한다”고 말했다.

그가 말한 훌륭한 에이전트는 ‘맥락적 지능’, ‘복잡한 작업을 위한 장기실행’, ‘진정한 협업’이라는 세 가지 핵심 기능을 탁월하게 발휘해야 한다. 맥락적 지능은 조직의 맥락을 이해하는 에이전트를 말한다. 단순한 지침을 따르는 것이 아니라 회사의 원칙, 대상 고객, 기술적 제약 등을 모두 알고 있고 상황적 판단이 가능하게 하는 것이다.

장기 실행은 복잡한 워크플로우를 AI 에이전트가 자율 처리한다. 그는 “장기간 실행은 몇 시간 또는 며칠에 걸쳐 발생한다“며 ”복잡한 생산 문제에서 하나의 명령을 실행하고 수정하는 것이 아니라 가설을 세우고, 테스트하고, 다른 서비스를 확인해야 하는 것을 깨닫는 것을 말한다”고 말했다. 이어 진정한 협업은 이용자의 말에 맹목적 동의가 아닌 투명한 추론과 건설적인 도전을 향한 의미 있는 대화를 할 수 있어야 한다.

앤트로픽도 이 세 가지 핵심 요소를 중점으로 AI 에이전트를 개발하고 있다. 개인과 조직의 고유한 맥락을 이해해 단순히 지침을 따르는 것이 아닌 작업 이면의 이유와 방법을 이해할 수 있도록 학습한 것이다. 그는 “AI 에이전트와의 진정한 협업이 가장 중요하다”며 “최고의 제품 담당자(PM)와 함께 일했던 경험처럼 명확히 질문하고 그 이유를 설명할 수 있어야 한다”고 말했다. 이어 “우리도 이러한 AI 에이전트를 개발하고 있다”고 언급했다.

앤트로픽은 이러한 AI 에이전트를 구축하기 위해 세 가지 연구에 투자하고 있다. 먼저 ‘해석 가능성’에 대한 부분으로 블랙박스 내부를 들여다봐 클로드가 어떻게 결과물을 생성하는지 이해하고 오용을 방지하며 필요한 방향으로 출력을 조정하는 것이다. 다음은 ‘정렬’ 분야로 AI가 법적 사건을 조작하거나 1달러에 차를 팔겠다고 제안하는 등의 실수를 방지하기 위해 모델을 더 정확하게 훈련시키고 환각을 줄이는 작업이다. 다음은 사전학습으로 각 세대의 클로드를 이전 세대보다 훨씬 더 강력하게 만드는 핵심 동력이다.

만 창업자는 효과적인 에이전트 구축을 위한 인프라로 △AI 에이전트의 범용 번역기 역할을 하는 Model Context Protocol(MCP) △실시간 정보 접근을 위한 웹 검색 △개발 워크플로우를 단순화하는 응용프로그램인터페이스(API)도 소개했다.

이어 그는 AI 모델 능력이 두 달에 한 번씩 두 배로 증가하고 반면 AI 에이전트 다시간 워크플로우를 실현에는 제약이 있다고 지적했다. “실시간 정보 접근, 기존 시스템 연결, 비용 효율적 확장이 필요하다”며 “스타트업이 성공하려면 빠른 기술 채택, 전문영역에서 최고 에이전트 구축, AI 에이전트 자율 실험을 통한 여러 경로 동시 탐색을 해야 한다”고 제안했다.

만 창업자는 AI 신뢰성에 대해서는 사회적 책임을 두 축으로 나눠 접근했다. 먼저 제품 수준에서는 에이전트가 원하는 작업을 올바르게 수행하는지가 핵심이다. 다른 한 축은 개인정보에 대한 보호이다. 그는 “은행 계좌 정보나 개인 데이터 보호를 확실히 검증하고 있다”며 “자원이 부족한 소규모 기업이 막대한 사회적 피해를 일으킬 수 있는 바이오 리스크에 대해 매우 우려하고 있으며, 이를 억제하기 위해 모든 모델 위에 분류기를 둬 위험한 생체 정보를 제공하지 못하도록 했다”고 덧붙였다.

앤트로픽은 복잡한 에이전트 작업에 최적화된 고성능 모델 ‘클로드 소넷 4.5’를 보유하고 있다. 클로드 소넷 4.5는 실제 보안 전문가 수준의 취약점 탐지 및 패치 제안 역량을 갖췄다. 아울러 최근 빠르고 저렴한 경량 모델 ‘클로드 하이쿠 4.5’도 출시했다. 소넷 4.5는 크롬 확장 프로그램을 통해 슬랙, 지메일, 독스, 깃허브 등에서 클로드 사이드바를 직접 활용할 수 있게 했다. 웹 기반 ‘클로드 코드’도 선보여 클라우드 환경에서도 AI 코딩이 가능하게 했다.

만 창업자는 한국 시장을 “아시아·태평양(APAC) 지역 가운데 가장 강력한 시장”이라며 “한국은 AI 기술을 매우 빠르게 채택하고 있다”고 평가했다. 이어 “내년 초 한국에 앤트로픽 사무실을 열 예정”이라고 언급했다.

한편, 앤트로픽은 SK텔레콤과 통신 특화 LLM ‘텔클로드(TelClaude)’을 공동 개발했다.