엔비디아, 안전한 AI 에이전트 구축 돕는 ‘NIM 마이크로서비스’ 출시

엔비디아가 인공지능(AI) 가드레일을 위한 새로운 ‘엔비디아 NIM 마이크로서비스’(NVIDIA NIM microservices)를 출시했다고 17일 발표했다. 개발자는 새로운 NIM 마이크로서비스를 사용해 더 안전하고 신뢰할 수 있는 AI 에이전트를 구축할 수 있다고 밝혔다.

AI 에이전트는 다양한 작업을 자동화해 AI 활용 가능성을 높여주고 있다. 하지만 AI 에이전트를 개발하는데 위험 요소가 있다. 기업들은 신뢰, 안전, 보안, 규정 준수 등과 같은 중요한 문제를 해결해야 한다.

엔비디아는 이 문제를 줄이기 위해 소프트웨어 도구 모음인 엔비디아 네모 가드레일(NeMo Guardrail)의 일부로 AI 가드레일을 위한 새로운 엔비디아 NIM 마이크로서비스를 발표했다. 기업이 생성형 AI 애플리케이션의 안전성, 정확성, 확장성을 개선할 수 있도록 돕는 휴대용 최적화 추론 마이크로서비스이다.

마이크로서비스 조정을 위한 핵심 요소는 엔비디아 네모 플랫폼의 일부인 네모 가드레일로, AI를 큐레이팅, 맞춤화, 가드레일링하는 데 도움을 준다. 네모 가드레일은 개발자가 대형언어모델(LLM) 애플리케이션에 AI 가드레일을 통합하고 관리할 수 있도록 지원한다. 엔비디아에 따르면, 업계 선두 기업인 암독스(Amdocs), 세렌스 AI(Cerence AI), 로우즈(Lowe's)는 AI 애플리케이션을 보호하기 위해 네모 가드레일을 사용하고 있다.

개발자는 새로운 NIM 마이크로서비스를 사용해 더 안전하고 신뢰할 수 있는 AI 에이전트를 구축할 수 있다. 이는 컨텍스트별 가이드라인 내에서 안전하고 적절한 응답을 제공하고, 탈옥 시도에 대비해 강화될 수 있다. 이러한 에이전트는 자동차, 금융, 의료, 제조, 소매업 등 다양한 산업의 고객 서비스에 배치돼 고객 만족도와 신뢰도를 높일 수 있다.

새로운 마이크로서비스 중 하나는 콘텐츠 안전성을 조정하기 위해 이지스 콘텐츠 안전 데이터세트(Aegis Content Safety Dataset)를 사용해 훈련됐다. 이 데이터세트는 해당 카테고리에서 가장 높은 품질의 인간 주석 데이터 소스 중 하나다. 엔비디아가 큐레이팅하고 소유한 이 데이터세트는 허깅 페이스(Hugging Face)에서 공개적으로 사용할 수 있다. 이는 AI 안전과 시스템 제한을 우회하기 위한 탈옥 시도에 대해 플래그가 지정된 3만 5000개 이상의 인간 주석 데이터 샘플이 포함된다.

엔비디아는 AI 에이전트가 대규모로 운영되면서도 제어된 행동을 유지할 수 있도록 돕는 네모 가드레일을 위한 새로운 NIM 마이크로서비스 세 가지를 소개했다. △콘텐츠 안전 NIM 마이크로서비스 △주제 제어 NIM 마이크로서비스 △탈옥 탐지 NIM 마이크로서비스 등이다. 콘텐츠 안전 NIM 마이크로서비스는 편향되거나 유해한 결과물이 생성되는 것을 방지해 AI가 윤리적 기준에 부합하는 응답을 할 수 있도록 한다. 주제 제어 NIM 마이크로서비스는 대화가 승인된 주제에 집중하도록 유지해, 주제가 벗어나는 내용이나 부적절한 콘텐츠를 피할 수 있도록 한다. 탈옥 탐지 NIM 마이크로서비스는 탈옥 시도에 대한 보호 기능을 추가해 대립적인 시나리오에서 AI 무결성을 유지하는 데 도움이 된다.

개발자는 다양한 경량화된 전문 모델을 가드레일로 적용함으로써, 일반적인 글로벌 정책과 보호 기능만으로는 막을 수 없는 빈틈을 메울 수 있다. 모든 상황에 적용되는 단일 접근 방식으로는 복잡한 에이전틱 AI(Agentic AI) 워크플로우를 적절하게 보호하고 제어할 수 없기 때문이다.

네모 가드레일 컬렉션에 있는 것과 같은 소형언어모델(sLM)은 지연 시간이 짧고, 리소스가 제한된 환경이나 분산된 환경에서도 효율적으로 실행되도록 설계됐다. 따라서 병원이나 창고와 같은 장소에서 의료, 자동차, 제조업과 같은 산업 분야의 AI 애플리케이션을 확장하는 데 도움을 줄 수 있다.

암독스의 기술 부문 그룹 회장 겸 전략 부문 책임자인 앤소니 구네틸렉(Anthony Goonetilleke)은 “네모 가드레일과 같은 기술은 생성형 AI 애플리케이션을 보호하고 안전하고 윤리적으로 작동하도록 하는 데 필수”라면서 “엔비디아 네모 가드레일을 어메이즈(amAIz) 플랫폼에 통합함으로써, 우리는 플랫폼의 신뢰성을 강화했다”고 밝혔다.