AWS, 아마존 베드록 가드레일에 AI 거짓말 탐지기 탑재

아마존웹서비스(AWS)가 생성형 인공지능(AI)의 허들 중 하나인 ‘할루시네이션(환각) 현상’을 해결할 새로운 기술을 내놓았다. 할루시네이션 현상이란 AI가 사실이 아닌 내용을 마치 진짜인 것처럼 답하는 현상을 말한다.

AWS는 8일 아마존 베드록 가드레일에 ‘자동 추론 검사’ 서비스를 정식 출시한다고 발표했다. 이 기술은 AI가 답한 내용이 맞는지 틀린지를 99%까지 정확하게 판단할 수 있다. 기존의 사람이 직접 확인하거나 통계적으로 추측하는 방법과 달리, 수학적으로 확실하게 검증한다.

◇ AI 거짓말, 기술로 극복

이 서비스는 최대 100페이지 분량의 긴 문서도 한 번에 처리할 수 있고, 한 번 만든 검사 프로그램을 계속 재사용할 수 있다. 또한 사용자가 원하는 대로 테스트 상황을 자동으로 만들어주고, 자연스러운 말로 정책을 개선하는 방법도 제안한다.

AI가 정확한 답을 하기 어려운 이유는 사람의 말을 컴퓨터가 이해하기 어렵고, ‘사실’이 무엇인지 정의하기 복잡하며, 간단한 규칙이라도 확인해야 할 경우의 수가 많아지기 때문이다. 자동 추론 검사는 이런 문제들을 해결하기 위해 사람의 자연스러운 말을 논리적 언어로 바꿔주고, 각 분야별로 사실을 정의할 수 있게 하며, 복잡한 검증 작업을 빠르게 처리하는 고성능 도구를 활용한다.

바이런 쿡(Byron Cook) AWS 부사장 겸 특임 과학자는 “언어, 문법, 의미, 타당성, 건전성, 완전성, 계산 복잡성, 심지어 결정 불가능성과 같은 문제들은 이전에는 너무 학문적이고 모호해서 대중과는 거리가 멀었다”며 “하지만 이제 모든 것이 바뀌었다”고 말했다. 이어 “우리 팀은 자연어 번역, 사실의 정의, 확정적 추론에 대한 접근 방식을 지속적으로 개선해 왔다”고 덧붙였다.

◇ 의료·금융 분야 AI 도입 가속화 전망

이번 기술은 병원, 은행, 전력회사 같은 규제 산업에 AI 활용을 이끌 것으로 전망된다. 이들 산업은 AI가 틀린 정보를 제공하면 생명과 직결된 문제가 발생할 수 있어 AI 도입을 망설여왔다. 특히 의료 서비스 제공자가 생성형 AI를 활용해 환자와 소통할 때 단 하나의 사실 오류도 심각한 결과를 초래할 수 있다. 자동 추론 검사는 각 응답이 환자에게 전달되기 전에 의료 가이드라인과 일치하는지 여부를 검증할 수 있다.

실제로 컨설팅 회사인 PwC는 이미 의약품 콘텐츠 검토, 유틸리티 운영, 헬스케어 커뮤니케이션, 보험 청구 처리 등 여러 분야에서 이 기술을 활용하고 있다.

AWS는 조직이 파일럿 단계에서 자율적으로 행동하는 에이전트형 AI 시스템으로 전환함에 따라, 각 출력 결과에 대한 신뢰 확보가 더욱 중요해지고 있다고 밝혔다. 이 서비스는 에이전트형 AI 워크플로우와 원활하게 통합되며, 각 행동이 실행되기 전에 이를 검증하고, 포괄적인 감사 추적을 유지한다고 설명했다.

이 서비스는 현재 미국 동부(버지니아 북부, 오하이오), 미국 서부(오리건), 유럽(프랑크푸르트, 아일랜드, 파리) 등 여러 AWS 리전에서 사용할 수 있다. 해당 기능은 아마존 베드록 콘솔과 파이썬용 AWS SDK를 통해 이용할 수 있다.