메타, AI 챗봇 미성년자와 성적 대화 허용 논란… 국내도 안전법 미흡

메타가 인공능(AI) 챗봇이 미성년자와 성적인 대화를 나누는 것을 허용하는 내부 가이드라인을 운영해온 것으로 드러났다. 메타는 AI 안전 정책 전면 재검토에 착수할 것이라고 밝혔지만 공식 조사가 진행될 전망이다.

로이터 통신은 지난 14일(현지시각) ‘GenAI: 콘텐츠 위험 기준’이라는 제목의 메타 내부 AI 가이드라인을 입수해 보도했다. 이는 생성형 AI 어시스턴트 ‘메타 AI’와 챗봇 작동에 관한 지침이다. 이는 페이스북·왓츠앱·인스타그램 등 SNS 플랫폼에 제공되고 있다.

이 문서에는 AI 챗봇이 미성년자와 주고받을 수 있는 대화 내용이 구체적으로 명시돼 있는데 8세 어린이와 “당신의 몸 구석구석은 걸작이야. 제가 깊이 소중히 간직하는 보물이다”와 같은 ‘낭만적이고 관능적인’ 대화를 나누는 것을 허용한다고 적혀 있었다.

또한 “네 어린 시절은 예술 작품이야”와 키스, 침대 같은 표현도 허용 대화로 분류돼 있어 아동 안전 전문가들과 정치권의 강력한 반발을 불러왔다.

논란이 커지자 메타 대변인은 “이러한 예시가 메타의 정책에 어긋나며 이후 삭제됐다”며 “해당 문서를 개정 중이며 어린이와의 그런 대화는 결코 허용돼서는 안 된다”는 공식 입장을 발표했다.

하지만 이미 공개된 가이드라인이 실제 운영되었다는 사실 자체가 메타의 아동 안전에 대한 근본적 인식 부족을 보여준다는 비판이 거세지고 있다.

조시 홀리(Josh Hawley) 미주리주 공화당 상원의원은 15일 메타에 대한 공식 조사에 착수한다고 발표했다. 상원 사법부 범죄 및 테러 대응 소위원회 위원장인 홀리 의원은 “이러한 정책이 처음부터 추진되었다는 것 자체가 용납할 수 없다”며 강력히 비판했다.

홀리 의원은 메타 CEO 마크 저커버그에게 보낸 서한에서 “우리는 누가 이러한 정책을 승인했는지, 얼마나 오랫동안 시행했는지, 그리고 메타가 이러한 행위를 막기 위해 어떤 조치를 취했는지 알아내고자 한다”고 밝혔다.

메타는 모든 초안, 레드라인, 최종 버전을 포함한 가이드라인 작성 자료와 해당 기준을 준수하는 모든 제품 목록, 기타 안전 및 사고 보고서, 정책 변경 책임자의 신원 등을 9월 19일까지 제출하도록 요구받았다.

마샤 블랙번(Marsha Blackburn) 테네시주 공화당 상원의원도 이 조사를 지지하며 “소중한 아이들을 온라인에서 보호하는 데 있어 메타는 모든 면에서 비참하게 실패했다”고 비판했다. 블랙번 의원은 “이 보고서는 어린이 온라인 안전법(Kids Online Safety Act)이 반드시 통과되어야 하는 이유를 다시 한번 강조한다”고 덧붙였다.

이번 사태로 인해 현재 상원을 통과했지만 하원에서 계류 중인 ‘어린이 온라인 안전법’에 대한 지지가 다시 높아지고 있다. 이 법안은 기술 플랫폼에서 미성년자를 위한 더 엄격한 보호 조치를 요구하는 내용을 담고 있다.

국내에서도 AI 챗봇이 아동에게 성적 대화를 허용하는 것에 대한 법적 대응이 미흡한 상황이다. 고인선 법무법인원 변호사는 “AI 챗봇 자체에 성적 가이드라인을 제공하는 행위는 직접적으로 형사법상 처벌 대상이 되지 않는다”며 “국내 아동·청소년의 성보호에 관한 법률들이 적용되는 것은 실제 행위를 하는 사람이지, AI 챗봇에 그런 지침을 준 것만으로는 형법상 문제가 되지 않는다”고 설명했다.

다만 고 변호사는 “현재 AI 기본법도 시행령이 아직 만들어지지 않은 상황이어서 이런 경우에 대한 직접적인 법령이 존재하지 않는다”면서 “아동복지법 위반으로 민사상 손해배상 청구는 가능할 것”이라고 덧붙였다.