영국에서 생성형 인공지능(AI)을 활용한 아동 성착취물 생성과 유포 등 행위를 불법으로 규정하는 법안이 마련됐다. 국내에서도 AI 도구와 유형에 따른 처벌 규정을 세분해야 한다는 제언이 따른다.
1일(현지시간) BBC·로이터 등 외신에 따르면 영국 내무부는 AI 도구를 이용해 아동 성적학대 이미지를 생성하는 행위를 불법으로 규정할 것이라고 밝히고, 총 4개의 법안을 마련했다. 이는 세계 최초로 AI 기반 성범죄를 명시적으로 다루는 법안이 됐다. 이 법안에서 아동의 이미지를 ‘누드화(nudeify)’하는 행위를 직접 겨냥하고 있다. 아동 성착취 이미지를 소지하는 것만으로도 처벌한다.
해당 법안에 따르면 AI 기반 아동 성적학대 이미지·영상을 제작하거나 제작·배포 도구를 제작하거나 소지하기만 해도 최대 5년의 징역형을 선고할 수 있다. AI를 활용한 성착취 방법을 알려주는 ‘AI 소아성애자 매뉴얼(AI paedophile manuals)’를 소지하면 최대 3년의 징역형을 받을 수 있다. 아울러 아동 성착취 콘텐츠 유포 웹사이트를 운영할 시 최대 10년의 징역형으로 처벌할 수 있다.
이벳 쿠퍼 영국 내무장관은 “AI가 온라인에서 활동하는 아동 성범죄자들의 규모를 키우고 있다”면서 “AI 생성 아동 성착취물을 법제화하는 것은 세계 최초이며, 앞으로 새로운 범죄 유형으로부터 추가적인 정부 조치를 취할 것”이라고 강조했다.
영국 국경수비대에는 입국 시 아동 성착취 위험성이 높다고 의심되는 사람의 디지털 기기를 잠금 해제해 검사할 수 있는 ‘입국자 디지털기기 강제검사’ 권한이 주어진다. 이 과정에서 아동 성착취물이 발견되면 최대 3년의 징역형을 받는다.
이번 법제화는 AI 기반 아동 성착취물 제작 사례가 급증하면서 이뤄졌다. 인터넷감시재단(IWF)에 따르면 AI로 생성된 아동 성착취물에 대한 신고가 2023년 51건에서 지난해 245건으로 약 5배가 증가했다.
하지만 국내에서는 영국과 같이 AI를 활용한 성착취물에 대한 법안이 따로 마련돼 있지 않다. 지난해 말 국회를 통과한 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)이 내년부터 시행될 예정이지만 성적 허위영상물(딥페이크)에 대해 직접적으로 명시하는 법은 없다. 이 법안에서 딥페이크 범죄를 예방하기 위해 AI로 생성된 이미지·영상에 생성형 AI로 만든 것이라는 것을 표시하거나 고지하고 있다.
국내에서 AI 기반 아동 성착취물 생성과 유포를 처벌할 수 있는 법률 조항은 ‘아동·청소년의 성보호에 관한 법률(이하 청소년성보호법)’이 있다. 국내에서도 딥페이크 성범죄 처벌 및 피해자 보호·지원을 강화하는 내용의 ‘아동·청소년의 성보호에 관한 법률’과 ‘성폭력방지 및 피해자 보호 등에 관한 법률개정안’이 지난해 9월 의결됐다. 개정안은 딥페이크 아동·청소년 성착취물을 이용해 아동·청소년을 협박하면 징역 3년, 강요하면 징역 5년 이상으로 처벌을 강화했다.
이러한 처벌 강화에도 불구하고 AI 기반 아동 성적 학대에 대한 범죄를 처벌하기에는 현재 법은 구체성이 떨어지고 가벌성이 큰 행위가 구분되지 않고 있다. 아동·청소년을 이용해 AI와 결합해서 만든 성착취물과 AI 도구와 가상의 캐릭터로만 만든 성착취물이 있을 수 있는데 행위 유형을 좀 더 구체화하고 처벌 정도를 다르게 할 수 있는 법 조항이 없는 것이다.
이에 국내에서도 AI 기반 성착취물에 처벌을 세분화하고 강화할 수 있는 법제화 필요성이 대두되고 있다. 고인선 법무법인원 인공지능대응팀 변호사는 “현재 법은 AI 도구가 다양해지면서 여러 가지 범죄 유형을 대응할 만큼 세분되지 않았다”며 “특히 아동청소년 성착취물의 판매, 대여, 배포, 제공, 소지, 운반, 광고, 소개, 전시 또는 상영의 경우 ‘영리 목적’의 경우에만 처벌되는 문제점이 있다”고 지적했다. 이어 “AI 도구 활용이 많아질수록 영리 목적이 없어도 아동청소년 성착취물을 소비하는 경우가 많아질 수 있다”며 “행위 유형을 좀 더 구체화하고 처벌 정도를 세분화할 필요성이 있다”고 제언했다.