인공지능(AI) 기술을 악용한 디지털 성범죄 피해 대상에 미성년자도 포함된 것으로 확인됐다. 피해자뿐 아니라 가해자로도 10대 청소년이 지목되고 있다. AI 기술 발전으로 누구나 쉽게 합성물을 만들 수 있게 되면서 동료 친구의 얼굴과 나체 사진을 합성해 공유하는 10대들도 있는 것으로 파악됐다.
26일 THE AI 취재에 따르면, AI 범죄에 청소년들이 고스란히 노출된 것으로 파악됐다. 중·고등학생들이 딥페이크 기술을 활용, 친구들의 얼굴과 나체 사진을 합성해 유포하는 일이 발생했다. 이들은 마치 만화 포켓몬스터 카드를 교환하는 것처럼, 재미 삼아 친구들의 합성사진을 공유했다. 해당 내용을 제보한 교육 분야 관계자는 “학생들이 손쉽게 합성사진을 만들고 스마트폰을 이용해 교환하고 있다”며 “텔레그램뿐 아니라 여러 플랫폼을 통해 사진을 유통하고 있다”고 지적했다.
최근 AI를 활용한 디지털 성범죄는 사회적 문제가 되고 있다. 딥페이크(딥러닝과 페이크의 합성어) 기술 발전으로 누구나 쉽게 합성사진을 만들 수 있게 되면서 이를 악용한 성범죄가 급증하고 있다. 최근 대학가에선 여학생 얼굴을 나체 사진에 합성해 텔레그램에 공유한 사실이 발각됐다. 이 텔레그램 대화방은 1200명에 달했고, 현재까지 밝혀진 피해자는 30명이 넘는다. 지난 5월에도 유사한 사례는 있었다. 당시 서울대를 졸업한 남성 2명은 성폭력처벌법상 허위영상물 편집·반포 등 혐의로 구속 송치됐는데, 이들은 텔레그램을 통해 서울대 동문 12명을 비롯한 여성 61명의 사진을 합성한 음란물을 만들어 유포한 혐의를 받는다.
문제는 이 같은 범죄가 미성년자 사이에서도 발생하고 있다는 점이다. 실제로 소셜네트워크서비스(SNS)에서는 딥페이크 불법 영상물이 만들어진 지역과 학교 명단이 공유되고 있는 것으로 확인됐다. 실제 이 학교 소속 학생들의 피해 여부는 확인되지 않았지만, 명단에 올라와 있는 전국 중·고교와 대학교 이름만 수백 곳에 달하는 것으로 알려졌다. 텔레크램 딥페이크 채널에는 중·고교생을 대상으로 한 채널이 존재했고, 여기에는 2340여 명이 참여하고 있었다. 이들은 채널 내부에 ‘중‧고교 겹지인방’, ‘지인능욕방’, ‘합성사진 요청방’ 등 단체 대화방을 두고 불법 합성물을 제작‧가공 뒤 성희롱 범죄를 저질렀다.
AI를 활용한 성범죄는 지속 발생하고 있지만, 아직 별다른 대책은 마련되지 않았다. 현재 처벌 기준에 의하면 여학생들의 의견에 반하여 이들의 얼굴에 나체 사진을 합성하고 반포하는 경우 ‘성폭력범죄의 처벌 등에 관한 특례법(성폭력처벌법) 제14조의2 제1항에 따라 징역 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처할 수 있다. 영리를 목적으로 정보통신망을 이용해 반포 등을 한 경우에는 7년 이하의 징역에 처할 수 있다. 하지만 해당 처벌 기준은 아직 약하다는 것이 법률 관계자의 조언이다.
양진영 법무법인 민후 대표변호사는 “딥페이크 피해를 방지하기 위해서는 성폭력처벌법에서 목적 조항을 삭제해 처벌 대상을 확대할 필요가 있다”며 “성폭력처벌법은 반포목적을 요구하고 있어, 개인소장 목적인 경우 처벌이 어려울 수 있는 문제가 있다”고 지적했다. 단, 그는 청소년을 대상으로 한 경우에는 처벌 기준이 강화될 수 있다고 했다. “딥페이크 음란물이 아동, 청소년의 모습을 대상으로 했을 경우 아동청소년의성보호에관한법률위반죄에 해당할 수 있다”고 경고했다.
청소년들이 디지털 성범죄에 유출되지 않기 위해서는 올바른 교육이 정립돼야 한다는 주장도 제기됐다. 김봉제 서울교대 AI가치판단디자인센터장(윤리학과 교수)은 “10대들이 딥페이크에 쉽게 빠져드는 이유는 호기심”이라며 “AI와 관련됐기 때문에 직접적인 피해가 발생하지 않는다는 생각에서 범죄를 저지를 수 있다”고 지적했다. 이어 “마약을 예로 들면 학생들은 마약을 하면 범죄고 손대면 큰 문제라는 점을 알고 있는데, 이는 사회 전반에 걸쳐 교육했기 때문”이라며 “딥페이크 범죄 역시 문제라는 점을 인식시켜야 한다”고 말했다.