“내 가족 옷도 벗겨질 수 있다”… 생성형 AI의 그림자

생성형 인공지능(AI)이 모든 업무와 일상에 스며들어 삶의 질을 높여줄 것이라는 ‘생성형 AI 만능주의’가 자리매김하고 있는 가운데, AI 사용에 경종을 울리는 사건이 발생했다. 사진 속 여성의 옷을 AI로 벗기는 애플리케이션(앱)이 인기를 끌었다. 사진에서의 여성은 공인뿐 아니라 직장 동료, 학교 동급생, 버스에 탄 낯선 사람, 심지어 어린이도 대상이 됐다. 가족과 연인의 발가벗겨진 사진이 인터넷에서 떠돌아다닐 가능성이 발생한 것이다.

10일 포브스, 블룸버그 등 외신에 따르면 최근 소셜 네트워크 분석회사인 그래피카(Graphika)는 지난 9월 한 달 동안에만 사진 속 인물의 옷을 벗기는 34개 웹사이트에 방문한 인원이 2400만 명에 달한다고 밝혔다. 이 인원이 한 달간 누군가의 사진을 올리고 옷을 벗기고 즐겼다고 볼 수 있다.

이 앱은 사진을 입력하면 클릭 몇 번 만에 사진 속 인물의 옷을 제거할 수 있다. 상당 수 사이트는 여성 사진에서만 옷 벗기기 기능이 작동했다. 조사 대상 사이트 중 한 곳에서는 아예 “원하는 여성의 옷을 벗기라”는 광고를 냈고, X에 게시된 한 광고물에서는 ‘디지털로 누군가의 사진 속 옷을 벗겨낸 후 당사자에게 사진을 보낼 수 있다’는 문구도 게재됐다.

이 앱은 디지털 범죄로 사용될 가능성이 크다. X에 게재된 광고 문구처럼 가상이라도 누군가의 옷이 벗겨진 사진을 유포해 피해를 줄 수 있어서다. 인스타그램과 같은 소셜네트워크서비스(SNS) 등에서 사진을 쉽게 구할 수 있기 때문에 피해주는 누구나 대상이 될 수 있다. 과거 플래시 게임에서나 있었던 옷 벗기기 게임과는 다르다. 이 앱은 실제 인물을 대상으로 해서다. 누군가의 가족, 연인, 친구 모두가 피해자가 될 수 있다.

이번 범죄는 과거부터 거론돼왔던 딥페이크 성착취물과 생성형 AI 발전의 부작용이라는 평가다. AI 기술 발전에도 사용 규제 등을 발 빠르게 마련하지 않아 부작용을 발생할 수 있단 지적이다. 유럽연합(EU)이 최근 세계 첫 AI 규제법을 합의하고 사람 얼굴 데이터를 무분별하게 수집하는 것을 금지하기로 했지만, 법안이 발효되려면 추가로 1~2년이 걸릴 것으로 예상돼 실제로 법이 적용되는 시기는 2025년이 될 것으로 전망된다.