사진 한 장, 텍스트 한 줄로 ‘진짜 같은’ 영상을 만들 수 있는 시대가 도래했다. 특히 구글 딥마인드가 공개한 Veo 3 등 고성능 생성형 AI의 발전으로, SNS와 유튜브 등 온라인 공간에는 현실과 구분이 어려운 AI 영상을 접하기 쉬워졌다. 하지만 기술의 발전만큼 ‘가짜뉴스’나 허위 정보 확산 우려도 커지고 있다.
◇ ASMR부터 좋아하는 캐릭터까지… 늘어나는 AI 컨텐츠
SNS 어플을 열면 AI 기반의 컨텐츠들을 쉽게 접할 수 있다. 특히 ‘ASMR’이나 동물들이 언어로 말하는 듯한 영상들, 좋아하는 애니메이션 캐릭터가 움직이는 영상들을 어렵지 않게 접할 수 있다. AI의 발전으로 사진 한 장으로, 텍스트 한 줄로 다양한 컨텐츠들을 진짜처럼 제작할 수 있는 시대가 열렸다는 평가가 나오는 이유다.
AI 컨텐츠의 한계는 무궁무진하다. 용암에 달군 마시멜로우를 먹거나, 금속 블록을 통째로 씹는 등 비현실적인 영상을 누구나 손쉽게 제작할 수 있다. 이 외에도 유리로 만든 과일을 식칼로 썰어내는 영상들은 현재도 SNS 이용자들의 인기를 끌고 있다. 이 외에도 반려견의 사진을 활용해 반려견이 사람의 말을 하는 듯한 영상들도 자주 접할 수 있다.
이처럼 비현실적인 영상은 시청자가 ‘AI가 만든 것’임을 알아차리기 쉬운 편이다. 그러나 최근에는 실제 상황과 구분이 어려운 고정밀 합성 영상도 등장해 문제가 되고 있다.
이달 중순 집중호우로 인한 재해 상황을 다룬 가짜영상들이 SNS를 통해 빠르게 확산됐다. 예컨대 물에 잠긴 경복궁이나 침수된 서울 시내 모습이 담긴 영상들이 실제 피해 영상처럼 퍼지며 혼란을 가중시켰다.
◇ AI 영상들에 대한 대비책 만들어야
가짜영상들이 SNS나 유튜브 등 이용자들에게 거짓 정보를 줄 수 있다는 우려에 AI로 제작한 영상들에 대한 제도 도입의 목소리가 높아지고 있다. 컨텐츠 제작 단계에 있어서 AI 영상임을 알리는 워터마크나 경고 문구를 넣는 등의 제도가 필요하다는 것이다. 특히 기술이 고도화되며 1~2년 내에는 전문가조차 진짜와 가짜를 구별하기 어려운 수준에 이를 것이란 우려도 나온다
AI 영상 제작 관계자들은 엔터테인먼트용이 아닌 가짜뉴스를 만드는 용도로 활용되는 부분에 대해서는 문제의 소지가 있다고 지적한다. AI로 제작한 영상이 현실과 혼동을 일으킬 수 있는 부분에 대해서는 어느정도 인지능력을 보유한 성인들의 경우에는 AI 영상이라고 판단할 수 있지만, 미성년자들이 볼 경우 진짜로 오해할 수 있다는 것이다.
박은지 서울벤처대학원대학교 AI문화연구소장 겸 주임교수는 “ASMR이나 엔터테인먼트 영상은 구분이 가능하지만, 현실과 유사한 재난 영상이나 가짜 뉴스에 AI가 활용될 경우, 어린이·청소년 등은 진짜라고 믿을 수 있다”고 지적했다.
이어 “현재로서는 창작자가 스스로 AI 콘텐츠임을 표시하는 자율적 기준을 마련해야 한다”며 “향후 플랫폼 단위의 기술적 식별 시스템도 도입이 필요하다”고 조언했다.