유튜브를 비롯한 콘텐츠 플랫폼에서 AI가 더 이상 ‘추천’에만 그치지 않고, 부적절하거나 불쾌감을 줄 수 있는 콘텐츠를 자동으로 필터링하는 시대가 도래했다.
1일 관련 업계에 따르면, SNS와 유튜브 등 주요 플랫폼은 이제 이용자가 입력한 생년월일이 아닌, 실제 행동 패턴과 영상 시청 이력을 기반으로 연령을 추정한다. 유튜브는 지난달 29일 AI 기반 연령 추정 기술을 도입했다고 발표했고, 페이스북의 모회사 메타도 인스타그램에서 연령을 속이는 이용자를 자동으로 분류하고 있다.
이는 AI의 역할이 기존의 ‘개인화 추천’ 중심에서 ‘이용자 보호’ 중심으로 전환되고 있음을 의미한다. 한 AI 컨텐츠 관계자는 “과거에는 이용자의 취향을 파악해 체류 시간을 늘리는 데 초점이 맞춰졌다”며 “이제는 이용자를 부적절한 콘텐츠로부터 보호하는 ‘디지털 문지기’로 기능이 바뀌고 있다”고 설명했다.
유튜브가 새롭게 도입한 시스템은 검색 키워드, 시청 카테고리, 계정 사용 기간 등을 종합적으로 분석해 AI가 사용자의 실제 연령을 추정한다. 미성년자로 판단될 경우에는 개인 맞춤형 광고가 차단되고, 특정 콘텐츠 반복 시청이 제한된다. 디지털 웰빙 기능도 자동으로 활성화된다.
제임스 베서 유튜브 제품관리 디렉터는 “AI가 다양한 신호를 바탕으로 사용자가 18세 이상인지 미만인지를 판단한다”며, “기존처럼 생년월일 입력에만 의존하는 방식보다 훨씬 정확한 판단이 가능하다”고 말했다.
틱톡 역시 18세 미만 이용자의 뷰티 필터 사용을 제한하기로 했다. 외모지상주의를 조장한다는 비판을 반영한 조치다. 메타는 내년 1월부터 한국에서도 ‘10대 계정(Teen Accounts)’ 제도를 도입해, 18세 미만 사용자의 인스타그램 계정을 자동으로 비공개 전환하고, 부모의 활동 모니터링 기능을 제공할 예정이다.
다만, AI 필터링 기술이 아직 완벽한 것은 아니다. 유튜브는 AI가 성인을 미성년자로 잘못 분류할 경우를 대비해, 신용카드나 정부 발급 신분증으로 연령 인증 절차를 마련했다. 예컨대, 미스터비스트 챌린지 영상이나 테일러 스위프트 리액션 영상을 자주 보는 성인이 미성년자로 오인될 수 있기 때문이다.
AI 기반 추천 시스템은 그간 이용자의 관심을 끌어 플랫폼 체류 시간을 늘리는 것이 목적이었다면, 최근에는 안전하고 건전한 환경을 조성하려는 흐름으로 전환되고 있다. 그러나 이 같은 변화가 프라이버시 침해로 이어질 수 있다는 우려도 나온다.
IT업계 한 관계자는 “이러한 변화가 실제로 청소년 보호에 얼마나 효과적일지는 좀 더 지켜봐야 한다”면서 “연령 추정 시스템은 이용자의 민감한 데이터를 다룰 수밖에 없어 개인정보 보호와 윤리적 기준에 대한 논의가 함께 이뤄져야 한다”고 지적했다.