인공지능(AI) 기술로 가짜 영상과 이미지를 만드는 딥페이크(딥러닝과 페이크의 합성어) 성범죄가 수면 위로 올라오면서 AI 기술에 관한 올바른 가치판단을 할 수 있는 힘을 길러야 한다는 주장이 제기됐다. 처벌 강화도 중요하지만, AI 범죄를 근본적으로 방지하려면 기술을 개발하고 활용하는 과정에서 올바른 가치를 판단할 수 있는 교육이 이뤄져야 한다는 주장이다. 현재 AI 교육에는 이러한 가치판단 요소가 빠져있다는 지적도 나왔다.
딥페이크를 이용한 성범죄는 대학교뿐 아니라 미성년자 사이에서도 발생해 사회적 공분을 사고 있다. 피해자들은 나체사진과 합성된 자신의 얼굴이 모르는 사람들에게 조롱거리가 되는 치욕을 겪었다. 한국여성인권진흥원에 따르면, 올해 1월부터 8월 25일까지 디지털성범죄피해자지원센터에 781명이 피해 지원을 요청했다. 이 중 36.9%인 288명이 미성년자였다. 이 중 일부는 자신의 일상 사진이나 영상이 성적 수치심을 유발할 수 있는 형태로 합성돼 유포되는 피해를 겪었다. 최근 교육부 조사에 따르면, 올해 신고된 딥페이크 성범죄 수는 196건이었다. 피해 대상은 대부분 교사와 학생이었다.
딥페이크 성범죄 사례가 지속 소개되면서 처벌 강화와 딥페이크 방지법 마련 등에 관한 목소리가 나오고 있다. 딥페이크 탐지 기술에 관한 이목도 쏠린다. 하지만 이번 사건이 미성년자 사이에서 벌어진 경우가 많은 만큼, 이들을 위한 AI 교육을 검토해야 한다는 주장에 무게가 실리고 있다. 현재 많이 이뤄지고 있는 AI 개발 교육이 아닌 AI를 올바르게 개발하고 활용할 수 있도록 ‘가치판단’할 수 있는 교육을 강화해야 한다는 주장이다.
김승일 모두의연구소 대표(과실연 AI 미래포럼 공동의장단 대표)는 현재 AI 기술은 급격히 발전하고 있지만, 학생들은 AI 시대에 맞는 교육을 받지 못하고 있다고 아쉬워했다. 10대 학생들은 기술에 열려 있는 만큼 AI 학습 속도가 빠른데, 이를 올바르게 활용할 수 있게 지도하는 교육은 이뤄지지 않고 있다고 했다.
그는 “지금은 AI 활용과 개발과 같은 솔루션 교육이 이뤄지고 있는데, 이에 앞서 AI를 활용할 때 예상되는 문제를 올바르게 정의할 수 있고 어떤 행동을 할 때 의사결정하고 판단할 수 있는 교육을 시행해야 한다”면서 “AI 디지털교과서를 예로 들면 교재를 디지털화하거나 AI를 가르친다는 것보다 그 안의 콘텐츠를 어떻게 의미있게 구성할 것인지가 더 중요하듯 학생들이 AI를 사용할 때 어떻게 가치판단을 할 것인지 그 내용을 알려주는 것이 중요하다”고 말했다.
AI 가치판단에 관한 교육은 일반적으로 알려진 윤리 교육과는 다르다고 했다. ‘윤리적으로 안전하게 써야 한다’는 교육은 물론, ‘AI를 올바르게 정의하고 활용할 수 있는 힘’을 키우는 교육을 해야 한다고 조언했다. 그는 “챗GPT에 제일 좋은 온라인 쇼핑몰을 만들어 달라는 프롬프트를 입력한다고 가정했을 때 여기서 좋은 온라인 쇼핑몰의 기준은 사람이 정의해야 한다”며 “클릭을 많이 하는 것이 좋은지, 구매율이 높은 것이 좋은지, 많이 방문하는 것이 좋은지 등에 관한 기준은 사람의 정의에 달려 있다”고 말했다. 이어 “이 정의에 따라 다른 솔루션이 나올 수 있는데, 학생들이 이것을 잘 정의하고 AI를 판단하는 힘을 키운다면 AI 기술을 악용한 범죄를 예방할 수 있을 것”이라며 “현재 AI 교육이 강조되고 있지만 가치판단에 관한 교육은 빠져있어 큰 문제”라고 지적했다.
김봉제 서울교대 AI가치판단디자인센터장(윤리학과 교수)도 가치판단 교육의 중요성을 강조했다. AI를 이용했을 때 여기서 발생할 수 있는 장점과 문제 등의 가치를 스스로 판단하고 정의할 수 있는 교육을 강화해야 한다고 밝혔다. 서울교대에서 AI가치판단디자인센터를 설립한 이유도 이러한 교육을 강화하기 위함이라고 했다. 이 센터는 올해 1월 24일 서울교대 산학협력단 부설센터로 설립됐다.
김 교수는 “AI 기술이 발전할수록 사용자들이 여기서 얻을 수 있는 가치를 판단하고 스스로의 활용을 디자인하는 힘을 길러야 한다”며 “교사들은 학생들이 올바르게 가치판단 할 수 있는 조력자가 돼 딥페이크 성범죄와 같은 문제를 방지해야 한다”고 조언했다. 이어 “학생뿐 아니라 사회 전반적으로 AI를 어떻게 사용해야 좋은지에 관한 가치판단을 논의하는 자리가 마련돼야 한다”면서 “학생들은 어른보다 AI 활용 능력은 우수하기 때문에 이들이 올바르게 기술을 활용할 수 있도록 어른들이 도와야 한다”고 했다. 또 “센터에선 올바른 AI 활용을 돕기 위해 AI 가치판단 데이터를 구축하고 이에 관한 알고리듬을 개발해 이와 관련한 활용 모델을 개발할 계획”이라고 밝혔다.