[칼럼] “생성형 AI 시대 창의적 상실 경계해야”

생성형 인공지능(AI)의 광범위한 활용은 점점 더 많은 사람을 AI에 의존하게 만들고 있다고 한다. 이로 인해 많은 부작용이 등장한다고 아우성이다. 이제는 AI가 제공하는 단순히 편리함을 누리는 것을 넘어, AI가 없으면 일상적 판단조차 내리기 어려운 상황이 늘고 있다고 한다. 

하지만 한편으로는 다음과 같은 의문이 생긴다. 과연 AI만 이러한가. 계산기가 나온 이후 우리는 일일이 암산할 필요가 없어졌고, 휴대폰의 등장으로 전화번호를 기억할 필요가 줄었으며, 노래방 기계가 생긴 후 노래 가사를 외울 필요는 사라졌다. 네비게이션의 등장은 지도 찾기와 길 찾기를 인간의 기억에서 빼앗았다. 이러한 변화들은 단순한 편리함일까, 아니면 인간 능력의 점진적 쇠퇴를 의미하는가?

AI가 일상에서 사용되기 이전에도 기술에 의존하는 현상에 대한 비판은 있었다. 영상에 익숙한 세대가 글을 잘 읽거나 쓰지 못함을 두고 요즘 세대는 책을 너무 읽지 않는다는 양심 있는 자성의 목소리를 높이곤 했다. 일각에서는 그들은 그들 나름의 방식으로 시각화한 정보를 해석하는데 익숙해진 것이며 글을 읽고 쓰는 능력이 다소 뒤떨어져 보이는 것이 낮은 지능의 징후라 부를 필요는 없다고 옹호하기도 했다. 아울러 제기되는 의문은 현재의 리터러시의 관점에서 낮다고 평가할 수도 있지만, 과연 미래는 어떻게 상황이 급변할 것인지에 대한 여부다. 삶의 살아가는 데 필요한 리터러시에 대한 기존의 기준을 그대로 미래에도 적용할 수 있는가. 우리는 정말로 모든 사람이 지금과 같은 형태의 리터러시를 필요로 하게 될 것인가. 기술의 발달에 맞게 필요로 하는 리터러시를 적절히 변경해야 하는 것이 맞지 않는가. 

사람들이 AI를 일상생활에서 많이 사용하고 있다는 점을 최근 경험하게 되었다. 실제 수업 현장에서 발생한 일이다. 최근 학생들에게 300자 정도의 짧은 글쓰기 과제를 낸 적이 있다. 사전에 공지를 통해 AI 사용 여부를 점검하도록 한 툴을 활용하도록 하였고, 제출하는 과제에 인간 작성 비율과 AI 작성 비율을 퍼센트로 표시하게 했다. 예를 들어 “인간 작성 90%, 인간과 AI 협업 5%, AI 작성 5%”와 같이 표시하고, AI 작성 비율이 20%를 넘으면 감점하겠다고 공지했다. 그런데 흥미롭게도 결과물에서 많은 학생들이 생성형 AI를 활용함을 확인할 수 있었다. 실제로 AI가 작성한 비율이 20%를 넘는 학생은 없었음에도 불구하고, 글을 자세히 살펴보면 AI가 ‘작성한 것처럼’ 느껴지는 글이 존재했다. 문체에서 느껴지는 부자연스러움이 눈에 띄었기 때문일 것이다.

실망스러웠던 점은 추가 점검 결과, 일부 학생들이 제출한 글에서 AI 작성 비율은 낮았다고 적혀 있음에도, 심지어 100% AI이 작성한 것으로 보인다는 결과가 나오기도 했다. 그런데 더 놀라웠던 점은 점검툴을 사용함에도 불구하고 AI가 작성하는지를 전혀 알아차리지 못한 경우에도 우회적인 방식으로 AI가 작성한 것임을 짐작할 수 있었다는 점이다. 바로 과제의 내용 중에서 유독 유사한 표현들이 여럿 눈에 띄었던 것이다. 사건의 전말은 이러한 것으로 파악된다. 일부 학생이 AI를 과제 작성에 활용했고, AI가 만들어낸 답변이 서로 유사한 내용을 담고 있었던 것이다. 결국, AI 사용 여부를 문체만으로 파악하기는 어려우나, 내용의 반복과 획일적 표현을 통해 간접적으로 판단할 수 있었음을 알게 되는 뼈아픈 경험을 하게 되었다. 

이 사례가 시사하는 바는 명확하다. AI 사용의 문제는 획일성, 유사성으로 수렴되는 무미건조하고 중립적인, 창의성과 동떨어진 결과물의 양산이라는 점이다. 학생들 스스로의 고유한 표현과 생각이 결핍된 글쓰기가 보편화하면, 획일적이고 유사한 결과물만 낳을 뿐 스스로 자율적이고 자기 주도적으로 무언가를 하려는 능력이 점차 약화할 수밖에 없다. 그런데 더 심각한 문제는 AI 사용과 동반한 “윤리적 공백현상” 혹은 “윤리적 무감각함”이 심화할 수 있다는 점이다. 실제로 AI를 사용하고도 점검 툴의 결과를 자신에게 유리하게 변경할 수 있는 윤리적 무감각함이 자연스럽게 나타날 수 있음은 기술이 미치는 강력한 영향력, 즉 기술의 도움을 무조건적으로 의존하면서 심지어 윤리적 판단마저 무력화하는 경향이 나타나는 것이다. 

AI가 없으면 글을 쓰는 것조차 시도하지 못하는 이들이 양산된다면, 미래에는 일부 능력 있는 소수가 더 막강한 권력과 자본을 독점할 가능성이 크다. 앞서 언급했듯, AI에 의존하는 인간의 심리적 속성을 고려하면 이는 충분히 예견 가능한 시나리오다. 사람들은 스스로 능력이 부족하다고 느끼면 침묵하고, 윤리적 판단조차 중지할 수 있다. 

홉스가 ‘리바이어던’에서 언급한 절대군주가 군림할 수도 있다. 두려움과 생존의 필요 때문에 자신의 권리를 군주에게 이양했던 인간처럼, 이제 우리는 AI에게 무의식적으로 자신의 권리, 심지어 사고와 표현의 자유까지 이양하게 될지도 모른다. 이것이 반드시 나쁜 것인지, 아직은 확실하지 않다. 그러나 그러한 AI의 배후에 능력 있는 소수가 권력을 독점하게 된다면 이는 다수에게 그리 좋지 않은 결과를 가져올 수 있다. 사람들은 의존을 벗어날 수 없고 비판적으로 바라보기 힘들다. 이러한 최악의 상황을 피할 수 있는가. 현실적으로 피하는 것은 거의 불가능할 것 같다. 그렇다면 우리는 어떻게 대응해야 하는가. 분명한 답은 알 수 없지만, 최소한 현재 우리가 직면한 현실과 문제를 아는 것만큼은 모르는 것보다 훨씬 낫다는 점은 분명하다.

생성형 AI 시대, 인간은 편리함과 효율성을 누리는 대신 자기 주도적 사고와 창의적 표현 능력을 점차 잃어가고 있다. AI의 과다한 사용이 의존성의 극대화를 야기하고, 이로 인해 인간이 스스로 사고하고 표현하며 창조하는 능력이 점점 억압받고, 반복과 유사성의 그물 속에 갇히게 될 위험에 처하게 될 것이다. 중요한 것은 지금 우리가 누리는 것이 편리하다는 이유로 그것에 대한 비판적 성찰, 윤리적 성찰을 멈추게 되는 것이다. 미래의 인류는 무기력과 무도덕함을 겸비한 이들일 가능성이 있다. 그러한 상황에서도 풍요롭게 삶을 유지할 수 있다면 별 문제가 없다고 생각할 수도 있다. 그렇지만 상황은 일순간에 돌변할 수 있다. 그렇기 때문에 우리는 우리가 누리는 것들에 대해 끊임없이 질문하고, 성찰하며, 경계를 늦추지 말아야 한다. 이것이 앞으로 우리에게 필요한 리터러시일 것이다.