오픈AI, 청소년 전용 챗GPT 이달 말부터 제공

오픈AI가 챗GPT 청소년 사용에 대한 안전성 문제가 심각해지자 18세 미만 청소년 사용자를 위한 기능 등이 포함된 챗GPT를 이달 말부터 제공한다고 발표했다.

오픈AI는 16일(현지시각) 공식 블로그를 통해 “청소년 안전, 자유, 프라이버시라는 세 가지 핵심 원칙 간의 갈등을 해결하기 위한 방침을 결정했다”며 “청소년 사용자에 대해서는 안전을 프라이버시와 자유보다 우선시하겠다”고 밝혔다.

최근 미국에서는 16세 소년 아담 레인이 챗GPT와 대화를 나눈 몇 시간 후 극단적 선택을 한 사건이 발생했다. 유족은 챗GPT와 마지막 대화에서 AI가 올가미에 대한 기술적 분석을 제공해 사람을 매달 가능성을 확인해 줬다고 주장했다. 아담의 부모는 오픈AI를 상대로 손해배상 소송을 제기한 상태다.

정신질환 병력이 있던 스타인 에릭 쇨버그도 챗GPT와 음모론을 논하며 망상이 심해져 어머니를 살해 후 자살했다. 그는 챗GPT를 ‘Bobby’라고 부르며 편집증적 망상을 키워갔다.

이에 오픈AI는 지난달 챗GPT에 부모 통제 기능이 도입할 것이라고 발표했다. 이 기능은 부모가 자신의 계정과 청소년 계정을 이메일로 연결해 사용 금지 시간을 설정할 수 있다. 부모는 자녀가 챗GPT의 특정 기능을 제한·관리할 수 있도록 했다. 청소년이 심각한 위기 상황에 처했을 때 부모에게 알림을 전송하는 기능과 대화가 계속 이어지지 않도록 하는 기능도 포함됐다.

오픈AI는 18세 이상과 미만 사용자를 분리한다. 사용자의 챗GPT 이용 패턴을 분석해 연령을 추정하는 ‘연령 예측 시스템’을 구축하고 의심스러운 경우에는 18세 미만으로 간주해 보다 안전한 서비스를 제공한다는 방침이다. 일부 경우나 특정 국가에서는 신분증 확인을 요구할 수도 있다고 밝혔다.

18세 미만 사용자에게는 성인과 다른 규칙을 적용한다. 성인에게는 허용되는 연애나 성적 대화를 차단하고 창작 목적이라도 자살이나 자해에 관한 논의를 금지한다. 18세 미만 사용자가 자살 생각을 표현할 경우 부모에게 연락을 시도하고 연락이 닿지 않으면 당국에 신고하는 시스템도 도입한다.

반면 성인 사용자에 대해서는 프라이버시를 강화한다고 발표했다. 샘 올트먼은 “AI와의 대화는 의사나 변호사와의 상담만큼 민감한 개인정보를 다루는 경우가 많다”며 “오픈AI 직원조차 접근할 수 없는 고급 보안 기능을 개발하고 있다”고 설명했다

다만 생명에 대한 위협이나 , 대규모 사이버 보안 사고 등 중대한 위험이 감지되면 자동화 시스템이 모니터링한다. 심각한 경우에는 사람이 이를 검토할 방침이다.

샘 올트먼 오픈AI 최고경영자(CEO)는 “이러한 결정들이 쉽지 않았으며 이러한 결 방식에 모든 사람이 동의하지 않을 것이라는 점도 인식하고 있다”면서 “전문가들과 논의한 결과 이것이 최선이라고 판단했고 우리의 의도를 투명하게 밝히고 싶었다”고 설명했다.