챗GPT 개발사인 오픈AI가 인공지능(AI) 기반 생성 콘텐츠에 라벨을 부착하도록 요구하는 캘리포니아 법안 AB 3211을 지지한다고 밝혔다. 이 법안은 무해한 밈(meme)부터 정치 후보에 대한 허위 정보를 퍼뜨리는 딥페이크(deepfake)까지 다양한 AI 생성 콘텐츠를 대상으로 한다.
27일(현지시각) 로이터에 따르면 오픈AI 제이슨 권 최고전략책임자(CSO) 명의로 서한을 보내 “새로운 기술과 표준이 사람들이 온라인에서 찾는 콘텐츠의 출처를 이해하고, 인간이 생성한 콘텐츠와 포토리얼리스틱(Photorealistic, AI 생성 콘텐츠 실제 사진처럼 보이는) AI 생성 콘텐츠 사이의 혼란을 피하는 데 도움이 될 수 있다”고 밝혔다
미국 대선이 다가오면서 유명인들조차 음성·이미지 생성 콘텐츠로 가짜뉴스를 만들어 확산시키고 있다. 도널드 트럼프 전 대통령은 최근 조 바이든 대통령을 공격하기 위해 팝스타 테일러 스위프트의 이미지를 활용한 가짜 사진을 소셜 미디어에 게시했다. 이 가짜 사진은 마치 테일러 스위프트가 트럼프를 지지하는 것처럼 보이도록 조작됐다. 이는 정치적 목적을 위해 AI 기술이 악용된 대표적인 사례로 꼽힌다. 일론 머스크 테슬라 CEO도 자신의 소셜 미디어 플랫폼 엑스(X, 구 트위터)에서 카멀라 해리스 미국 부통령 목소리를 조작한 AI 가짜 영상을 게시해 논란을 일으켰다. 이 영상은 마치 해리스 부통령이 특정 발언을 한 것처럼 꾸며졌지만, 실제로는 AI를 통해 생성된 음성이었다.
오픈AI는 “AI 생성 콘텐츠에 대한 투명성과 워터마킹과 같은 출처 요구 사항이 특히 선거가 있는 해에 중요하다”고 강조했다. 이 내용은 법안을 작성한 캘리포니아 주의원 버피 윅스에게 보낸 서한에서 드러났다.
AB 3211은 이미 주 의회에서 62대 0으로 통과됐다. 이달 초 상원 예산 위원회를 통과해 주 상원 전체 표결을 앞두고 있다. 이 법안이 오는 31일 입법 세션 종료 전까지 통과되면, 주지사 개빈 뉴섬이 9월 30일까지 서명을 하면 법안이 시행된다.
로이터는 “올해 세계 인구의 3분의 1이 선거를 치를 예정인 가운데, 전문가들은 AI 생성 콘텐츠가 선거에 미치는 영향에 대해 우려를 표명하고 있다”며 “이러한 콘텐츠는 이미 인도네시아와 같은 일부 선거에서 두드러진 역할을 한 바 있다”고 언급했다. 인도네시아 주요 대선 후보인 프라보워 수비안토 도르조즈민토(Prabowo Subianto Djojohadikusumo)의 캠페인에서는 AI 생성 이미지를 사용해 그를 친근하고 귀엽게 보이도록 연출한 ‘gemoy’라는 슬로건을 내세웠다. 또 인도네시아 정부는 선거 기간 동안 AI가 생성한 음성·이미지를 사용해 가짜 뉴스를 만들고 확산시키는 행위에 대해 경고하며, 규제 필요성을 강조했다.
앞서 오픈AI는 캘리포니아주의 또 다른 AI 법안인 SB1047에는 반대 입장을 표명했다. SB1047은 AI 개발자들이 자신의 일부 모델에 대해 안전성 테스트를 실시하도록 요구하는 법안이다. AI 시스템의 투명성 강화, 학습 데이터 공개 의무, 개인정보 보호, AI 기술의 책임성 강화 등을 골자로 한다. 이 법안은 오픈AI 등을 포함한 기술 업계의 반발을 사고 있다. 오픈AI는 SB1047에 대해 “캘리포니아주의 AI 산업 발전에 심각한 위협”이라고 주장하며 “AI 기술 중심지가 되려면 과도한 규제가 아닌 연방 차원의 일관된 정책이 필요하다”고 강조한 바 있다.
캘리포니아주 의원들은 올해 입법에서 AI와 관련된 65개의 법안을 도입하려고 시도하고 있다. 로이터는 “이들 법안 중에는 모든 알고리즘 결정이 편향되지 않았음을 입증하고, AI 회사들이 고인이 된 사람의 지적 재산권을 착취하는 것을 방지하기 위한 조치도 포함돼 있었으나 많은 법안이 이미 폐기된 상태”라고 전했다.