미국 내 인공지능(AI) 규제가 본격화하고 있다. 미국은 연방정부 차원으로 통합 규제 대신 각 주가 독자적으로 법안을 마련하는 중인데 최근 캘리포니아주가 지난달 29일(현지시각) AI 안전성 규제 법안 ‘SB53’을 통과시켰다. 내년부터 1월부터 연 5억달러(약 7000억) 이상 수익을 내는 AI 기업들은 AI 안정성, 투명성 의무를 이행해야 한다. 오픈AI, 구글, 메타 등이 이에 속한다.
법안은 AI에 따른 피해를 △최소 10억 달러 규모 경제적 피해 △50명 이상 사상자 발생시킬 수 있는 전력망 사이버 공격 등으로 규정했다. 법안 주요 내용은 투명성 강화, 중대 사건 보고 의무, 내부고발자 보호, 안전 프로토콜 준수 등이다. AI 기업들은 자사 모델이 악용되지 않도록 안전 시스템과 규칙 마련하고 이를 투명하게 공개하고 보고해야 한다는 게 주요 골자다.
AI 기업들은 자사 모델이 사이버 공격이나 생화학무기 제조 등 재난적 위험에 악용되는 것을 방지하기 위한 안전·보안에 대한 것을 상세히 공개해야 한다. 아울러 자사 AI 모델과 관련된 심각한 안전 사고가 발생할 경우, 기업들은 15일 이내 캘리포니아 긴급서비스국(Office of Emergency Services)에 이를 즉각 보고해야 한다. 또 기업들은 단순히 안전 계획을 제출하는 것에 그치지 않고, 자체적으로 수립한 안전 프로토콜을 실제로 준수해야 한다. AI 안전 문제를 제기하는 내부 고발자들에 대한 법적 보호도 강화했다.
AI 규제 시도는 이번이 처음이 아니다. 실리콘밸리가 위치한 만큼 캘리포니아는 AI 산업 중심으로 AI 관련 규제 법안도 가장 활발하게 발의되고 있다. ‘SB53’은 지난해 8월 발의된 강력한 AI 규제 법안 ‘SB 1047’의 완화된 버전이라고도 볼 수 있다. SB 1047은 더욱 포괄적인 규제안으로, AI 개발자들에게 사고 발생 시 직접적인 법적 책임을 강력한 규제 내용을 담고 있었다. 훈련 비용이 1억달러 이상이거나 연산량이 10의26 제곱 부동소수점 연산(FLOPs) 이상인 대형 AI 모델을 규제 대상으로 삼았다.
하지만 실리콘밸리와 AI 업계의 강력한 반발에 부딪혀 뉴섬 주지사는 스콧 위너 상원의원이 발의한 ‘SB 1047’ 법안에 거부권을 행사했었다. 이후 의회에서 SB1047 법안보다 완화되고 피해 금액과 사상자 기준을 명확하게 정의한 SB53을 통과시켰고 최종 서명을 통해 시행이 된 것이다.
개빈 뉴섬 캘리포니아주지사는 SB53 법안 외에도 지난해 9월 성적으로 노골적인 딥페이크를 단속하는 법안에 서명했다. 동의 없이 AI로 생성된 성적 콘텐츠를 제작하거나 공유하는 행위를 불법화했으며, 소셜미디어 플랫폼은 사용자가 이러한 콘텐츠를 신고하고 삭제할 수 있도록 했다.
아울러 통과된 AB-2655 법안은 페이스북, X(구 트위터) 같은 대형 온라인 플랫폼에 선거 관련 AI 딥페이크를 삭제하거나 라벨을 표시하도록 의무화했다. AI로 생성된 아동 포르노를 금지하는 법안도 통과됐다. 미성년자를 대상으로 한 AI 생성 성적 이미지는 형사 처벌 대상으로 경우에 따라 최대 1년의 징역형이나 위반당 최대 2500달러의 벌금이 부과될 수 있다. 최근에는 미성년자와 취약 계층을 보호하는 AI 챗봇 규제 법안 ‘SB243’도 주의회를 통과했다.