유럽연합(EU)이 세계 첫 인공지능(AI) 규제법 합의를 이뤘다. 사람 얼굴 데이터를 무분별하게 수집하거나 AI를 활용해 사회적 감시시스템을 운영하는 것을 금지했다. AI가 사람에게 영향을 주는 요소를 기준으로 위험 등급을 나눠 ‘고위험 AI’는 시장 진입 시 규제를 엄격하게 적용하기로 했다. 고위험 AI에는 로봇 보조 수술이나 면접 심사, 대학 시험 채점 프로그램 등 사람을 평가하거나 생명에 영향을 주는 기술이 포함됐다.
영국 가디언 등 유럽 매체에 따르면, 유럽연합 집행위원회(EC)와 유럽의회, EU 27개 회원국 대표는 유럽 브뤼셀에서 37시간이 넘는 마라톤 회의 끝에 8일(현지시간) ‘AI 규제법’에 합의했다. 원국 사이의 협상은 6~7일 22시간 동안 1차로 진행됐으며, 2차 회의가 8일 오전 재개됐다.
EU의 AI 법 제정은 장기간 이뤄진 사안이다. EU 집행위는 AI 규제법 초안을 2021년 초 발의했다. 이후 3년에 가까운 시간 동안 연구와 논의가 진행돼 합의안이 마련됐다. 법안이 발효되려면 추가로 1~2년이 걸릴 것으로 예상돼 실제로 법이 적용되는 시기는 2025년이 될 것으로 전망된다.
이번 협상은 비공개로 진행됐다. 법안의 구체적인 내용은 아직 공개되지 않았다. 단 현재 공개된 내용에 따르면 EU는 AI의 위험 등급을 나눠 고위험 AI에만 엄격한 기준을 적용하기로 했다. 생성형 AI로 만든 창작물은 AI가 만들었다는 표기를 해야 한다. 무분별하게 시행해온 ‘얼굴인식 데이터 수집’이나 ‘AI를 활용한 사회적 감시시스템 운영’도 금지했다. 이를 어길 경우 기업은 최대 3500만 유로(약 497억 원) 또는 전 세계 매출의 7%에 해당하는 벌금을 내야 한다.
티에리 브레튼 유럽집행위원은 “이 법을 통과시키기 위해 100명의 당국자가 거의 3일 동안 방에만 있었지만, 이 역사적인 법안은 쪽잠을 잘만 한 가치가 있는 것”이라고 말했다.
이번 EU AI 법 제정에 대해 AI 관계자들은 ‘합리적’이라는 의견을 내놓고 있다. 처음 EU가 AI 법을 제정을 논할 때 과도한 규제로 인해 기술개발에 악영향을 준다는 의견이 많았던 것과 대조된다. 여기에는 챗GPT가 허언증과 같은 할루시네이션(환각) 현상을 일으켜 AI도 오류를 발생시킬 수 있단 사실에 공감대가 형성된 영향이 컸다. 생성형 AI 기술이 악용되는 사례가 발생해 AI에도 규제가 필요하다는 사회적 공감대도 형성된 것으로 풀이된다.
지난 5월 있었던 미국 국방부 청사 ‘펜타곤’ 근처 폭발 사진이 대표 사례다. 당시 트위터에는 펜타곤 근처에서 폭발이 발생했다는 글과 사진이 게재됐다. 이 게시물은 다른 계정을 통해 빠르게 번졌고, 이로 인해 미국 증시는 일시적인 하락세를 보이는 등 문제가 발생했다. 하지만 이 사진은 AI로 만든 가짜인 것으로 파악됐다. 상황이 악화하자 버지니아주 알링턴카운티 소방당국은 공식 트위터를 통해 “펜타곤 영내는 물론 그 근처에서 그 어떤 폭발이나 사고가 발생하지 않았다”고 공식 발표하기도 했다. 최근 AI 기술을 활용해 인물 사진의 옷을 벗기는 앱이 인기를 끈 점도 문제 됐다. 유명인뿐 아니라 주변인의 사진을 활용할 수 있어 많은 피해자를 발생시킬 수 있어서다.
국내 AI 스타트업 대표는 “기업 입장에서 규제는 반갑지만은 않은 사실”이라면서도 “하지만 AI 기술이 급진적으로 발달하고 있고 비즈니스간거래(B2B)에서 기업과소비자간거래(B2C) 영역으로 AI가 진출한 만큼 안전망은 필요하다”고 말했다. 이어 “EU가 처음 규제법을 내놓았을 때 기술 발전에 저해된다는 얘기가 많았지만 지금은 어느 정도 공감하는 분위기가 형성됐다”면서 “위험별로 AI를 구분해 안전망을 확보한 점은 잘했다고 생각한다”고 평했다.
대기업 분야에 종사하는 AI 개발자는 “EU에서 첫 규제법을 발휘했으니 아마 다른 국가에서도 관련 내용이 오갈 것이고 국내에서도 지난해부터 관련 얘기가 많았다”면서도 “굳이 EU를 따라갈 필요는 없지만, 잘한 점은 우리도 적용할 필요는 있다”고 말했다. 이어 “EU가 AI를 규제한다고 중국만 AI 발전을 이룰 것이란 얘기도 있는데 이는 잘못된 이론”이라면서 “AI도 결국 사용할 수 있어야 빛을 발휘할 수 있고, 세계로 수출돼야 발전할 수 있으므로 AI 안전을 중요시하는 물결에 함께할 필요가 있다”고 조언했다.