“애매모호한 AI 법 규제, 지능적으로 마련해야 한다.”
12일 서울 페럼타워에서 열린 ‘인공지능(AI) 거버넌스의 프런티어 이슈 (SEOUL AI POLICY CONFERENCE 2024)’ 두 번째 세션 기조연설자로 나선 크리스토퍼 유(Christopher YOO) 미국 펜실베이니아 로스쿨 교수가 AI 거버넌스 글로벌 현황과 AI 기술이 나아가야 할 방향에 대해 강조했다.
크리스토퍼 교수는 “앞으로 AI 시대에 어떤 일이 일어날 것이며, 우리가 어떤 방향으로 나아가야 하는지 고민해야 한다”고 강조하며, AI 거버넌스의 중요성을 역설했다. 특히 AI 모델의 훈련 데이터 범위와 데이터의 중요성에 대한 이해가 필수적이라고 강조했다.
그는 “대부분의 AI 기업이 모델 자체에만 초점을 맞추고 있지만, 데이터의 중요성이 과소평가 되고 있다”며 “모델이 훈련된 데이터의 범위를 이해해야만 그 모델이 적절하게 사용될 수 있는지를 알 수 있다”고 말했다. 또 오픈AI의 보고서를 인용하며 “챗GPT는 2022년 4월까지의 데이터로 훈련됐기 때문에 그 이후의 데이터에 기반한 질문에는 근거 없는 답변을 할 수 있다”고 덧붙였다.
크리스토퍼 교수는 AI 기술 발전과 관련해 수용할 수 있는 위험 수준에 대한 논의가 필요하다고 강조했다. 개인정보 보호법의 투명성 문제를 지적하며 “현재 개인정보 보호법에 대한 투명성 논의는 그저 ‘확인’ 또는 ‘동의’ 버튼을 더 많이 클릭하게 만드는 데 그치고 있으며, 큰 변화 없이 비용만 증가시키고 있다”고 비판했다.
또 AI의 완벽성을 추구하는 것이 어려운 과제임을 인정하면서도 “0.001%의 오류를 수정해 불완전한 상태를 개선하는 것이 우리가 해야 할 일”이라고 강조했다. “영원히 변하지 않을 규칙을 만드는 것은 어려운 일이지만 법의 규제를 지능적으로 애매모호하게 유지하는 것이 중요하다”고 했다.
크리스토퍼 교수는 미국과 유럽의 AI 규제 접근법을 비교하며, 미국 바이든 행정부의 ‘AI 행정명령’이 AI를 산업 정책이 아닌 안보 문제로 보고 있다는 점을 언급했다. 행정명령은 △AI 안전 및 보안 기준 마련 △혁신과 경쟁 촉진 △연방 정부의 사용과 조달 지침 개발 △소비자 보호 △노동자 지원 △형평성과 시민권 증진 △국제 파트너와의 협력 등 8가지 주요 내용을 담고 있다.
반면 유럽은 보다 강력한 규제를 통해 AI 발전 속도를 조절하려는 움직임을 보인다. 유럽의회는 ‘AI 법안’을 통해 시민 권리와 민주주의에 위협이 될 수 있는 AI를 금지하고, 법 집행 기관에 대한 예외를 허용하는 등의 규제를 추진하고 있다.
크리스토퍼 교수는 “블루투스와 와이파이가 세상에 나왔을 때 예상과 달리 와이파이가 압도적으로 사람들에게 필요하게 된 사례처럼, 시장 논리를 고려한 규제가 혁신을 이끌 수 있으며, 수용할 수 있는 리스크에 대한 사회적 합의가 필요하다”고 말했다. 끝으로 그는 “어떤 대책을 마련하더라도 기술이 어떻게 발전할지 모르기 때문에, 규제의 타이밍이 중요하다”고 강조했다.