AI 기본법 하위법령 초안 공개… “고영향 AI 확인·영향평가 최소한 규제 담아”

내년 1월 시행되는 인공지능(AI) 기본법의 하위법령 초안이 발표됐다. 해외 대형 AI 모델 사업자들은 한국 서비스 출시를 위해서 국내 대리인을 반드시 지정해야 된다. 고영향 AI도 별도 위험 관리와 투명성 표시 절차를 따라야 한다.

과학기술정보통신부는 지난 8일 AI 기본법 시행령과 함께 총 7건의 하위법령(고시 2건, 가이드라인 5건) 초안을 발표했다. 9월 중순까지 산업계·시민사회·전문가 의견 수렴해 최종안은 오는 12월 확정될 예정이다.

◇ “국내 이용자 100만 명 이상이면 국내 대리인 필수”

정부는 AI 서비스 제공 기업 중 △본사 매출 1조원 이상 △국내 AI 관련 매출 100억원 이상 △국내 일평균 이용자 수 100만 명 이상인 해외 사업자는 반드시 국내 대리인을 지정해야 한다고 명시했다. 이는 정보통신망법, 개인정보보호법 등과 동일한 기준이다.

AI 모델의 학습량이 ‘10의 26승 플롭스(FLOPS)’를 초과하는 초거대 모델은 별도의 안전 확보 의무를 갖는다. 위험 식별과 평가, 완화 조치 등을 시행해야 한다. 독립된 위험평가 조직의 참여도 권장된다. GPT-4, 제미나이, 클로드 등 대부분의 거대 언어모델이 포함될 것으로 보인다.

◇ ‘고영향 AI’, 정기적 위험 관리 보고· 대응 체계 의무

사람의 생명, 신체, 기본권에 중대한 영향을 미칠 수 있는 AI는 ‘고영향 AI’는 정기적 위험 관리와 보고, 대응 체계를 갖춰야 한다. 이 경우 기업은 AI 결과물에 개입 사실을 알 수 있도록 워터마크나 고지 문구를 삽입해야 한다. 단순 표시에 그치지 않고 정기적인 위험 관리 보고와 대응 체계를 구축해야 한다.

정부는 고영향 AI의 판단 기준으로 사용영역, 영향의 중대성·빈도, 기본권 침해 가능성 등을 종합적으로 고려한다는 방침이다.

다만 과태료는 1년 이상 유예한다. 다만 처벌보단 계도에 초점을 맞춰 개선해 나간다는 방침이다. 투명성 고지 의무를 위반하거나 국내 대리인을 지정하지 않을 경우 최대 3,000만 원의 과태료가 부과된다. 고의적·악의적인 민원이나 신고에 따른 사실조사는 배제된다.

정부는 이번 하위법령 제정이 규제보다는 진흥에 초점을 맞췄다고 강조했다.

김경만 과기정통부 인공지능정책관은 “EU와 미국 수준의 최소한 규제를 반영했다”며 “AI 산업계는 규제로, 시민단체는 보호 부족으로 각각 우려하고 있지만 양측 의견을 균형 있게 반영해 최소한의 의무만 담았다”고 설명했다.

정부는 9월 내로 관계부처, 산업계, 시민사회 의견을 수렴한 뒤 10월 입법예고를 거쳐 연내 하위법령을 확정할 계획이다. 고시와 가이드라인도 12월 중 함께 공개될 예정이다.