인공지능(AI) 업계가 기다려온 AI 기본법의 올해 국회 통과가 가시화됐다.
21일 ‘인공지능산업 육성 및 발전 등에 관한 법률안'과 '인공지능산업 진흥에 관한 법률안’ 등 AI 기본법이 국회 과학기술정보방송통신위원회 법안소위원회를 통과하면서 국회 상임위원회 문턱을 넘었다.
AI 기본법은 글로벌 AI 패권전쟁이 치열할 가운데 AI 국가 경쟁력 확보 측면에서 중요하게 다뤄져 왔다.
하지만 21대 국회에서부터 발의된 AI 기본법은 국회 문턱을 넘지 못하고 폐지돼 22대 국회에서 재발의됐다. 22대 국회에서 발의된 여야 AI 기본법도 그동안 제정이 지연됐다. ‘방송4법 강행처리’, ‘방송 장악’ 등 방송 관련 문제로 밀려 국회 과학기술정보방송통신위원회 전체회의를 열지 못하다가 지난 9월 초 22대 국회 개원 이후 3개월 만에 처음 법안 소위를 열어 AI 기본법 제정 작업에 들어갔었다. 이후 9월 말 윤석열 대통령을 위원장으로 한 ‘국가AI위원회’가 출범하면서 AI 기본법 제정과 AI 안전연구소를 연내 제정하는 방안을 추진됐다. 이어 10월 국정감사에서도 AI 기본법 제정이 시급하다는 논의가 이뤄져 오면서 속도가 붙었다.
AI 기본법이 제정되면 AI 기술 개발과 산업 진흥을 체계적으로 지원할 수 있는 법적 토대가 생기고, AI 안전연구소 법적 근거도 마련된다.
과방위 법안소위는 이번에 여야가 발의한 총 19건의 AI 기본법안을 병합 심사해 통과시켰다. 이 법안에서는 금지 AI 규정 제외하고 ‘고영향 AI’에 대한 사업자 책임을 규정했다. 고영향 AI는 사람의 생명이나 신체 등 인간의 기본권 보호에 영향을 미치는 기술을 개발한 때 사용가의 안전성을 확보할 수 있도록 하는 사업자 책임 조항이다. 사업자가 고영향 AI에 대해 이용자 고지를 하지 않을 경우 3000만 원의 과태료를 내야한다.
그동안 업계에서는 ‘고위험 AI’에 대해 정의와 규제 적용하는 것에 대해 의문을 제기해 왔다. 발의된 AI 기본법이 대부분 AI를 고위험 영역과 그 외 AI로 구분하고 고위험 AI에 대해서만 규제를 적용했기 때문이다. AI 기술은 빠르게 발전하고 있어 불확실한 위험에 대해 규제를 적용하는 것이 진흥 측면에서 걸림돌로 작용할 것이라고 봤기 때문이다.
이번 법안은 이 같은 요구를 반영해 금지 AI 규정을 제외하고 고영향 AI에 대한 새로운 사업자 책임을 마련했다. 또 기업 AI 기술이 고영향 AI에 해당하는지 과학기술정보통신부를 통해 확인할 수 있도록 했다.
이날 과방위 법안소위에서는 디지털포용법, 이동통신단말장치 유통구조 개선에 관한 법률 폐지법률안 및 전기통신사업법 일부개정안(단통법 폐지법) 등도 통과됐다
아울러 오픈AI, 구글 등 글로벌 빅테크 기업의 국내 대리인 지정을 의무화했다. 이용자수와 매출액 등 일정 기준을 넘은 해외 사업자는 국내 대리인을 지정해 정부가 요구하는 신뢰성과 안전성 조치를 이행하고 지원해야 한다. 이를 여길 시 3000만 원의 과태료가 부과된다.
딥페이크 문제에 대응해 AI 기반으로 생성된 영상이나 사진에는 워터마크를 넣도록 규정했다.과학기술정보통신부는 3년마다 AI 기본계획을 수립하고 국가인공지능위원회 심의·의결을 거쳐 시행해야 한다. 대통령 소속 국가인공지능위원회 내 전문 분야별 업무 수행을 위한 분과위원회와 자문단을 구성할 수 있고, 인공지능정책센터, 인공지능 안전연구소 설립 조항도 담겼다.
AI 기본법은 정부가 AI 산업의 건전한 발전을 지원할 근거를 마련하고 이 산업의 신뢰 기반 조성에 관한 기본 사항과 인공지능 윤리를 규정한 법이다. 정부가 AI 진흥 계획을 수립하고 AI 데이터센터 투자 활성화, 지역균형발전 지원, 벤처 지원등을 할수 있도록 근거가 담겼다. 기본법은 오픈AI 등 해외 대형 AI 기업이 국내에서 영업할 때는 정부와 소통할 수 있는 국내 대리인을 지정하도록 했으며, AI 기반 영상이나 사진에는 워터마크를 넣도록 규정했다. 인간의 생명이나 신체 안전과 관련한 AI 기술은 '고영향 인공지능'으로 분류해 정부가 관련 사업자에 신뢰성·안전성 확보 조치를 요구할 수 있게 하는 내용도 들어갔다.