[편집자 주] 구아현 기자가 전하는 ‘AI 구기자’는 AI 소식을 쉽게 ‘구겨 넣자’라는 의미입니다. 마치 종이를 구겨 작게 만들 듯이 최신 인공지능(AI) 트렌드나 최신 이슈를 압축해서 전달합니다. 가장 뜨거운 AI 이슈를 선별해 꼭 알아야 할 소식과 직접 취재한 생생한 이야기를 담았습니다.
인공지능(AI) 발전과 신뢰 기반 조성 등에 관한 법률(이하 AI 기본법) 시행을 구체화할 하위법령이 이달 말 드디어 공개된다. 그동안 시행령과 가이드라인 공개가 계속 지연되면서 산업계에서는 불확실성이 커졌고 기업들은 “준비할 시간이 부족하다”고 답답함을 호소해왔다. 하위법령이 법안의 모호성을 얼마나 해소하느냐에 따라 업계의 대응 방향과 한국 AI 산업의 경쟁력이 크게 달라질 것으로 전망된다.
◇ AI 기본법이란?
AI 기본법은 급속도로 발전하는 AI 기술이 사회에 미치는 영향력을 고려해 마련된 포괄적 규제 체계다. 이 법은 AI 발전을 촉진하면서도 국민의 생명·안전·기본권을 보호하기 위한 사회적 신뢰 기반을 구축하는 것을 목표로 한다. 이 법은 2020년 국회에 처음 발의된 후 4년간 여러 차례의 공청회와 토론회를 거쳐 지난해 12월 국회를 통과했다. 올해 1월 최종 공포돼 내년 1월 EU Act(EU AI 법)보다 먼저 본격 시행을 앞두고 있다.
AI 기본법의 핵심은 진흥과 규제 사이의 균형이다. AI는 모든 분야에 적용될 수 있고 국민의 삶에 큰 영향을 미치는 만큼 적절한 규제는 필수적이다. 하지만 과도한 규제는 혁신을 저해하고 국가 AI 발전에 걸림돌이 될 수 있어 신중한 접근이 요구된다. 특히 AI 기술은 적용 범위가 넓고 예측하기 어려운 위험을 내포하고 있어 국민의 생명·안전·기본권을 보호할 수 있는 사회적 통제 장치 마련이 필요하다. 결국 ‘혁신’과 ‘안전’이라는 두 가치의 균형을 찾는 데 있다.
◇ AI 기본법 문제는?
현장에서는 여전히 많은 AI 기본법에 대한 논쟁이 진행되고 있다. 대표적으로 ‘고영향 AI’의 정의가 모호하다는 점이다. 현행 법안은 국민의 생명·신체의 안전 및 기본권에 중대한 영향을 미칠 수 있는 시스템을 고영향 AI로 규정했지만 실제로 어떤 서비스가 이에 해당하는지는 불분명하다.
윤혜선 한양대 교수는 8일 여의도 국회의원회관에서는 열린 AI 기본법의 발전 방향 모색 세미나에서 “고영향 AI 개념 자체가 추상적이어서 어떻게 판별하고 적용할지 기준이 불명확하다”며 “이 같은 모호성은 법적 안정성을 저해하고 실제 규제 집행 과정에서 혼란을 초래할 수 있다”고 지적했다.
중복 규제 우려도 있다. AI 기본법은 고영향 AI, 고성능 AI, 생성형 AI 규정을 두고 있다. 고성능 AI는 대규모 데이터 처리와 고도의 연산 능력을 바탕으로 사회 전반에 영향을 줄 수 있는 수준의 AI로 정의된다. 생성형 AI는 새로운 텍스트, 이미지, 음성, 영상 등을 창출할 수 있는 AI 시스템을 뜻한다. 만약 의료용 생성형 AI 모델이면 이 3가지 규제에 모두 적용된다. 이승민 성균관대 교수는 “고영향 AI와 생성형 AI에 대한 규정이 중복되고, 시정조치와 관련한 규정도 불명확하다”고 지적했다.
의무를 부여하는 주체도 모호하다. AI 기본법은 ‘개발사업자’와 ‘이용사업자’만 규정하고 있다. 개발사업자는 AI를 개발해 제공하는 자, 이용사업자는 개발사업자가 제공한 AI를 이용해 제품·서비스를 제공하다. 실제 AI 생태계에는 모델 개발자, 응용 개발자, 최종 이용자가 복잡하게 얽혀 있다. 해외 빅테크가 만든 모델을 국내 기업이 서비스로 구현하는 경우 개발사업자로 해외 빅테크와 국내 기업이 모두 해당되는지도 불명확하다. 이러면 국내 기업만 법적 책임을 떠안을 수 있다는 우려가 제기된다.
반면 EU AI법에서는 AI 모델을 개발한 사업자가 이를 활용해 서비스를 개발하는 사업자가 규제를 준수할 수 있도록 필요한 정보를 제공할 의무를 지도록 하고 있다. 반면 우리나라 AI 법은 모델과 시스템 간 규제 연계가 명확하지 않아 상류 사업자가 하류 사업자에게 정보를 제공해야 할 의무가 없다.
또한 사전 고지 의무와 표시 의무가 겹쳐 기업들이 준수하기 어려울 수 있다. 아울러 고영향 AI가 개인정보에 기반할 가능성이 높아 개인정보보호법과의 중복 의무가 기업에 이중 부담이 될 수 있다고 우려했다.
전문가들은 이런 불확실성을 줄이기 위한 보완책으로 명확성과 유연성을 확보해야 한다고 강조하고 있다.
윤혜선 한양대 법학전문대학원 교수는 “고영향 AI 기준이 추상적이면 법적 안정성이 저해되고 현장 혼란이 불가피하다”며 “개발자·이용자의 역할을 구분한 맞춤형 규제 체계가 필요하다”고 강조했다. 또 “일본의 AI 추진법처럼 정부가 위험성을 사전 조사할 권한을 가져야 한다”고 제언했다.
이어 윤혜선 교수는 “AI 기본법이 애초에 우리가 의도한 법적 목적을 잘 달성할 수 있는지 살펴봐야 한다”며 “법이 글로벌 기준에 부합하는지 국내 기업들이 믿고 사업을 할 수 있는지, 국내 생태계를 잘 반영했는지 등 근본적인 질문에 명확하게 답을 할 수 있어야 한다”고 말했다.
정원준 한국법제연구원 연구원은 정부 규제만으로는 한계가 있으므로 자율 규제와 병행할 필요성을 강조하면서 "예측 가능한 위험과 그렇지 않은 위험을 구분해 제도를 설계해야 한다"고 조언했다. 박선민 구글 대외정책협력 상무는 “규제가 없는 게 아니라 불확실성이 문제"라며 "준비할 시간이 부족한 것이 업계의 가장 큰 우려”라며 “계도기간이 있더라도 사실조사와 자료제출 등 기업 부담은 여전하다”고 지적했다.
◇ 하위법령에서 주목해야 할 부분은?
이번 하위법령에서 핵심적으로 주목해야 할 부분은 먼저 고영향 AI의 명확한 정의와 판단 기준이다. 어떤 AI 시스템이 고영향에 해당하는지, 업종별·용도별 구체적 가이드라인이 제시되어야 현장 혼란을 줄일 수 있다. 복잡한 AI 생태계에서 각 사업자의 역할과 책임 범위를 명확히 구분하는 것도 필요하다. 특히 해외 모델을 활용하는 국내 기업의 책임 범위를 합리적으로 설정해야 한다.
기존 개인정보보호법 등과의 중복 의무를 정리하고, 기업이 준수해야 할 의무를 체계적으로 통합해 제시하는 것도 중요하다. 기업들의 준비 시간 부족 문제를 해결하기 위한 합리적 계도 기간 설정과 단계적 시행 방안이 핵심이며, 정부 규제와 자율 규제가 조화롭게 작동할 수 있는 체계 구축도 필요하다.
하위법령 공개가 늦어진 만큼 내년 1월 시행되는 AI기본법이 예정대로 시행될지도 관심이 집중되고 있다. 이번 달 말에 시행령을 받아도 내년 1월까지 4개월밖에 남지 않아 기업들의 혼란이 예상되기 때문이다. 이에 황정아 더불어민주당 의원은 규제 3년 유예 개정안을 발의하기도 했다.
하지만 과학기술정보통신부는 AI 기본법 1월 시행을 고수하고 있는 입장이다. 류제명 과학기술정보통신부 차관은 AI 기본법 시행이 미뤄질 것에 대한 기자의 질문에 대해 “예정대로 시행될 것”이라며 “이달 중으로 하위 법령이 발표될 것”이라고 답했다.
◇ 국가전략AI위원회 첫 역할, AI 기본법 조정
그동안 존재감이 미약했던 기존 국가AI위원회는 국가전략AI위원회로 재편돼 새 역할을 부여받았다. 최근 국가 인공지능 기본지침이 될 AI기본법의 규제 정도와 적용 여부를 국가AI전략위원회에서 결정할 수 있는 권한이 부여됐다. 이재명 정부는 국가전략AI위원회를 통해 AI 규제를 선제 발굴해 개선할 예정이다.
이에 앞으로 위원회가 AI 기본법 시행령과 현장의 요구 사이 간극을 메우고 규제 개선의 타당성을 확보하는 조정자 역할을 할 수 있을지도 주목된다.