인공지능(AI) 기술이 혁신을 가속화하고 있지만 프라이버시 보호 체계와 안전망 구축은 이를 따라가지 못하고 있다는 우려가 커지고 있다.
AI 기술은 오픈소스 생태계를 통해 더욱 가속화되고 있다. 오픈소스 모델을 이용해 각 분야에 맞게 미세조정(파인튜닝)을 거쳐 새로운 서비스가 될 수 있기 때문이다. 하지만 이러한 오픈소스 생태계는 데이터의 출처와 처리 과정을 추적하기 어려워 프라이버시 보호에 새로운 과제가 되고 있다.
에이전트 AI 시대에는 문제가 더욱 심각해진다. 여러 AI 에이전트가 상호작용을 하면서 복잡한 작업을 수행하는 데 이 과정에서 개인정보가 어떻게 활용되고 공유되는지 추적하는 것은 거의 불가능해지고 있기 때문이다. 오픈소스가 기술 혁신을 가속화하고 있지만 폐쇄형 시스템보다는 보안 문제가 증가시키는 것이다.
지난 16일 서울 그랜드 하얏트 호텔에서 열린 글로벌 프라이버시 총회(GPA) 사전 부대행사 ‘오픈소스데이’ 국제 라운드테이블에서도 한국, 영국, 이탈리아, 브라질 각국 규제 당국은 “기술 발전 속도에 맞춰 선제 대응이 필요하다”고 입을 모았다.
리카르도 아차이 이탈리아 개인정보보호청 국제·EU 사무 책임자는 “오픈소스는 혁신과 투명성을 자랑하지만 프라이버시 위험도 증가시킨다”며 “엔진이 처음 등장했을 때 속도에만 집중했지만 곧 제동 장치의 중요성을 깨달았듯이 AI도 마찬가지”라고 말했다.
크리스 타일러 영국 정보위원회(ICO) 국제규제협력 국장은 규제 기관의 복합적 역할을 강조했다. “국민을 보호하는 역할을 하면서도 AI 시장이 번영할 수 있도록 가이드라인을 제공하는 코치 역할을 해야 한다”며 “판례, 시장 붕괴를 기다릴 시작이 없어 규제 샌드박스 같은 실무적 접근을 통해 속도를 맞춰가고 있다”고 설명했다.
영국도 “안전장치가 갖춰져야 기술을 허용한다는 원칙을 적용하고 있다”고 언급했다. 브라질 개인정보보호청도 “보안·투명성·정보주체 권리·거버넌스 측면에서 오픈소스가 우려가 있다”고 덧붙였다.
이들은 복잡한 오픈소스 레이어가 쌓일수록 데이터의 적법한 수집 여부와 처리 조건을 추적하기 어려워진다는 점이 공통된 우려로 제기했다. 복잡한 데이터 사슬 전반에서 리스크를 처리하고 책임을 배분하는 것이 어려워지고 있다는 것이다.
구민주 개인정보보호위원회 AI 프라이버시팀장도 “AI 프라이버시 위험 관리 프레임워크를 통해 모델 개발자와 다운스트림 제공자 간 책임을 명확히 하고 있다”며 “내년에는 중소기업이 비용 부담 없이 안전한 AI를 구축할 수 있도록 오픈소스 벤치마크 데이터셋과 레드팀 도구 개발에 연구개발(R&D) 예산을 확보했다”고 밝혔다.
이날 토론에서 패널들은 해결책으로 국제 공조의 중요성을 강조했다. 타일러 국장은 “아직 정답은 진행형”이라며 “각국이 함께 실무 가이드와 도구를 발전시켜야 한다”고 말했다. 이들은 “대학과 연구기관을 연계한 공공 연구 네트워크를 중심으로 개방·공유 표준을 확립해야 한다”며 “모든 주체가 프라이버시 설계 원칙을 내재화하는 것이 필요하다”고 강조했다.