김명주 서울여대 정보보호학부 교수가 한국 인공지능(AI) 안전키를 잡았다. 11일 AI안전연구소 초대 소장으로 선임됐다. AI안전연구소는 AI 안전성을 평가‧연구하고 주요국 AI안전연구소와의 협력 전담 조직이다. 김 소장은 초대 소장으로서 조직적인 문제부터 글로벌 발표까지 중책을 안게 됐다.
AI 안전연구소는 AI를 사용하는 데 있어 사용자와 단체, 국가를 안전하게 보호하기 위해 마련되는 연구소다. 이름이 연구소인 만큼, 규제보단 AI를 안전하게 이용하게 하는 방안을 연구한다. AI 안전을 위한 기술을 확대할 방안을 연구하거나 가이드라인을 만든다. 현재 영국, 미국, 캐나다, 일본 등에서 해당 연구소를 운영 중이다.
국내 AI 안전연구소는 지난 11일 개소했다. 30여 명의 연구인력이 AI안전 정책 및 대외협력실·AI안전 평가실·AI안전 연구실 등 3개의 연구실로 나눠 본격 업무에 들어갔다. 이 연구소는 당장 해야 할 과제가 많다. 내년 2월 프랑스에서 열릴 ‘AI 행동 정상회의’에 연구 계획이나 내용 등을 발표해야 한다. 당장 3개월 뒤다.
한 AI 기업 대표는 “프랑스에 열리는 정상회의에서 한국이 준비한 상황을 발표해야 하는데 준비 과정에서 여러 문제가 뒤섞여 설립이 늦었다”며 “해외에 보여줄 발표를 해야 하는데 부디 안전 데이터 구축과 같은 AI 종사자들이 이해하지 못할 활동을 발표하지 않길 바란다”고 염려했다. 이어 “안전 데이터를 말뭉치로 구축할 경우 국가의 문화마다 다르고, 말의 의미마다 다르기 때문”이라면서 “이러한 사업이 준비되고 있는 것으로 아는데 세계에는 부끄럽지 않은 결과를 발표하길 바란다”고 강조했다.
내부적인 잡음도 있다. AI 안전연구소는 한국전자통신연구원(ETRI) 부설로 설치됐다. 하지만 예산 문제로 인한 갈등이 있었다. AI 안전연구소 설립에는 15억 원의 예산이 배정됐다. 정보통신산업진흥원(NIPA) 주관으로 태스크포스(TF)를 꾸려 AI 안전연구소 설립을 준비해왔다. 그런데 이 비용은 비연구개발(R&D) 예산이다. R&D 조직인 ETRI에선 이 예산을 행정적으로 처리하는 데 어려움이 컸다.
대표적인 문제가 연구수당과 간접비다. R&D 예산은 연구원들에게 연구수당으로 지급할 수 있지만, 비R&D 예산은 연구수당의 개념이 없어 지급이 어렵다. 연구 경비 등으로 사용되는 간접비도 제공이 안 된다. 연구비는 보통 직접비와 간접비로 나뉘는데, 직접비는 대학교수 등 연구진에게 지급되는 비용을, 간접비는 인력지원비·연구지원비·성과활용지원비 등 연구 활동을 지원하는 데 쓰이는 비용을 뜻한다.
ETRI 입장에선 연구수당도 간접비도 지급되지 않는 AI 안전연구소 설립 준비 관련 업무를 처리할 여력이 없었다. 현실적인 문제에 부딪힌 것이다. ETRI에서 연구하는 한 관계자는 “지원하는 사람이 없어 팀에서 한 명씩 차출하자는 내용이 있을 정도로 AI 안전연구소 설립 업무는 관심 밖이었다”고 말했다.
예산 문제로 AI 안전연구소 설립 준비는 한국정보통신기술협회(TTA)에서 진행했다. 8월에 새로 협약을 체결, AI 안전연구소 설립 준비를 TTA가 주도적으로 하기로 했다. 전담 기관인 NIPA에서 관련 업무를 계속 진행하기 어렵고, 원래 과업을 수행하기로 했던 ETRI에서도 절차적으로 어려운 단계여서 그 대안으로 TTA가 꼽힌 것이다.
AI 안전연구소가 개소했지만, AI 업계에서는 ETRI와 TTA 등 정부 기관에서 벗어나 독립적인 기관으로서 활동하길 요구하고 있다. AI 안전연구소가 ETRI 산하에 있을 필요가 없단 주장이다. 한 AI 분야 교수는 “AI 안전은 독립적으로 운영되는 것이 옳다”면서 “AI 안전은 엄격하게 관리해야 하기 때문에 한 조직이 운영하는 것이 바람직하고 다른 기관에 휘둘려선 안 된다”고 말했다.
하지만 여기에도 예산 문제가 작용한다. 이에 AI 안전연구소는 독립된 기관으로 새롭게 규정을 만들 수 있어 연구수당, 인센티브 등의 제도를 고심하고 있단 얘기도 나온다. 한 관계자는 “안전연구소 내부에서 수당이나 인센티브 제도 등을 새로 만들 수 있는 여지가 있다”면서 “더 많은 인센티브를 토대로 좋은 인재를 유인하고자 하는 움직임이 있다”고 밝혔다.
김명주 소장은 “아무도 가보지 않은 길이어서 기대보단 걱정이 앞서지만, 전문가들의 조언과 걱정, 우려를 잘 새겨들으며 나아가겠다”면서 “히말라야 등반대의 정상 등정을 돕는 세르파(Sherpa)와 같은 역할을 AI 안전연구소(AISI)가 잘 감당하도록 노력하겠다”고 말했다.