인공지능안전연구소(AISI)가 오는 1일 그랜드 인터컨티넨탈 서울 파르나스에서 국내 AI 안전 관련 전문가가 참여한 가운데 AI 안전컨소시엄 합동회의를 개최한다고 30일 밝혔다.
AISI는 지난 11월 개소 이후, 한국전자통신연구원(ETRI) 산하 기관으로 국내 AI 안전 확보를 위한 대표 전담 연구 조직으로 활동해왔다. 이날 회의에서는 △AI안전연구소 주요 추진 현황 및 성과의 공유 △AI안전컨소시엄의 운영체계의 확정 및 분과별 의제에 대한 심도 있는 논의가 이뤄질 전망이다.
AISI는 개소와 함께 24개 기업·기관으로 구성된 ‘AI안전컨소시엄’을 구축한 바 있다. AI안전컨소시엄은 AISI의 연구 성과의 확산·공유, 정책 방향의 설정과 공동 논의, 안전 평가 방안의 마련 및 공동 수행 등 국내 AI 안전 논의의 구심점으로서 활동하는 것이 주요 목적이다. 또한, 이를 통해 정부에 시의적절한 정책 제안과 거버넌스 정립에의 기여 역시 목표로 한다. 미국(Center for AI Standard and Innovation, AI표준혁신센터)과 일본(AI Safety Institute, AI안전연구소) 역시 민간 기업·기관을 중심으로 AI안전 논의를 위한 컨소시엄을 구성한 바 있다.
AI안전컨소시엄은 3개의 분과로 구성했다. 정책 분과는 국내외를 둘러싼 AI 안전 정책 전반에 걸쳐 논의하는 중이다. 평가 분과는 글로벌 AI 안전 평가 사례를 공유하고, 실제 AI 안전 평가 수행을 위한 방안을 논의하는 중이다. 국제 AI안전 네트워크에서 수행 중인 공동 평가에의 참여·공유 방안을 모색하고 있다. 연구 분과에서는 AISI가 수행 중인 연구 이슈를 중심으로 연구 성과의 연계·확산 방안을 논의한다.
지난 4월 22일에 컨소시엄 멤버를 대상으로 비공식 회의를 거쳐, 분과 구성과 분과별 논의 안건을 공유했했다. 후속 논의를 위한 제언 사항을 의견 조사서를 통해 수집·수렴한 바 있었다.
이번 10월 회의에서는 그간의 AISI의 활동과 성과를 공식적으로 공유하고, 분과별 안건에 대한 심도 있는 논의를 진행할 예정이다.
향후 AI안전컨소시엄 논의의 확산을 위해, 멤버 추가 역시 적극적으로 고려하고 있다. 올 하반기에도 AISI는 AI안전 확보를 위한 다양한 정책·평가 활동과 연구 성과를 낼 계획이다.
김명주 인공지능안전연구소장은“AI 안전은 AI 기술 혁신을 뒷받침하는 기반이자, 글로벌 경쟁력을 결정짓는 핵심 기술 요소인 만큼, 반드시 확보해야 하는 필수재”라며, “AISI가 중심이 되어 정책·평가·연구를 수행하고 국내 산업계를 지원하는 만큼, 이를 효율·효과적으로 확산하고 담론을 형성하는 구심점으로서 AI안전컨소시엄의 활동을 적극적으로 확대해 나가겠다.”고 밝혔다.