[단독] 올리버 아일럿 영국 AI보안연구소장, 국제 AISI 차기 회장 선출

글로벌 AI안전연구소 협의체인 ‘국제 AI안전연구소 네트워크(AISI)’의 차기 회장으로 영국의 올리버 아일럿(Oliver Ilott) AI보안연구소장이 선출됐다.

24일 THE AI 취재 결과 이번 인사는 지난 13일부터 19일까지 캐나다 밴쿠버에서 열린 국제머신러닝학회(ICML) 기간 중 개최된 AISI 전체 회의에서 결정됐다.

이번 회장 선출은 엘리자베스 켈리 미국 AI안전연구소장의 사임으로 공석이던 AISI 회장직을 공식적으로 승계하는 조치다. 켈리 소장은 바이든 행정부 당시 임명된 인물로 트럼프 대통령 취임 직후 AI안전연구소의 구조 재편 방침에 따라 소장직에서 자진 사퇴했다. 이에 따라 미국은 당분간 회장국 지위를 유지하면서도 회장직은 공석 상태였다.

이후 지난 5월 프랑스 파리에서 열린 ‘AI 행동 정상회의’에서 AISI 소장단 전체 회의가 처음 열렸고 이 자리에서 차기 회장 선출의 필요성이 본격 논의됐다. 당시 영국 AI안전연구소장 올리버 아일럿은 차기 회장직에 관심을 표명한 바 있다. 올리버 아일럿 소장은 오는 11월부터 AISI 회장직을 맡을 예정이다.

이에 AISI 회장국이 미국에서 영국으로 교체되면서 글로벌 AI 안전 거버넌스에도 변화가 예고된다. 김명주 AI안전연구소장은 “영국은 여러 트랙을 통해 실질적으로 AI 기술의 안전성을 검증하고 비교·평가하는 공동 테스트를 주도하고 있다”며 “앞으로 한국도 보다 적극적으로 협력할 예정”이라고 밝혔다.

실제 국내 AI안전연구소는 딥페이크 대응, 다국어 대형언어모델(LLM) 검증, 멀티에이전트 보안 등 각종 모델의 안전성 검증 트랙에서 영국·싱가포르 등과 함께 공동 프로젝트를 진행 중이다.

김 소장은 “한국은 현재 AISI 회원국들과 다국어·다문화 환경에서의 AI 반응 차이를 검증하는 프로젝트에 참여하고 있다”며 “사이버 보안 위협 대응, 멀티에이전트 AI의 안전성 평가 같은 고위험 영역에 대해서도 주요국들과 공동 테스트를 진행 중”이라고 설명했다. 이어 “AI 모델이 언어나 문화적 맥락에 따라 응답이 어떻게 달라지는지를 확인해 전 세계 사용자에게 일관되고 신뢰할 수 있는 결과를 제공하는 것이 핵심”이라며 “국내 AI 제품에 대한 평가를 위해 독자적인 평가 도구와 데이터셋도 병행 개발하고 있다”고 덧붙였다.

국제 AI안전연구소 네트워크는 지난해 11월 AI안전연구소를 설립한 영국, 미국, 일본, 싱가포르, 캐나다와 그에 상응하는 AI 안전 기관을 구축한 프랑스, 유럽연합(EU), 케냐, 호주 등 10개국이 참여해 구축했다.

아울러 이번 전체 회의에서는 AISI의 공식 명칭 변경에 관한 논의도 함께 이뤄졌다. 최근 미국은 ‘표준(Standards)’, 영국은 ‘보안(Security)’을 강조하면서 각각 자국 연구소 명칭을 AI표준연구소, AI보안연구소로 개정했다. 이번 회의에서도 두 국가는 국제 AI 안전연구소 네트워크(AISI)의 ‘안전Safety’ 명칭을 자국처럼 ‘표준’과 ‘보안’으로 바꾸자고 제안했지만 일본·싱가포르·한국 등은 기존 명칭 유지를 주장해 결론을 내지 못했다. 이에 명칭 변경 여부는 오는 12월 미국 샌디에이고에서 열리는 뉴립스(NeurIPS) 학회를 계기로 열리는 AISI 전체회의에서 다시 논의될 예정이다.