신뢰할 수 있는 인공지능 국제연대(TRAIN)가 1일 서울에서 한국과 중국 AI 전문가를 모아 ‘AI 신뢰성’ 주제 심포지엄을 열고 양국의 기술 발전 방향과 협력 가능성을 논의했다.
AI 신뢰성 기술 전문기업 씽크포비엘에 따르면, 서울 삼성 코엑스 콘퍼런스홀에서 열린 이번 ‘TRAIN 심포지엄’은 지난해 1회(판교)와 2회(방콕)에 이은 세 번째 행사다. 한국산업기술시험원(KTL), 전주정보문화산업진흥원(JICA), 부산IT융합부품연구소(CiDi), 법무법인 원이 후원했다.
한-중 양국 학계와 업계 AI 신뢰성 전문가 10여 명이 발표자로 참가해 AI 산업 경쟁력 확보를 위한 양국의 AI 신뢰성 정책·제도·표준화 노력을 소개했다. AI 신뢰성 전문인력 양성 커리큘럼과 교육, 데이터 거버넌스, 편향 진단, 모델 견고성 평가, 운영 사례 등이 주요 이슈로 다뤄졌다.
오전 기조 강연에는 정호원 더 로벨 대표, 박지환 씽크포비엘 대표, 구샤오둥 상해교통대 컴퓨터과학부 교수가 나섰다. 정호원 대표는 신뢰할 수 있는 AI 교육‧훈련 방안, 박지환 대표는 각국의 AI 신뢰성 전문가 양성 전략, 구샤오둥 교수는 중국의 AI 정책 추진 과정 및 인재 양성 전략을 각각 발표했다.
오후 강연에서 리리 베이징항공항천대 소프트웨어공학과 교수는 대학 현장 경험을 바탕으로 교육·연구 영역에서 실행 가능한 신뢰할 수 있는 AI를 소개했다. 시에 샤오페이 싱가포르경영대 컴퓨터과학부 교수는 생성형 AI 기술 관련 보안, 강건성, 취약성, 편향 등의 위험에 대응하는 중국의 전략 및 거버넌스 방안을 공유했다.
장얀 차이나유니콤 디지털정부제품부문 총괄이사는 AI 신뢰성 딜레마와 8가지 핵심 과제를 다루고, 통신사 AI 고객 서비스를 통한 다차원적 솔루션을 소개했다.
한국 측 발표자로 나선 조일경 KTL 산업AI혁신센터 주임연구원은 AI 개발자, 품질 관리자 등에게 필요한 기술·지식·역량을 적합성평가 및 국제표준 관점에서 분석했다. 조 연구원은 씽크포비엘과 함께 ISO/IEC SC42(AI)에서 국제 표준화를 추진 중인 AI 신뢰성 전문가 역량 평가 체계를 소개했다.
노영빈 NC AI 거버넌스인사이트 팀장은 NC의 AI 윤리·안전·거버넌스 실천 사례를 공유했다. 이상은 LG AI연구원 전략부문기획팀 정책책임은 “LG AI연구원은 국내 최초로 IEEE의 AI 윤리 인증·평가 파트너로 선정됐다”며 “AI 윤리영향평가 체계 운영과 LG-유네스코 AI 윤리 MOOC 프로그램 개발 등을 통해 책임 있는 AI 실현에 주력하고 있다”고 밝혔다.
에릭 데이비스 SK텔레콤 AI기술협력 본부장은 고객센터에 AI 시스템을 적용해 상담 정확도를 높이고 상담사를 보호하는 회사의 노력을 소개했다. 김경훈 카카오 AI 세이프티 리더는 AI로 인해 발생 가능한 위험과 AI 세이프티의 글로벌 주요 동향을 설명하고, AI 세이프티 실현을 위한 회사의 노력을 거버넌스·정책·기술로 구분해 소개했다.
박지환 씽크포비엘 대표는 “중국 측 전문가 모두 한국이 중국과 미국 사이에서 AI 산업을 발전시킬 좋은 기회라고 했고, 국내 많은 AI 전문가도 한국이 중국을 협력 대상으로 봐야 한다는 데 공감했다”며 “앞으로 피지컬 AI가 산업 경쟁력을 좌우할 것으로 예상되는 상황에서, 중국의 AI 안전과 신뢰성 확보 노력을 확인한 뜻깊은 시간이었다”고 말했다.
한편 TRAIN은 이날 같은 코엑스에서 ‘제1회 트라이톤(Traithon)’ 오리엔테이션 행사를 열었다. 내년 2월까지 진행되는 트라이톤에는 전국 대학생과 대학원생으로 구성된 45개 팀 192명이 참여한다. 트라이톤은 AI 개발 과정에서 AI 신뢰성 입증 산출물을 평가하는 세계 최초 대회다. 본선 상위 6위 입상팀에게는 상금과 국내 IT 기업 인턴십 기회가 제공된다.