인공지능(AI) 사용이 확대되면서 ‘신뢰성’이 중요해졌다. 사용자가 믿을 수 있는 AI를 제공하는 것이 AI 저변 확대에 주요 요소로 자리매김했기 때문이다.
최근 AI는 생성형 기술 발전에 따라 사용이 확대됐다. 과거에는 특정 도메인에 비즈니스 용도로 사용됐다면 지금은 예술, 교육 등 다양한 분야에 사용되고 있다. 30년간 IT 업종에서 근무한 티파니 보바 세일즈포스 에반젤리스트는 기자와 인터뷰에서 “과거에는 기술이 산업체의 전유물이었다면, 지금은 아이들까지 사용하는 것을 보았다”며 “앞으로 10년, 20년은 어떻게 기술이 사용될지 기대된다”고 말하기도 했다.
이처럼 AI 사용이 확대되면서 중요해진 점이 있다. 신뢰성이다. 사용자가 신뢰할 수 있도록 높은 기술력을 제공하는 것도 중요해졌지만, 사용자의 안전도 책임질 수 있는 AI를 만드는 것이 필요해졌다. AI를 활용했을 때 사회적으로 물의를 일으키는 결과물을 제시하지 않는지, 공정성 등을 훼손하지 않는지 검토해질 필요가 생긴 것이다. 일례로 생성형 AI의 경우 사용자가 신뢰할 수 있는 답변과 그림을 만들면서도 이 생성물이 사회적으로 반감을 일으키지 않아야 한다.
이 때문에 이제 AI를 평가하는 우수한 성능 기준에 윤리도 포함되고 있다. ‘좋은(Good) AI’의 조건에 대한 기준에 기술력, 성능과 더불어 윤리도 중요 요소로 자리매김한 것이다. 오는 11월 16일, AI 기술력과 윤리를 모두 중요시하는 기업과 연구자를 찾는 ‘Good AI 어워즈(Awards)’ 시상식이 동대문디자인플라자(DDP)에서 열린다. 지난해에 이어 올해 2회째를 맞는 이번 시상식은 혁신적이며 인간 중심의 지속 가능한 AI의 개발에 기여한 주체(기업·단체·기관·개인 등)의 발굴을 목표로 열린다. 조선미디어그룹이 설립한 AI 전문매체 ‘더에이아이(THE AI)’와 국내 전문 기술 매체 ‘첨단’, 국제인공지능윤리협회(IAAE)가 공동 주최한다.
시상 대상은 △AI 관련 기술 및 제품을 연구, 개발, 판매, 보급하고 있는 단체 △AI 관련 대중 서비스를 연구, 개발, 판매, 보급하고 있는 단체 △AI 교육, AI 윤리, AI 법 등 AI 철학 및 규약과 관련해 연구 및 개발 활동을 진행하고 있는 단체 △AI 연구 및 개발, 보급에 노력하고 기여한 단체 등이다.
THE AI와 IAAE는 철저하고 정확한 심사를 위해, 전문성과 공신력을 갖춘 10명의 AI 분야 전문가들로 구성된 심사위원회도 구성했다. 참가 기관들의 다양한 AI 역량을 평가하게 된다. 심사위원회는 서영주 포스텍 AI 대학원 원장, 이정우 서울대 교수, 황기연 홍익대 부총장, 김명주 서울여대 교수, 이유정 법무법인 원 AI 팀장, 김봉제 서울교대 교수, 이경환 전남대 교수, 송길태 부산대 AI대학원장, 윤명숙 NIPA 팀장, 주윤경 NIA 수석 등이 참여할 예정이다.
이번 시상식은 11월 16일부터 양일간 열리는 AI 전시회 ‘TAS(THE AI SHOW)’의 부대행사로 마련됐다. 시상식은 전시회 개막식 이후 진행돼 정부, 학계, 기관, 기업 등 다양한 AI 관계자가 참석할 것으로 전망된다.
지난 시상식에선 LG AI연구원이 대상을, KB국민은행이 최우수상을, 포티투마루와 온코크로스가 우수상을 받은 바 있다.
황민수 THE AI 대표는 “생성형 AI 확산에 따라 사회적으로 문제를 일으키지 않으면서 사용자를 보호할 수 있는 ‘AI 윤리’ 중요성이 높아졌다”면서 “이번 시상식을 통해 인류 전체에 선한 영향력을 미칠 수 있는 AI 기술을 발굴, 지속 가능한 발전이 이뤄지질 바란다”고 말했다.
Good AI Awards 2023 시상식 참가 접수는 이달 30일까지다. 자세한 정보는 홈페이지를 참조하면 된다.