오픈AI는 일반인공지능(AGI)을 사전에 통제하고자 출범한 슈퍼얼라인먼트(Super Alignment)팀을 전격 해체했다.
18일(현지시각) 와이어드에 따르면, 일리야 수츠케버(Ilya Sutskever) 오픈AI 최고과학책임자가 회사를 떠난 직후 해당 팀은 다른 팀과 통폐합됐다. 오픈AI는 지난해 7월 ‘초지능 AI’의 위험에 대비하고자 새로운 연구팀을 결성한다고 발표했다. 샘 올트먼 오픈AI CEO에 따르면, 일반인공지능은 스스로 판단하고 수익 창출을 하는 미래 AI를 가리킨다.
당시 오픈AI는 수츠케버 오픈AI 최고과학책임자를 리더로 임명했으며, 해당 팀은 오픈AI 컴퓨팅 자원의 20%를 할당받았다.
슈퍼얼라인먼트는 초지능 인공지능(AI)이 인간이 원하는 대로 행동하게 만드는 기술이다. 일반인공지능이 나타나더라도 사람들에게 해를 끼치지 않고, 유익하게 사용되도록 조절하는 방법을 연구하는 것이 목표다.
수츠케버는 2015년 샘 올트먼(Sam Altman)과 함께 오픈AI를 설립했으며 챗GPT 개발 방향을 설정한 주요 인물 중 하나다. 또 그는 지난해 11월 올트먼 CEO를 해임한 4명의 이사회 멤버 중 한 명이기도 했다. 하지만 오픈AI 직원들의 대규모 반발로 올트먼이 CEO로 복귀했고, 수츠케버와 두 명의 이사회 이사는 자리에서 물러났다.
올해 들어 수츠케버는 수세에 몰린 것으로 보인다. 수츠케버의 퇴사 발표 몇 시간 후, 슈퍼얼라인먼트 팀의 또 다른 공동 리더인 딥마인드 출신 얀 리이크(Jan Leike) 역시 사임을 발표했다. 리이크는 자원의 부족과 회사의 우선순위에 대한 의견 차이로 인해 퇴사를 결심했다고 밝혔다. 그는 “오픈AI에서의 모든 직위를 내려놨다”며 “우리 팀을 사랑하지만, 회사에서 AI 안전은 반짝이는(shiny) 제품에 밀려 뒷전이 됐다”고 밝혔다. 그러면서 지난 수개월 동안 자신이 이끄는 팀이 사내 우선순위에서 밀려났고, 중요한 연구 수행을 위한 지원을 확보할 수 없었다고도 토로했다. 이에 대해 올트먼 CEO는 “범용인공지능(AGI)으로 가는 길에 지침서(playbook)는 없다”며 “오픈AI는 안전하게 AI를 배포하기 위한 기초를 마련해 왔고, 모니터링 작업도 개선해 왔다. 앞으로 위험을 완화하기 위한 노력을 이어 갈 것”이라고 했다.