구글 딥마인드가 개발한 인공지능(AI) 에이전트 ‘알파이볼브(AlphaEvolve)’가 스스로 알고리즘을 진화시켜 인간 수학자들이 수십 년간 해결하지 못한 문제들을 해결했다. 단순히 주어진 명령을 수행하는 기존 AI와 달리, 알파이볼브는 자신의 코드를 스스로 개선하며 더 나은 해답을 찾아내는 ‘자기 진화형 AI’의 패러다임을 제시했다.
알파이볼브는 구글의 대형언어모델(LLM) 제미나이와 진화 알고리즘을 결합한 시스템이다. 마치 생물학적 진화처럼 수많은 알고리즘 후보를 생성하고, 이를 자동으로 평가해 가장 우수한 것들을 선별한 뒤, 다시 이를 바탕으로 더 개선된 버전을 만들어내는 과정을 반복한다. 구글은 지난 1년간 이 시스템을 내부적으로 활용해왔으며, 최근 그 성과를 공개했다.
◇ 56년 만에 깨진 수학의 벽
알파이볼브의 대표 성과는 1969년 독일 수학자 폴커 슈트라센이 개발한 행렬 곱셈 알고리즘을 개선한 것이다. 슈트라센 알고리즘은 56년간 4X4 복소수 행렬 곱셈의 최적 해법으로 여겨져 왔다. 하지만 알파이볼브는 기존 49번의 스칼라 곱셈을 48번으로 줄인 새로운 알고리즘을 발견했다. 겉보기엔 작은 차이지만, 이는 현대 컴퓨팅의 핵심인 행렬 연산 효율성을 근본적으로 개선할 수 있는 돌파구다.
수학 분야 성과는 다양하다. 알파이볼브는 50개 이상의 수학 난제에 도전해 75%에서 기존 최고 해답을 재발견하고, 20%에서는 아예 새로운 최적해를 찾아냈다. 지난 300년간 수학자들을 괴롭혀온 ‘입맞춤 수 문제(kissing number problem)’에서는 11차원 공간에서 593개의 구가 중심구에 동시에 접촉할 수 있다는 새로운 하한선을 제시했다. 입맞춤 수 문제는 중심에 있는 구 하나에 같은 크기의 구들을 최대한 많이 붙일 수 있는 개수를 찾는 문제다. 2차원에서는 6개, 3차원에서는 12개인데, 차원이 높아질수록 계산이 극도로 복잡해져 대부분 차원에서 정확한 답을 알기 어렵다.
구글의 한 연구진은 “인간 수학자가 수십 년간 시도해도 개선하지 못한 알고리즘을 AI가 며칠 만에 뛰어넘는 시대가 왔다”며 “이는 과학 연구 방식의 근본적 변화를 예고한다”고 말했다.
◇ 전 세계 데이터센터 효율성 개선하고 AI 훈련 시간 단축
알파이볼브의 성과는 이론에 그치지 않는다. 구글은 이 시스템을 활용해 전 세계 데이터센터 효율성을 0.7% 개선했다. 작은 수치 같지만, 구글의 규모를 고려하면 연간 수백억 원의 비용 절감 효과다.
또한 알파이볼브는 구글의 AI 칩인 텐서처리장치(TPU) 설계를 최적화하고, 제미나이 모델의 핵심 연산을 23% 가속화 해 전체 훈련 시간을 1% 단축했다. AI 모델 훈련에 드는 천문학적 비용을 생각하면 이 역시 높은 수치의 절약이다.
주목할 점은 알파이볼브가 자신을 훈련시키는 AI 모델까지 개선했다는 것이다. 이는 AI가 자기 개선의 선순환 고리에 들어갔음을 의미한다.
구글은 “학술 연구자들을 대상으로 알파이볼브 조기 접근 프로그램을 준비 중”이라며 “향후 더 광범위한 활용 방안을 모색하고 있다”고 밝혔다.