[김동원의 Eye-T] AI 효율 경쟁 시대, 한국은 ‘킹메이커’가 될 수 있을까

“규모만 갖고 싸우게 되면 많은 돈이 소요되고 상당히 비효율이 일어납니다.”

최태원 SK그룹 회장이 지난 3일 ‘SK AI SUMMIT 2025’에서 한 말입니다. 그는 앞으로 AI 경쟁이 “효율성을 좀 더 만들어서 리소스가 적은 나라도 AI에 접근이 용이하고 그 나라도 AI의 혜택을 볼 수 있어야 한다”며 효율 중심의 패러다임 전환을 전망했습니다.

실제로 글로벌 AI 업계는 전환점을 맞고 있습니다. 지난 수년간 “더 크게, 더 많은 데이터로”가 절대 법칙이었던 AI 개발이 이제 “더 적은 자원으로, 더 똑똑하게”로 방향을 틀고 있습니다. 이 변화 속에서 한국은 어떤 위치에 설 수 있을까요? 그리고 정말로 이것이 한국의 기회일까요?

◇ 규모 경쟁의 한계, 효율 경쟁의 시작

AI 경쟁은 지금까지 명확했습니다. 더 큰 모델이 더 높은 성능을 냅니다. 메타는 올해만 AI 인프라에 100억 달러를 추가 투자했고, 2025년까지 최대 650억 달러를 투입할 계획입니다. 최근에는 스케일 AI에 143억 달러를 투자하며 49% 지분을 확보했습니다. 오픈AI의 스타게이트(Stargate) 프로젝트는 5000억 달러, 메타는 2028년까지 6000억 달러 투자를 예고했습니다.

하지만 이런 규모 경쟁은 한계에 부딪히고 있습니다. 영국 AI 성능 분석 전문기관 에포크 AI(Epoch AI)는 모델이 compute-efficient frontier(CEF)에 가까워질수록 성능 향상이 극적으로 둔화된다고 분석했습니다. 과학 논문을 작성할 수 있는 수준의 AI를 만들려면 현재 존재하는 고품질 데이터보다 10만배 더 많은 데이터가 필요하다는 추산도 나옵니다. 전력 문제도 심각합니다. 100기가와트(GW)를 넘어서는 대규모에서는 전례 없는 노력이 필요하며, 고품질 학습 데이터는 대부분 소진된 상태입니다.

업계는 이미 대응에 나섰습니다. 오픈AI의 o3 모델이 대표적입니다. 제이슨 웨이(Jason Wei) 오픈AI 연구원은 “o1에서 o3로의 진전이 단 3개월 만에 이뤄졌다”며 추론 중심의 새로운 패러다임을 강조했습니다. 노암 브라운(Noam Brown) 연구 책임자는 “20초의 사고 시간”이 모델 규모를 10만배 증가시켜야 달성할 수 있는 성능을 구현했다고 설명했습니다.

중국 딥시크-V3(DeepSeek-V3)는 FP8 연산, 희소성, Mixture-of-Experts 같은 혁신으로 라마 3(405B) 대비 높은 효율성을 달성했습니다. 삼바노바(SambaNova)는 GPU 대비 10배의 성능을 제공하면서도 전력 소비는 10분의 1 수준인 칩을 개발했습니다. ‘컴퓨팅 군비 경쟁’에서 ‘효율 경쟁’으로의 전환이 본격화되고 있는 것입니다.

◇ 한국이 쥔 두 개의 카드, ‘메모리’와 ‘효율 AI’

이런 흐름 속에서 한국은 두 가지 강점을 갖고 있습니다.

첫 번째는 메모리입니다. 최태원 SK 회장은 “GPU 프로세서가 아무리 계산량을 빨리 처리해도 메모리 대역폭이 제약이 되고 있다”며 “실제로 프로세서의 계산 능력이 남더라도 이를 다 사용하지 못하는 상황이 생긴다”고 설명했습니다. 추론 시대가 본격화되면서 AI가 하나의 질문에 더 깊이 생각하고 답을 스스로 평가·검증하며 다시 생각하는 과정을 반복하면서 필요한 메모리 용량이 기하급수적으로 증가하고 있습니다.

오픈AI는 SK하이닉스에 월 90만장의 HBM을 요청했습니다. 이는 현재 전 세계 전체 HBM 월 생산량의 2배에 달하는 규모입니다. 최태원 회장은 “요즘 너무 많은 기업으로부터 메모리 칩 공급 요청을 받고 있다”며 “잘못해서 우리가 공급을 못하면 그들이 아예 비즈니스를 못하는 상황”이라고 말했습니다. 오픈AI, 구글, 메타 모두가 SK하이닉스에 의존하고 있다는 뜻으로도 풀이됩니다.

더 중요한 건 단순 공급을 넘어선 혁신입니다. SK하이닉스는 GPU의 일부 기능을 커스텀 HBM으로 옮겨 GPU와 HBM 간 통신에 필요한 전력을 줄이고 총소유비용(TCO) 효율성을 높이고 있습니다. 곽노정 SK하이닉스 사장은 “기존 GPU 칩에 있던 일부 기능을 커스텀 HBM으로 옮겨온다”고 밝혔습니다. 메모리가 더 이상 수동적 저장 장치가 아니라 능동적 연산 참여자로 진화하고 있습니다. 이는 효율 경쟁의 핵심 요소이자, 아키텍처 자체를 바꾸는 혁신입니다.

두 번째는 효율에 특화된 AI 모델입니다. LG AI연구원의 엑사원(EXAONE) 4.0은 미국과 중국을 제외한 전 세계에서 가장 지능적인 LLM으로 평가받았으며, 오픈AI의 GPT-3.5보다 5배 높은 지능 수준을 보여줍니다. 마이크로소프트의 ‘AI 디퓨전 리포트’에 따르면 엑사원 4.0의 성능이 오픈AI GPT-5와 불과 5.9개월 차이로, 중국 딥시크의 5.3개월과 비슷한 수준입니다. 프랑스 미스트랄(Mistral, 7개월), 영국 젬마(Gemma, 7.7개월)보다 앞섰습니다.

무엇보다 효율성이 인상적입니다. 엑사원 딥(EXAONE Deep)-32B는 320억 개 매개변수로 딥시크 R1의 6710억 개 매개변수의 5% 수준이지만 유사한 성능을 냈습니다. 엑사원 3.0은 8조 토큰을 학습했는데, 이는 메타 라마(Llama) 3.1의 15조 토큰의 절반 수준이지만 벤치마크에서 라마 3.1보다 높은 점수를 기록했습니다.

◇ 냉정한 현실, 여전히 멀리 있는 주류

하지만 냉정하게 봐야 할 부분도 있습니다. 효율 경쟁으로의 전환이 곧 한국의 AI 패권을 의미하는 것은 아니기 때문입니다.

가장 중요한 것은 규모 경쟁과 효율 경쟁이 대체 관계가 아니라 병행되고 있다는 점입니다. 메타가 스케일 AI에 143억 달러를 투자하고 650억 달러를 AI에 투입하는 것은 규모 확대입니다. 하지만 동시에 오픈AI는 추론 모델로, 구글은 산업 특화 AI로 효율성을 추구합니다. 미국 빅테크들은 규모를 키우면서 동시에 효율도 개선하는 '투 트랙' 전략을 구사하고 있습니다. 한국은 제한된 자원 속에서 효율에 집중할 수밖에 없지만, 미국과 중국은 둘 다 하고 있습니다.

글로벌 AI 생태계의 지배력도 여전히 미국과 중국에 있습니다. 전 세계에서 가장 지능적인 22개 LLM 순위에서 미국이 13개, 중국이 6개를 차지하고, 나머지 3개만 다른 국가에서 개발했습니다. 한국이 그 3개 중 하나라는 것은 훌륭하지만, 압도적 격차는 여전합니다.

엑사원의 실제 영향력도 제한적입니다. LG 계열사 내부 활용, 오픈소스 다운로드 350만 회, 국내 학생 대상 무료 제공 등은 의미 있지만 챗GPT, 클로드, 제미나이처럼 수억 명이 사용하는 글로벌 서비스로 확산되지 못했습니다. 인프라 격차도 큽니다. 한국의 데이터센터 전력 용량은 6.9기가와트(GW)로 미국·중국·EU에 이어 4위지만, EU의 11.9GW와는 큰 차이가 있습니다.

최근 정부가 젠슨 황 엔비디아 CEO로부터 블랙웰 GPU 26만 장 공급을 약속받은 것은 고무적입니다. 하지만 미국 빅테크들은 이미 수십만 장 단위로 GPU를 확보했습니다. 격차는 여전히 큽니다.

◇ 한국의 선택 “인에이블러인가, 틈새 리더인가”

결국 한국은 선택의 기로에 서 있습니다. 하나는 ‘Efficiency Enabler(효율의 인에이블러)’ 전략입니다. AI 모델 개발의 주도권을 쥐기보다는, 글로벌 AI 기업들이 효율적인 AI를 만들 수 있도록 핵심 인프라를 제공하는 역할에 집중하는 것입니다.

SK하이닉스의 HBM은 이미 오픈AI, 구글, 메타 모두가 의존하는 필수 부품입니다. 커스텀 HBM처럼 단순 공급을 넘어 아키텍처 혁신을 주도한다면, 한국은 차세대 AI 표준 형성에 참여하는 ‘킹메이커’가 될 수 있습니다. SK하이닉스는 현재 엔비디아, 오픈AI, TSMC, 네이버클라우드 등과 협력 중입니다. 이들과 함께 신기술을 개발한다는 것은 한국이 차세대 AI 아키텍처 표준 형성의 테이블에 앉아 있다는 의미입니다.

다른 하나는 수직 통합을 통한 ‘틈새 리더’ 전략입니다. 엑사원처럼 효율 좋은 모델과 SK하이닉스의 효율적 메모리를 결합하면, 다른 나라가 쉽게 따라할 수 없는 수직 통합 경쟁력을 만들 수 있습니다. LG AI연구원은 이미 산업 특화 AI에서 성과를 내고 있습니다. 엑사원 기반 AI 모델 ‘엑사원 디스커버리(EXAONE Discovery)’는 기존 1년 10개월이 소요되던 기능성 화장품 핵심 성분 개발 기간을 단 하루로 단축시켰습니다. LG디스플레이에서는 20~30분 걸리던 문제 해결 시간이 30초 이내로 줄었습니다. 범용 AI 시장은 오픈AI, 구글, 앤트로픽이 지배하지만, 산업 특화 AI에서는 한국도 경쟁력을 가질 수 있습니다.

두 전략은 상호 배타적이지 않습니다. 오히려 동시에 추구할 때 시너지가 극대화될 수 있습니다. 중요한 것은 한국이 “무엇을 할 수 있는가”보다 “무엇을 선택할 것인가”를 명확히 하는 것입니다.

효율 경쟁 시대는 분명 한국에게 기회입니다. 하지만 그것이 한국을 AI 강국으로 만들어주지는 않습니다. 제한된 자원 속에서 선전하고 있지만, 글로벌 AI 패권 경쟁의 주류에서는 여전히 멀리 있습니다. 다만 한 가지는 확실합니다. 오픈AI가 SK하이닉스 없이 효율적인 AI를 만들기 어렵듯이, 한국도 명확한 전략 없이는 이 기회를 살리기 어렵다는 것입니다. 지금 필요한 것은 낙관도 비관도 아닌, 냉철한 전략적 선택입니다.