[창간 5주년 특집] 조민성 인텔 이사 “네이버와 반도체 협업, 韓 AI 생태계 위한 길”

“실제 결과물은 어느 정도 나왔습니다. 네이버클라우드와 실제 서비스에서 적용할 수 있는지를 검토하는 단계입니다.”

조민성 인텔코리아 데이터센터 기술담당 이사는 기자와 인터뷰에서 네이버클라우드와 협력한 AI 반도체 협력 프로젝트가 순항하고 있다고 밝혔다. 현재 어느 정도 결과물은 나왔고, 네이버클라우드와 실제 상용화가 가능한지 수준을 검토하고 있다고 했다.

인텔은 지난해 4월 ‘인텔 비전’에서 네이버클라우드를 파트너로 소개하며 AI 반도체 협업을 발표했다. 인텔 AI 가속기 ‘가우디’ 위에 소프트웨어를 잘 구동할 수 있게 최적화하는 것이 목표였다. 현재 엔비디아가 그래픽처리장치(GPU)와 쿠다(CUDA)를 기반으로 소프트웨어 개발 생태계를 독점하고 있는 판을 흔들겠다는 의도도 있었다.

조 이사는 약 1년간 네이버클라우드와 KAIST 등 국내 대학들과 협력 프로젝트를 진행한 결과, ‘가우디2’가 엔비디아 GPU와 비교해 적은 비용과 탄소 배출량으로도 일부 높은 성능을 기록했다고 밝혔다. 또 관련 결과물은 학술지 등에 소개됐다고 했다.

실제로 인텔과 네이버클라우드, KAIST, 스퀴즈비츠 등은 다양한 AI 응용 환경에서 가우디2가 어떤 성능과 전력 효율성을 내는지 분석하고 이를 엔비디아 GPU ‘A100’과 비교한 연구를 발표했다. 연구 성과는 컴퓨터 아키텍처 분야 최고 권위의 학회인 ISCA 2025에 공식 채택됐다. 연구에 따르면, 가우디2는 대형언어모델(LLM) 기반 서비스에서 A100보다 평균 50% 전력 효율 개선을 보였다. 하지만 추천 시스템 환경에서는 A100 대비 성능이 평균 20%, 전력 효율은 28% 낮은 것으로 나타났다. 가우디2가 고성능 GPU를 대체할 수 있는 수준이라는 것을 입증한 연구 결과다.

조 이사는 이 프로젝트는 단순히 가우디2의 시장 창출을 넘어 한국 AI 생태계를 강화하는 열쇠가 됐다고 밝혔다. 고성능의 GPU는 수급이 어렵고, 특히 대학에서는 연구를 위한 GPU 리소스를 할당받기가 어려운데, 그 역할을 가우디2가 대신할 수 있어서다. 그는 “고성능 GPU는 성능은 좋지만, 가격과 수급, 전력 문제 등이 있다”면서 “앞으로 GPU만으로 AI를 다 처리한다는 것은 불가능할 것”이라고 말했다. 이어 “GPU 종속에서 벗어나려면 이와 유사한 반도체가 나와야 하고, 또 이를 실제로 사용할 수 있는 개발 생태계를 만들어야 한다”며 “인텔과 네이버클라우드는 가우디 기반 소프트웨어 생태계를 만들어 건강한 한국 AI 생태계를 만드는 데 일조하고 있다”고 설명했다.

하드웨어뿐 아니라 소프트웨어 역량을 강화해 문턱이 낮고 보다 친환경적인 AI 생태계를 만들어가고 있다고 밝힌 조민성 이사. 그와 자세한 얘기를 나눴다.

- 지난해 4월 네이버클라우드와 반도체 협력을 발표했다. 현재 진행 상황이 궁금하다.

“지난해 네이버클라우드와 발표한 반도체 협력은 단발적인 협업이 아니라, KAIST 등 국내 주요 대학들과 함께하는 산학 협력 프로젝트의 일환으로 꾸준히 진행되고 있다. 가우디라는 인텔 AI 가속기 위에서 최적의 성능을 낼 수 있는 소프트웨어를 개발해 보자는 목표로 시작했고, 지금 실제 결과물이 어느 정도 나왔다. 대학에서 5~6개 논문도 올라온 상태다. 소프트웨어 최적화 부분도 일정 부분 완료돼서 지금 네이버클라우드에서 이를 가지고 실제 서비스에서 한번 적용해 볼 수 있는지를 검토하고 있다. 이 프로젝트는 본연 목표도 있었지만 나아가 한국 AI 생태계 발전도 이끌 것으로 기대된다. 대학 AI 연구에 실질적인 도움을 줄 수 있어서다. 현재 국내 대학들은 GPU 리소스가 부족하다. 이 리소스를 할당받는 게 쉽지 않다고 한다. 이 때문에 우리가 가우디2를 대학에 제공하고, 이에 맞는 연구 과제도 하면서 성과를 냈다. 곧 관련 성과를 발표할 수 있을 것으로 본다.”

- 최근 정부에선 엔비디아의 GPU 확보에 총력을 기울이는 분위기다. 인텔의 AI 가속기와 CPU 역시 필요할 것 같은데.

“GPU가 사실은 성능 측면에서 보면 당연히 좋다. 하지만 가격을 무시할 수는 없다. 무엇보다 가장 큰 문제는 수급과 전력 문제다. 이 때문에 앞으로 GPU로 모든 AI를 다 처리할 수는 없다고 본다. 전력만 보아도 한국은 미국, 중국보다 열세에 있다. 국내 데이터센터의 경우 일반적으로 GPU 서버 한 랙당 15~16kW 정도의 전력을 공급받는 것이 표준인데, 이는 고성능 GPU 서버를 한두 대만 설치할 수밖에 없는 수준이다. 반면 미국이나 중국은 랙당 전력 용량이 훨씬 높아, 더 많은 고성능 AI 서버를 수용할 수 있는 인프라를 갖추고 있다. 이러한 한계를 고려했을 때 앞으로 AI 인프라는 GPU 중심의 단일 구조가 아닌 다양한 프로세서가 조화를 이루는 포트폴리오 전략이 필요하다. 인텔은 이에 맞춰 CPU로 처리할 수 있는 작업은 CPU로, AI 전용 NPU가 필요한 작업은 NPU로, 그리고 AI 가속이 필요한 경우에는 가우디와 같은 AI 가속기를 활용할 수 있도록 다양한 선택지를 제공하고 있다. 향후에는 GPU 제품도 포함해 고객이 워크로드에 맞춰 가장 효율적인 하드웨어를 선택할 수 있는 유연한 AI 인프라 환경을 제공하는 것이 인텔의 큰 전략적 방향이다.”

- GPU가 강조되는 분위기지만, 업계 얘기를 들어보면 꼭 고성능 GPU가 필요 없는 분야도 많고 CPU 등 다른 칩이 더 강세인 쪽도 있다고 들었다.

“일반적으로 AI라고 하면 많은 분들이 가장 먼저 GPU를 떠올리곤 한다. 물론 GPU는 고성능 AI 연산에 적합한 장비이지만, 실제로 모든 AI 워크로드에 반드시 GPU가 필요한 것은 아니다. 특히 딥러닝 모델이나 LLM 등 다양한 AI 모델의 워크로드 특성을 살펴보면, GPU가 아니라 CPU가 더 효율적인 경우도 상당히 많다. 일례로 컴퓨터 비전이나 음성 인식과 같은 배치 작업(batch processing)은 GPU보다 CPU가 더 안정적이고 효율적으로 처리할 수 있다. 이러한 워크로드 특성을 고려했을 때, 인텔은 하드웨어 제품군을 하나로 통일하기보다, 다양한 연산 환경에 최적화된 포트폴리오 전략을 채택하고 있다. 앞으로 AI 발전을 위해선 다양한 반도체 옵션을 고객에게 제공해야 한다. 각각 AI 워크로드에 가장 잘 맞는 하드웨어를 선택해 비용 효율성과 연산 성능을 동시에 극대화할 수 있도록 지원하는 것이 중요하다.”

- 국가데이터센터는 너무 GPU만 강조한 나머지, 고성능 GPU를 갖췄지만 CPU는 저사양이라 성능이 높지 않다는 얘기가 있다. AI에서 CPU 역할이 궁금하다.

“AI 연산이 점점 고도화되고 있지만, CPU는 여전히 중심적인 역할을 수행한다. 경량화된 AI 연산 일부는 CPU 자체에서 처리할 수 있을 뿐 아니라, GPU 기반 연산 환경에서도 CPU는 필수적인 ‘코어 노드(core node)’ 역할을 맡고 있다. 실제로 GPU는 단독으로 동작할 수 없고, 항상 CPU와 함께 구동된다. AI 시스템 전반에서 CPU는 데이터 전처리, 시스템 메모리 관리, 모델 학습을 위한 데이터 전달, IoT 디바이스 및 스토리지·네트워크 핸들링 등 모든 연산의 기초를 담당한다. 일례로 학습용 데이터를 GPU로 옮기기 위한 메모리 이동, 디바이스 간 통신, 네트워크 트래픽 제어 등은 모두 CPU가 수행하는 핵심 기능이다. AI 시스템이 아무리 고성능 GPU를 기반으로 하더라도, CPU 없이는 전체 시스템이 제대로 작동할 수 없다. 이러한 이유로 인텔은 CPU가 AI 시스템 내에서 더욱 효율적으로 작동할 수 있도록, 데이터 처리와 연산 조율에 특화된 기능을 지속적으로 강화하고 있다.”

- AI 발전을 위해선 여러 하드웨어가 필요하겠지만, 엔비디아가 가장 유리한 위치에 있는 것은 사실이다. 이에 맞선 인텔의 전략은 무엇인가.

“AI에서 하드웨어는 그릇과 같고, 그 안을 채우는 소프트웨어 역량이 무엇보다 중요하다. 이 때문에 우리는 소프트웨어 역량을 키우고 있다. 사실 인텔은 오래전부터 개방형 표준(Open Standard)을 지향해 왔다. 대표적으로 oneAPI와 OpenVINO 같은 오픈소스 기반의 툴킷을 제공하고 있다. oneAPI는 이기종 하드웨어 환경, 즉 CPU, GPU, FPGA 등 서로 다른 종류의 디바이스에서도 하나의 단일 코드로 최적화된 프로그램을 실행할 수 있도록 지원하는 개방형 소프트웨어 플랫폼이다. 이를 통해 개발자들은 특정 업체의 플랫폼에 종속되지 않고, 자유롭게 다양한 하드웨어에서 동일한 코드로 운영할 수 있다. 또 다른 핵심 툴인 OpenVINO는 인텔이 제공하는 AI 추론 엔진으로, 주로 컴퓨터 비전이나 딥러닝 추론 성능을 높이는 데 활용된다. 이 또한 오픈소스로 제공되며, 아파치 라이선스를 따르고 있으므로 사용자는 자유롭게 수정하거나 재배포할 수 있다. 인텔은 이러한 툴킷을 중심으로 개발자 커뮤니티와 생태계를 확대해 왔으며, 앞으로도 소프트웨어와 오픈소스 영역에 지속 투자해 나갈 계획이다. 하드웨어의 성능을 충분히 끌어내기 위해서는 그것을 뒷받침할 수 있는 개방적이고 유연한 소프트웨어 인프라가 함께 성장해야 한다는 것이 인텔의 일관된 전략이다.”

- 엔비디아의 쿠다와 같은 개발 플랫폼은 중요하다. 지금 정부에선 AI 반도체를 주장하며 하드웨어 역량을 강조하는 분위긴데 소프트웨어 역량 역시 중요하겠다.

“맞다. 최근 국내에서 국산 반도체, 특히 새로운 AI 칩에 관심이 높아지고 있지만, 하드웨어만으로는 실제 AI 서비스를 구현할 수 없다. 한국은 전통적으로 하드웨어 중심의 개발 역량이 강한 나라이다 보니, 눈에 보이는 칩이 개발되면 그 자체로 모든 것이 해결된 것처럼 인식되기 쉽다. 하지만 현실은 다르다. AI 칩이 실질적으로 활용되기 위해서는 그 위에서 구동될 수 있는 소프트웨어 생태계가 반드시 구축돼야 한다. 인텔이 네이버클라우드와 함께 진행하고 있는 가우디 기반 소프트웨어 생태계 조성 프로젝트 역시 바로 이 점에 착안한 것이다. 단순히 칩을 제공하는 데 그치지 않고, 그 칩을 실제 서비스에 쓸 수 있을 만큼 성능과 효율을 끌어내기 위한 최적화 작업과 개발 환경 구축이 병행돼야 한다. 이 때문에 엔비디아가 AI 시장에서 독점적 지위를 유지하고 있는 것이다. 단순히 좋은 칩을 만들었기 때문이 아니라, 오랜 시간 축적된 개발자 생태계와 소프트웨어 지원 체계가 함께 구축돼 있다. 실제로 국내에서 엔비디아 외에 AI 가속기 칩을 기반으로 소프트웨어 생태계를 본격적으로 만들어본 사례는 가우디가 처음이다. 많은 업체가 자사 칩이 다양한 프레임워크나 라이브러리를 지원한다고 주장하지만, 실제 서비스 환경에서 안정적이고 빠르게 구동되는 수준으로 최적화된 사례는 많지 않다. 이 때문에 눈에 보이지는 않지만 가장 중요한 경쟁력은 바로 소프트웨어 생태계이며, 이는 곧 해당 칩의 진입 장벽이자 실질적 성능을 끌어내는 기반이 될 것이다.”

- AI 시대 ‘무어의 법칙’(반도체 칩에 들어가는 트랜지스터 수가 약 2년마다 두 배씩 증가한다는 법칙)이 깨졌다는 이야기도 들린다. 공감하나.

“무어의 법칙이 여전히 유효하다고 보고 있으며, 지금도 진행 중인 개념이라고 생각한다. 물론 초기 고든 무어가 제시했던 ‘2년마다 트랜지스터 수가 두 배로 증가한다’는 공식 그대로를 따르기보다는, 오늘날의 기술 환경에 맞게 새롭게 정의하고 해석하고 있다고 보는 것이 더 정확하다. 인텔은 지속적으로 반도체 공정을 개선해오고 있으며, 이를 통해 CPU뿐 아니라 GPU 등 다양한 디바이스 전반에서 성능 향상을 이끌고 있다. 중요한 것은 단순히 하나의 칩 성능이 아니라, 전체 시스템 차원에서 성능과 효율성을 높이는 방향으로 무어의 법칙을 확장적 개념으로 이어가고 있다는 점이다. 무어의 법칙은 과거의 숫자 기준을 넘어서, 반도체 기술을 얼마나 정밀하고 집약적으로 설계하고 발전시켜 나가는가에 대한 ‘원칙’으로 진화하고 있으며, 인텔은 그 원칙을 기반으로 반도체 혁신을 지속해 나가고 있다.”

- 앞으로 AI는 어떤 방향으로 발전할 것으로 보나. 지금의 AI 발전을 이룬 스케일링 법칙은 계속 이어질 것인지도 궁금하다.

“최근 딥시크 같은 모델이 등장하면서 AI 스케일링 법칙이 무너졌다는 주장도 나오고 있지만, 여전히 AI 스케일링 법칙은 유효하며, 특히 영역별로 그 필요성과 수요가 분명히 존재한다고 보고 있다. 다만 최근 흐름을 보면, AI 개발의 중심이 대규모 모델의 트레이닝보다는 실제 서비스를 위한 추론(inference) 단계, 즉 서빙 효율성에 맞춰지고 있다. 이 과정에서 핵심은 모델을 얼마나 효율적으로 압축하고 최적화 하느냐다. 메모리 사용은 줄이면서 성능은 높이고, 동시에 전력 소비도 최소화하려는 방향으로 기술이 발전하고 있다. 이러한 변화 속에서, 고성능 GPU 기반의 트레이닝 환경은 물론 여전히 중요하지만, 동시에 CPU로도 충분히 처리 가능한 경량 LLM, 특히 기업용(비즈니스용) 경영 AI 모델에 대한 수요가 꾸준히 늘고 있다고 본다. 향후 이러한 산업특화 AI 수요가 커질 것이다.”

- 산업특화 AI 시장에 맞선 인텔의 전략은.

“인텔은 이런 시장 변화를 예측해 이미 약 2년 전 출시한 4세대 인텔 제온스케일러블 프로세서(사파이어 레피즈)에 ‘AMX’(Advanced Matrix Extensions)라는 고속 행렬 연산 기능을 탑재했다. CPU에서도 AI 추론 연산을 빠르고 효율적으로 처리할 수 있도록 설계된 기능으로, 현재도 계속 고도화되고 있으며, 앞으로 더 많은 워크로드에 대응할 수 있을 것으로 본다. 앞으로는 흔히 얘기하는 초거대 AI, 즉 범용 AI 하나만으로 모든 수요를 감당할 수 없을 것이다. 다양한 규모와 목적의 AI 모델이 병존할 것이고, 인텔은 그 각각의 영역에서 요구되는 성능과 효율성을 CPU, 가속기, 최적화 툴 등을 통해 유연하게 지원해 나갈 계획이다. AI는 단일한 기술이 아닌, 다양한 층위의 생태계로 바라봐야 한다는 것이 우리의 관점이다.”

- 인텔은 반도체 설계부터 생산까지 하는 종합반도체업체(IDM)다. 파운드리 사업 역시 중요할 텐데.

“인텔에게 파운드리 서비스는 예전부터 매우 중요한 사업 축이었고, 최근에는 그 중요성이 더욱 커지고 있다. 인텔은 이를 위해 ‘5노드 4년(5 Nodes in 4 Years)’ 전략을 기반으로, 지속적인 공정 혁신을 추진해 왔다. 그 일환으로, 올해 인텔은 18A 공정 기반 ‘팬서레이크’ 제품을 출시할 예정이며, 이어서 제온(Xeon) 기반의 서버 제품도 곧 선보일 계획이다. 이러한 제품들을 통해 인텔은 자사 공정 기술의 혁신을 입증할 수 있을 것으로 기대하고 있다. 또 인텔은 자체 칩 생산에 그치지 않고, 외부 고객을 위한 파운드리 서비스도 확대하고 있다. 인텔의 공정 역량은 내부 제품뿐만 아니라 다양한 고객사의 반도체 생산 수요에도 대응할 수 있는 개방형 생태계로 확장되고 있으며, 이를 통해 글로벌 반도체 산업 내 경쟁력을 더욱 강화하고자 한다.”