[창간 5주년 특집] 이상현 성균관대 교수 “온디바이스 AI 반도체, 역전의 기회”

“인공지능(AI) 반도체 산업은 단순한 기술이 아니라 향후 한국의 20~30년을 책임질 기술입니다. 엔비디아가 그래픽처리장치(GPU)로 AI 데이터센터 시장을 주도하고 있다면 AI 비서, 자율주행, 로봇 등으로 떠오르는 온디바이스 AI 시장에서 역전의 기회를 찾아야 합니다.”

이상현 성균관대 반도체시스템공학과 교수는 온디바이스 AI 반도체가 국내에 절호의 기회가 될 수 있다고 강조했다. “온디바이스 AI 반도체 시장은 이제 막 꽃을 피우기 시작한 단계”라며 “초기 시장이기에 한국 기업이 주도권을 가져갈 수 있는 기회”라고 말했다.

이상현 교수는 삼성전자에서 메모리, 파운드리 사업 부사장을 역임한 반도체 전문가다. 이전에는 엔비디아, 자일링스(현 AMD), 타블라 등 글로벌 반도체 기업에서 활약했다. 엔비디아에서 GPU와 고속 인터페이스 개발에 참여했고, 자일링스(현 AMD)에서는 FPGA(프로그래밍이 가능한 반도체) 회로 개발에 참여했다. 반도체 설계부터 생산까지 전 공정을 아우른 실무 경험을 갖추고 있다. 지난해 성균관대 산학협력 교수로 임용돼 산업과 학계를 잇는 AI 반도체 연구를 하고 있다.

이 교수는 AI 반도체 산업을 국내 경제 성장과 직결되는 미래 산업이라고 단언했다. 그는 “지금 늦으면 향후 반도체 주도권은 완전해 해외로 넘어가게 된다”며 “산업계뿐 아니라 학계, 정부가 긴밀히 협력해 AI 반도체 기술을 개발하고 생태계를 구축해야 한다”고 말했다. 이어 “국가의 미래가 걸린 문제”라며 “반도체 산업에서 경쟁력을 잃으면 큰 문제”라고 우려했다.

최근 그는 산업계와 연계해 AI 반도체 연구개발 과제를 준비하고 있다. 삼성전자, 모빌런트, 보스반도체, 오픈에지 등과 AI 반도체 혁신 연구를 위해 협력하고 있다. 

이 교수는 “반도체는 단기간 성과를 내기 어려운 분야”라며 “지속적인 투자와 인력 확보가 중요하다”고 강조한다. 그와 AI 반도체 분야 경쟁력과 미래에 대해 자세한 이야기를 나눠봤다.

- AI 반도체 산업에서 한국의 기회는 어디에 있다고 생각하나.

“AI 반도체는 단순한 기술이 아닌 향후 20~30년 대한민국 미래를 결정할 핵심이다. 데이터센터 시장은 엔비디아가 주도하고 있지만 자율주행·로봇 등 온디바이스 AI 시장은 아직 열려 있어 역전의 기회가 있다. 지금이 골든타임이다. 온디바이스 AI 반도체 시장에 선제적으로 뛰어들어야 한다.”

-온디바이스 AI 반도체 시장을 선점하려면 어떻게 해야 하나.

“산업계, 학계, 정부가 유기적으로 움직여야 한다. 학교는 중장기 가능성이 있는 기술을 연구하고 기업은 단기 성과 중심으로 움직일 수밖에 없다. 산학연 협력이 중요한 이유는 이 두 축의 시간 차이를 조율하면서 기업은 학교로부터 기술 지원을 받고 학교는 산업 피드백을 통해 중장기적으로 나아갈 방향을 설정할 수 있다.”

- 정부는 어떤 노력을 해야 하나.

“반도체 산업은 한번 시작하면 성공하기까지 최소 5년 길면 10년이 걸리는 업종들이 많다. 장기적인 비전으로 정부나 기업, 학계가 손을 잡고 개발하려는 노력이 많이 필요하다. 중국은 전폭적 지원과 장기적인 투자로 화웨이, 캠브리콘, 바이두와 같은 성과를 냈다. 미국도 민간 자금 외에 국방부 산하 첨단연구계획국인 다르파(DARPA) 같은 공공 연구 기관의 뒷받침으로 반도체 산업이 발달할 수 있었다. 지원 호흡이 길어야 하며 규모도 갖춰야 한다.”

- 글로벌 반도체 기업과 국내 기업의 연구개발(R&D) 환경은 어떤 차이가 있나.

“인력, 투자, 조직 문화, 주변 생태계에서 차이가 있다. 미국의 경우 외국인 인재 비중이 높다. 인도, 중국, 유럽 등 다양한 국적의 우수 인재들이 있다. 미국 업체들은 인도, 베트남, 유럽, 이스라엘 등 개발인력과 리소스가 풍부한 지역에 연구개발 센터를 구축해 과감한 권한 이양과 투자를 통해 일부 제품 개발을 주도하도록 하고 있다. 국내 업체의 반도체 개발 인력은 주로 내국인 위주로 구성돼 있다. 미국, 중국, 인도, 동남아시아 등 외국인 인력 수와 기여도는 미미한 편이다.”

-반도체 분야 투자 측면은 어떠한가.

“미국과 중국의 AI 반도체 기업들은 풍부한 투자금을 지원받아서 중장기적인 연구개발에 집중하고 있다. 이를 통해 경쟁력이 있는 제품을 개발해 시장을 선도, 이를 통해 창출된 현금흐름을 이용해 재투자하는 선순환 구조가 잘 동작하고 있다. 기업의 개별적인 재원뿐만 아니라 정부와 벤처캐피털(VC)의 풍부한 자금 지원을 통해 연구개발, 인력 확보, 시장 개척을 하는 원동력으로 삼고 있다. DARPA, 칭화유니 등 실질적으로 산-학-연의 연계고리를 지속하고 있으며, 각 주요국은 AI 반도체 경쟁력이 국가의 미래 산업·군사·안보 경쟁력을 결정하는 핵심 요소임을 잘 인지하고 있다. 반면에 국내 기업은 자체 영업으로 자금을 조달하다 보니 투자 규모 변화가 심한 편이다. AI 반도체와 같은 중장기 전략 사업을 지속적으로 추진하기 위해서는 기업활동 외의 지속적인 자금 지원이 절실한 상황이다.”

-조직문화는 무엇이 다른가.

“미국 기업은 기업과 개인의 동기가 일치하도록 조직 문화를 설계해 창의성과 자율성이 높은 환경을 조성한다. 성과에 대한 보상과 휴가도 확실하다. 프로젝트 종류 후 장기 휴가나 인센티브를 통해 충분한 휴식과 보상을 주고 있다. 반면 국내 기업에서는 개인과 기업의 동기가 일부 유리돼 가는 상황들이 발생하고 있다. 이는 연구개발에서의 시너지 창출에 저해요인이 되고 있다.”

-반도체 연구개발 분야에서 주52시간 근무제는 어떤 영향을 주고 있나. 제도적으로 어떤 보완이 필요하다고 보시나.

“연구개발은 일률적인 근로 시간으로는 해결하기 어려운 특성이 있다. 제품 개발 막바지에는 일정 압박이 커지기 때문에 자발적으로 야근이나 특근이 필요해지는 경우가 많다. 미국의 경우에는 구성원 모두가 목표 달성을 위해 몰입한다. 기업도 이에 대한 보상을 확실히 한다. 프로젝트가 끝나면 한 달간 장기 휴가를 보내고 온다. 반면 국내는 법적인 제약이나 조직문화상의 경직성 때문에 구성원이 자율적으로 몰입하기 어려운 환경이다. 연구개발 조직은 보다 유연한 근로 시간 운영이 필요하다고 생각한다.”

-미국과 중국의 반도체 산업 생태계는 어떤가.

“미국과 중국은 자국 내의 반도체 기업이 잘 형성된 산업 생태계 속에서 성장해 나갈 수 있는 환경이 조성돼 있다. 예를 들어 AI 반도체의 주요 고객인 마이크로소프트, 구글, 아마존, 메타, 테슬라, 애플 등에 있는 인력들과 반도체 업체 개발 인력들의 상시적인 소통 및 인력 이동을 통해 반도체 기업은 응용 분야의 시스템적인 요구 사항을 명확하게 이해하여 제품의 스펙을 정하고 연구개발을 능동적으로 수행해 나갈 수 있다. 또 인접한 지역에 있는 EDA, IP, Cloud 업체들과의 협업체계도 잘 작동하고 있다. 연구개발의 속도를 높일 수 있도록 충분한 지원을 받을 수 있다. 국내 업체의 경우 산업 생태계가 아직 빈약한 편이다. 삼성전자, SK하이닉스 등 일부 대형 업체를 제외하면 글로벌 반도체 업체처럼 산업 생태계로부터 받는 지원이 제한적일 수밖에 없다.”

- 미국 실리콘밸리의 생태계가 AI 반도체 산업에 어떤 영향을 미치고 있나. 국내와 비교했을 때의 차이가 있나.

“미국 실리콘밸리는 반도체, AI, 자동차, 데이터센터, 모바일, 장비 등 다양한 산업군의 기업들이 한 지역에 집약되어 있어 생태계가 매우 풍부하다. 반면 국내는 땅과 산업 규모가 작기 때문에 실리콘밸리 같은 생태계를 구성하기 어렵다. 삼성, SK하이닉스 등 대기업이 해외 협력사를 유치하거나 파운드리 기반의 협업 생태계를 조성해 경쟁력을 갖추고 있으나 중소기업은 이러한 지원이 부족해 자체 역량만으로는 경쟁이 어려운 상황이다.”

- 글로벌 시장에서 국내 반도체 산업의 현재 위치는.

“한국은 메모리 반도체 중심의 강국으로 자리매김해 왔다. 삼성전자와 SK하이닉스를 중심으로 글로벌 메모리 시장의 60% 이상을 점유하고 있다. 이는 분명한 경쟁력이다. 하지만 마이크론, YMTC 등 경쟁 업체의 추격이 만만치 않다. 또 산업 구조가 메모리에만 지나치게 의존해 있다는 점은 오래전부터 지적돼 왔다. 실제로 로직 반도체 분야의 경쟁력은 아직 글로벌 기준에서 기대에 못 미치는 수준이다. 시장 트렌드도 점차 메모리보다는 로직 중심으로 재편되고 있다. 앞으로는 로직 반도체가 전체 반도체 시장의 70~80%를 차지할 가능성도 있다. 이는 곧 AI 반도체의 중요성과 직결된다. 파운드리는 삼성전자가 세계 2위지만 최근 점유율이 8.1%까지 하락했다. 수율, 고객 이탈 등 문제를 해결하고 차별화된 고객 맞춤형 설계 솔루션을 통해 반전을 노리고 있는 것으로 알고 있다.”

-파운드리 산업에서 현재 TSMC와 격차가 심해지고 있다. 국내 파운드리 산업의 경쟁력이 있다고 보나.

”삼성전자의 파운드리 점유율이 한때 15% 이상이었지만 지금은 8% 정도로 줄어든 상황이다. TSMC와의 격차는 상당히 커졌다. 그 이유는 단순한 기술력 차이가 아니다. TSMC는 연간 50조 원 이상을 파운드리 설비와 기술에 투자한다. 삼성전자의 경우 메모리, 모바일, TV 등 다른 사업에도 자원을 분산해야 하기 때문에 동일 수준의 파운드리 전용 투자가 어렵다. 결국이 문제는 개별 기업의 결단만으로는 해결이 불가능하다. 국가 차원의 전략적인 지원과 결단이 필요하다. 국내 파운드리 산업이 충분히 경쟁력이 있다고 생각한다. 물론 현실적으로 삼성전자 외에는 파운드리를 본격적으로 추진하는 기업이 드문 상황이지만 기회 자체는 많다고 본다.”

- 새로운 대형 파운드리 기업을 국내에서 만드는 건 현실적으로 어렵나.

“삼성 파운드리가 정식으로 출범한 건 2017년이지만 이미 2000년대 중반부터 파운드리 프로젝트를 진행하면서 준비해 왔고 당시에는 공정 개발하고 공장 하나 짓는 데 수조 원이면 가능했지만 지금은 10조~20조 이상이 든다. 첨단 노드 기준으로는 수십조 원이 들어간다고 보면 된다. 이제는 파운드리 산업 진입 장벽 자체가 과거보다 훨씬 높아졌고 규모와 기술에서 이미 글로벌 선두 주자들과의 격차가 커졌기 때문에 기존의 삼성전자 파운드리를 키우는 전략이 가장 현실적인 선택이다. 삼성전자가 여전히 선단 공정 경쟁력은 세계 최고 수준 중 하나이기 때문에 투자 여건, 인력 확보, 조직 문화, 생태계 등 개선된다면 충분히 반등할 수 있다고 보고 있다.”

- AI 쪽으로 CPU, GPU, NPU 등 다양한 반도체가 연구되고 있다.

“AI용 로직 반도체는 CPU, GPU, NPU로 구분해 볼 수 있다. AI 학습과 딥러닝 훈련에는 GPU가 병렬 처리에 최적화돼 있어 가장 널리 사용되고 있다. 데이터센터용으로는 엔비디아 GPU가 당분간 독주할 가능성이 크다. 엔비디아가 지난 20여 년간 개발해 온 AI 클라우드용 GPU 기술과 이에 대한 운영체제인 쿠다(CUDA) 시스템은 이미 데이터센터 구축을 위한 차별적인 표준이 되어 버렸다. 엔비디아가 20년 전에 시작한 기술이다. 이를 대체할 수 있는 기술은 요원할 것으로 보인다.”

- 가장 유망한 칩은 무엇이라고 보나.

온디바이스 또는 피지컬 AI용으로 GPU, FPGA, NPU 솔루션이 병행하고 있지만 비용과 전력 효율성을 위해 최적화된 NPU 기반 솔루션이 점차적으로 시장을 지배해 나갈 것으로 전망된다. 이 시장을 위해 이미 브로드컴, 퀄컴, 화웨이 등 선진 업체들이 제품개발과 시장 개척을 진행하고 있지만 다양한 응용 분야를 모두 커버하는 한두 개의 제품이나 솔루션이 시장을 장악하기는 쉽지 않으리라고 전망된다. 따라서 국내의 AI 반도체 업체들이 집중해서 준비하고 개발에 뛰어들 최적의 분야로 보인다. 실제로 삼성전자 SLSI와 보스반도체, 리벨리온, 모빌런티, 딥엑스, 오픈에지 등 신생 업체들이 이 분야에 뛰어들기 위해 많은 준비와 노력을 기울이고 있다. 온디바이스 AI반도체는 개발 기간이 길고 응용 분야별 맞춤형 HW·SW 동시개발이 필요하다. 중장기적인 투자와 인력 공급이 필요한 분야이다.”

- 한정된 전력과 메모리 환경에서 최대 성능을 내기 위한 핵심 기술 요소는 무엇이라고 생각하나.

“핵심은 경량화와 전력 효율성이다. 온디바이스 AI 시장을 고려할 때 데이터센터처럼 거대한 연산 자원이나 고가의 메모리를 대신한 간단한 메모리 수준에서 동작할 수 있는 경량화된 시스템이 필요하다. SW를 경량화하고 전력 효율 회로 설계를 해야 한다. 이미 모바일 산업에서 만이 연구돼 왔다. 이제는 온디바이스 AI 쪽에 본격적으로 적용되는 추세다.”

- 1~2년 내에 AI 반도체 기술 중 파운드리은 어떤 방향으로 발전할 것으로 보나.

“단기적으로 파운드리 분야에서는 AI 반도체의 고성능 및 저전력화를 위해 2나노 이하의 선단 공정 수요가 계속 늘어날 것이다. 현재 TSMC가 이 분야의 선두 주자지만 삼성전자와 인텔도 기술적으로 추격 중이다. 다만 무어의 법칙이 한계에 다다르면서 선단 공정의 발전 속도는 둔화하고 있다. 이에 3D 스태킹, 칩렛, SiP(System in Package) 등 후공정 중심의 새로운 대안을 개발하고 있다. 이를 위해 패키지 업체, 소부장 업체, IP·EDA 업체 등과 전략적 협업을 하거나 관련 생태계를 성장시키는 노력을 기울이고 있다. 삼성, 인텔과 같은 파운드리 업체는 팹, 패키징 솔루션, IP 등 기존 인프라의 취약점을 극복하기 위해 막대한 투자가 필요한 상황이다. TSMC와는 차별화된 고객 맞춤형 디자인 솔루션을 구축하기 위해 기존/신규 협력업체와의 얼라이언스 관계를 지속 강화해야 하는 상황이다.

- 메모리는 어떠한가.

메모리 분야는 지금까지 HBM이 데이터센터용 AI 반도체에서 주도적 위치를 차지했지만 앞으로는 온디바이스 AI 확산에 따라 저전력 LPDDR, 3D 스택 메모리 등 경량화된 메모리 수요가 증가할 것이다. 메모리는 이제 범용 제품이 아닌, 고객 맞춤형 솔루션 사업으로 패러다임이 전환되고 있다. 성장은 적기 투자, 고객 맞춤형 개발 문화, 생태계 협력에 달려 있다.”

- 현재 진행 중이거나 계획 중인 연구 프로젝트는.

“ 현재 삼성전자, 모빌런트, 보스반도체, 오픈에지 등과 AI반도체 혁신 연구를 위한 협력의향서를 주고받은 상태이다. 이를 과제화하기 위해 노력하고 있다. 향후 협력업체의 풀을 넓히고, 성균관대학교를 비롯한 AI반도체 관련 연구 기능과 교수, 학생 인력을 확보한 대학, 기관들과도 협력해 국내의 AI반도체 연구개발 생태계를 구축해 나가는데 기여할 수 있기를 바라며 이를 위해 관련 업체 대표, 교수진과의 소통을 지속해 나갈 계획이다.”

- 향후 5년간 AI 반도체 기술은 어떤 방향으로 발전할 것이라 예상하나.

“AI 반도체는 향후 데이터센터, 모바일 디바이스, 자율주행차, 드론, 휴머노이드 로봇 등 다양한 영역으로 확산할 것이다. 그에 따라 적용 범위와 기술도 급속히 진화할 것이다. 가장 핵심적인 기술 요건은 전력 효율성이다. 이를 달성하기 위해서는 경량화된 AI 모델, AI 컴파일러 최적화, 저전력 고성능 NPU 설계, 메모리·스토리지 통합 기술, 물리 환경에서의 멀티모달 AI 처리 기술 등이 중요해질 것이다. 이와 같은 기술은 온디바이스 AI 반도체 생태계를 구성하는 핵심 축으로, 중장기적으로 우리 기업이 글로벌 경쟁력을 확보할 수 있는 기반이 된다.”

- 만약 AI 반도체 기술에서 격차가 더 벌어지고 국내 기업이 뒤처진다면 어떤 문제가 발생할 수 있나.

“국내 산업은 지난 20~30년간 메모리 반도체 중심으로 구축된 인프라와 기술을 바탕으로 성장해 왔다. AI 반도체로 자연스럽게 산업 전환이 이루어지지 않으면 기존의 설계 역량과 공정 기술, 소부장 생태계도 함께 도태될 수 있다. AI 반도체는 앞으로 20~30년 대한민국 산업 경쟁력의 핵심이 될 분야이다. 정부, 기업, 학계가 협력해 온디바이스 AI 반도체 생태계를 본격적으로 구축해야 할 시점이다. 대응이 늦어진다면 기술 종속은 물론, 국가 경쟁력 자체가 위협받을 수 있다. 강력한 실행력이 필요한 시기다.”