블로터
홈IT·과학IT기업
국산 NPU '리벨리온·퓨리오사·사피온', 엔비디아 GPU 어떻게 잡을까
이진솔 기자
입력 2023.06.26 14:07 수정 2023.06.26 16:23 댓글 1
엔비디아 그래픽처리장치(GPU)인 ‘A100’ (사진=엔비디아)
엔비디아 그래픽처리장치(GPU)인 ‘A100’ (사진=엔비디아)
“과거 우리나라 반도체 기업이 D램으로 일본 업체에 도전하는 상황과 비슷하다. 쉽지 않은 전쟁이다.”
박성현 리벨리온 대표는 지난 23일 서울 중구 코리아나호텔에서 열린 ‘K-클라우드 프로젝트’ 1단계 착수 관련 기자단 스터디에서 국내 기업이 인공지능(AI) 반도체 시장에 출사표를 던지고 업계 1위 엔비디아와 경쟁하는 상황을 이렇게 설명했다. 엔비디아는 우리나라 데이터센터용 AI 반도체 시장에서 90% 이상을 점유하는 큰 벽이다.
국내 AI 팹리스는 특정 AI 응용 분야에서 엔비디아의 GPU보다 성능이 좋은 신경망처리장치(NPU)를 앞세워 차별화에 나섰다. GPU가 비효율을 나타내는 영역을 집중적으로 공략해 승기를 잡겠다는 전략이다. 여기에 소프트웨어 최적화를 통한 높은 활용성을 갖춰 반도체를 공급하는 데이터센터 고객의 사용성을 높이기로 했다. GPU보다 낮은 단가와 높은 전력효율성을 갖춰 인프라 운영 부담이 낮다는 점도 국내 팹리스가 가진 강점으로 꼽힌다.
회계법인 딜로이트에 따르면 엔비디아는 올해 초 기준 세계 AI 반도체 시장에서 점유율 90%를 확보했다. 밑바탕은 강력한 성능이다. 회사는 병렬연산이 특징인 GPU를 AI 연산용 반도체로 확대 적용하며 데이터센터용 시장을 장악했다.
AI 반도체는 특수한 응용 기능을 수행하기 위한 하드웨어와 소프트웨어가 성능 평가 지표다. 크게 학습과 추론으로 구분된다. 학습은 이미지 분류와 객체 탐지, 음성인식, 자연어 처리, 추천 등을 얼마나 빨리 능숙한 수준까지 끌어올리는지가 기준이다. 추론은 데이터센터나 스마트폰 등 특정한 환경 아래 학습된 AI가 사용자 요청에 따라 얼마나 빠르게 결괏값을 내놓는지를 측정한다.
AI 반도체 성능을 측정하는 기준으로 활용되는 ‘머신러닝퍼포먼스(MLPerf)’ 벤치마크에서 엔비디아 주력 AI 반도체인 ‘A100’은 상위권을 휩쓸고 있다. 구글이나 퀄컴, 인텔 등 일부 기업이 특정 응용에서 앞서긴 했지만, 전반적인 성능 지표에서는 여전히 엔비디아가 독주하는 양상이다.
국내 팹리스가 출시한 AI 반도체는 엔비디아와 전반적인 성능 비교에서는 뒤지지만, GPU가 가진 약점을 파고들며 점차 존재감을 키우고 있다. GPU는 AI 특화 반도체가 아닌 만큼 범용 AI 연산 외에는 성능이 떨어지고 비용이나 전력 소모 면에서 비효율이 존재한다.
특히 높은 가격은 엔비디아 반도체를 도입하는 데이터센터에 큰 부담이다. 네이버클라우드 관계자는 “엔비디아 GPU는 가격이 높아 인프라 운영 비용이 많이 들지만, 아직 이를 확실히 대체하는 NPU는 존재하지 않는 상황”이라고 말했다.
국내 NPU 기업은 특정 응용 분야에서 우수한 성능과 저렴한 가격, 높은 전력효율을 무기로 엔비디아와 경쟁하고 있다. 영상 인식이나 자연어 처리 등 특정 기능에 강력한 성능을 갖춘 NPU를 개발하는 식이다.
이들이 공략하는 응용 분야는 주로 AI 추론이다. 학습은 막대한 정보량을 처리해야 하지만 추론은 사용자 요청에 따라 실시간으로 대응하는 응답속도가 중요하다. 이때 응답속도 면에서 GPU보다 NPU가 성능 면에서 우위에 있다고 평가받는다. 퓨리오사AI가 개발한 ‘워보이’는 MLPerf 벤치마크에서 엔비디아 ‘T4’ 대비 4배 빠른 영상 인식 성능을 구현하는 데 성공했다. 리벨리온은 지난 2021년 금융에 특화된 AI 반도체 ‘아이온’을 선보였다.
성능 외에도 국내 AI 팹리스가 주력하는 영역은 바로 생태계다. AI 반도체는 기존 하드웨어 경쟁력에 더해 생태계가 융합된 형태로 발전해 왔다. AI 성능을 결정하는 요인은 반도체를 포함한 하드웨어에 이를 구동하는 AI 모델과 소프트웨어, 실제 사용자용 애플리케이션까지 복합적이기 때문이다. 이를 위해서는 반도체 기업과 데이터센터 운영사간 협업이 필수적이다.
엔비디아 역시 단순히 반도체를 잘 만드는 데 그치지 않고 자체 개발한 소프트웨어인 ‘텐서RT’를 비롯해 다양한 AI 소프트웨어개발 도구모음(SDK)과 최적화를 통해 강력한 성능을 발휘한다. 엔비디아가 갖춘 AI 생태계는 데이터센터 업체가 엔비디아 외에 다른 반도체 도입을 주저하게 만드는 요인이다. 김영신 NHN클라우드 수석은 “기존 GPU는 엔비디아 생태계 아래에서 돌아가고 있어, 기존의 GPU에 맞춰 개발한 소프트웨어를 NPU 기반으로 옮기려면 생태계가 갖춰져 있지 않아 변환에 드는 부담이 크다”며 “아직 NPU는 태동 단계인 만큼 생태계 구축이 필요하다”고 말했다.
국내 AI 팹리스도 기존 GPU를 대체하기 위한 사용성 확보와 생태계 구축에 주력한다는 방침이다. 시장에서 경쟁력을 갖추기 위해 KT와 NHN, 카카오 등 국내 데이터센터 사업자와 실증 사업을 추진한다. 김한준 퓨리오사AI 최고기술책임자(CTO)는 “다양한 모델을 지원할 수 있도록 유연하면서 모든 사용자가 쓰는 AI 모델을 지원하고, GPU가 경쟁할 수 있는 성능, 에너지효율까지 보여줘야 한다”고 말했다.
원상호 사피온 팀장은 “우리에게 부족한 부분은 엔비디아 환경에서 개발한 서비스를 NPU로 굴리기 위한 소프트웨어 문제”라며 “현재 소프트웨어 부문에 집중하고 있다”고 말했다.
키워드#엔비디아 #사피온 #리벨리온 #퓨리오사 #NPU #AI #인공지능 #팹리스
이진솔 기자 jinsol@bloter.net
