GPU 다음은 속도·발열 잡는 NPU…'정책 지원' 목소리

엔비디아가 독보적인 경쟁력을 보여온 그래픽처리장치(GPU) 다음으로 차기 인공지능(AI) 시대를 이끌 기술로 신경망처리장치(NPU)가 주목받고 있다. AI가 소화해야 할 데이터 처리량이 갈수록 늘어나는 상황에서 NPU가 에너지 소비와 발열을 줄이고 속도를 높이기 때문이다. 몇 년 후면 NPU가 상용화될 전망인 만큼 정책 지원이 필요하다는 목소리가 나온다.

15일 업계에 따르면 삼성전자는 성장 가능성이 높은 NPU에 주목하고, 온디바이스 AI와 클라우드에 적용할 NPU를 개발 중이다. 갤럭시 스마트폰 등 삼성전자의 전자제품에 온디바이스 AI를 탑재하고, 나아가 클라우드와도 연계해 AI 서비스의 고도화를 요구하는 시장 상황에 대응한 것이다. 삼성전자는 2019년 NPU 기술을 육성하겠다고 선언한 바 있다.

김대현 삼성리서치 글로벌AI센터장은 최근 서울 여의도 국회에서 고동진 국민의힘 의원이 개최한 간담회에서 “삼성도 온비다이스 AI용 NPU를 만들고 있고, 마하와 같은 클라우드용 NPU도 개발 중”이라며 “다만 NPU가 엔비디아의 GPU를 바로 뛰어넘기는 쉽지 않은 상황”이라고 현 상황을 진단했다.

해외 빅테크들은 자체 NPU 개발에 나선 지 오래다. 메타와 마이크로소프트는 엔비디아에 대한 GPU 의존도를 줄이기 위해 NPU 개발에 힘쓰고 있다. AI PC 시장이 본격적으로 열리면서 인텔과 AMD 같은 칩 제조사들은 NPU 기술을 적용한 프로세서 모델을 내놓았다.
이처럼 전 세계적으로 IT 기업들이 NPU 개발에 나선 이유는 AI 성능의 고도화다. AI는 방대한 데이터를 학습하고, 학습 내용을 바탕으로 추론하기 때문에 고성능의 데이터 처리 장치를 요구한다. 현재는 GPU와 고대역폭메모리(HBM)가 여러 건의 데이터 연산을 한 번에 하는 ‘병렬 처리’로 이 문제를 해결했다. 문제는 GPU와 HBM 사이에 데이터를 주고받는 과정에서 에너지를 많이 소비하며 발열이 커진다는 점이다.

NPU는 인간의 신경망처럼 여러 지점을 동시다발적으로 연결해 GPU와 HBM보다 데이터 이동 횟수를 줄이면서 더 빠르게 처리한다는 장점이 있다. GPU와 HBM 사이에서 수많은 데이터가 이동하는 연산 과정이 필요 없어지면서 에너지 소비량이 감소하고, 그만큼 발열도 줄어든다.

이종환 상명대 시스템반도체공학과 교수는 “GPU와 HBM의 기능을 하나로 모은 NPU는 발열 문제와 처리 속도 면에서 혁신적인 기술”이라며 “전 세계적으로 양산 준비단계가 2~3년 정도 걸릴 것으로 전망되는 만큼 NPU를 위한 연구개발 투자와 인력 양성에 정부가 기업과 협조해 개발 ‘속도전’을 지원해야 할 것”이라고 말했다.


정승현 글로벌이코노믹 기자 jrn72benec@g-enews.com