CPU vs. AP vs. GPU vs. NPU

우리가 흔히 이야기하는 연산 프로세스 칩 종류는 위에 4가지로 분류된다. 

Intel/AMD 등 Server 및 PC 에 들어가는 CPU 

모바일 기기에 들어가는 Qualcomm / Samsung 의 AP 

NVIDIA 의 GPU 

리벨리온의 NPU 로 나눠진다. 

 

1) CPU (Central Process/Processing Unit) : 중앙 연산 처리장치

 : CPU 는 중앙에서 연산에 관련된 모든 부분을 처리하는 장치이다.

   보통 Power 소비가 크나 연산이 중요한 곳에 들어가고 있고, CPU 회사로는 Intel / AMD 가 있다. 

 * Intel process 는 i 칩이라 명명하고 있고, AMD 의 경우 애슬론 이라는 이름으로 명명하고 있다. 

 * Core : Core 는 Multi thread 라고 보면 되고, 한번에 처리되는 단위라고 보면 된다. 

 

2) AP (Application Processor) : Mobile 기기의 연산프로세스 칩이라고 보면 된다. 

 : 기존 CPU 의 경우는 전원이 계속 연결되어 있어 누설전류 (leakage) 가 덜 중요하였으나, 

   Battery 로 연결되는 모바일 기기에서는 누설전류가 성능 만큼 중요한 요인이 되어, 

   성능 (처리속도, 누설전류, 온도) 등에 관련한 칩을 개발하게 되는데, 이 칩을 AP 라고 명명하였다. 

   현재 AP 는 Qualcomm/Apple/Samsung 이 주로 개발하며, Mediatek 또한 중화권의 주요 생산자이다. 

   With 모뎀인 경우 Modap 이라고 부리기도 하였으나, Qualcomm 및 Apple 의 경우 대부분 모뎀/GPU/CPU 가

   합쳐진 형태이다.  

   보통 SoC (System on Chip) 등의 명칭으로 불리기도 하나, SoC 는 더 광범위한 범위이다. 

 

 3) GPU (Graphic Processing Unit) : 이름에서 알수 있듯이 그래픽을 처리하기 위한 용도의 목적으로 개발됨. 

  : 처음 목적은 그래픽을 처리하기 위한 용도로 개발되었고, 대중이 알듯이 G-Force 라는 브랜드로 NVIDIA 에서 

   판매하는 제품이 일반적인 제품임. 

    현재는 AI Deep-Leaning 에 GPU 가 많이 사용되고 있는데, 이 부분은 CPU 의 경우는 중앙에서 처리하여야 하여, 

    중앙의 Cache 가 많아야하고, 연산이 복잡하나, 

    GPU 의 개별 행동에 대해서 처리를 단순한 연산으로, 여러 Core 를 작동시켜 단순 계산을 빠르게 할 수 있어 

    Bitcoin 채굴 및  Deep-Leaning 에 많이 사용되고 있음. 

 

4) NPU (Neural Processing Unit) : AI 에 적합한 Processing Unit 

  : AI Deep learning 을 목적으로 개발하고 있는 Process Unit 으로 이해하면 됨. 

   하지만 아직 NPU 가 대중적으로 보급되고 있지 않으나, GPU 대비 동일 공정 성능이 더 좋다는 결과들이 Report 되고

   AI Chip 수요 부족 등이 NPU 에 대한 관심을 더 갖게 하고 있음.  

  아직 NPU 시장은 초기단계이고, 한국에 유명한 리벨리온 또한 아직 벤쳐기업 수준임으로, NPU 에서 성공하는 기업은 

  큰 성장을 이룰 것이라고 보고 관심을 가질 필요가 있음. 

 

특화된 하드웨어 : Neural Processing 에 특화된 하드웨어 아키텍처를 갖추고 있어 행렬 곱셈과 같은 신경망 연산을 효율적으로 수행할 수 있다.

성능 향상 : 전동적인 중앙 처리 장치(CPU)보다 신경망 작업에 더 특화된 성능을 제공한다. 이는 대규모 데이터와 복잡한 모델을 다룰 때 빠르고 효율적인 처리를 가능하게 한다.

 

 * AP 의 경우 Apple 이 해당 목적에 맞는 Chip 을 개발하면서, 엄청난 성능 Boost up 을 하였는데, NPU 가 AI 용으로 

만들어지는 Chip으로 어떤 성능을 가질지 결과가 주목됨. 실제로 초기단계 CPU 에서 인텔이 엄청난 회사로 발전했고, 

 AP 의 경우 Qualcomm 과 Samsung 이 초기에 큰 매출을 가졌듯이, 초기단계 NPU 시장에 관심을 가질 필요가 있을 것으로 보임. 

* 현재 리벨리온에 대해서만 이야기하였으나, Qualcomm / Intel / Samsung 등 AP 업체들 또한 NPU 칩이라고  

  기존 AP 에서 개선된 칩들을 출시하고 있고, NPU 칩의 대한 경쟁이 심화되는 모습임.