伴随着AI的兴起,NPU这个名词也慢慢进入人们的视野。今天装机天下就来带大家了解一下NPU是什么?以及NPU、CPU 、GPU之间的区别。
一、什么是NPU?
NPU的全称是Neural network Processing Unit,翻译过来叫“神经网络处理单元”。你可以将它看成是一种特殊的处理器,NPU利用电路模拟人类的神经元和突触结构,来处理特定的任务。
NPU目前主要用于移动设备。例如Apple的最新iPhone和M系列笔记本电脑都集成了自己的NPU,称为 ANE(Apple Neural Engine),Google在其Pixel设备和Coral 原型套件上使用专有的NPU,称为TPU(Tensor Processing Unit),而高通正在将其 ARM NPU 集成到其最新的智能手机和笔记本电脑SoC中。
二、NPU、CPU 、GPU的区别
CPU全称CentralProcessing Unit,即中央处理器,CPU内部逻辑结构包括Control(控制单元)、ALU(运算单元)、Cache(高速缓冲存储器),以及实现它们之间联系的Data(数据)、控制及状态的总线(Bus)。简单说就是计算单元、控制单元和存储单元。
CPU遵循的是冯诺依曼架构,其核心是存储程序/数据、串行顺序执行。因此CPU的架构中需要大量的空间去放置存储单元(Cache)和控制单元(Control),而计算单元(ALU)只占据了很小的一部分,所以CPU更擅长处理逻辑控制,而非大量数据并行计算。
GPU全称GraphicsProcessing Unit,即图形处理器。它和CPU的逻辑架构几乎一样,包含基本的计算单元、控制单元和存储单元,如图:
虽然GPU和CPU的内部架构几乎相同,但很明显,GPU内部的ALU占比非常大。CPU的ALU占比不到20%,而GPU内部80%以上都是ALU。也就是说GPU比CPU的运算单元多的多,能提供更强大的并行计算能力。
这里有人可能会疑惑:既然CPU和GPU结构相似,而且GPU拥有更强的并行计算能力,那我们就只用GPU不就行了?
一台电脑能正常开机、运行是离不开CPU的,CPU就相当于一个有智慧、并具有很多技能的领导者。从你按下电脑开机键那一刻起,CPU就开始发号施令,协调电脑内部的各个配件开始工作,并且自己也会亲力亲为干很多活。而GPU就相当于“工具人”,它只能完成CPU交给它的某项特殊任务,并且这个任务是它最擅长的。
三、GPU可以用于AI运算吗?
这里我们先来看下GPU的特点:
1、多线程,提供了多核并行计算的基础结构,且核心数非常多,可以支撑大量数据的并行计算,处理神经网络数据远远高效于CPU。
2、拥有更高的访存速度。
3、 更高的浮点运算能力。
基于以上特点,GPU自然是可以用于AI运算的,而且相比CPU更适合深度学习中的大量训练数据、大量矩阵、卷积运算。
四、既然GPU可以用来做AI运算,那为什么还要搞出个NPU呢?
虽然GPU拥有强大的并行计算能力,但是它也有天生缺陷,比如功耗高,体积大,价格贵。这里我们暂且不谈价格,就体积大、功耗高这两点来说,就无法实用到一些小型移动设备上。因此才有了NPU这个东西,它体积小、功耗低、计算效率还高。
NPU是模仿生物神经网络而构建的,CPU、GPU需要用数千条指令完成的神经元处理,NPU只要一条或几条就能完成,因此在深度学习的处理效率方面,NPU的优势很明显。
就拿手机来说,其中CPU负责手机应用流畅切换、GPU支持游戏画面快速加载,而NPU就专门负责实现AI运算和AI应用的实现。也就是说CPU是负责计算和整体协调的,而GPU是负责和图像有关的部分,NPU负责和AI有关的部分。其工作流程则是,任何工作都要先通过CPU,CPU再根据这一块的工作的性质来决定分配给谁。如果是图形方面的计算,就会分配给GPU,如果是AI方面的计算需求,就分配给NPU。
总结:NPU是什么?NPU、CPU 、GPU的区别
NPU、GPU是无法脱离CPU而单独存在的。从本质上讲,CPU擅长处理许多不同的应用程序,但并未针对图形和AI任务进行优化。GPU因为有强大的并行计算能力,所以比CPU更适合图形和AI任务,而NPU擅长像 GPU一样进行高级并行计算,并且功耗要求非常低,因此更适合AI任务的处理。
一、什么是NPU?
![NPU是什么?NPU、CPU 、GPU的区别](/uploads/allimg/240618/983-24061QK93I42.jpg)
NPU的全称是Neural network Processing Unit,翻译过来叫“神经网络处理单元”。你可以将它看成是一种特殊的处理器,NPU利用电路模拟人类的神经元和突触结构,来处理特定的任务。
NPU目前主要用于移动设备。例如Apple的最新iPhone和M系列笔记本电脑都集成了自己的NPU,称为 ANE(Apple Neural Engine),Google在其Pixel设备和Coral 原型套件上使用专有的NPU,称为TPU(Tensor Processing Unit),而高通正在将其 ARM NPU 集成到其最新的智能手机和笔记本电脑SoC中。
二、NPU、CPU 、GPU的区别
CPU全称CentralProcessing Unit,即中央处理器,CPU内部逻辑结构包括Control(控制单元)、ALU(运算单元)、Cache(高速缓冲存储器),以及实现它们之间联系的Data(数据)、控制及状态的总线(Bus)。简单说就是计算单元、控制单元和存储单元。
![NPU是什么?NPU、CPU 、GPU的区别](/uploads/allimg/240618/983-24061QK9453Z.png)
CPU遵循的是冯诺依曼架构,其核心是存储程序/数据、串行顺序执行。因此CPU的架构中需要大量的空间去放置存储单元(Cache)和控制单元(Control),而计算单元(ALU)只占据了很小的一部分,所以CPU更擅长处理逻辑控制,而非大量数据并行计算。
GPU全称GraphicsProcessing Unit,即图形处理器。它和CPU的逻辑架构几乎一样,包含基本的计算单元、控制单元和存储单元,如图:
![NPU是什么?NPU、CPU 、GPU的区别](/uploads/allimg/240618/983-24061QK953236.jpg)
虽然GPU和CPU的内部架构几乎相同,但很明显,GPU内部的ALU占比非常大。CPU的ALU占比不到20%,而GPU内部80%以上都是ALU。也就是说GPU比CPU的运算单元多的多,能提供更强大的并行计算能力。
这里有人可能会疑惑:既然CPU和GPU结构相似,而且GPU拥有更强的并行计算能力,那我们就只用GPU不就行了?
一台电脑能正常开机、运行是离不开CPU的,CPU就相当于一个有智慧、并具有很多技能的领导者。从你按下电脑开机键那一刻起,CPU就开始发号施令,协调电脑内部的各个配件开始工作,并且自己也会亲力亲为干很多活。而GPU就相当于“工具人”,它只能完成CPU交给它的某项特殊任务,并且这个任务是它最擅长的。
三、GPU可以用于AI运算吗?
![NPU是什么?NPU、CPU 、GPU的区别](/uploads/allimg/240618/983-24061QP0023D.jpg)
这里我们先来看下GPU的特点:
1、多线程,提供了多核并行计算的基础结构,且核心数非常多,可以支撑大量数据的并行计算,处理神经网络数据远远高效于CPU。
2、拥有更高的访存速度。
3、 更高的浮点运算能力。
基于以上特点,GPU自然是可以用于AI运算的,而且相比CPU更适合深度学习中的大量训练数据、大量矩阵、卷积运算。
四、既然GPU可以用来做AI运算,那为什么还要搞出个NPU呢?
虽然GPU拥有强大的并行计算能力,但是它也有天生缺陷,比如功耗高,体积大,价格贵。这里我们暂且不谈价格,就体积大、功耗高这两点来说,就无法实用到一些小型移动设备上。因此才有了NPU这个东西,它体积小、功耗低、计算效率还高。
![NPU是什么?NPU、CPU 、GPU的区别](/uploads/allimg/240618/983-24061QP010513.png)
NPU是模仿生物神经网络而构建的,CPU、GPU需要用数千条指令完成的神经元处理,NPU只要一条或几条就能完成,因此在深度学习的处理效率方面,NPU的优势很明显。
就拿手机来说,其中CPU负责手机应用流畅切换、GPU支持游戏画面快速加载,而NPU就专门负责实现AI运算和AI应用的实现。也就是说CPU是负责计算和整体协调的,而GPU是负责和图像有关的部分,NPU负责和AI有关的部分。其工作流程则是,任何工作都要先通过CPU,CPU再根据这一块的工作的性质来决定分配给谁。如果是图形方面的计算,就会分配给GPU,如果是AI方面的计算需求,就分配给NPU。
总结:NPU是什么?NPU、CPU 、GPU的区别
NPU、GPU是无法脱离CPU而单独存在的。从本质上讲,CPU擅长处理许多不同的应用程序,但并未针对图形和AI任务进行优化。GPU因为有强大的并行计算能力,所以比CPU更适合图形和AI任务,而NPU擅长像 GPU一样进行高级并行计算,并且功耗要求非常低,因此更适合AI任务的处理。
- GDDR7什么时候上市?与GDDR6、GDDR6X相比有哪些优势?
- cpu怎么选?2024年intel、AMD CPU知识扫盲
- 硬件基础知识:CPU、APU 和 GPU 之间有什么区别?
- 电涌保护器、 UPS 、AVR有什么区别(ups有什么用?)
- 固态u盘是什么?(固态u盘和普通u盘的区别)
- 网线导体中的线芯为何镀上一层无氧铜?无氧铜是什么?
- 12代cpu内存上不去3600MHz是什么原因?
- 小白硬件科普:PCB是什么意思?
- 显卡单槽双槽三槽是什么意思?如何区分单槽双槽显卡?
- 内存有没有必要超频?内存超频的意义是什么?
- qHD、HD、FHD、QHD、UHD是什么意思?qHD、HD、FHD、QHD、UHD区别
- 准系统主机是什么意思?准系统主机、笔记本有什么优缺点?
![装机天下公众号 装机](/templets/default/images/wx.jpg)