vlambda博客
学习文章列表

学方法:神经网络模型的部署平台

简单介绍一下,神经网络模型的7个部署平台,当然还有更多的其他平台

CPU

CPU(Central Processing Unit),又称中央处理器,是计算机系统的运算和控制核心,是信息处理、程序运行的最终执行单元

以CNN为例,CNN计算由大量的乘加计算组成,CPU架构进行累加计算效率是非常低的

GPU

GPU(Graphics Processing Unit),也称图像处理器,是做图像和图形相关运算工作的微处理器

与CPU相比,做神经网络的累加计算时,效率会高很多,但是GPU兼顾图像处理的任务,不可能针对神经网络计算进行特殊优化

DSP

DSP(Digital Signal Process),数字信号处理,是一种特别适合于进行数字信号处理运算的微处理器,其主要应用是实时快速的实现各种数字信号处理算法

VPU

VPU(Video Processing Unit),视频处理单元,是一种全新的视频处理平台核心引擎

由ATI提出,ATI(Array Technology Industry)是世界著名的显示芯片生产商,和NVIDIA齐名,2006年被美国AMD公司收购

GPU与VPU实际均为显示处理核心,本质上无明显区别,不过GPU偏于处理图像,而VPU专注于处理动态图像,被收购之后也采用GPU名字

TPU

TPU(Tensor Processing Unit),张量处理单元,是一款为机器学习定制的芯片,由谷歌开发,名字灵感来源于谷歌TensorFlow开源深度学习框架。

KPU

KPU(Neural Network Processor),是通用的神经网络处理器,它可以在低功耗的情况下实现卷积神经网络计算,时时获取被检测目标的大小、坐标和种类,对人脸或者物体进行检测和分类

NPU

NPU(Neural Network Processing units),神经网络处理器,专门为物联网人工智能而设计,用于加速神经网络的运算,解决传统芯片在神经网络运算时效率低下的问题。

NPU专门针对神经网络计算进行特殊优化设计,因此,在处理神经网络计算方面,性能会比CPU,GPU高很多。



分享一句很喜欢的话
给人正能量,让人心花怒放