[纯净水] 让AI无处不在！Intel祭出全新VPU：超高能效碾压GPU(from mydrivers.com) [复制链接]
电梯直达
复制

Rank: 20

UID: 456912
帖子: 157213
PB币: 120
贡献: 0
技术: 90
活跃: 17957

楼主

发表于 2023-6-5 22:15:53 IP属地重庆 |只看该作者 |倒序浏览

从早些年的科幻作品，到后来的逐步落地，从1997年IBM超级电脑“深蓝”击败国际象棋大师卡斯帕罗夫，到2016年Google AlphaGo战胜围棋冠军李世石，AI一直都在进步，也一直在演化。

但因为算力算法、技术能力、应用场景等方面的种种限制，AI一直有些空中楼阁的感觉。

直到出现了ChatGPT，AI才真正引燃了普通人的热情，让我们发现，AI竟然如此强大，又如此唾手可得，让众多个体、企业为之兴奋，为之癫狂。

NVIDIA的重点在云侧和生成式AI，Intel在云侧生成式、端侧判定式同时出击，而随着越来越多的AI跑在端侧，更贴近普通用户日常体验，所带来的提升越来越明显，Intel更是大有可为。

端侧AI有几个突出的特点：

一是用户规模庞大，应用场景也越来越广泛；

二是延迟很低，毕竟不需要依赖网络将指令、数据传到云侧处理再返回；

三是隐私安全，不用担心个人信息、商业机密等上传后泄露；

四是成本更低，不需要大规模服务器和计算，只需本地设备即可完成。

端侧AI，说起来大家可能会感觉很陌生，但其实，人们习以为常的背景模糊、视觉美颜、声音美化(音频降噪)、视频降噪、图像分割等等，都是端侧AI的典型应用场景，背后都是AI在努力。

更不要说生成式AI模型出现后，对算力的渴求更是飞跃式的，直接就是数量级的提升，无论是Stable Diffusion，还是语言类GTP，模型参数都是非常夸张的。

比如GPT3的参数量达到了1750亿左右，相比GPT2增加了几乎500倍，GPT4估计可达到万亿级别。

将在今年晚些时候发布的Meteor Lake，会首次集成独立的VPU单元，而且是所有型号标配，可以更高效地执行特定AI运算。

Intel VPU单元的技术源头来自Intel 2017年收购的AI初创企业Movidius，其设计的VPU架构是革命性的，只需要1.5W功耗就能实现4TOPS的强大算力，能效比简直逆天，最早用于无人机避障等，如今又走入了处理器之中，与CPU、GPU协同发力。

VPU本质上是专为AI设计的一套新架构，可以高效地执行一些矩阵运算，尤为擅长稀疏化处理，其超低的功耗、超高的能效非常适合一些需要长期打开并执行的场景，比如视频会议的背景虚化、移除，比如流媒体的手势控制。

具体到应用场景，VPU也是非常广泛的，比如说视频会议，现在的CPU AI已经可以实现自动构图(Auto-Framing)、眼球跟踪、虚拟头像/人像、姿势识别等等。

加入低功耗、高算力的VPU之后，还可以强化背景模糊、动态降噪等处理，让效果更加精准，比如说背景中的物体该模糊的一律模糊、人手/头发等不该模糊的不再模糊。

Meteor Lake还没有正式发布，Intel已经与众多生态伙伴在VPU方面展开了合作适配，独立软件开发商们也非常积极。

比如Adobe，很多滤镜、自动化处理、智能化抠图等，都可以用VPU来跑。比如Unreal Engine虚幻引擎的数字人，比如虚拟主播，VPU都能很好地实时捕捉、渲染处理。

Blender、Audacity、OBS、GIMP……这个名单可以拉出很长一串，而且还在不断增加。

更重要的是，CPU、GPU、VPU并非各行其是，而是可以联合起来，充分发挥各自的优势，达到最好的AI体验效果。

比如说基于GIMP里就有一个基于Stable Diffusion的插件，可以大大降低普通用户使用生成式AI的门槛，它就能充分调动CPU、GPU、VPU各自的加速能力，把整个模型分散到不同IP之上，彼此配合，获得最好性能。

其中，VPU可以承载VNET模块运行，GPU用来负责编码器模块执行，通过这样的合作，生成一张复杂的图片也只需20秒左右。

在这其中，VPU的功耗是最低的，CPU次之，GPU则是最高的。

Intel已经充分意识到AI对于PC体验增强的重要性，而为了迎接这一挑战，Intel正在硬件、软件两个层面全力推进，对AI在的端侧的发展、普及打下坚实的基础。

硬件层面，CPU、GPU、VPU将组成无处不在的底层平台；软件层面，OpenVINO等各种标准化开发软件将大大推动应用场景的挖掘。

未来，搭载Meteor Lake平台的轻薄笔记本就可以轻松运行Stable Diffusion这种大模型来实现文生图，大大降低AI的应用门槛，无论判定式AI还是生成式AI都能高效执行，最终实现真正的AI无处不在。