为什么要使用而不是或?
本文由半导体产业纵横(ID:ICVIEWS)编译自pcworld
目前只有部分PC配备了NPU。
CPU和GPU已经过时了。如今,最前沿的都是NPU,硬件制造商都在大谈NPU的性能。
NPU是一种计算机组件,旨在以节能的方式加速AI任务,为具有强大AI功能的新Windows桌面应用程序铺平道路。无论如何,这就是计划。
所有PC最终都会配备NPU,但目前只有部分PC配备了NPU。以下是您需要了解的有关NPU的所有信息,以及为什么NPU是目前计算机行业的热门话题。
什么是NPU?
NPU代表神经处理单元。它是一种针对人工智能和机器学习任务进行优化的特殊处理器。这个名字的由来是因为人工智能模型使用神经网络。通俗地说,神经网络是一个由相互连接的节点组成的庞大网络,这些节点之间传递信息。
NPU并不是一个需要购买并插入的单独设备(例如GPU)。相反,NPU是作为现代处理器平台的一部分,例如英特尔的CoreUltra、AMD的RyzenAI以及高通的SnapdragonXElite和SnapdragonXPlus。这些平台有一个CPU,以及一个集成的GPU和NPU。
NPU与CPU、GPU:有什么区别?
多年来,计算机一直在中央处理器(CPU)或图形处理单元(GPU)上运行任务。AIPC(即带有NPU的计算机)仍然以这种方式工作。
CPU负责运行计算机上的大多数任务。但GPU,尽管名字叫GPU,却不只用于图形和游戏任务。GPU实际上只是针对不同类型的计算任务进行了优化,这就是为什么GPU对于非游戏领域(如挖掘加密货币和运行高性能本地AI模型)至关重要。事实上,GPU非常擅长此类AI任务——但GPU非常耗电。
这就是NPU发挥作用的地方。NPU在计算AI任务时比CPU更快,但与GPU相比则没有那么快。权衡的是,在计算相同的AI任务时,NPU消耗的电量远低于GPU。此外,当NPU处理与AI相关的任务时,CPU和GPU都可以释放出来处理各自的任务,从而提高整体系统性能。
如果您在PC硬件上运行StableDiffusion等AI图像生成软件(或其他AI模型),并且需要最大性能,那么GPU将是您的最佳选择。这就是Nvidia将其GPU宣传为优于NPU的“高级AI”硬件的原因。
但有时,您想要运行的AI功能对于普通CPU来说可能过于繁重,但并不一定需要GPU的顶级性能。或者,也许您在使用笔记本电脑,想要利用AI功能,但又不想让GPU耗尽电池电量。
有了NPU,笔记本电脑可以执行本地(设备上)AI任务,而不会产生大量热量,也不会消耗过多的电池寿命,而且它可以执行这些AI任务,而不会占用PC正在执行的其他操作的CPU和GPU资源。
即使你对人工智能本身不感兴趣,你仍然可以将NPU用于其他用途。在2024年CES上,惠普展示了一款游戏流媒体软件,该软件使用NPU执行视频流任务,释放GPU来运行游戏本身。通过使用NPU的额外计算能力,流媒体软件不会占用任何GPU资源……而且它比使用CPU执行相同类型的任务要快得多。
WindowsPC软件到底能用NPU做什么呢?
有了AIPC,操作系统和系统上的应用程序都可以使用NPU。
例如,为什么要使用而不是或?如果您的笔记本电脑配备IntelMeteorLake硬件,内置的NPU将允许您运行WindowsStudio效果,这是由AI驱动的网络摄像头效果,可在使用您的网络摄像头的任何应用程序中提供背景模糊和强制眼神接触等功能。
微软的Copilot PC(首批搭载高通骁龙X芯片)拥有自己的AI功能,这些功能使用该平台内置的NPU。例如,微软推迟的WindowsRecall功能就需要NPU。
2024年11月,AMD和英特尔PC将可以使用之前仅限高通PC使用的Copilot PC功能,但只有搭载全新AMDRyzenAI300系列和英特尔酷睿超系列2(LunarLake)处理器的AMD和英特尔PC才能使用。
这些只是Windows内置的功能;应用程序开发人员还可以通过多种方式使用NPU。不要惊讶于Audacity和GIMP的插件提供了由计算机NPU驱动的AI音频和照片编辑功能。可能性是无穷无尽的,但硬件仍处于早期阶段,因此要充分发挥其潜力还需要一段时间。
如果我的电脑已经可以运行AI软件,为什么还需要NPU?
目前大多数具有AI功能的应用程序(包括Microsoft的Copilot聊天机器人)尚未使用NPU。相反,它们在遥远的云服务器上运行AI模型。这就是为什么你可以在任何设备上运行MicrosoftCopilot、ChatGPT、GoogleGemini、AdobeFirefly和其他AI解决方案,无论是旧的WindowsPC、Chromebook、Mac、Android手机还是其他设备。
但这些服务在云端运行AI模型的成本很高。例如,微软在数据中心花费大量资金处理CopilotAI任务。公司希望将这些AI任务转移到本地PC上,以减少自己的云计算费用。
当然,这不仅仅是为了节省成本。您还可以从在本地设备上运行计算量大的AI任务的能力中受益。例如,即使您处于离线状态,这些AI功能仍将起作用,并且您可以将数据保密,而不必一直将其全部上传到云服务器。
有哪些NPU可用以及它们的功能有多强大?
NPU性能以TOPS为单位,代表每秒万亿次操作。为了让您了解这意味着什么,低端NPU可能只能处理10TOPS,而符合Microsoft的Copilot PC品牌的PC必须处理至少40TOPS。
截至2024年秋季,以下NPU可用:
值得注意的是,NPU不仅仅存在于PC上。Apple的NeuralEngine硬件是首批获得市场关注的大型NPU之一。Google的Pixel设备Tensor平台也包含一个NPU,而三星Galaxy手机也有NPU。
现在应该购买一台带有NPU的PC还是应该等待?
如果您特意购买MeteorLake笔记本电脑,希望为您的PC提供面向未来的AI功能,那么当微软后来宣布MeteorLakeNPU速度太慢而无法支持Copilot PC功能时,您实际上会感到沮丧。Copilot PC的功能还不是那么有趣。尤其是随着WindowsRecall的延迟,Copilot PC并没有太多值得注意的地方。大多数最大的AI工具(ChatGPT、AdobeFirefly等)甚至根本不使用NPU。
另一方面,目前只有最新款笔记本电脑才配备这些快速的NPU,而且你经常可以找到与最新款笔记本电脑速度几乎一样快的旧款笔记本电脑的超值优惠。如果你发现上一代笔记本电脑的折扣很大,那么花一大笔钱只买一个NPU可能就不合理了,尤其是如果你没有计划运行任何AI工具的话。
大多数大型AI工具仍在云端运行-或者至少提供云端作为一种选项-因此您可以在任何Windows笔记本电脑、Chromebook甚至Android平板电脑和iPad上运行它们。
对于台式机,NPU的情况有所不同。英特尔的台式机CPU还没有NPU。你可以找到一款带有RyzenAINPU的AMD台式机芯片,但AMD的Ryzen7000和8000系列芯片无论如何都不支持Copilot PC功能。所以,如果你正在组装一台台式电脑,暂时把NPU放在一边。它现在还不那么重要。
*声明:本文系原作者创作。文章内容系其个人观点,我方转载仅为分享与讨论,不代表我方赞成或认同,如有异议,请联系后台。