如果您希望可以時(shí)常見(jiàn)面，歡迎標(biāo)星收藏哦~

Nvidia 是 AI 基礎(chǔ)設(shè)施領(lǐng)域無(wú)可爭(zhēng)議的冠軍——至少在數(shù)據(jù)中心領(lǐng)域。在 AI PC 這一新興領(lǐng)域，情況并不那么明朗。

2024 年初，無(wú)論好壞，很明顯，Windows 的未來(lái)將充滿AI增強(qiáng)的功能和體驗(yàn)。主要功能包括實(shí)時(shí)字幕和翻譯、MS Paint 中的圖像生成，以及最終有點(diǎn)可疑的回憶功能，該功能可捕獲定期屏幕截圖并使用它們來(lái)跟蹤過(guò)去的活動(dòng)。

目前，這些新功能僅限于所謂的 Copilot+ PC，但為了獲得該稱號(hào)，計(jì)算機(jī)必須滿足微軟的最低性能目標(biāo)。

根據(jù) Windows 巨頭的文檔，Copilot+ PC 需要一個(gè)能夠每秒執(zhí)行 40 TOPS 或更高速度的神經(jīng)處理單元 ，或每秒執(zhí)行 40 多萬(wàn)億次 INT8 AI 操作，以及至少 16GB 的 RAM 和 256GB 的存儲(chǔ)空間。當(dāng)這一切推出時(shí)，只有高通擁有能夠滿足雷德蒙德 NPU 要求的處理器，因此只有配備該芯片的 PC 才被允許作為 Copilot+ PC 運(yùn)行上述 AI 增強(qiáng)功能。

從那時(shí)起，高通符合 Arm 要求的 X 芯片就與英特爾的 Lunar Lake 以及 AMD 的 Strix Point 和 Halo 處理器系列一起成為符合 Copilot + PC 標(biāo)準(zhǔn)的芯片。

然而，不知何故，本月在 CES 2025 上發(fā)布的售價(jià) 2,000 美元的 Nvidia RTX 5090擁有超過(guò) 3.3 petaFLOPS 的 AI 計(jì)算能力，對(duì)于雷德蒙德來(lái)說(shuō)仍然不夠好。無(wú)論您的 GPU 可以產(chǎn)生多少 FLOPS 或 TOPS，對(duì)微軟來(lái)說(shuō)，只有NPU能夠產(chǎn)生這些 FLOPS 才是最重要的——至少目前是這樣。

Nvidia在AI PC方面并未懈怠

人工智能 PC 的大部分營(yíng)銷宣傳都圍繞著微軟的 Copilot+ 規(guī)格，這是可以理解的。如今，幾乎每臺(tái)售出的 PC 都運(yùn)行 Windows。PC 軟件生態(tài)系統(tǒng)的主導(dǎo)地位使得微軟對(duì) NPU 的癡迷難以忽視，但這并不意味著 Nvidia 一直固步自封，滿足于在數(shù)據(jù)中心、工作站圖形和獨(dú)立游戲 GPU 領(lǐng)域稱霸。

事實(shí)上，Nvidia 多年來(lái)一直致力于將 AI 功能引入 PC，Nvidia 負(fù)責(zé) Windows AI 產(chǎn)品營(yíng)銷的 Jesse Clayton 向The Register表示。

克萊頓說(shuō):“早在 2018 年，我們就推出了首款配備專用 AI 硬件的 GeForce GPU 和 Nvidia GPU，從而開(kāi)啟了 PC 上 AI 的浪潮。與此同時(shí)，我們還宣布了首個(gè)廣泛部署的 PC AI，即 DLSS，它用于游戲中，通過(guò)使用 AI 生成像素來(lái)加速幀速率，現(xiàn)在又可以為游戲生成幀?！?/p>

此后，這家 GPU 巨頭推出了RTX AI 工具包，這是一套用于在 Windows PC 上優(yōu)化和部署 genAI 模型的工具和軟件，將 Nvidia 推理微服務(wù) 引入 PC，并推出了許多藍(lán)圖，用于最先進(jìn)的圖像生成和將 PDF 轉(zhuǎn)換為播客等。

克萊頓解釋說(shuō):“我們的策略是提供有趣且差異化的體驗(yàn)，無(wú)論是作為游戲玩家，因?yàn)樗梢栽鰪?qiáng)你的游戲體驗(yàn)；還是作為創(chuàng)作者，因?yàn)樗梢怨?jié)省你的時(shí)間并減少重復(fù)而繁瑣的工作?！?/p>

雖然其中一些體驗(yàn)直接針對(duì)最終用戶，但 Nvidia 最近推出的許多軟件都是針對(duì)開(kāi)發(fā)者社區(qū)的。

競(jìng)爭(zhēng)還是機(jī)遇

不管你對(duì) Copilot+ 的實(shí)際價(jià)值有何看法，微軟已經(jīng)成功迫使芯片組設(shè)計(jì)師提供某種形式的 NPU，以滿足 Windows 巨頭的需求，同時(shí)也為機(jī)器學(xué)習(xí)性能設(shè)定了新的最低標(biāo)準(zhǔn)。

考慮到 Windows 的市場(chǎng)份額以及微軟將 AI 強(qiáng)行塞入其軟件各個(gè)角落的持續(xù)努力，NPU 滲透到甚至最低預(yù)算的配置中只是時(shí)間問(wèn)題。

此外，采用 Microsoft 的DirectML和ONNX Runtime等框架有助于簡(jiǎn)化應(yīng)用程序開(kāi)發(fā)，并允許代碼以最少的重新調(diào)整在各種硬件上運(yùn)行。

這對(duì) Nvidia 來(lái)說(shuō)是一個(gè)潛在的問(wèn)題。這家硅谷巨頭可能在獨(dú)立顯卡處理器市場(chǎng)占據(jù)主導(dǎo)地位，被其CUDA 護(hù)城河所包圍，但其 GPU 只在售出的 PC 中占比約18%，絕大多數(shù)系統(tǒng)使用英特爾、AMD 或其他公司的集成顯卡。

可以肯定的是，不久之后，NPU 將成為開(kāi)發(fā) AI 應(yīng)用的開(kāi)發(fā)人員的更大目標(biāo)。盡管 Nvidia 不一定會(huì)退出討論，因?yàn)樗募铀倨饕仓С衷S多更受歡迎的軟件框架，但至少它的部分競(jìng)爭(zhēng)優(yōu)勢(shì)在于說(shuō)服開(kāi)發(fā)人員使用其庫(kù)和微服務(wù)，這些庫(kù)和微服務(wù)有望實(shí)現(xiàn)更輕松的集成以及更高的性能和效率。

克萊頓表示，最終，開(kāi)發(fā)人員必須決定是否要使用 NIM 之類的東西快速將他們的應(yīng)用推向市場(chǎng)，或者是否要支持盡可能多的安裝基礎(chǔ)。

不過(guò)，盡管 Nvidia 最終可能會(huì)面臨來(lái)自 NPU 的競(jìng)爭(zhēng)，但這未必都是壞消息。即使模型最終沒(méi)有在 Nvidia 的 PC 硬件上運(yùn)行，它們也極有可能在其 GPU 上進(jìn)行訓(xùn)練。

即便如此，Clayton 仍認(rèn)為 NPU 并不適合所有工作負(fù)載。40 TOPS 是一個(gè)不錯(cuò)的計(jì)算量，但正如我們之前提到的，與高端圖形芯片的性能相比，它顯得微不足道。

他說(shuō):“NPU 將成為運(yùn)行輕量級(jí) AI 工作負(fù)載的地方，而且它們的能效非常高。GPU 則是運(yùn)行要求更高的 AI 用例的地方，這也是我們一直在推動(dòng)和集中精力的地方。”

“對(duì)于那些無(wú)法在 PC 上運(yùn)行的東西，你可以在云端的 GPU 上運(yùn)行它們，這樣你就可以獲得無(wú)限的性能，”Clayton 補(bǔ)充道。

GPU或許會(huì)受到Copilot+的青睞

已經(jīng)有證據(jù)表明，微軟可能會(huì)將一些 Copilot+ 功能擴(kuò)展到 GPU，以支持未來(lái)更具計(jì)算挑戰(zhàn)性的工作負(fù)載。

微軟沒(méi)有回答我們關(guān)于其利用 GPU 計(jì)劃的問(wèn)題。不過(guò)，在 6 月份的一份聲明中，Nvidia 表示正在與微軟合作，通過(guò) Windows Copilot Runtime 為小型語(yǔ)言模型 添加 GPU 加速。

該技術(shù)原本應(yīng)該在 2024 年底實(shí)現(xiàn)，但微軟自己的文檔并未提及 GPU，而是特別指出 NPU 是其尚未推出的 SLM Phi Silica 項(xiàng)目的必要條件。

克萊頓拒絕提供有關(guān)合作的任何最新消息，并表示“最終，微軟將決定在哪里運(yùn)行哪些工作負(fù)載?！?/p>

微軟是否以及何時(shí)選擇將 GPU 用于本地 AI 最終可能取決于硬件可用性。截至撰寫本文時(shí)，配備 NPU 和專用顯卡的 Copilot+ PC 數(shù)量相當(dāng)少。

在桌面上，情況更加棘手。帶有 NPU 的桌面芯片確實(shí)存在，但據(jù)我們所知，它們都沒(méi)有達(dá)到微軟 40 TOPS 的性能要求。我們預(yù)計(jì)更強(qiáng)大的 NPU 很快就會(huì)進(jìn)入桌面芯片領(lǐng)域。英特爾或 AMD 只需找到一種方法，將其移動(dòng)芯片中的 NPU 塞進(jìn)桌面芯片中即可。

半導(dǎo)體精品公眾號(hào)推薦

專注半導(dǎo)體領(lǐng)域更多原創(chuàng)內(nèi)容

關(guān)注全球半導(dǎo)體產(chǎn)業(yè)動(dòng)向與趨勢(shì)

今天是《半導(dǎo)體行業(yè)觀察》為您分享的第4013期內(nèi)容，歡迎關(guān)注。

『半導(dǎo)體第一垂直媒體』

實(shí)時(shí) 專業(yè) 原創(chuàng) 深度

公眾號(hào)ID:icbank

喜歡我們的內(nèi)容就點(diǎn)“在看”分享給小伙伴哦

上一條：河北承德：十萬(wàn)彩燈高掛到處喜氣洋洋
下一條：返回列表