然而，盡管 Nvidia 仍然是 AI 基礎(chǔ)設(shè)施巨頭，但它正面臨著來自競爭對手 AMD 的激烈競爭。在早期采用其 Instinct MI300 系列 GPU 的公司中，AMD 的市場份額正在迅速擴(kuò)大。

Omdia 估計(jì)，微軟在 2024 年購買了約 581,000 塊 GPU，是全球所有云或超大規(guī)?？蛻糁匈徺I量最大的。其中，六分之一由 AMD 制造。

根據(jù) Omdia 的調(diào)查結(jié)果，在 Meta（迄今為止對剛推出一年的加速器最熱衷的采用者）中，AMD 占據(jù)了 GPU 出貨量的 43%，為 173,000 塊，而 Nvidia 的出貨量為 224,000 塊。與此同時，在 Oracle，AMD 占據(jù)了這家數(shù)據(jù)庫巨頭 163,000 塊 GPU 出貨量的 23%。

盡管在微軟和 Meta 等主要客戶中的份額不斷增長，但 AMD 在更廣泛的 GPU 市場中的份額與 Nvidia 相比仍然相對較小。

Omdia 的估計(jì)追蹤了四家供應(yīng)商（微軟、Meta、甲骨文和 GPU bit barn TensorWave）的 MI300X 出貨量，總計(jì) 327,000 臺。

AMD 的 MI300 系列加速器上市才一年，因此其發(fā)展速度同樣引人注目。在此之前，AMD 的 GPU 主要用于更傳統(tǒng)的高性能計(jì)算應(yīng)用，例如橡樹嶺國家實(shí)驗(yàn)室 (ORNL) 的 1.35 exaFLOPS Frontier 超級計(jì)算機(jī)。

Omdia 云計(jì)算和數(shù)據(jù)中心研究總監(jiān) Vladimir Galabov 向The Register表示：“他們?nèi)ツ瓿晒Φ赝ㄟ^ HPC 領(lǐng)域證明了 GPU 的有效性，我認(rèn)為這很有幫助。我確實(shí)認(rèn)為人們渴望找到 Nvidia 的替代品。”

這種需求在多大程度上是由 Nvidia 硬件供應(yīng)有限所導(dǎo)致的很難說，但至少從紙面上看，AMD 的 MI300X 加速器提供了許多優(yōu)勢。MI300X 于一年前推出，聲稱其AI 工作負(fù)載浮點(diǎn)性能比老牌 H100 高 1.3 倍，內(nèi)存帶寬高 60%，容量高 2.4 倍。

后兩點(diǎn)使得該部件對于推理工作負(fù)載特別有吸引力，其性能通常取決于內(nèi)存的數(shù)量和速度，而不是 GPU 可以拋出多少 FLOPS。

一般來說，當(dāng)今大多數(shù) AI 模型都是以 16 位精度進(jìn)行訓(xùn)練的，這意味著為了運(yùn)行它們，每 10 億個參數(shù)需要大約 2 GB 的 vRAM。每臺 GPU 配備 192 GB 的 HBM3，單臺服務(wù)器擁有 1.5 TB 的 vRAM。這意味著大型模型（如 Meta 的 Llama 3.1 405B 前沿模型）可以在單個節(jié)點(diǎn)上運(yùn)行。另一方面，配備類似設(shè)備的 H100 節(jié)點(diǎn)缺乏以全分辨率運(yùn)行模型所需的內(nèi)存。141 GB 的 H200 不受同樣的限制，但容量并不是 MI300X 的唯一亮點(diǎn)。

MI300X 擁有 5.3 TBps 的內(nèi)存帶寬，而 H100 為 3.3 TBps，141 GB H200 為 4.8 TBps?？偠灾@意味著 MI300X 理論上應(yīng)該能夠比 Nvidia 的 Hopper GPU 更快地為更大的模型提供服務(wù)。

盡管 Nvidia 的 Blackwell 才剛剛開始面向客戶推出，但在性能和內(nèi)存帶寬方面遙遙領(lǐng)先，AMD 的新款 MI325X 仍然以每 GPU 256 GB 的容量優(yōu)勢占據(jù)優(yōu)勢。其功能更強(qiáng)大的 MI355X 將于明年年底發(fā)布，將容量提升至 288 GB。

因此，微軟和 Meta 都選擇 AMD 的加速器也就不足為奇了，這兩家公司都在部署數(shù)千億甚至數(shù)萬億個參數(shù)的大型前沿模型。

Galabov 指出，這一點(diǎn)已反映在 AMD 的業(yè)績指引中，該指引每個季度都在穩(wěn)步上升。截至第三季度，AMD 現(xiàn)在預(yù)計(jì) Instinct 將在 2024 財(cái)年帶來 50 億美元的收入。

進(jìn)入新的一年，Galabov 相信 AMD 有機(jī)會獲得更多的市場份額。“AMD 執(zhí)行力強(qiáng)。它與客戶溝通良好，善于透明地談?wù)撟约旱膬?yōu)勢和劣勢，”他說。

一個潛在的驅(qū)動因素是 GPU 比特庫的出現(xiàn)，例如 CoreWeave，它們每年部署數(shù)萬臺加速器。Galabov 表示：“其中一些公司會刻意嘗試圍繞 Nvidia 替代方案建立商業(yè)模式”，他指出 TensorWave 就是其中一個例子。

不僅僅是 AMD 在蠶食 Nvidia 的帝國。在云計(jì)算和超大規(guī)模企業(yè)大量購買 GPU 的同時，許多企業(yè)也在部署自己的定制 AI 芯片。

Omdia 估計(jì)，Meta 定制 MTIA 加速器的出貨量（我們在今年早些時候?qū)ζ溥M(jìn)行了更詳細(xì)的研究）將在 2024 年達(dá)到 150 萬臺，而亞馬遜則訂購了 90 萬臺 Inferentia 芯片。

這是否對 Nvidia 構(gòu)成挑戰(zhàn)在很大程度上取決于工作量。這是因?yàn)檫@些部件旨在運(yùn)行更傳統(tǒng)的機(jī)器學(xué)習(xí)任務(wù)，例如用于將廣告與用戶匹配、將產(chǎn)品與買家匹配的推薦系統(tǒng)。

雖然 Inferentia 和 MTIA 在設(shè)計(jì)時可能并未考慮到 LLM，但谷歌的 TPU 肯定曾被用于訓(xùn)練該搜索巨頭的許多語言模型，包括其專有的 Gemini 和開放的 Gemma 模型。

據(jù)Omdia所知，谷歌今年訂購了約一百萬個TPU v5e和48萬個TPU v5p加速器。

除了 Inferentia，AWS 還擁有 Trainium 芯片，盡管名稱如此，但這些芯片已針對訓(xùn)練和推理工作負(fù)載進(jìn)行了重新調(diào)整。Omdia 估計(jì)，到 2024 年，亞馬遜將訂購約 366,000 個此類部件。這與其Rainier 項(xiàng)目計(jì)劃相一致，該項(xiàng)目將在 2025 年為模型構(gòu)建者 Anthropic 提供“數(shù)十萬”個 Trainium2 加速器。

最后還有微軟的 MAIA 部件，這些部件在 AMD 推出 MI300X 前不久首次亮相。與 Trainium 類似，這些部件針對推理和訓(xùn)練進(jìn)行了調(diào)整，微軟作為 OpenAI 的主要硬件合作伙伴和模型構(gòu)建者，顯然在這方面做得不錯。Omdia 認(rèn)為微軟在 2024 年訂購了大約 198,000 個此類部件。

過去兩年中，英偉達(dá)的巨額營收增長理所當(dāng)然地讓人們關(guān)注到了人工智能背后的基礎(chǔ)設(shè)施，但這只是一個更大謎團(tuán)中的一塊碎片。

Omdia 預(yù)計(jì)，隨著 AMD、英特爾和云服務(wù)提供商推出替代硬件和服務(wù)，Nvidia 將在未來一年努力擴(kuò)大其在 AI 服務(wù)器市場的份額。

“如果我們從英特爾身上學(xué)到了什么，那就是一旦市場份額達(dá)到 90% 以上，就不可能繼續(xù)增長。人們會立即尋找替代方案，”Galabov 說道。

然而，Galabov 懷疑，Nvidia 不會在競爭日益激烈的市場中爭奪份額，而是會專注于通過讓技術(shù)更容易獲得來擴(kuò)大整個潛在市場。

Nvidia 推理微服務(wù) (NIM) 的引入只是這一轉(zhuǎn)變的一個例子，NIM 是一種容器化模型，其功能類似于構(gòu)建復(fù)雜 AI 系統(tǒng)的拼圖。

“這是史蒂夫·喬布斯的策略。智能手機(jī)的成功歸功于應(yīng)用商店。因?yàn)樗尲夹g(shù)更容易使用，”Galabov 談到 NIM 時說道。“人工智能也是如此；建立一個應(yīng)用商店，人們就會下載并使用它。”

話雖如此，Nvidia 仍然扎根于硬件。云提供商、超大規(guī)模計(jì)算提供商和 GPU 比特庫已經(jīng)宣布基于 Nvidia 強(qiáng)大的新型 Blackwell 加速器打造大規(guī)模集群，至少在性能方面，該加速器遠(yuǎn)遠(yuǎn)領(lǐng)先于 AMD 或英特爾目前提供的任何產(chǎn)品。

與此同時，Nvidia 加快了其產(chǎn)品路線圖，以支持每年推出新芯片的節(jié)奏，從而保持領(lǐng)先地位?？磥恚M管 Nvidia 將繼續(xù)面臨來自競爭對手的激烈競爭，但它短期內(nèi)不會失去王冠。