英偉達(dá)這幾年很火。因?yàn)?AI 的帶動(dòng)，它幾乎成為全球最受關(guān)注的公司。

我們總是會(huì)在網(wǎng)上看到和英偉達(dá)有關(guān)的一些名詞，例如：

A100、B100、H100、GH200、GB200、NVLINK、NVSwitch、DGX、HGX、Quantum、Spectrum、BlueField、CUDA 等等。

這些名詞看多了，就有點(diǎn)暈。搞不懂到底是什么，有什么關(guān)系。

今天這篇文章，小棗君就給大家詳細(xì)梳理一下這些名詞概念，順便普及一下相關(guān)的知識(shí)。

█ 算力芯片 ——V100 / A100 / H100 / B200 等

這些名詞，應(yīng)該是大家最常見的。

沒錯(cuò)，這些都是 AI 算力卡，也就是 GPU 卡的型號(hào)。

英偉達(dá)的 GPU，每隔幾年就會(huì)出一個(gè)新的架構(gòu)。每個(gè)架構(gòu)，都會(huì)以一個(gè)著名科學(xué)家的名字命名，如下所示：

所以，基于某個(gè)架構(gòu)的卡，一般就會(huì)以這個(gè)架構(gòu)名稱的首字母開頭（游戲顯卡除外）。

例如，基于 Volta（伏特）架構(gòu)的 V100，基于 Ampere（安培）架構(gòu)的 A100，基于 Hopper（赫伯）架構(gòu)的 H100、H200，基于 Blackwell（布萊克威爾）架構(gòu)的 B100、B200 等。

某 200 一般是某 100 的升級(jí)版。例如 H200，就是 H100 的升級(jí)版（采用了 HBM3e 內(nèi)存等升級(jí)）。

L40 和 L40s 名字稍微有點(diǎn)特別，兩者基于 Ada Lovelace（世界上第一個(gè)女程序員的名字）架構(gòu)，后者是前者的升級(jí)版。兩個(gè)卡都是針對(duì)數(shù)據(jù)中心市場推出的，主打低成本和性價(jià)比。

還有 1 個(gè)型號(hào)大家應(yīng)該比較熟悉 ——H20。

這是英偉達(dá)因?yàn)槊绹隹谙拗贫瞥龅拈幐畎妫ㄌ毓┌妫?。?jù)說 B200 也會(huì)有對(duì)應(yīng)的閹割版 B20。

英偉達(dá)的下一代 AI 平臺(tái)是 Rubin（羅賓），計(jì)劃于 2026 年推出。大家一開始以為下一代 GPU 就是 R100、R200。但英偉達(dá)給出的路線圖，又說是 X100。所以，還有待觀望。

2028 年，英偉達(dá)會(huì)推出下下一代平臺(tái) ——Feynman（費(fèi)曼）。

█ 超級(jí)芯片 ——GH200、GB200 等

GPU 是英偉達(dá)的算力核心硬件單元。但他們并不是只有 GPU。圍繞 GPU，他們還有很多的產(chǎn)品和解決方案。

英偉達(dá)早期的時(shí)候是和 IBM POWER CPU 合作，后來，可能是感覺 IBM 不給力，于是自己開始研發(fā) CPU。例如，基于 ARM 架構(gòu)研發(fā)的 Grace CPU（Vera CPU 在路上）。

英偉達(dá)采用 NVLink 技術(shù)，將 GPU 和 CPU 進(jìn)行配對(duì)，就變成了所謂的超級(jí)芯片平臺(tái)（Superchip）。

例如 GH200、GB200，以及不久前新發(fā)布的 GB300（Blackwell Ultra）。

由一個(gè) Grace CPU 和兩個(gè) Blackwell B200 GPU 組成的平臺(tái)，就是 GB200（取 Grace 和 Blackwell 的首字母），據(jù)說性能是 H100 的 7 倍。

類似的，GH200，就是 Grace CPU 和 Hopper GPU 的組合搭配。

█ 超級(jí)計(jì)算機(jī)平臺(tái) ——DGX / EGX / IGX 等

再往上一個(gè)層級(jí)，就是計(jì)算機(jī)了。其實(shí)剛才 GB200，已經(jīng)是個(gè)計(jì)算機(jī)了。

基于剛才的各種芯片平臺(tái)，英偉達(dá)構(gòu)建了對(duì)應(yīng)的計(jì)算機(jī)平臺(tái)，或者說，叫做超級(jí)計(jì)算機(jī)平臺(tái)，包括 DGX、EGX、IGX、HGX、MGX 等。

具體的區(qū)別如下，我就不多解釋了，看下表：

DGX 還是見得比較多。當(dāng)年黃仁勛送給 OpenAI 的，就是第一代的 DGX-1。

現(xiàn)在的 DGX，基本上都是土豪金配色，價(jià)格也很昂貴。

面向桌面市場，英偉達(dá)還推出了 DGX Spark 和 DGX Station，相當(dāng)于工作站。

█ 節(jié)點(diǎn)內(nèi)部連接：Scale Up（超節(jié)點(diǎn)）——DGX GB200 NVL72 等

接下來，要涉及到通信方面的技術(shù)了。

之前小棗君給大家介紹超節(jié)點(diǎn)的時(shí)候（最近很火的“超節(jié)點(diǎn)”，到底是干啥的？），提到過 NVLINK。

NVLINK 是英偉達(dá)推出的 GPU 卡間互連技術(shù)，主要是取代 PCIe。剛才也提到，CPU 和 GPU 之間，也是 NVLINK 技術(shù)。

NVLINK 多節(jié)點(diǎn)，就不好直連了，要引入交換芯片。于是，就有了 NVLink Switch，也叫 NVSwitch。后來，芯片又變成了設(shè)備。

NVLINK 可以把很多的 GPU 連起來，組成看似很多計(jì)算機(jī)，但實(shí)際上屬于一個(gè)邏輯節(jié)點(diǎn)（超節(jié)點(diǎn)）的平臺(tái)。

近年來，我們經(jīng)常聽說 DGX GB200 NVL72。

DGX GB200 NVL72，采用了 NVLINK5，包含了 18 個(gè) GB200 Compute Tray（計(jì)算托架），以及 9 個(gè) NVLink-network Switch Tray（網(wǎng)絡(luò)交換托架）。如下圖所示：

每個(gè) Compute Tray 包括 2 顆 GB200 超級(jí)芯片。所以，就是 36 個(gè) Grace CPU（18×2），72 個(gè) B200 GPU（18×2×2）。

8 個(gè) DGX GB200 NVL72，又可以組成一個(gè) 576 個(gè) GPU 的 SuperPod 超節(jié)點(diǎn)。

█ 節(jié)點(diǎn)外部互連：Scale Out（IB 和以太網(wǎng)）

單節(jié)點(diǎn)內(nèi)，不斷加 GPU，是 Scale Up（縱向擴(kuò)展）。單節(jié)點(diǎn)到了一定規(guī)模，就不好再增加了。就要增加節(jié)點(diǎn)數(shù)量，搞節(jié)點(diǎn)與節(jié)點(diǎn)之間的互連，那就是 Scale Out（橫向擴(kuò)展）。

Scale Out，英偉達(dá)也有解決方案，那就是 InfiniBand（IB）技術(shù)。

InfiniBand 以前是 Mellanox 公司的。英偉達(dá)布局深遠(yuǎn)，2019 年把 Mellanox 收購了，InfiniBand 就成了英偉達(dá)的私有技術(shù)。

InfiniBand 是技術(shù)名詞，不是產(chǎn)品名詞。英偉達(dá)基于 InfiniBand 推出的產(chǎn)品平臺(tái)是 NVIDIA Quantum（“量子”的意思）。

例如，2024 年 3 月，英偉達(dá)發(fā)布的 Quantum-X800 網(wǎng)絡(luò)交換機(jī)平臺(tái)，端到端吞吐量能夠達(dá)到 800Gbps。平臺(tái)包括了含 Quantum Q3400 交換機(jī)、ConnectX-8 SuperNIC 網(wǎng)卡等硬件。

這些硬件，也都是有系列的。Quantum-X800 的上一代，是 Quantum-2。ConnectX-8 的前代，有 ConnectX-6、ConnectX-7 等。

ConnectX 高速網(wǎng)卡也是來自 Mellanox。

Scale Out 的兩大解決方案，除了 InfiniBand，還有以太網(wǎng)。英偉達(dá)以太網(wǎng)這邊也沒放過，也有產(chǎn)品，就是 Spectrum-X800。（Spectrum 是“光譜”的意思。）

Spectrum-X800 包括了 Spectrum SN5600 交換機(jī)、BlueField-3 SuperNIC 網(wǎng)卡等硬件產(chǎn)品，吞吐量同樣高達(dá) 800Gbps。

BlueField 是這些年很火的 DPU。英偉達(dá)將 Mellanox 的 ConnectX 網(wǎng)卡技術(shù)與自己的已有技術(shù)相結(jié)合，于 2020 年正式推出了 BlueField-2 DPU 和 BlueField-2X DPU?，F(xiàn)在演進(jìn)到了 BlueField-3。

對(duì)了，前段時(shí)間，英偉達(dá)還發(fā)布了 CPO 光電一體化封裝網(wǎng)絡(luò)交換機(jī) Spectrum-X Photonics 和 Quantum-X Photonics。

英偉達(dá)還有一些其它的網(wǎng)卡、連接器、線纜等配件，就不逐個(gè)介紹了。

黃教主前段時(shí)間透露，新一代的 Rubin 平臺(tái)發(fā)布時(shí)，據(jù)說會(huì)帶來 NVLink 6、ConnectX-9 SuperNIC 和 Quantum（Spectrum）-X1600。可以期待一下。

█ 開發(fā)框架 ——CUDA

剛才介紹的，是英偉達(dá)的算力硬件平臺(tái)家族，以及通信網(wǎng)絡(luò)家族。

再看一個(gè)軟件方面的名詞 —— 大名鼎鼎的 CUDA。

英偉達(dá)的硬件和網(wǎng)絡(luò)做得很牛，但實(shí)際上，最被視為核心競爭壁壘的，反而是這個(gè) CUDA。

CUDA（Compute Unified Device Architecture，計(jì)算統(tǒng)一設(shè)備架構(gòu)），是英偉達(dá)在 2006 年推出的并行計(jì)算平臺(tái)和編程模型。它讓開發(fā)者能夠直接在 GPU 上編寫代碼，從而大幅提升計(jì)算速度。

如今，CUDA 就像是智算開發(fā)的操作系統(tǒng)，集編程模型、編譯器、API、庫和工具于一體，有利于用戶更好地發(fā)揮英偉達(dá)硬件的能力。

CUDA 不僅是個(gè)工具，更形成了強(qiáng)大的 AI 開發(fā)生態(tài)。它是英偉達(dá)整個(gè)業(yè)務(wù)體系的神經(jīng)中樞。

現(xiàn)在很多 AI 開發(fā)都依賴于英偉達(dá)的硬件和 CUDA，換硬件其實(shí)也不是很難，但是，生態(tài)遷移更加痛苦。

好啦，關(guān)于英偉達(dá)的主要產(chǎn)品體系和命名規(guī)則，就介紹到這里。

在不同的領(lǐng)域，英偉達(dá)會(huì)基于這些核心產(chǎn)品，構(gòu)建不同的解決方案。有的時(shí)候，也會(huì)衍生出一些升級(jí)版或閹割版，大家注意一下就行。

這個(gè)公司在 AI 領(lǐng)域牢牢占據(jù)核心地位，希望能有更多的企業(yè)，站出來向它發(fā)出挑戰(zhàn)。

本文來自微信公眾號(hào)：鮮棗課堂（ID：xzclasscom），作者：小棗君

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。