此前有消息稱，NVIDIA Blackwell架構(gòu)的新一代GPU推遲供貨，但是官方?jīng)]有承認，也沒有否認，而是默默拿出了一套基于新一代GB200 GPU+GPU超級芯片的服務(wù)器系統(tǒng)，展示了一番。

GB200 Grace Blackwell包括兩顆B200 GPU、一顆Grace CPU，總功耗高達2700W。

其中，B200擁有2040億個晶體管、8096-bit 192GB HBM3E內(nèi)存(帶寬8TB/s)，性能達到9PFlops(每秒9千萬億次)，功耗首次達到1000W。

NVIDIA展示的服務(wù)器猶如一件藝術(shù)品，一條條藍色和銅色排線，大量超粗直徑銅管，超大體積的散熱片，組成了一個龐然大物。

NVIDIA沒有透露具體配置，只說分為有無NVSwitch兩種版本，其總帶寬高達14.4TB/s。

性能方面只給出了一個數(shù)據(jù)：Llama 3.1 700億參數(shù)大模型的AI推理性能對比H200提高了足足1.5倍。

散熱怎么辦？NVIDIA透露正在開發(fā)熱水散熱系統(tǒng)，可以將耗電量減少28％。

不過，NVIDIA仍然沒有給出Blackwell GPU服務(wù)器的出貨時間，估計在今年第四季度。

即將到來的Hot Chip 2024大會上，NVIDIA會詳細講解Blackwell GPU，還會進一步披露未來Vera CPU、Rubin GPU的消息。