Deepseek R1 推理實(shí)測(cè)：4 塊英偉達(dá) GB300 能干 16 塊 H100 的活，單卡吞吐量提升 6 倍

8 月 27 日消息，科技媒體 WccfTech 昨日（8 月 26 日）發(fā)布博文，報(bào)道稱 CoreWeave 最新測(cè)試顯示，以 DeepSeek R1 推理模型實(shí)測(cè)，4 塊英偉達(dá) Blackwell 架構(gòu) GB300 芯片就能完成原需 16 塊 H100 的任務(wù)，單卡吞吐量提升 6 倍。

IT之家援引博文介紹，CoreWeave 使用 Deepseek R1 推理模型，對(duì)比評(píng)估英偉達(dá) Blackwell 架構(gòu) GB300 NVL72 和上一代 H100 GPU 的差別。歸功于英偉達(dá)升級(jí)架構(gòu)，增強(qiáng)內(nèi)存和帶寬，測(cè)試結(jié)果顯示，GB300 在僅使用 4 塊 GPU 的情況下，即可完成原本需要 16 塊 H100 才能運(yùn)行的任務(wù)。

GB300 NVL72 平臺(tái)支持高達(dá) 37TB 的內(nèi)存容量（最高可達(dá) 40TB），并配備每秒 130TB 的內(nèi)存帶寬。該平臺(tái)為減少 GPU 間數(shù)據(jù)分割次數(shù)，采用 4 路并行設(shè)計(jì)，并通過 NVLink 和 NVSwitch 高速互連提升通信效率。

CoreWeave 指出，這不僅是 FLOPs 算力的提升，更是系統(tǒng)架構(gòu)在實(shí)際業(yè)務(wù)場(chǎng)景下的效率躍遷。對(duì)于需要運(yùn)行復(fù)雜模型的企業(yè)客戶，GB300 NVL72 提供了更高的擴(kuò)展性和更低的延遲，幫助他們更快、更經(jīng)濟(jì)地部署和運(yùn)行 AI 服務(wù)。