消息稱英偉達(dá)針對(duì)中國區(qū)改良版H20在LLM推理中比H100更快快訊
這三款芯片均基于英偉達(dá) H100 改良而來，英偉達(dá)即將推出 HGX H20、L20 PCle 和 L2 PCle 接口芯片，該文章還預(yù)測了英偉達(dá) 2024 和 2025 財(cái)年業(yè)績。
IT之家 11 月 9 日消息，國外科技媒體 Semianalysis 近日發(fā)布付費(fèi)文章，表示三款中國特供版 AI 芯片之一，在 LLM 推理中，要比 H100 快 20% 以上。
IT之家此前報(bào)道，英偉達(dá)即將推出 HGX H20、L20 PCle 和 L2 PCle 接口芯片，這三款芯片均基于英偉達(dá) H100 改良而來，官方已經(jīng)生產(chǎn)出這些 GPU 樣品，并預(yù)估下月投入批量生產(chǎn)。
消息稱英偉達(dá)預(yù)計(jì)最快將于 11 月 16 號(hào)之后公布，國內(nèi)廠商最快將在這幾天拿到樣品。
這篇付費(fèi)文章中詳細(xì)介紹了英偉達(dá) H20、L20 和 L2 的詳細(xì)信息，涉及 FLOPS 數(shù)據(jù)、NVLink 帶寬、功耗、內(nèi)存帶寬、內(nèi)存容量、芯片尺寸等。
文章中寫道：
更為重要的是，在這三款中國特供版 GPU 中，其中一款（并未明確是哪款，但應(yīng)該是指 H20）在 LLM 推理中要比 H100 快 20%，而且性能接近于英偉達(dá)明年年初發(fā)布的新款 GPU。
報(bào)道中還提及的一點(diǎn)是，英偉達(dá) HGX H20 采用 HGX 格式，采用臺(tái)積電的 CoWoS 封裝。而另外兩款芯片主要基于 Ada，面向游戲領(lǐng)域，不需要復(fù)雜的封裝。
該文章還預(yù)測了英偉達(dá) 2024 和 2025 財(cái)年業(yè)績，此前消息稱由于美國不斷地加碼，英偉達(dá)丟失了超過價(jià)值 50 億美元的訂單，而借助這些中國專供 GPU，會(huì)改善英偉達(dá)的業(yè)績表現(xiàn)。
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會(huì)明確標(biāo)注作者和來源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請(qǐng)轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任；
3.作者投稿可能會(huì)經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。
