當地時間週一，半導體巨頭英偉達推出H200新款GPU，具備使用HBM3e高帶寬內存的能力，集成141GB內存，在Llama 2上的推理速度比H100快一倍。大型計算機制造商和雲服務提供商預計明年二季度開始使用。

消息影響下，英偉達週一收升0.6%，連續第九個交易日上升累升超19%，逼平3月份的最長紀錄，當時是2016年以來最長連升週期。截至目前，英偉達市值超12000億美元。

性能飆升90%！

據英偉達官網消息，新的H200芯片是當前用於訓練最先進大語言模型H100芯片的升級產品，集成了141GB的內存，更加擅長進行“推理”。在用於推理或生成問題答案時，性能較H100提高60%至90%。H200預計將於2024年第二季度上市。

英偉達還表示，H200將與H100兼容，這意味着已經在使用H100進行訓練的人工智能公司，不需要改變他們的服務器系統或軟件來適應H200。

根據估計，H100 芯片的成本在 25,000 美元到 40,000 美元之間，需要數千個芯片一起工作才能在稱為“訓練”的過程中創建最大的模型。這導致H100利潤率或高達1000%，成為了有史以來最賺錢的一種芯片。

H200 的關鍵改進在於它包含 141GB 的下一代“HBM3”內存，這將幫助芯片執行“推理”，或者在經過訓練後使用大型模型來生成文本、圖像或預測。

英偉達表示，H200 的輸出速度幾乎是 H100 的兩倍。這是基於使用Meta的LLAMA2 大語言模型進行的測試。

預計從2024年第二季度開始，將提供搭載H200的系統和雲實例，包括HGX H200系統。H200可以在多種數據中心環境中部署，包括本地、雲端、混合雲和邊緣。

英偉達超大規模和 HPC 副總裁 Ian Buck 表示：“要通過生成式 AI 和 HPC 應用程序創建智能，必須使用大型、快速的 GPU 內存高速有效地處理大量數據。” “藉助 NVIDIA H200，業界領先的端到端 AI 超級計算平台能夠更快地解決世界上一些最重要的挑戰。”

英偉達將於下週公佈財報。今年其AI GPU廣受歡迎，推動了該公司業績的井噴。市場預計英偉達第三財季營收約為160億美元，同比增長170%。

將推出針對中國市場的AI芯片

據《華爾街日報》中文網13日消息，英偉達將推出三款針對中國市場的AI芯片，以應對美國的最新芯片限售令。文件顯示了英偉達即將推出產品的詳細規格，分別為HGX H20、L20 PCle、L2 PCle，分別基於英偉達的Hopper和Ada架構，送樣時間在今年11月至12月，量產的時間為今年12月至明年1月。

據報道，知情人士透露，英偉達將在未來幾周內向潛在買家提供新芯片的樣品進行測試。這些知情人士説，分銷商已被要求摸底客户對新產品的興趣，那些之前下單購買現已被禁芯片的客户將獲得優先購買權。

報道顯示，OpenAI的ChatGPT等AI智能系統的興起，使人們更加迫切地呼籲對英偉達生產的芯片進行更多管控，這些芯片是生產這些AI系統的關鍵。由於對其產品的需求似乎是個無底洞，英偉達今年的銷售額井噴，估值突破了1萬億美元的大關。

多家英偉達產業鏈公司已確認了上述消息，其中一位人士表示，三款AI芯片產品分別適用於雲端訓練、雲端推理以及邊緣推理。但對於具體的推出時間點尚未確認。