週一,英偉達首席執行官黃仁勳在2023年臺北電腦展上公佈了一批與人工智能(AI)和加速計算有關的多項產品及服務的進展。以下爲具體信息。
1、大內存AI超級計算機DGX GH200
黃仁勳介紹稱,AI超級計算機DGX GH200集成了英偉達最先進的加速計算和網絡技術,旨在爲生成式AI語言應用、推薦系統、數據分析工作負載開發大型下一代模型,預計今年年底問世。
黃仁勳表示,DGX GH200是首款將GH200 Grace Hopper超級芯片與英偉達NVLink Switch系統搭配的超級計算機,通過採用新互連方式,將256個Grace Hopper超級芯片連接在一起,使它們能像單個巨型GPU一樣協同運行,從而提供了1EFLOPS的性能和144TB的共享內存,較2020年推出的上一代DGX A100 320GB系統的內存多出近500倍。
黃仁勳稱,$谷歌-A(GOOGL.US)$、$Meta Platforms(META.US)$、$微軟(MSFT.US)$等科技巨頭是首批獲得DGX GH200訪問權限、用於生成式AI工作負載的公司。此外,英偉達還打算將DGX GH200設計藍圖提供給雲服務商及其他超大規模計算廠商,以便他們可以進一步爲其基礎設施定製DGX GH200。
2、GH200 Grace Hopper超級芯片已全面投產
黃仁勳指出,英偉達的GH200 Grace Hopper超級芯片已全面投產,將爲運行復雜的AI和高性能計算工作負載提供動力。基於GH200的系統加入了全球系統製造商基於英偉達最新Grace、Hopper、Ada Lovelace架構的400多個系統配置。位於歐美的幾家全球超大規模計算企業和超算中心客戶將可使用GH200驅動的系統。採用GH200的系統預計將於今年晚些時候上市。
3、大型AI超級計算機NVIDIA Helios
黃仁勳表示,英偉達正在打造自己的基於DGX GH200的大型AI超級計算機NVIDIA Helios,以支持其研究和開發團隊的工作。Helios採用4個DGX GH200系統,每個都將與英偉達Quantum-2 InfiniBand網絡連接,帶寬高達400Gb/s,以提高訓練大型AI模型的數據吞吐量。Helios將包括1024顆Grace Hopper超級芯片,將於今年年底上線。
4、NVIDIA Avatar雲引擎(ACE)
黃仁勳宣佈,推出面向遊戲的NVIDIA Avatar雲引擎(ACE)。這是一項定製AI模型代工服務,中間件、工具和遊戲開發者可以使用它來構建和部署定製的語音、對話和動畫AI模型。它能賦予非玩家角色(NPC)更智能且不斷進化的對話技能,使其能夠以栩栩如生的個性來回答玩家的問題。
5、NVIDIA MGX服務器規範
爲了滿足各種規模的數據中心的需求,黃仁勳發佈了NVIDIA MGX服務器規範,爲系統製造商提供了模塊化參考架構。系統製造商可使用它快速且經濟高效地構建100多種服務器配置,以適應廣泛的AI、HPC及NVIDIA Omniverse應用。MGX支持英偉達全系列GPU、CPU、DPU和網絡適配器,以及各種x86及Arm處理器。其模塊化設計使系統製造商能夠更有效地滿足每個客戶的獨特預算、電力輸送、熱設計和機械要求。
永擎(ASRock Rack)、華碩(ASUS)、技嘉(GIGABYTE)、和碩(Pegatron)、QCT、超微(Supermicro)等將採用MGX構建下一代加速計算機,可將開發成本削減多達3/4,並將開發時間縮短2/3至僅需6個月。
6、與軟銀合作建立分佈式數據中心網絡
黃仁勳還宣佈,英偉達與日本電信巨頭軟銀合作,在日本建立一個分佈式數據中心網絡。它將在一個共同的雲平臺上提供5G服務和生成式AI應用。數據中心將在模塊化MGX系統中使用Grace Hopper、BlueField-3 DPU以及Spectrum以太網交換機,以提供5G協議所需的高精度定時。該平臺將通過提高頻譜效率來降低成本,同時降低能耗。這些系統有助於探索自動駕駛、AI工廠、AR/VR、計算機視覺和數字孿生等領域的應用。未來的用途可能包括3D視頻會議和全息通信。
7、聯手WPP打造生成式AI內容引擎
黃仁勳宣佈,全球最大的營銷服務機構英國WPP集團正在與英偉達合作,在Omniverse Cloud上構建首個生成式AI內容引擎,使創意團隊能夠更快、更高效、更大規模地製作高質量的商業內容,同時與客戶的品牌保持完全一致。基於NVIDIA AI和Omniverse的突破性引擎將來自領先軟件製造商的創意3D和AI工具連接在一起,以大規模革新品牌內容和體驗。
WPP首席執行官Mark Read表示,生成式AI正以驚人的速度改變營銷世界,WPP與英偉達合作所提供的獨特競爭優勢是當今市場上其他客戶無法獲得的,這項新技術將改變品牌爲商業用途創建內容的方式,並鞏固WPP在爲世界頂級品牌創造性應用AI方面的行業領導者地位。
8、新型加速以太網平臺NVIDIA Spectrum-X
黃仁勳還宣佈推出NVIDIA Spectrum-X,這是一個旨在提高基於以太網的AI雲的性能和效率的網絡平臺。它基於網絡創新,將英偉達Spectrum-4以太網交換機與英偉達BlueField-3 DPU緊密耦合,實現了相比傳統以太網結構1.7倍的整體AI性能和能效提升,並通過性能隔離增強了多租戶功能,在多租戶環境中保持一致、可預測的性能。
全球領先的雲計算提供商正在採用Spectrum-X平臺擴展生成式AI服務。Spectrum-X、Spectrum-4交換機、BlueField-3 DPU等現已在戴爾、聯想、超微等系統製造商處提供。