0
NVIDIA 創始人兼首席執行官黃仁勛在COMPUTEX 2024開幕前，面向現場6500多名觀眾的演講，最引人注意的就是最新的產品路線圖。
黃仁勛展示了未來三年的產品路線圖，并首次公布下一代平臺Rubin。
看起來，黃仁勛將NVIDIA產品的更新節奏推向了技術的極限，近些年有類似節奏的公司是以消費市場為主的蘋果，這表達了NVIDIA“加速一切”決心的同時，也預示著AI應用蓬勃發展的階段即將到來。
GPU架構、網絡平臺Spectrum-X每年更新的同時，NVIDIA也在推動加速計算成本的降低、有降低AI應用門檻的NIM推理微服務，以及推動AI新一波浪潮的機器人等。
可以越來越清晰的看到，NVIDIA要成為AI世界里的基石。
黃仁勛還給出預測，AI新一波浪潮是物理AI。
GPU、以太網網絡平臺每年更新
黃仁勛COMPUTEX 2024開幕前的演講，首次披露今年發布的Blackwell架構的繼任平臺Rubin。
Rubin平臺將配備新 GPU、基于 Arm 的新 CPU — Vera，以及采用 NVLink 6、CX9 SuperNIC 和 X1600、并融合 InfiniBand/以太網交換機的高級網絡平臺。
根據NVIDIA的路線圖，2025年推出Blackwell Ultra GPU（8S HBM3e 12H）；2026年推出Rubin GPU（8S HBM4）；2027年推出Rubin Ultra GPU（12S HBM4）。
Rubin和Vera的命名均源自美國天文學家Vera Rubin。
“我展示的所有芯片都在百分之百在開發中?！秉S仁勛說，“NVIDIA的更新節奏以年為單位，所有架構都是兼容的，以一年為周期，我們把所有東西推向技術極限。”
黃仁勛稱以年為單位更新的基本理念非常簡單，打造數據中心規模，以每年的節奏分步驟實現、并向客戶交付產品，在各個領域實現技術突破。
同樣計劃每年推出新產品的還有Spectrum-X產品。NVIDIA Spectrum-X 是全球首款專為 AI 打造的以太網網絡平臺，可將網絡性能較傳統以太網網絡平臺提升1.6倍。
Spectrum-X 為客戶提供更高的帶寬、更多的端口、更加強大的軟件功能集與可編程能力，不斷提高領先的AI以太網網絡性能。
網絡和存儲越來越成為限制AI發展的瓶頸。
NVIDIA網絡高級副總裁Gilad Shainer說：“生成式 AI 等開創性技術的飛速發展，使每家企業都必須把網絡創新放在第一位，從而獲得競爭優勢。
Spectrum-X配備NVIDIA Spectrum SN5600以太網交換機和NVIDIA BlueField -3 SuperNIC，是一個兼顧了生成式 AI 云所需高性能和各種云功能的端到端平臺。
雷峰網了解到，率先采用NVIDIA Spectrum-X的AI云服務提供商有CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global 和 Yotta 等。
另外，戴爾科技、慧與、聯想和超微等之后，又有多家NVIDIA 合作伙伴也發布了基于 Spectrum 的產品，包括永擎電子（ASRock Rack）、華碩（ASUS）、技嘉科技（GIGABYTE）、鴻佰科技（Ingrasys）、英業達（Inventec）、和碩（Pegatron）、云達科技（QCT）、緯創（Wistron）和緯穎科技(Wiwynn)等。
MGX和NIM降AI應用的軟硬件門檻
身處2024年更應該意識到，AI的發展不僅需要GPU、CPU、網絡等關鍵組件，更需要一個易用且低成本的AI系統。
NVIDIA 正在降低將數據轉化為智能的成本。
“買的越多，省的越多。”黃仁勛說，CPU的性能擴展已經大大放緩，NVIDIA通過GPU+CPU組合，實現了高達100倍的加速，同時功耗僅增加到3倍，成本僅增加到1.5倍，每瓦性能比單獨使用CPU提高25倍。
有更加直觀的數據，8年內NVIDIA AI算力增加了1000倍，帶來的顯著收益是，比如訓練1.8萬億參數、8萬億token的GPT-4，所需能耗從8年前Pascal架構的1000GWh減少到Blackwell的3GWh，能耗僅為8年前的1/350。
生成Token的能耗，Blackwell架構降至8年前Pascal架構的1/45000。
用Pascal產生1 Token的能耗相當于2個200W燈泡運行2天，而現在1 Token只用0.4J能耗。
MGX降低AI工廠建立成本和時間
架構演進帶來的優勢最終還是需要以系統應用的方式呈現，并且要以足夠低的軟硬件門檻。
為了加快不同規模和配置的系統開發，NVIDIA推出了MGX模塊化參考設計平臺，以便計算機制造商能夠以快速且低成本的方式構建超過 100 種的系統設計配置。
制造商首先可根據其服務器機箱選擇一種基本的系統架構，然后再根據不同的工作負載選擇 GPU、DPU 和 CPU。通過采用 MGX，開發成本大幅降低，較之前最多降低了四分之三，開發時間縮短到僅六個月，較之前減少了三分之二。
目前，已有超過 25 家合作伙伴的 90 多套已發布或正在開發中的系統使用了 MGX 參考架構。AMD和英特爾也都支持MGX 架構，并首次計劃打造基于他們自己 CPU 主機處理器的模塊設計。
“新一輪工業革命已經開始。眾多企業和地區正在與 NVIDIA 合作推動價值萬億美元的傳統數據中心向加速計算轉型，并建造一種新型數據中心——AI 工廠來生產新的商品：人工智能。“黃仁勛宣布，NVIDIA MGX模塊化參考設計平臺加入了對 NVIDIA Blackwell 產品的支持，包括全新 NVIDIA GB200 NVL2 平臺，這些系統搭載 Grace CPU 以及 NVIDIA 網絡和基礎設施，將幫助企業建立 AI 工廠和數據中心。
NIM讓2800萬開發者輕松創建AI應用
有了AI工廠和數據中心，就擁有了激發AI創新的硬件基礎。
每個企業都希望在其運營中融入生成式 AI，但并非每個企業都擁有專門的 AI 研究團隊。
NVIDIA給出的解決方案是NIM，這是一種推理微服務，通過經優化的容器的形式提供模型——以部署在云、數據中心或工作站上。
借助 NVIDIA NIM，開發者能夠輕松地為 Copilots、聊天機器人等構建生成式 AI 應用，所需時間從數周縮短至幾分鐘，NVIDIA宣布全球2,800 萬開發者已經可以下載 NVIDIA NIM。
NIM能幫助企業實現基礎設施投資的效果最大化。例如，與未使用 NIM 的情況相比，在NIM中運行Meta Llama 3-8B所能生成的加速基礎設施AI Token可以提升3倍。
據悉，從Meta Llama 3開始，在Hugging Face上現已開始提供 NIM，NVIDIA已經在 Hugging Face上發布了全面優化的Llama 3。
通過基于 NVIDIA GPU 的 Hugging Face 推理端點，只需點擊幾下，開發者就能在其選擇的云平臺上輕松地訪問和運行 Llama 3 NIM，能有效降低開發AI應用的門檻。
企業可以使用 NIM 來運行用于生成文本、圖像和視頻、語音以及數字人的應用。借助面向數字生物學的 NVIDIA BioNeMo NIM 微服務，研究人員可以構建新的蛋白質結構，加速藥物研發。
目前Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近 200 家NVIDIA的技術合作伙伴正將NIM集成到他們的平臺中，加快生成式AI部署到特定領域應用中的速度，例如Copilots、代碼助手、數字人虛擬形象等。
價值50萬億美元的工業數字化變革
AI將帶來的變革，觸手可及的是AI PC。
搭載RTX技術的NVIDIA RTX AI PC將通過200多款RTX AI筆記本電腦和500多款采用 AI 技術的應用和游戲改變消費者的體驗。
NVIDIA還發布了搭載RTX的AI助手技術演示G-Assist 項目，展示了針對PC游戲和應用的上下文感知輔助功能。
除了消費級市場，NVIDIA也將目光放到了價值 50 萬億美元的工業數字化變革。
面對各行各業采用自主運營和數字孿生，通過虛擬模型提高效率并降低成本對需求。NVIDIA 通過其開發者計劃提供對 NIM 的訪問權限，以促進 AI 創新。
黃仁勛展示了Foxconn利用NVIDIA Omniverse、Isaac 和 Metropolis 創建數字孿生，通過結合視覺AI與機器人開發工具來實現增強的機器人設施。
“AI新一波浪潮是物理AI。AI能夠理解物理定律，并與人類并肩作戰，”黃仁勛他強調了機器人和人工智能在未來發展中的重要性。
如今大多數AI并不理解物理定律，不以物質世界為基礎。而生成圖像、視頻、3D圖形和許多物理現象，需要基于物理并理解物理定律的AI。
“機器人和物理 AI 正在成為現實，而不僅是出現在科幻小說。這真的令人興奮，”黃仁勛補充。
NVIDIA Isaac平臺為開發者構建 AI 機器人提供強大的套件，包括由AI模型以及Jetson Orin、Thor 等超級計算機驅動的AMR、工業機械臂和人形機器人。
“機器人將遍布所有工廠。工廠將實現對機器人的統籌，而這些機器人將制造新的機器人產品，”黃仁勛同時強調NVIDIA Isaac 在提高工廠和倉庫效率方面的作用，比亞迪電子、西門子、泰瑞達、Intrinsic 等全球領先企業都在使用 NVIDIA Isaac 的高級程序庫和 AI 模型。
從核心組件到整個AI系統，NVIDIA已經成為加速AI發展的基石。
同時，NVIDIA給出了AI新一波浪潮是物理AI也傳遞出NVIDIA對于未來的判斷與引領。雷峰網(公眾號：雷峰網)
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
