關鍵數字:NVIDIA 將於 2026 年下半年推出全新的 Vera CPU,專門為代理式 AI 設計,具備極致的單執行緒效能和高效的多執行緒處理能力。
NVIDIA 於美國時間 7 月 21 日釋出了新一代平台組合 Vera Rubin 的白皮書,詳細介紹了其核心組件之一的 Vera CPU。作為 NVIDIA 首款基於 Arm 指令集的自主架構 CPU,Vera 在設計上特別針對代理式 AI 的需求進行了優化。
代理式 AI 的特殊需求
NVIDIA 強調,代理式 AI 在多個代理之間頻繁執行,這使得 CPU 需要承擔更多的關鍵執行路徑負載。與現行通用資料中心 CPU 追求核心密度和吞吐量不同,適合代理式 AI 的 CPU 必須具備以下四項特質:
- 強大的單執行緒效能:即使在插槽全負載情況下也能保持高效能。
- 充足的記憶體頻寬:每個核心都能滿足多個活躍執行上下文的需求。
- 可預期的併行情況延遲:確保代理步驟能一致完成。
- 高效的處理能力:能夠處理不規則控制流和指標密集型資料結構。
Vera CPU 的核心設計
Vera CPU 基於 NVIDIA 的 Olympus 架構,從底層開始設計,以最大限度提升 IPC(每時鐘週期指令數)。Olympus 架構由四大模組構成,每個模組都有其特定的功能和優化:
- 前端:通過先進的分支預測和高頻寬指令解取,確保核心在大型、分支密集型軟體堆疊中獲取所需的指令。
- 中核:專門挖掘和加速代理式 AI 流程中的隱藏並行性,利用強大的重新命名和分配引擎提高亂序執行效能。
- 執行引擎:動態調度多種資源,包括整數、分支、向量、浮點、加密、載入和儲存,以高效處理分支密集型軟體。
- 快取子系統:採用深層快取結構和多個硬體預取引擎,提升記憶體等級的併行性,解決代理、圖分析和資料處理負載中的不規則記憶體存取問題。
創新的多執行緒技術
Vera CPU 的另一大特色是創新的空間多執行緒技術。傳統的多執行緒會引發資源爭奪,影響代理式 AI 應用的效能。Vera 通過將 Olympus 核心設計成能在兩個硬體執行緒之間分配資源,實現靈活的多執行緒模式。在需要最大單執行緒效能時,Olympus 核心可以作為高吞吐量的單執行緒核心執行任務;在需要高執行緒密度時,則可以作為兩個獨立的執行緒。
NVIDIA SCF:一致性架構的骨幹
NVIDIA 的 SCF(Scalable Coherency Fabric)作為 Vera CPU 的通訊骨幹,提供了高達 3.4TB/s 的雙向頻寬,並整合了一個 164MB 的統一 L3 快取。SCF 通過高頻寬晶片統一架構連接內部資源,避免了碎片化晶片設計常見的延遲和效能波動,為代理式 AI 提供了高效、一致的計算環境。
高效記憶體和 I/O 支援
Vera CPU 配備了基於 LPDDR5X 的 SOCAMM2 記憶體模組,提供高達 1.2TB/s 的總頻寬,每個核心可達 14GB/s 的頻寬,降低了能耗並提高了效率。此外,Vera 還支援 PCIe 6.4、CXL 3.1 和機密運算,確保了高頻寬和安全性。
從產業面來看,Vera CPU 的推出不僅代表著 NVIDIA 在 AI 計算領域的又一次重大突破,更是對代理式 AI 應用的一次深刻理解和精准定位。Vera 的設計理念和技術創新,將為未來的 AI 基礎設施帶來更高效、更可靠的計算能力。
結語:未來的 AI 基礎設施
NVIDIA Vera CPU 的推出,標誌著 AI 計算邁入了一個新的時代。隨著 2026 年的到來,我們將看到更多基於 Vera 的高性能計算平台誕生,推動代理式 AI 和強化學習的發展。作為業界人士,不妨關注 NVIDIA 的最新動態,把握這一歷史性契機。
本文改寫整理自公開新聞來源,原始報導由癮科技發布。
常見問題 FAQ
NVIDIA Vera CPU 是什麼時候推出的?
NVIDIA Vera CPU 將於 2026 年下半年推出。
Vera CPU 主要應用於哪些場景?
Vera CPU 主要應用於代理式 AI、強化學習、圖分析和資料處理等場景。
Vera CPU 的主要特點有哪些?
Vera CPU 的主要特點包括強大的單執行緒效能、高效的多執行緒處理能力、充足的記憶體頻寬和創新的一致性架構。