AMD 與 Cerebras 合作,OpenAI 研究員直呼「快到來不及切換畫面」,AI 推論速度再創新高

事件總覽:AMD 與 Cerebras Systems 在 7 月 28 日宣布合作,將 AMD Helios 機櫃級基礎架構與 Cerebras 晶圓級引擎整合,大幅提升 AI 推論速度,OpenAI 研究員 Jeffrey Wang 直呼「快到來不及切換畫面」。

📅 2023年07月28日:AMD 與 Cerebras 宣布合作

在此之前,超微(AMD)與 Cerebras Systems 已經在 AI 領域有所合作,但 7 月 28 日的這次宣布將合作推向了新的高度。雙方將把 AMD Helios 機櫃級基礎架構與 Cerebras 晶圓級引擎整合為單一解構式推論流程,分工處理 AI 推論的不同階段。

Helios 將負責提示詞處理與大型上下文視窗等高吞吐工作,而 Cerebras 則專注於解碼與 Token 生成,提供超低延遲反應。根據雙方的說法,這套組合架構在相近互動基準下,預計可帶來最高 5 倍的每瓦每秒 Token 數表現。

📅 2023年07月28日:OpenAI 研究員的正面評價

隨後,OpenAI 研究員 Jeffrey Wang 在公開場合表示,內部在 Cerebras 晶片上執行的模型「推論速度非常驚人」,甚至快到他還來不及切換工作情境,任務就已完成,明顯提升日常生產力。這番評價進一步強化了 AMD 與 Cerebras 的合作方向。

Jeffrey Wang 的評價不僅反映了技術的卓越性能,也展示了其在實際應用中的巨大潛力。這直接導致了外界對 Helios 與晶圓級引擎結合後的商業潛力更加關注。

至今影響與未來展望

這項合作被視為 AMD 強化 AI 基礎設施布局的重要一步。隨著推論成本愈來愈成為資料中心獲利關鍵,OpenAI 對 Cerebras 系統的正面回饋,讓外界更關注 Helios 與晶圓級引擎結合後的實際商業潛力。

從產業面來看,這項合作有望在不犧牲規模與效率的前提下,提升推論經濟性。AMD 強調,Helios 將作為高效能、可擴充的吞吐引擎,而 Cerebras 技術則補足即時生成能力,兩者的結合將在未來的 AI 推論市場中佔據重要地位。

這項合作不僅是技術上的突破,更是 AI 行業的一次重大進步。它不僅提高了推論速度,還為資料中心帶來了更高的經濟效益,預期將在未來的競爭中占據優勢。

如果你對 AI 技術的最新發展感興趣,不妨深入研究 AMD 與 Cerebras 的合作細節,了解這項技術如何改變我們的日常生活和工作環境。你的每一次探索,都可能帶來意想不到的啟發。

本文改寫整理自公開新聞來源,原始報導由科技新報發布。

常見問題 FAQ

AMD 與 Cerebras 的合作有哪些具體內容?

AMD 與 Cerebras 的合作主要將 AMD Helios 機櫃級基礎架構與 Cerebras 晶圓級引擎整合,分工處理 AI 推論的不同階段,預計可帶來最高 5 倍的每瓦每秒 Token 數表現。

OpenAI 研究員 Jeffrey Wang 對 Cerebras 晶片的評價是什麼?

Jeffrey Wang 表示,內部在 Cerebras 晶片上執行的模型「推論速度非常驚人」,甚至快到他還來不及切換工作情境,任務就已完成,明顯提升日常生產力。

這項合作對資料中心有什麼影響?

這項合作有望在不犧牲規模與效率的前提下,提升推論經濟性,降低資料中心的運營成本,提高獲利能力。

※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。