關鍵數字:根據市場研究機構德勤(Deloitte)預估,2026 年 AI 推論工作負載佔總 AI 運算量預計將提升至驚人的三分之二,而超大規模業者在 2026 年的投資總額更上看 2,000 億美元,顯示 AI 推論市場正迎來爆炸性成長。
📊 數據總覽
以色列新創公司 NeuReality 於本週一(3月23日)宣布,成功延攬曾任 Google Labs 產品管理總監的 Shalini Agarwal 為策略顧問,此舉無疑為其 NR-NEXUS 推論作業系統進軍企業市場注入強心針。Agarwal 女士在科技產業擁有近二十年的產品策略經驗,曾服務於 Google Labs 及 eBay 等知名企業,並持有麻省理工學院(MIT)電腦科學、電機工程及管理科學學位,其專業背景與資歷,將是 NeuReality 開拓市場的關鍵資產。
從募資數據來看,NeuReality 迄今已募得約 7,000 萬美元資金。這其中包括 2022 年底由三星創投(Samsung Ventures)、OurCrowd 和 SK 海力士(SK Hynix)領投的 3,500 萬美元 A 輪募資,以及 2024 年 3 月歐洲創新理事會基金(European Innovation Council Fund)與現有投資者共同注資的 2,000 萬美元。這些數字不僅證明了市場對其技術的信心,也顯示出公司在資金方面的強勁實力。
數據解讀 1: AI 推論市場與巨頭佈局
當前 AI 產業的發展,正逐步從模型訓練轉向推論應用。根據德勤的估計,AI 推論工作負載在 2025 年已佔總 AI 運算量的一半,而今年(2026 年)預計將進一步提升至高達 三分之二。這項數據明確指出,AI 推論已成為 AI 運算的核心戰場,其重要性不容小覷。為了應對這股強勁的趨勢,超大規模業者(hyperscalers)正投入巨額資金:亞馬遜(Amazon)預計 2026 年將投入 2,000 億美元,而 Google 的預算則介於 1,750 億至 1,850 億美元之間。這些天文數字般的投資,無疑是為了打造能高效處理海量 AI 推論任務的「AI 工廠」。輝達(NVIDIA)執行長黃仁勳(Jensen Huang)也曾提及,未來的資料中心將成為「代幣工廠」(token factory),這不僅是一種預言,更是對 AI 推論時代來臨的精準描繪。
數據解讀 2: NeuReality 的技術與募資實力
NeuReality 的崛起,正是為了填補 AI 推論市場的空白。該公司最初以設計 AI 推論的客製化晶片起家,隨後策略性地轉型至軟體開發。其於 3 月 12 日發表的 NR-NEXUS,正是一款為「AI 工廠」打造的硬體中立(hardware-agnostic)作業系統。這款系統的設計目標,是透過解耦預填充(prefill)和解碼(decode)任務,使其能跨異質硬體(包括圖形處理器 GPU、中央處理器 CPU 和網路介面卡 NIC)運行。這樣做的好處顯而易見:它能大幅提高昂貴加速器的利用率,有效解決部分閒置問題,進而降低企業運行 AI 模型的成本並提升效率。目前已有測試客戶正在運行 NR-NEXUS 軟體,未來也將支援輝達(NVIDIA)即將推出的 Vera Rubin 架構,這顯示其技術前瞻性與市場潛力。
趨勢預測:AI 工廠的未來版圖
當我們將這些數據點串聯起來,會發現一幅清晰的未來圖景:AI 推論將主導未來的 AI 運算,而效率將是這場競賽的決勝關鍵。Shalini Agarwal 的加入,被業界視為對能夠彌補晶片與企業大規模運行模型之間鴻溝的公司的一大押注。這不僅僅是人才的流動,更是對 NeuReality 解決方案的一種肯定。在「代幣工廠」時代,如何最大化硬體資源的效益,將是企業能否在 AI 浪潮中脫穎而出的重要指標。NR-NEXUS 這種硬體中立的推論作業系統,正是在回應市場對彈性、高效能和成本效益的需求,其發展模式或許能為其他 AI 新創提供借鑒。
數據告訴我們什麼?
綜合以上數據,我們可以清楚看到,AI 推論市場正處於爆發性成長的風口浪尖,數千億美元的巨額投資正湧入此領域。這股趨勢預示著,任何能有效優化 AI 推論硬體效能、提升資源利用率的解決方案,都將擁有巨大的市場潛力。NeuReality 憑藉其 NR-NEXUS 作業系統,結合 Shalini Agarwal 在產品策略上的深厚經驗,正試圖在這場「AI 工廠」的競賽中,扮演關鍵的加速器角色。對於企業而言,選擇能跨平台、高效率運行的 AI 推論作業系統,將是未來能否有效運用 AI、提升競爭力的重要策略考量。這一切都指向一個結論:AI 的未來不僅在於模型的規模,更在於其運行的效率與普及性。