國際研究暨顧問機構Gartner近期發布報告預測，到2030年，人工智慧（AI）模型的關鍵運算單位「Token」單價將趨近於零。然而，儘管AI模型Token的單位成本大幅滑落，企業的整體AI推論成本（inference cost）卻可能不減反增，此一趨勢對未來AI部署策略構成嚴峻挑戰。
AI模型Token單價趨零的市場假象
根據Gartner的最新分析，大型語言模型（LLM）的推論成本預計將在2030年之前降低逾90%，同時模型效率有望提升高達100倍。舉例來說，一個具備1兆參數的LLM，其推論成本相較於2025年將減少超過90%。這項效率提升主要歸因於半導體與基礎設施的持續改進、模型設計的創新，以及專為推論優化的半導體解決方案擴張。報告中定義，一個AI Token約為3.5位元組的數據量，相當於約四個中文字元。
不過，Token單價的顯著下降，並不代表企業在AI營運上的負擔會隨之減輕。Gartner資深總監分析師威爾·索默（Will Sommer）對此提出警示：
Gartner資深總監分析師威爾·索默（Will Sommer）明確指出：「企業採購長不應將通用Token價格的下跌，誤解為進階推理能力已普及。基礎AI功能正逐漸趨近零成本，但支援複雜推理所需的運算資源與系統依然稀缺。」
複雜AI應用推動Token需求巨量成長
隨著人工智慧技術的持續發展與應用場景日益多元，對Token的需求量將呈現爆炸性成長，進而抵銷單價下降所帶來的成本效益。這意味著，即便單位成本降低，龐大的總使用量仍將導致企業的整體AI推論成本顯著增加。
特別是AI代理程式（AI agents）等更為先進且複雜的技術，每項任務所需消耗的Token量，預估比傳統的簡易聊天機器人多出至少5倍至30倍。這種對高階AI功能日益增長的需求，將成為企業AI營運成本不減反增的關鍵驅動力。
多模型協調策略：企業AI部署的致勝關鍵
面對未來AI推論成本可能攀升的挑戰，Gartner強調，企業的AI競爭力核心將不再僅限於單一模型的效能表現，而是仰賴於精密的「多模型協調策略」（multi-model orchestration）。這項策略要求企業具備高度的營運能力，以智慧化地管理與分配不同的AI模型資源。
透過多模型協調，企業能更有效地運用資源，達成成本效益與效能的最佳平衡。Gartner建議的關鍵要點包括：
- 運用小型語言模型（sLLM）或特定領域模型處理重複且頻繁的任務，以降低基礎營運成本。
- 將最尖端的AI模型保留給高價值、複雜的推理需求，確保資源投入在最具影響力的應用上。
- 建立精密的營運能力，以有效管理不同模型的協作與資源分配，避免資源浪費。
展望與影響：企業AI轉型的策略佈局
總體而言，Gartner的預測揭示了未來AI發展的一個重要趨勢：成本結構將從單純的單位價格，轉變為更複雜的總體使用量與策略管理。對於企業而言，未來的AI競爭力將取決於能否精準掌握多模型協調策略，並據此優化其AI部署與營運模式。這不僅是成本控制的考量，更是能否在AI時代脫穎而出的關鍵所在。