美國陸軍因生成式 AI 使用量暴增，僅在 6 月中旬便耗盡全年分配的 token 配額，迫使軍方重新啟用限額措施。這項突如其來的變化不僅揭示了 AI 技術在軍事應用中的巨大潛力，也暴露了其高昂的運作成本。
AI Token 消耗過快，陸軍被迫限額
根據軍方信件顯示，陸軍戰鬥能力發展司令部（DEVCOM）人員被告知，AI token 消耗速度遠超預期。陸軍 CIO 的 token 池在 6 月中旬即已耗盡，迫使軍方恢復限額，以維持目前的使用水位。然而，10 月 1 日之後是否續補仍未知。
此前，美國國防部高調宣布，旗下近半數、約 350 萬名員工都能使用 AI。陸軍使用的是 Ask Sage，這是一個可串接多種大型語言模型的多模態生成式 AI 平台，包括 Alphabet Gemini、Meta Llama 與 OpenAI ChatGPT。該平台支援陸軍企業級 LLM 工作區，並獲得處理受控非機密資訊的認證。
Token 配額管理的挑戰
陸軍在 5 月宣布 token「不限量」，每個員工每月至少有 20 萬 token 額度，若提前用完還會自動補充。系統甚至會寄信催促那些註冊卻不常用 Ask Sage 的人員多加利用。陸軍年度企業方案總量為 1 億個 token，單一 token 約等於 3.7 個字元。
然而，陸軍與國防部短時間內就把整年配額消耗殆盡。有匿名軍方人員形容，整個陸軍幾乎為單一單位就燒掉整年 token。這突顯了 AI 技術在實際應用中的成本與管理壓力。
從產業面來看，AI 技術的快速普及雖然帶來了效率提升，但也帶來了前所未有的成本壓力。企業和政府機構在推廣 AI 應用時，需要在技術創新和財政控制之間找到平衡點。這不仅是陸軍面临的挑战，也是全球各行业共同面临的问题。
實務應用中的瓶頸
陸軍曾將 Ask Sage 用於重新分類人員職務說明等行政工作，但有員工坦言，實務面不太可靠，甚至出現模型聲稱完成任務卻沒有做到的情況。這表明，儘管 AI 技術在理論上有著巨大的潛力，但在實際應用中仍存在許多挑戰。
Token 與運算成本已成為各方擴大應用的瓶頸。陸軍也不得不在推廣 AI 與管控預算之間重新拿捏平衡。
展望與影響
此次限額措施的實施，不僅反映了 AI 技術在軍事應用中的成本問題，也揭示了未來在 AI 推廣過程中可能遇到的管理難題。對於其他機構和企業而言，這是一個重要的參考案例，提醒他們在引入 AI 技術時需謹慎考慮成本效益。
面對 AI 技術帶來的挑戰，讀者不妨思考：如何在確保技術進步的同時，有效控制成本，實現長期可持續發展？
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
為什麼美國陸軍會在 6 月就用光全年 AI Token？
美國陸軍在 6 月中旬耗盡全年 AI Token 配額，主要是因為生成式 AI 的使用量遠超預期，導致 token 消耗速度過快。
Ask Sage 是什麼？
Ask Sage 是一個多模態生成式 AI 平台，可串接多種大型語言模型，包括 Alphabet Gemini、Meta Llama 與 OpenAI ChatGPT，支援陸軍企業級 LLM 工作區。
陸軍未來是否會續補 Token 配額？
目前尚不清楚 10 月 1 日之後陸軍是否會續補 Token 配額，這取決於軍方的財政規劃和需求。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。