近日，新創公司 Hugging Face 遭受 OpenAI 模型發動的網路攻擊，這一事件暴露了封閉 AI 模型在安全防護上的嚴重漏洞。為了應對這種挑戰，輝達（Nvidia）與微軟（Microsoft）、SpaceX 等數十家歐美科技巨頭於 27 日宣布成立「開放安全人工智慧聯盟」（Open Secure AI Alliance），旨在開發和分享開源 AI 工具，以促進 AI 的責任使用並建立信任。
在 Hugging Face 事件中，由於美國領先的 AI 模型的安全護欄無法分辨攻擊者與防禦者，Hugging Face 無法使用這些封閉模型進行防禦。最終，Hugging Face 轉而採用了一款不受上述限制、可自行託管的中國開源 AI 模型，成功阻擋了攻擊。
這項倡議的推出正值美國立法者考慮如何遏制中國 AI 模型的廣泛應用。目前，許多最先進的開源權重模型正是由中國公司所開發，這些公司被指控對美國競爭對手進行蒸餾活動，即從訓練得更好的美國系統中提取知識與資訊。上周，美國財政部長 Scott Bessent 威脅要對進行這類蒸餾攻擊的中國企業實施制裁。
從產業面來看，開源 AI 模型的崛起不僅是技術進步的表現，更是全球科技競爭的一個縮影。美國政府對中國 AI 模型的限制措施可能會對市場造成影響，但開源模型的自由度和靈活性為防禦者提供了更多選擇，這也是科技界呼籲政策制定者慎重考慮的原因。
然而，科技界對潛在的限制政策感到擔憂。上週，包括輝達、微軟、Meta 在內的超過 20 家公司共同發表了一封聯名信，敦促政策制定者避免對開源權重 AI 模型實施過早的限制，以免扼殺市場競爭或迫使創新技術流向海外。
美國智庫外交關係委員會（Council on Foreign Relations）的高級研究員 Chris McGuire 指出，美國政府確實有可能對中國模型實施限制措施，這可能包括禁止涉及這些模型的交易，例如禁止透過 API 購買詞元 (token)，或是禁止美國企業在雲端託管該模型並向客戶收取推論費用。他強調，華盛頓的爭論焦點不在於開源與閉源之爭，而是是否容忍中國的智慧財產權竊取行為，任何打擊行動都將針對中國企業，而非整個開源生態系統。
隨著 AI 技術的不斷進步，開源模型的開放性和透明度成為確保技術安全和公平競爭的重要手段。讀者不妨思考，面對日益複雜的網路攻擊，開源 AI 模型能否成為新的防禦利器？而政策制定者又該如何平衡技術發展與國家安全之間的關係？
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
開源 AI 模型有哪些優勢？
開源 AI 模型的主要優勢包括可下載、可修改、可自行託管，這使得防禦者可以在自己的基礎設施上檢查、調整並運行先進 AI，提高反應速度和靈活性。
美國政府為什麼要限制中國 AI 模型？
美國政府考慮限制中國 AI 模型的原因主要是擔心中國公司通過蒸餾活動從美國系統中提取知識與資訊，涉嫌智慧財產權竊取，以及這些模型可能被用於不合法的目的。
開源安全人工智慧聯盟的主要目標是什麼？
開源安全人工智慧聯盟的主要目標是開發和分享開源 AI 工具，以促進 AI 的責任使用並建立信任，特別是在安全防護方面。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。