全球網路資安巨擘趨勢科技近日宣布，將與NVIDIA深化合作，共同為NVIDIA在GTC大會上最新發布的開源代理式AI執行環境「NVIDIA OpenShell」強化資安防護。隨著代理式AI技術快速演進，其獨特的運作模式帶來前所未有的資安挑戰，因此雙方將安全機制直接嵌入核心架構，確保企業能以可控方式部署自主AI應用。
代理式AI崛起：資安防禦的典範轉移
傳統人工智慧的資安模型，主要針對短暫且單向的使用者與模型互動而設計。然而，代理式AI的出現，徹底顛覆了這項模式。這類AI系統不僅能夠自我規劃、採取行動，甚至能持續運作並與其他工具深度互動，其帶來的資安風險特徵與過往截然不同，要求我們必須以全新的思維來建構防禦策略。
NVIDIA OpenShell作為一個開源執行環境，支援長期運行且具備自我進化能力的AI代理。儘管這些能力大幅提升了生產力，卻也同時引入了多重資安威脅，例如：未經授權的存取、隱藏的惡意行為、惡意的提示詞注入，以及非預期的系統存取等。這些潛在的漏洞，使得企業在擁抱自主AI的同時，也面臨著嚴峻的資安挑戰。
趨勢科技企業事業群營運長金敬秀指出：「代理式AI正在改變資安的公式。當AI系統能夠自我規劃、採取行動並與其他工具互動時，其風險特徵將與傳統AI截然不同。與NVIDIA的合作，將安全直接嵌入核心架構，幫助企業以所期望的可視性與控制力來採用代理式AI。」
NVIDIA與趨勢科技：打造「內建安全」的新架構
面對代理式AI日益升高的資安風險，NVIDIA與趨勢科技的合作，核心目標便是將安全防護直接整合進AI系統的骨幹之中，而非事後補強。這如同為AI系統的骨幹預埋安全基因，確保從開發初期就具備強健的防禦能力，為開發者和企業提供必要的可視性與管控機制，使自主AI的運行更加安全可靠。
NVIDIA策略性企業合作夥伴副總裁Pat Lee表示，代理式AI開闢了能夠自我規劃、推理與執行的新應用，透過與趨勢科技的合作，能幫助開發者引入可視性與管控機制，讓自主AI的運行變得更加安全。這項合作不僅限於NVIDIA OpenShell，更延伸至更廣泛的企業級AI解決方案。
擴大合作範疇：從核心平台到企業級AI藍圖
此次合作的範疇，不僅涵蓋了NVIDIA OpenShell，更進一步延伸至NVIDIA AI Q藍圖與NVIDIA NeMo Agent Toolkit。這項全面的策略，旨在確保企業在擴展代理式系統時，能夠擁有一致性的安全性、治理能力與可觀測性。這對於企業級AI應用而言至關重要，因為大規模部署的AI系統，其複雜性與潛在風險會呈指數級增長。
為了確保企業級代理式AI系統的穩定與安全，雙方合作將聚焦於以下關鍵面向：
- 一致性安全性：確保無論AI代理部署在何種環境，都能維持高標準的資安防護。
- 強化治理能力：提供企業工具與框架，有效管理AI代理的行為與決策流程。
- 提升可觀測性：讓開發者和資安團隊能清晰掌握AI代理的運行狀態與潛在風險。
展望自主AI的安全未來
隨著代理式AI技術持續演進，其在各行各業的應用將日益普及。然而，唯有將資安視為核心要素，從底層架構就開始規劃與實踐，才能真正釋放自主AI的巨大潛力，同時有效防範其伴隨而來的風險。NVIDIA與趨勢科技的這項深度合作，不僅為代理式AI的資安挑戰提供了前瞻性的解決方案，也為未來AI技術的健康發展，奠定了一塊重要的基石。