當人工智慧（AI）被賦予愈來愈多自主權，我們是否也正悄悄地將敏感資料的「鑰匙」交給它？社群媒體巨擘Meta近日證實，旗下一個內部AI代理程式因提供錯誤指引，導致一名工程師在公司內部環境中，將大量敏感的公司與用戶資料意外暴露給其他未獲授權的員工。這起Meta AI事件敲響警鐘，凸顯企業在享受AI紅利之際，如何應對AI代理人帶來的資安與資料外洩新挑戰，已成為當務之急。
現象觀察：Meta AI代理人事件揭示的內部資安漏洞
這起事件發生在一次例行性的查詢過程中，AI系統的錯誤建議，使得原本不應存取這些資料的員工，得以檢視敏感資訊。據悉，這觸發了內部最高等級的 Sev-1 警報，雖然資料外洩持續約兩小時，所幸Meta聲明資料並未外洩至公司外部，且問題已獲得控制。不過，這事件無疑是個警訊，它讓我們看見，即便是一流科技公司，在面對AI代理人這類新型態的數位勞動力時，仍可能面臨意想不到的資安盲點。
原因剖析：為何傳統資安防線難擋AI代理人風險？
說真的，許多企業在部署AI代理程式時，往往未將其視為需要特殊控管的獨立實體。資安公司 Bonfy.AI 執行長暨共同創辦人 Gidi Cohen 就一針見血地指出：
「Meta 的事件精準反映了在缺乏資料中心防護措施的情況下，放任AI代理程式處理敏感資料的後果。這並非複雜的通用人工智慧（AGI）失效，而是由於工程師與代理程式都缺乏對資料存取權限的長期概念，導致大量資料暴露給不應見到的內部人員。」
傳統的端點資料外洩防護（DLP）、雲端存取安全代理（CASB）及角色權限管理等措施，在資料流經AI代理程式的推論步驟與工具呼叫時，可能無法有效監控。這些AI代理程式能迅速且精確地執行任務，但缺乏人類對後果的理解、機構記憶、判斷力及對風險的感知，卻被賦予越來越多關鍵系統的存取權限，這確實是個值得深思的矛盾。
影響評估：AI加速採用下的企業資安失衡
Delinea 亞太區副總裁 Cynthia Lee 提醒我們，Meta 事件再次提醒各界，AI風險已是當前營運挑戰。她觀察到一個有趣的現象：
「Delinea 最近一項研究顯示，多達九成的澳洲企業和九成五的新加坡企業正加速採用AI，同時卻面臨資安團隊需放寬身份控管的壓力。」
這種在缺乏必要保障下賦予AI代理程式更大存取權限和自主性的做法，無疑形成了一種危險的失衡。當企業渴望AI帶來的生產力爆發，卻又未能同步升級其資安思維時，內部資料外洩的風險便會如影隨形。每一個AI代理程式都應被視為一個新的身份，能夠存取關鍵資料、觸發工作流程並採取特權行動，這點是企業在擁抱AI時，絕不能輕忽的。
趨勢預測：強化AI資安治理，而非減緩創新
面對AI同時放大生產力與錯誤的挑戰，解決之道並非減緩創新，而是強化控管。這意味著企業應以對待人類使用者同等的嚴謹態度來管理AI代理程式，包括實施最小權限原則、確保即時可視性，並採納零信任（Zero Trust）安全架構。零信任的核心理念是「永不信任，始終驗證」，它要求每次存取都需經過驗證，不論是來自內部或外部網路。當AI代理人成為企業營運的核心，這種嚴格的身份與存取管理，將是確保資訊安全的基石。
隨著AI深度嵌入企業環境，資安治理而非速度，將成為企業韌性的關鍵。 Meta此次事件，為台灣乃至全球加速佈局AI的企業，提供了重要啟示，凸顯了在享受AI帶來的效率之餘，更需嚴肅面對其可能帶來的潛在資安與用戶隱私風險。未來，如何讓AI聰明地工作，同時又安全地被管理，將是每個企業的必修課題。
常見問題
- Q: Meta AI代理人事件的主要問題是什麼？
A: Meta旗下的一個內部AI代理程式因提供錯誤指引，導致敏感的公司與用戶資料意外暴露給未獲授權的內部員工，持續約兩小時，觸發了最高等級的資安警報。
- Q: 為什麼傳統資安措施難以防範AI代理人的資料外洩風險？
A: 資安專家指出，傳統的資料外洩防護（DLP）、雲端存取安全代理（CASB）及角色權限管理等措施，在資料流經AI代理程式的推論步驟與工具呼叫時，可能無法有效監控，因為AI代理人被賦予高度自主權，卻缺乏人類對後果的理解與判斷力。
- Q: 企業應該如何強化AI代理人的資安管理？
A: 企業應將每個AI代理程式視為一個新的身份，並以對待人類使用者同等的嚴謹態度來管理，包括實施最小權限原則、確保即時可視性，並採納零信任（Zero Trust）安全架構，將資安治理置於優先地位。