2024年，香港一名金融從業員在與工程顧問公司奧雅納（Arup）的同事進行視訊會議時，不慎匯出2500萬美元款項，直到交易完成後才發現自己被騙。視訊中的其他人，包括財務長，全都是AI生成的深度偽造影像。根據顧問公司德勤（Deloitte）2024年的報告，使用生成式AI的詐騙預計到明年僅在美國就會造成400億美元的損失。
AI生成的臉孔：超真實卻更難辨識
澳洲國立大學（ANU）心理學副教授艾美·道爾（Amy Dawel）指出，我們辨認AI生成臉孔的能力非常低，研究顯示我們的表現不比五五開的猜測好，甚至更差。她說：「這不僅是一個技術問題，更是一個心理問題。」
道爾博士進一步解釋，AI生成的臉孔往往更對稱、比例更協調、更有吸引力，這使它們看起來比真實人類臉孔更可信。「AI演算法傾向於取其訓練的數萬張臉孔的數學平均值，使得AI臉孔看起來更『超平均』，」她指出。這「讓它們感覺更值得信任、看起來更有吸引力，也感覺更熟悉」。
辨識訓練：利用自然本能
道爾博士的研究團隊在今年6月發表於《美國國家科學院院刊》（PNAS）的一項研究中，提出了一種新的訓練方法。研究人員並非教人尋找不匹配的耳環或扭曲特徵等明顯破綻，而是訓練他們對每張臉孔整體做出直覺判斷。
研究人員通過展示約100張臉孔——一半真實、一半AI生成——並要求參與者對六項整體特徵評分：獨特性、可記憶性、表情豐富度、對稱性、比例協調性與吸引力。道爾說：「人類臉孔往往更獨特、更易記憶、表情更豐富；而AI生成的臉孔則通常更對稱、比例更協調、更有吸引力。」
從產業面來看，這場「貓捉老鼠」的遊戲不會停止。隨著AI技術不斷進步，我們必須不斷調整訓練方法，以保持人類的核心角色。這不僅是為了防止詐騙，更是為了保護我們的數字生活安全。
未來展望：保持警覺與技術進步
儘管訓練效果顯著，但研究人員強調，這只是一場長期的「貓捉老鼠」遊戲。AI技術不斷進步，人類必須不斷調整才能跟上。道爾博士表示：「這是一場永無止境的競賽，我們需要不斷更新訓練方法，以應對新的AI模型。」
此外，研究人員還指出，真正的挑戰在於人類現在正與不斷進步的AI系統賽跑。目前，已有使用演算法偵測AI生成內容的自動化工具，但這些工具也有限制。它們可能只對特定AI產品有效，且當新模型出現或影像被編輯時，可能會難以應付。
因此，研究人員強調，在辨識AI深度偽造影像時，保持人類的核心角色至關重要。道爾博士建議，未來或許可以開發類似的訓練，幫助人們辨識AI生成的語音和影片，而不只是靜態臉孔。
本文改寫整理自公開新聞來源，原始報導由BBC中文發布。
常見問題 FAQ
如何辨識AI生成的臉孔？
辨識AI生成的臉孔需要訓練。研究顯示，通過對臉孔的整體特徵進行評估，如獨特性、可記憶性、表情豐富度、對稱性、比例協調性與吸引力，可以提高辨識能力。
AI生成的臉孔有哪些特點？
AI生成的臉孔通常更對稱、比例更協調、更有吸引力。這些特點使得AI臉孔看起來比真實人類臉孔更可信。
如何防範AI詐騙？
防範AI詐騙的最佳方法是提高辨識能力，並保持警覺。建議定期參加相關培訓，了解最新的AI技術動態，並使用自動化工具輔助辨識。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。