當卡米爾·漢森（Camille Hanson）在 3 月的某個深夜被手機通知驚醒時，她從未想到這將是她生命中的一個轉捩點。與丈夫卡爾文（Calvin）共同經營的英語教學頻道，擁有近百萬追蹤者，卻在一夜之間被 Meta 系統標記為「待刪除」。
「我只是個英文老師，到底做錯了什麼？」漢森連忙按下了系統提供的申訴按鈕。然而，一周後，她收到了一則冷冰冰的通知：申訴被駁回，帳號將被永久刪除。
表象
漢森夫婦的遭遇並非孤例。Meta 在大量裁減人力後，將更多裁決權移交給 AI 機器人。今年 3 月，Meta 宣布計劃進一步自動化內容審查，隨即展開大規模裁員，數千名人工審查員被解僱。
然而，AI 的表現卻遠不如預期。越來越多的受害者在網路上串聯，目前已有超過 6 萬名使用者簽署了一份聯合請願書，要求 Meta 提高帳號封鎖機制的透明度，並強制引進「人工審查」來處理使用者申訴。
真相
Meta 發言人丹尼爾·羅伯茨（Daniel Roberts）堅稱 AI 的表現遠優於人類，強調公司新一代的 AI 審查工具比人工員工「少犯 13% 的錯誤」，且能「多發現 10% 的違規內容」。
然而，Meta 近期頻頻爆發的 AI 相關爭議，讓羅伯茨的說法顯得無力。5 月，駭客利用 Meta AI 客服聊天機器人的漏洞，成功入侵了高達 3.4 萬個 Instagram 帳號，其中包括美國前總統歐巴馬的前白宮團隊帳號。
各方角力
除了駭客入侵，Meta 內部員工也對一項「追蹤鍵盤敲擊以訓練 AI」的秘密計畫發起強烈抗議，逼得公司不得不緊急暫停該計畫。此外，26 名前 Meta 員工聯合提起訴訟，指控公司利用 AI 演算法進行不當解雇。
致力於維護使用者權益的團體「人優先於平台」（People Over Platforms）今年發起線上請願，試圖倒逼 Meta 修改審查機制。然而，Meta 系統隨後竟指控多名參與連署的使用者涉嫌「分享兒童剝削內容」並逕行封鎖帳號，被使用者痛批是「雪上加霜」的惡意報復與系統失控。
深層影響
社群組織「六月節紐約」（JuneteenthNY）負責人雅典娜·羅德尼（Athenia Rodney）也是這套失控系統的受害者。該組織長期致力於紀念美國奴隸制的終結，所發布的內容皆為適合家庭觀看的文化歷史資訊。然而去年，Meta 的 AI 系統突然封鎖了她在 Facebook 與 Instagram 上的所有個人及工作帳號。
羅德尼表示，組織不得不花費大量精力向贊助商證明自己是一個運作近 20 年的合法機構。這場封鎖給「六月節紐約」帶來了致命的打擊，讓其推廣工作舉步維艱。
未解之問
直到《紐約時報》將這 5 個案例直接提交給 Meta 高層質詢後，事情才出現轉機。Meta 在進行內部調查後承認，其中有 2 個帳號是因為遭到駭客入侵而被封鎖，1 個帳號屬於合理封鎖，而另外 2 個帳號——包含漢森夫婦的英語教學帳號與羅德尼的「六月節紐約」帳號——則純粹是「AI 系統誤封」。
然而，Meta 的自動化客服與 AI 審查機制的荒謬與失控，仍讓許多小企業、內容創作者與公益團體感到無助。當申訴管道完全被 AI 壟罩、缺乏有效的人工介入時，任何一次演算法的「誤判」，都可能成為毀掉一個企業或組織的無情天災。
從產業面來看，Meta 的 AI 審查系統雖然旨在提高效率，但其頻繁的誤判和缺乏有效的申訴管道，已經嚴重損害了用戶的信任。這不僅是技術問題，更是管理與道德問題。Meta 必須重新審視其自動化策略，並引入更多的人工監督，以避免未來再發生類似事件。
在這場技術與人性的對峙中，我們每個人都可能是潛在的受害者。如果你是內容創作者、小企業主或公益團體，請保持警惕，並積極參與相關的倡議活動，確保自己的權益不受侵害。
本文改寫整理自公開新聞來源，原始報導由T客邦發布。
常見問題 FAQ
Meta 的 AI 審查系統為什麼會誤刪帳號？
Meta 的 AI 審查系統在自動化過程中，由於缺乏足夠的訓練和監督，可能會誤判某些正常內容為違規內容，導致帳號被誤刪。
如何避免帳號被 Meta AI 審查系統誤刪？
避免帳號被誤刪的最佳方法是遵守社群守則，定期檢查帳號安全，並及時更新個人資訊。此外，可以通過加入用戶社群，共同倡議 Meta 改善審查機制。
如果帳號被誤刪，如何進行申訴？
如果帳號被誤刪，可以通過 Meta 提供的官方申訴渠道提交申請，並提供相關證明材料。若申訴無果，可以考慮聯繫媒體或用戶權益團體求助。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。