國際商業機器公司（IBM）近期提出警示，強調區分人工智慧「聽起來具備倫理」與「實際具備道德推理能力」至關重要。這項區別對於評估大型語言模型（LLM）在關鍵決策中的應用，引發各界對AI倫理的深度討論與關注。
事實陳述：模仿言詞非真道德推理
根據《Quantum Zeitgeist》報導，IBM信任AI全球負責人Phaedra Boinodiris直言，一個聽起來具備倫理的系統，與一個真正能進行倫理推理的系統，兩者截然不同。她指出，目前的大型語言模型本質上是「昂貴的自動完成功能」，主要透過預測最可能出現的詞彙來生成內容，而非真正理解背後的原則或具備道德推理能力。
這項觀點獲得Google DeepMind與人工智慧研究機構Anthropic最新研究的支持。研究顯示，儘管大型語言模型能令人信服地模仿倫理言詞，卻不具備真實的道德能力。例如，Anthropic研究人員分析了超過三十萬次與其Claude聊天機器人的對話，雖然識別出三千三百零七個不同的價值觀，但發現Claude模型主要傾向於反映用戶所表達的價值觀。該模型僅約百分之三的對話會拒絕用戶要求，且通常是涉及有害內容的指令。
各方反應：專家解析AI倫理困境
針對此現象，卡內基美隆大學教學教授Michael Hilton解釋，這種行為反映了訓練數據中包含的多元觀點，而非模型本身的道德判斷。換句話說，AI的回應是其學習資料的投射。
倫斯勒理工學院認知科學教授Selmer Bringsjord則認為，有意義的道德推理需要系統具備倫理理論、相關道德規範與法律的形式化基礎，這遠超出當前大型語言模型的能力範疇。
密西根大學資訊系統副教授Nigel Melville建議，若能妥善使用，AI仍可作為有價值的諮詢工具，增進人類理解而非取代人類決策。這凸顯了AI作為輔助角色而非主導者的潛力。
後續觀察：從「聽起來倫理」轉向「真正道德能力」
這些發現引發了對AI在重要決策中應用的深切擔憂。如果人工智慧系統僅是反映其訓練數據中的模式，而非真正進行推理，那麼將道德決策委託給這些系統，便意味著依賴一些隨機且不明確的訓練數據子集。專家們普遍呼籲，應將重心從生成聽起來符合倫理的回應，轉向評估AI是否具備真正的「道德能力」，以確保其在社會中的應用能更為穩健與負責。