AI軟體工程師掀產業巨變:Devin崛起、Anthropic陷倫理困境,AI治理成關鍵

當人工智慧(AI)技術的進化速度超乎想像,我們不禁要問:這股浪潮究竟會將軟體開發推向「軟體豐裕」的黃金時代,抑或是在追求效率的同時,觸及難以預料的倫理邊界?舊金山新創公司Cognition所開發的全球首個AI軟體工程師「Devin」,正預示著軟體建構模式的顛覆性變革。然而,與此同時,另一AI新創Anthropic與美國五角大廈的法律爭議,卻也同步揭示了AI應用在國家安全層面所面臨的嚴峻倫理考驗,這兩起事件共同勾勒出AI時代的複雜面貌。

現象觀察:AI軟體工程師的崛起與產業衝擊

首先,我們觀察到AI在軟體開發領域展現出驚人的潛力。由成立兩年的新創Cognition推出的「Devin」,目標是實現無需人工干預,即可從頭到尾完成軟體專案,這無疑將大幅重塑現行的軟體開發產業。Cognition的執行長史考特·吳(Scott Wu)從哈佛大學輟學後便投身此創新,他堅信Devin將扮演輔助角色,讓人類工程師得以專注於更高層次的創造性與問題解決,進而實現他所描繪的「軟體豐裕」世界。

這項技術的市場反應也異常熱烈。Cognition於2024年推出Devin 1.0,並於同年3月開放給早期使用者。據悉,在過去一年中,該公司的企業客戶使用量增長約80倍,其中包括高盛(Goldman Sachs)、花旗銀行(Citi)與美國太空總署(NASA)等重量級機構。Cognition透過收購AI程式碼新創Windsurf,員工規模從去年夏季的40人擴展至逾200人,去年募資4億美元後估值已超過100億美元。這般快速的成長,也吸引了Cursor(估值近300億美元)、Anthropic的Claude Code以及OpenAI的Codex等競爭者,共同加速了AI程式開發領域的演進。

原因剖析:效率追求下的企業文化與倫理困境

其次,我們必須深入探究這份追求突破背後的驅動因素與隨之而來的挑戰。Cognition的快速崛起,部分歸因於其內部「極致績效文化」的推動。工程師阿迪亞揚·塞克薩利亞(Adhyyan Sekasaria)便曾透露,團隊成員通常在上午11點半例行會議前就已抵達公司,且經常工作至深夜甚至週末,這種高強度的工作模式,或許是其快速迭代與成長的關鍵。史考特·吳也坦承,公司在Devin推出初期可能過度宣傳了其能力,這反映了在新興科技競賽中,市場期待與實際表現之間的拉扯。

再者,AI技術的應用邊界與倫理規範,在國家安全領域引發了更深層次的矛盾。以AI新創Anthropic為例,其AI模型Claude便捲入與美國五角大廈的法律糾紛。根據《bgr.com》報導,這場爭議源於五角大廈在2026年1月逮捕委內瑞拉總統馬杜羅(Nicolas Maduro)的行動中,使用了Anthropic的AI模型Claude。Anthropic試圖對美國軍方實施其禁止暴力的安全準則,但雙方就民間企業能否規範政府產品部署進行了數週協商後破裂。Anthropic拒絕了五角大廈關於大規模國內監控與全自動武器的要求,展現其執行長達里歐·阿莫迪(Dario Amodei)「安全優先」的方針,此舉顯然與現任川普(Donald Trump)總統政府的AI去監管化理念格格不入。

影響評估:AI競逐下的市場板塊與監管挑戰

這場倫理衝突對市場版圖造成了實質影響。作為回應,美國白宮於今年3月5日首次對美國公司發出供應鏈風險認定,將Anthropic列入名單,此舉預估將導致Anthropic損失50億美元。緊接著,OpenAI迅速宣布達成協議,取代Anthropic處理五角大廈的機密工作,這顯示了AI供應鏈在政治與倫理壓力下的脆弱性與快速重組能力。目前,美國財政部與國務院等機構正在移除其系統中的Claude,預計需要6到18個月才能完全脫離。

然而,儘管Anthropic面臨多方壓力,其投資人仍持續看好發展潛力。據報導,Anthropic總募資額已超過180億美元,並於近期完成300億美元的G輪融資,其中亞馬遜(Amazon)在2024年投資了40億美元,Google也承諾投入超過20億美元。這不僅顯示科技巨頭對其技術潛力的認可,也反映了資本市場對於AI「安全優先」路線的另一種肯定。這也提出一個值得思考的問題:在國家安全與商業利益的交會點上,民間企業的倫理立場究竟能有多大的影響力?

趨勢預測:軟體工程師角色的演變與AI治理的未來

最後,展望未來,AI技術的快速發展將持續演變軟體開發的每個面向。首先,軟體工程師的角色將從重複性編碼轉向更高價值的創意發想、架構設計與複雜問題解決。其次,AI安全與監管將成為全球各國政府與企業共同面對的核心議題。當AI模型被應用於關鍵基礎設施或國家安全領域時,其透明度、可解釋性與倫理規範將受到前所未有的檢視。

我們可以預見,未來AI產業的競爭將不僅限於技術優勢,更將延伸至對倫理原則的堅守與有效的風險管理。企業在追求極致效率與市場份額的同時,如何建立健全的AI治理框架,並與政府機構協調合作,將是決定其長期發展的關鍵。這場由AI軟體工程師引領的技術革新,正迫使我們重新思考人機協作的意義,以及科技倫理在數位時代的終極定位。