Anthropic向競爭低頭：安全優先正讓位給速度與市場

據外媒報道，以高度重視安全著稱的AI公司Anthropic，正在縮減這一承諾。

該公司週二表示，爲了在與其他AI實驗室的競爭中保持優勢，正在放鬆其核心安全政策。Anthropic此前如果認爲其模型可能被歸類爲危險，就會暫停相關開發工作，但公司表示，如果競爭對手發佈了可比或更先進的模型，將不再繼續這一做法。

這一變化與2年半前形成了鮮明對比。當時，Anthropic公佈了指導其新模型開發和測試的安全護欄，使其成爲AI領域中最重視安全的參與者之一。

Anthropic正面臨來自OpenAI、埃隆·馬斯克（Elon Musk）的xAI以及谷歌等對手的激烈競爭，這些公司經常發佈前沿工具。同時，在其告知五角大樓其Claude工具不能用於中國監控或自主致命活動之後，Anthropic還在與美國國防部就這些工具的使用問題展開博弈。

美國國防部長皮特·赫格塞思（Pete Hegseth）週二對Anthropic首席執行官達里奧·阿莫代伊（Dario Amodei）表示，Anthropic必須在週五前放寬其使用政策，否則可能失去與五角大樓的合同或面臨其他後果。

Anthropic稱，此次安全政策調整是基於AI發展速度以及聯邦層面缺乏AI監管的現實作出的更新。Anthropic最初是一家AI安全研究實驗室，此前一直通過倡導模型透明度和安全護欄的州級和聯邦規則，與特朗普政府展開博弈。而特朗普政府則試圖限制各州監管AI的能力。

Anthropic一名發言人表示，此次調整旨在幫助公司在政策環境不均衡的背景下，與多家競爭對手展開競爭。在這種環境中，保障措施的判斷更多落在企業自身身上。她強調，安全承諾的變化與五角大樓的談判無關。

Anthropic在宣佈調整的博客文章中寫道：“政策環境已轉向優先考慮AI競爭力和經濟增長，而以安全爲導向的討論在聯邦層面仍未獲得實質性進展。”公司表示，仍然致力於保持行業領先的安全標準。

Anthropic在博客中還表示，其核心安全政策曾推動公司開發出更強有力的防護措施。隨著此次調整，Anthropic承諾將定期發佈安全目標和風險報告，對其模型進行評估，並由第三方進行衡量。

近幾周來，多名AI研究人員離開了Anthropic及其他AI公司，並警告稱，在企業籌集數十億美元資金並考慮首次公開募股之際，安全等考量正被邊緣化。ChatGPT開發商OpenAI和谷歌也面臨類似挑戰。

Anthropic的一名安全研究員沙爾馬（Mrinank Sharma）在2月初表示將離開公司攻讀詩歌學位。他在致同事的信中寫道，AI等因素正讓“世界處於險境”。今年1月，他發表的一篇論文指出，先進的AI工具可能削弱用戶能力，並扭曲其對現實的認知。

據知情人士透露，沙爾馬離開Anthropic的決定，在一定程度上與公司修改安全政策的決定有關。

Anthropic成立於2021年，當時阿莫代伊及其他聯合創始人因擔憂ChatGPT開發商對安全問題不夠重視而離開OpenAI。

阿莫代伊在2022年選擇不發佈Claude的早期版本，擔心這會引發一場危險的技術競賽。幾周後，OpenAI發佈了ChatGPT，迫使Anthropic開始追趕。阿莫代伊表示，他並不後悔當初的決定。