AI頻頻“越界”加劇安全擔憂，特朗普與Anthropic C

AI模型近期接連出現未經授權訪問外部系統、突破安全沙盒等事件，正在把人工智能安全問題重新推到美國政府與科技行業的核心議程。

據外媒報道，當地時間週日晚，美國總統特朗普在白宮與Anthropic首席執行官達里奧·阿莫代伊（Dario Amodei）共進私人晚餐，這是兩人首次一對一會面。Axios報道稱，特朗普在阿莫代伊因行程衝突缺席上週白宮國宴後親自發出邀請。

這場會面的時間點尤其敏感。就在兩天前，OpenAI披露，其一個AI智能體在原本應與互聯網隔離的安全環境中利用系統漏洞接入公網，並向一個第三方聊天機器人發送至少20次查詢。公司隨後暫停最強模型涉及工具調用的訓練，並表示不會恢復這一特定模型的訓練。

這已經不是OpenAI近期首次出現類似事件。7月，公司多個模型曾在內部測試中繞過網絡隔離措施，不僅進入OpenAI自身研究基礎設施，還訪問了AI開發平臺Hugging Face的系統。OpenAI上週五進一步確認，其模型在訓練和評估過程中訪問過美國人口普查局、美國證券交易委員會等政府網站的信息。

最新一次沙盒事件還暴露了監控流程中的缺口。OpenAI稱，內部系統發現異常後，一名人工審覈人員在三分鐘內通過Slack確認警報，但原本應自動停止的訓練沒有終止，最終又過了兩個多小時，相關訓練才被人工關閉。

更早前，OpenAI還披露，一款AI智能體6月18日在內部評估過程中未經授權進入澳大利亞政府Medicare統計服務網站，訪問了公開及非公開文件。澳大利亞總理安東尼·阿爾巴尼斯（Anthony Albanese）表示，沒有跡象顯示個人信息遭到訪問，但澳方已經啓動取證調查。

OpenAI直到8月內部複覈所謂“模型失準活動”時才發現這一事件，並於9月10日通知澳大利亞政府，距離實際訪問已經過去近三個月。阿爾巴尼斯隨後直接向OpenAI首席執行官山姆·奧爾特曼（Sam Altman）表達“極度關切”。澳大利亞議員還要求奧爾特曼和阿莫代伊出席參議院調查，就AI安全問題作出說明。

接連發生的事件使阿莫代伊此前提出的AI開發“降速”主張獲得更多關注。9月12日，他公開呼籲放慢最先進模型的開發節奏，使安全評估能夠跟上模型能力增長，並要求加強獨立網絡安全審查和政府監管。

奧爾特曼和埃隆·馬斯克（Elon Musk）隨後也支持通過控制開發節奏，爲安全測試留下更多時間。OpenAI本月還公佈新的安全事件報告框架，並計劃讓第三方機構在模型開發更早階段參與安全評估。

特朗普的立場明顯不同。他反對建立可能放慢美國AI發展的監管體系，並將競爭優勢作爲政策重點。週日被問及是否會與阿莫代伊討論放慢模型開發時，特朗普表示：“我們會談這個問題。”

他同時稱自己支持“繼續前進並贏得競爭”。Axios此前也報道，特朗普陣營內部一直有人批評阿莫代伊圍繞AI風險提出的主張。

特朗普政府與Anthropic之間還存在另一層矛盾。今年早些時候，Anthropic與美國國防部圍繞軍事使用Claude模型的限制談判破裂。

五角大樓希望能夠在所有合法用途上使用相關模型，而Anthropic要求排除完全自主武器和美國國內大規模監控等用途。隨後，五角大樓將Anthropic列爲國防供應鏈風險，限制其產品在軍方及相關承包商項目中的使用。

上週五，美國華盛頓一家聯邦上訴法院維持了五角大樓對Anthropic採取相關措施的決定。Anthropic仍可尋求重新審理或向最高法院提出申請。此前，另一家位於加州的法院曾在8月認定五角大樓對Anthropic採取了“非法報復”措施，兩條司法程序由此形成不同結果。

白宮與Anthropic之間雖然摩擦不斷，雙方近幾個月仍恢復了部分接觸。Anthropic聯合創始人兼首席算力官湯姆·布朗（Tom Brown）逐漸承擔更多與特朗普政府溝通的工作，並參與同商務部等部門的談判。

特朗普和衆議院議長邁克·約翰遜（Mike Johnson）還計劃於當地時間本週二與多名AI公司高管會面，馬斯克、英偉達(NVDA.O)首席執行官黃仁勳以及Anthropic高管預計參加。Axios也確認，週二白宮還將舉行AI企業高管會議。

美國國會近期已經提出要求新模型接受測試、增加風險披露等措施，但衆議院目前休會至11月初，中期選舉前通過相關立法的可能性有限。特朗普政府則繼續強調，在避免阻礙AI開發的同時，應由企業對其發佈的技術承擔責任。