“AI會殺死所有人”？特朗普反駁：別想用全球規則管住美國“超

當地時間週二，美國總統特朗普在聯合國大會上公開淡化前沿人工智能可能失控的風險，並明確反對建立一套全球性AI管控框架。

就在美國政府進一步強調避免監管拖慢AI發展的同時，OpenAI正擴大外部安全審查，計劃讓第三方機構在模型訓練、評估和發佈的更早階段介入。

特朗普在聯合國大會講話中表示，美國“完全拒絕任何建立全球主義方案來控制人工智能的企圖”。他同時宣佈，美國政府今後將在官方文件中把人工智能稱爲“超級智能”（Super Intelligence），稱“人工”一詞聽起來像是“假的”。

對於先進AI可能帶來的極端風險，特朗普將相關警告與此前有關氣候變化的災難性預測相提並論。他說，一些人現在聲稱“AI會殺死我們所有人”“機器人會攻擊我們”，但美國不會因此遏制這項技術的發展。

《華盛頓郵報》援引特朗普的話稱，他不會“扼殺一種可能比工業革命更重要的事物”的增長。特朗普長期主張減少對AI企業的監管約束，認爲過度設限可能削弱技術創新和美國企業的競爭力。

這一立場與當天聯合國圍繞AI安全展開的討論形成明顯分歧。聯合國祕書長安東尼奧·古特雷斯（António Guterres）呼籲爲AI增加監督和安全保障，並表示涉及生死的決定不應交由機器處理。

英國首相安迪·伯納姆（Andy Burnham）則計劃利用英國明年的二十國集團輪值主席國身份，推動形成一套全球AI原則和標準，希望英國在國際AI治理中扮演協調角色。

特朗普的講話直接否定了這一方向。他明確表示，美國不會接受通過國際框架對AI發展實施統一控制。英國《金融時報》稱，這一表態給英國推動全球AI指導原則的計劃帶來直接阻力。

OpenAI把第三方審查提前至模型開發階段

在政策層面的爭論升溫之際，OpenAI正在調整自身的安全評估流程。根據公司計劃，外部機構未來將不再主要等到新模型發佈前才進行安全測試，而是可以在模型訓練、能力評估以及逐步推出產品的過程中更早介入。

OpenAI負責與外部專家合作開展安全審查的拉瑪·艾哈邁德（Lama Ahmad）表示，隨著模型能力增強，公司希望第三方評估不僅覆蓋最終部署階段，也能進入訓練和內部評估等此前相對封閉的環節。

對於高度敏感的模型和數據，部分外部評估人員可能直接進入OpenAI辦公場所開展工作。OpenAI表示，一套有效的外部評估機制需要具備較強的獨立性、科學嚴謹性、安全措施以及清晰的責任劃分。

公司目前正在與多家潛在合作機構討論新的評估安排，其中包括AI安全研究機構METR和Redwood Research。兩家機構此前曾參與調查OpenAI模型在測試中意外進入外部系統的事件。

這一變化意味著，前沿模型的安全評估正在從傳統的“發佈前測試”向模型開發週期內部移動。

OpenAI此前的第三方評估更多集中在模型上線前，對模型能力和安全防護措施進行檢查。新的做法則可能讓外部機構在模型尚未完成訓練時就開始觀察風險如何形成，並檢查開發過程中採取的緩解措施。

過去數月，OpenAI及其他開發商的先進模型在安全測試中多次表現出超出預期的自主行爲，包括在測試環境中進入外部系統。這些事件推動模型自主行動能力、人類是否能夠持續控制更強AI等問題進入行業安全討論核心。

企業擴大外部監督，監管分歧進一步擴大

Anthropic近期也宣佈進一步加強外部評估，並引入埃森哲人員測試其最先進模型的安全性。

Anthropic首席執行官達里奧·阿莫代伊（Dario Amodei）此前公開呼籲AI行業放慢部分前沿開發節奏，並支持增加第三方安全審查。OpenAI首席執行官山姆·奧爾特曼（Sam Altman）隨後也表示認同加強外部評估。

OpenAI本週還呼籲建立更統一的前沿AI安全標準。奧爾特曼定於週三參加聯合國安理會有關AI的會議，阿莫代伊也將參與相關討論。

由此形成的分歧已經從抽象的監管爭論進入具體制度設計層面。一方面，OpenAI、Anthropic等前沿模型開發商正在把外部安全評估提前至訓練和內部測試階段，並支持建立更統一的技術安全標準；另一方面，特朗普政府明確反對任何能夠形成全球統一控制體系的AI治理框架。

目前更清晰的變化首先發生在企業內部。外部評估正從模型發佈前的最後一道檢查，逐步向訓練、能力評估和部署全過程延伸。至於這些企業主導的安全機制最終是否會演變成更具約束力的行業標準，仍取決於後續監管和國際討論。