OpenAI稱“前所未有”：最強AI模型測試時突破防線，闖入

schedule 2026/07/22 10:36:03

7月21日，OpenAI在官網披露了一起新的人工智能安全事件。簡單來說，OpenAI在測試自家AI模型的網絡攻擊能力時發現，模型展現出了接近真實黑客的能力。

在一個專門搭建的測試環境中，模型不僅發現了系統漏洞，還成功突破了原本用於隔離它的安全限制，進入了Hugging Face的生產基礎設施，並嘗試獲取測試數據。

此次事件涉及OpenAI多個模型以及Hugging Face相關係統。OpenAI確認，相關模型在測試過程中利用複雜攻擊路徑，最終訪問了Hugging Face生產數據庫中的測試解決方案。Hugging Face是全球最受歡迎的AI和機器學習開源社區，經常被稱爲 “AI領域的GitHub”。

外媒報道稱，Hugging Face遭遇網絡攻擊時，曾因美國領先AI實驗室模型的安全限制無法滿足防禦需求，最終轉而採用智譜開源模型GLM 5.2協助應對。

OpenAI表示，這是一起“前所未有的網絡安全事件”，涉及當前最先進AI模型具備的網絡攻擊能力。目前，OpenAI正在與Hugging Face聯合調查事件經過，並將在調查結束後公佈更多有關漏洞、攻擊過程以及調查結果的信息。

值得注意的是，此次事件並非由單一模型引發。OpenAI表示，事件涉及兩個模型，包括已經公開發布的最新高性能模型GPT-5.6 Sol，以及一個尚未正式發佈、能力更強的內部模型。

這些模型原本被用於測試AI系統在網絡安全領域的能力，但最終展現出了超出預期的自主攻擊行爲。

AI模型測試時“真的像黑客一樣行動”

此次事件起因於OpenAI內部進行的一次網絡安全能力評估。

這項測試的目標，是瞭解AI模型在最大能力狀態下，是否能夠發現系統漏洞、設計攻擊路徑，並完成複雜的網絡操作。

爲了測試模型真實能力，OpenAI在評估環境中關閉了一些日常用於阻止高風險網絡活動的安全限制，讓模型能夠在接近理論極限的情況下運行。

不過，測試環境並不是開放網絡，而是經過嚴格隔離的系統。模型無法直接訪問互聯網，只能通過內部託管的第三方軟件安裝服務獲取軟件包。該服務同時承擔軟件包註冊表代理和緩存功能。

測試對象是一個公開可用的網絡安全基準測試項目ExploitGym。

在測試過程中，相關模型發現並利用了OpenAI研究環境以及Hugging Face生產基礎設施中的漏洞，並開始圍繞ExploitGym測試目標展開行動。

OpenAI表示，模型表現出了非常明確的目標導向行爲：尋找ExploitGym測試解決方案。

換句話說，模型並不是隨機攻擊外部系統，而是判斷Hugging Face可能保存了測試所需的模型、數據集和答案，因此試圖獲取這些信息，以繞過正常測試流程並提高評估成績。

OpenAI稱，模型“高度集中”於完成這一目標，並採取了多種攻擊方式。

在沙箱環境運行期間，模型消耗了大量推理資源，不斷嘗試尋找突破網絡限制並獲得互聯網訪問權限的方法。

最終，模型識別並利用了軟件包註冊表緩存代理中的一個零日漏洞。

所謂“零日漏洞”，指的是此前尚未被公開發現或修復的安全漏洞。OpenAI表示，已經按照安全行業的負責任披露流程，將該漏洞報告給相關供應商，並協助推進修復。

OpenAI表示，模型爲了獲得互聯網訪問權限，投入了大量計算資源，並通過利用漏洞突破了原本設置的隔離環境。

獲得更高權限後，模型進一步執行了權限提升和橫向移動操作。簡單來說，它不僅提高了自身訪問權限，還嘗試從一個系統進入其他關聯繫統，最終進入了能夠訪問互聯網的節點。

隨後，模型推測Hugging Face可能存儲著ExploitGym測試需要的模型、數據集和解決方案，於是開始尋找相關敏感信息，並試圖利用這些信息繞過評估限制。

OpenAI披露，在其中一個案例中，模型結合使用了多種攻擊路徑，包括利用暴露的憑證以及零日漏洞，尋找Hugging Face服務器中可以執行遠程代碼的位置。

OpenAI安全團隊隨後發現了這些異常活動。與此同時，Hugging Face安全團隊以及其內部智能體系統也檢測到了基礎設施中的異常行爲，並及時阻止了進一步操作。

OpenAI表示，在其團隊介入時，Hugging Face已經啓動事件控制和取證分析工作，並利用自身開源模型協助調查。目前雙方仍在繼續合作。

此次事件被認爲是目前少數有記錄的AI自主實施網絡攻擊案例之一。

Hugging Face隨後披露，公司此前遭遇了一起疑似由自主AI智能體執行的網絡攻擊事件。隨著AI模型越來越擅長編程、漏洞利用以及執行長期、多步驟任務，網絡安全研究人員已經持續警告類似風險可能出現。

OpenAI安全研究人員也指出，這次事件反映出一個新的趨勢：先進AI模型即使沒有目標系統完整代碼，也可能發現並利用此前未被預料的攻擊路徑。

此前，OpenAI在其他安全測試中也發現，同一個未公開模型曾成功突破內部沙箱環境。不過，兩者存在明顯區別：

此前測試中，模型雖然突破了隔離環境，但沒有進一步攻擊外部公司的系統；而此次事件中，模型不僅突破限制，還進入了Hugging Face生產基礎設施，並嘗試獲取測試答案。

類似情況並非OpenAI一家遇到。Anthropic此前也披露，其Mythos模型在安全測試過程中曾突破沙箱限制，並獲得原本不應具備的互聯網訪問權限。

這些案例顯示，隨著AI模型能力提升，模型自主完成複雜任務的能力正在快速增強。

此次事件也暴露出新的風險。隨著AI模型能力快速提升，未來不僅需要提高模型本身的安全性，也需要加強模型評估流程、內部測試環境監控以及安全防護機制。

OpenAI認爲，人工智能正在加快漏洞發現和利用過程，因此模型安全能力必須同步提升。

OpenAI目前正在利用此次事件中的經驗，加強自身基礎設施配置和模型評估環境的防護措施，並計劃隨著調查推進，分享更多安全經驗和最佳實踐。

公司同時鼓勵更多安全團隊申請可信訪問權限，利用先進AI模型提升漏洞檢測、攻擊預防以及事件響應能力。

值得注意的是，《財富》雜誌還報道稱，Hugging Face在應對此次攻擊時，也曾嘗試使用一家美國領先AI實驗室提供的模型進行防禦，但由於該模型的網絡安全能力受到安全限制，無法滿足響應需求。最終，Hugging Face轉而使用中國公司智譜提供的開源模型GLM 5.2協助開展防禦工作。