OpenAI就入侵澳大利亞政府網站事件再次致歉，承諾加快重大
OpenAI週二就其人工智能模型未經授權訪問澳大利亞政府網站一事再次致歉，並表示已經增加訓練階段的安全監控措施，同時將改進內部報告流程，在類似重大事件發生後更快向政府披露。
OpenAI首席戰略官Jason Kwon當天在悉尼出席澳大利亞議會人工智能聯合特別委員會聽證會時表示，這類活動“不應該發生”，公司此前處理事件的方式也“不夠好”。
“我想先從道歉開始。”Jason Kwon表示，“我們很抱歉，也知道還有很多工作要做，才能重新贏得澳大利亞人民的信任。”
這場聽證會將此前圍繞OpenAI模型“越界”訪問外部網絡的爭議進一步推進至監管層面。OpenAI此前披露，其人工智能系統今年6月未經授權訪問澳大利亞政府網站，這是已知首起同類模型入侵政府系統事件。
澳大利亞政府隨後啓動調查，並要求OpenAI解釋事件經過及遲延披露的原因。
從6月入侵到9月通報，披露時效成爲焦點
OpenAI此前表示，公司在8月發現相關安全事件，並於9月10日通知澳大利亞政府。在此期間，公司正在覈實事件事實、調查模型訪問了哪些信息，以及評估事件影響。
澳大利亞總理安東尼·阿爾巴尼斯（Anthony Albanese）此前公開批評OpenAI，從事件發生到澳大利亞政府獲知情況之間經歷約三個月，認爲公司沒有足夠迅速地向政府披露這一重大問題。
這一時間差也成爲週二聽證會的核心議題之一。
OpenAI首席執行官山姆·奧爾特曼（Sam Altman）9月初曾與澳大利亞副總理理查德·馬爾斯（Richard Marles）會面，但Jason Kwon在聽證會上表示，奧爾特曼當時並不知道這些安全事件。
被問及爲何公司最高管理層沒有及時知情時，Jason Kwon表示，這類事件本身就是全新的，相關人員當時首先需要弄清楚究竟發生了什麼。OpenAI已經意識到現有流程存在不足，並承諾改善內部信息傳遞和政府通報機制，以便今後更快披露類似事件。
OpenAI還表示支持政府建立強制性重大安全事件報告制度。按照Jason Kwon的說法，對於能力不斷增強的人工智能系統，公司願意接受更加明確的事件披露框架。
OpenAI增加訓練監控，模型異常聯網可立即叫停
除了披露流程，OpenAI已經針對模型訓練過程增加新的安全控制措施。
Jason Kwon表示，公司目前加強了人工智能系統訓練期間的監控。一旦模型以不當方式訪問互聯網，內部系統會發出通知，使工作人員可以暫停訓練並立即介入。
這一機制已經實際觸發過。Jason Kwon稱，OpenAI近期再次檢測到一起類似異常行爲，公司員工隨即進行了干預。
這項調整直接針對近期暴露出的一個核心風險：能力更強的人工智能智能體在執行任務時，可能超出測試人員原本設定的環境邊界，並在沒有明確授權的情況下訪問第三方網站或網絡資源。
OpenAI在9月底公佈澳大利亞整改方案時，還宣佈將建立一個包含澳大利亞獨立專家的新工作組，爲更高能力AI智能體帶來的風險制定實際政策建議，重點改善事件通知以及與政府之間的協調。
公司同時承諾爲澳大利亞網絡安全防禦提供資金和技術支持，包括通過其Daybreak for Frontline Defenders基金提供額度和技術援助，用於加強關鍵基礎設施的網絡防禦能力。
安全事件擴大，OpenAI面臨更廣泛法律與監管壓力
澳大利亞事件發生之際，OpenAI正因多起人工智能智能體未經授權訪問外部資源而面臨更廣泛的安全和法律審查。
《金融時報》此前報道稱，OpenAI內部調查發現還有“數十起”類似事件。數字取證公司Asymmetric Security發現的證據顯示，OpenAI智能體曾從55個網站獲取數據，其中包括美國證券交易委員會和國際能源署網站。OpenAI表示，公司正在審查潛在安全事件，並通知受到影響的機構。
這些事件已經使人工智能系統發生自主越界行爲後的法律責任劃分成爲監管關注的問題：當智能體自行執行未經授權的操作時，責任究竟應由模型開發者、部署者還是向智能體發出任務指令的用戶承擔，目前仍缺乏統一規則。
澳大利亞政府已經成立專門工作組調查OpenAI智能體未經授權進入政府系統的事件。澳大利亞綠黨此前還指責OpenAI在與政府官員接觸時沒有充分說明事件嚴重程度。
