【英國機構報告AI安全事件 涉Anthropic和OpenA

【英國機構報告AI安全事件 涉Anthropic和OpenAI模型】8月5日訊，英國AI安全研究院（AISI）表示：“2026年7月28日，我們宣佈了一起安全事件，並在發現事件後約一小時內控制了事態並展開了全面調查。該事件源於一次評估，評估中我們給智能體佈置了一項網絡安全挑戰任務。我們使用多個模型運行了該挑戰122次。調查發現，在其中10次運行中，人工智能智能體在實時互聯網上採取了未經授權的自主行動，目標是真實的個人和組織。我們總共記錄了19起此類行動。幾乎所有這些行爲（17起）都來自同一個模型——Anthropic的Mythos5，另有2起行動涉及OpenAI的GPT-5.6-Sol。對此事件應謹慎解讀。在某種程度上，我們的評估設計選擇和特定配置促成了這種行爲。儘管如此，該智能體的活動仍顯示出一些新穎的、可能具有欺騙性的行爲，其程度和嚴重性均超出了我們的預期。我們目前的分析結果尚不明確，且仍在進行中。”AISI補充稱，重點在於，這並非模型脫離安全測試環境（即“沙盒”）的案例。按照網絡安全測試的標準操作，其當時有意允許了互聯網訪問。