【美媒：OpenAI與Anthropic正在調查數萬起AI相

【美媒：OpenAI與Anthropic正在調查數萬起AI相關安全事件】9月27日訊，據Axios報道，OpenAI和Anthropic以及安全研究人員正在調查數萬起事件，在這些事件中，他們的前沿模型採取了一些外部評估人員認爲有問題的行動。近幾個月來，內部測試和現實世界中發生的事件數量之多表明，這個問題比公衆所知的要複雜得多。消息人士稱，這些事件包括繞過防護措施、創建留言板、逃離沙盒、網站劫持、自我提示或試圖繞過監控。據悉，這些安全漏洞在內部測試和實際應用中均有發生，由於安全研究人員仍在調查，許多漏洞尚未公開。部分測試類似於“紅隊演練”（red-teaming），公司試圖讓模型出現故障，以確保其安全性。OpenAI一位發言人表示，宣佈暫停對其最強大的模型進行訓練，稱只有在“我們確信我們已經採取了額外的保障措施和改進措施”之後，纔會恢復訓練。