:::
2026-11-17
【OpenAI引入四家機構開展AI安全評估】11月17日訊,
【OpenAI引入四家機構開展AI安全評估】11月17日訊,OpenAI宣佈與Apollo Research、Goodfire、METR和Transluce四家獨立機構合作,啓動首階段嵌入式安全評估,允許外部專家訪問內部模型、源代碼、訓練數據及監控系統,審查模型對齊和安全防護措施。其中,Apollo Research重點評估模型是否會暗中違背開發者意圖;Goodfire研究模型內部機制及訓練監控;METR審查大規模強化學習訓練中的模型失調行爲;Transluce評估後訓練階段的安全測試質量。評估人員將在必要時進入OpenAI辦公場所,通過專用設備訪問敏感資料。OpenAI基金會董事會下屬獨立監督委員會將全程監督並接收完整報告。評估機構保留獨立發佈結果的權利,但OpenAI可要求刪除機密信息或延遲披露安全風險。OpenAI還計劃於2027年進一步擴大評估範圍。
最新市場快訊
00:47:31
00:41:30
00:41:23
00:40:32
00:39:18