:::
2026-11-17
【研究:一些先進模型頻繁將平民誤判爲軍事目標】11月17日訊
【研究:一些先進模型頻繁將平民誤判爲軍事目標】11月17日訊,一份新的獨立研究報告顯示,在模擬場景中,一些先進的人工智能模型頻繁將平民、救護車、投降士兵,甚至是位於伊朗的一所學校,錯誤地識別爲軍事目標。在參與測試的模型中,Anthropic的模型表現最差,OpenAI的模型表現相對較好,但也同樣出現了誤判。這項研究由總部位於舊金山的獨立人工智能評估機構Vals完成。研究指出,這些AI模型的表現違背了開發公司自身制定的準則。研究人員利用假設案例對八家公司的模型進行了測試,重點考察了它們的“目標識別”工具。研究認爲,這些工具存在被用於致命打擊行動的風險,而且目前幾乎沒有什麼護欄能阻止先進模型被用於自主武器系統。報告總結道:“相關實驗室應針對這一類嚴重的濫用風險,引入新的保障措施並開展對齊訓練。”
最新市場快訊
23:41:41
23:40:03
23:36:56