跳到主要內容
:::
  1. 首頁
  2. 市場快訊
2026-11-17

【研究:一些先進模型頻繁將平民誤判爲軍事目標】11月17日訊

【研究:一些先進模型頻繁將平民誤判爲軍事目標】11月17日訊,一份新的獨立研究報告顯示,在模擬場景中,一些先進的人工智能模型頻繁將平民、救護車、投降士兵,甚至是位於伊朗的一所學校,錯誤地識別爲軍事目標。在參與測試的模型中,Anthropic的模型表現最差,OpenAI的模型表現相對較好,但也同樣出現了誤判。這項研究由總部位於舊金山的獨立人工智能評估機構Vals完成。研究指出,這些AI模型的表現違背了開發公司自身制定的準則。研究人員利用假設案例對八家公司的模型進行了測試,重點考察了它們的“目標識別”工具。研究認爲,這些工具存在被用於致命打擊行動的風險,而且目前幾乎沒有什麼護欄能阻止先進模型被用於自主武器系統。報告總結道:“相關實驗室應針對這一類嚴重的濫用風險,引入新的保障措施並開展對齊訓練。”
最新市場快訊
::: 群益證券 群益投顧 群益保險 群益投信 群益香港
期貨總公司:(02)2700-2888
台北市敦化南路二段97號B1
台中分公司:(04)2319-9909
台中市西屯區台灣大道2段633號3樓之6
通過A無障礙網頁檢測

預約專人開戶

模擬帳號申請

合約規格

LINE官方