人工智能數據安全挑戰與風險分析

【國安部發布安全提示文章 警惕人工智能“數據投毒”】8月5日訊，國家安全部今天（5日）發佈安全提示文章稱，人工智能的訓練數據存在良莠不齊的問題，其中不乏虛假信息、虛構內容和偏見性觀點，造成數據源污染，給人工智能安全帶來新的挑戰。通過篡改、虛構和重複等“數據投毒”行爲產生的污染數據，將干擾模型在訓練階段的參數調整，削弱模型性能、降低其準確性，甚至誘發有害輸出。研究顯示，當訓練數據集中僅有0.01%的虛假文本時，模型輸出的有害內容會增加11.2%；即使是0.001%的虛假文本，其有害輸出也會相應上升7.2%。