人工智能訓練數據管理的規範與要求

【網信辦：提供者開展預訓練、優化訓練等數據處理活動時，應當加強訓練數據管理】12月27日訊，國家互聯網信息辦公室就《人工智能擬人化互動服務管理暫行辦法（徵求意見稿）》公開徵求意見，其中提到，提供者開展預訓練、優化訓練等數據處理活動時，應當加強訓練數據管理，遵守以下規定：（一）使用符合社會主義核心價值觀、體現中華優秀傳統文化的數據集；（二）對訓練數據開展清洗、標註，增強訓練數據的透明度、可靠性，防範數據投毒、數據篡改等行爲；（三）提高訓練數據的多樣性，通過負向採樣、對抗訓練等手段，提升模型生成內容安全性；（四）利用合成數據進行模型訓練和關鍵能力優化時，應當評估合成數據安全性；（五）加強對訓練數據的日常檢查，定期對數據進行迭代升級，持續優化產品和服務的性能；（六）保障訓練數據來源合法、可追溯，採取必要措施保障數據安全，防範數據泄露風險。