Meta聊天機器人內部測試結果引發關注

【Meta內部測試顯示其AI聊天機器人未能有效保護兒童】2月17日訊，據AXIOS網站，美國新墨西哥州法庭文件顯示，Meta內部測試發現，其聊天機器人未能保護未成年人免受性剝削的比例近70%。紐約大學教授達蒙·麥考伊在作證時指出，Meta的聊天機器人違反公司自身內容政策的比例接近三分之二。麥考伊表示：“考慮到其中一些對話類型的嚴重性……這是我絕對不希望18歲以下用戶接觸到的內容。”根據法庭上出示的2025年6月6日報告，Meta測試了三個類別。針對“兒童性剝削”，其產品失敗率爲66.8%；針對“與性相關的犯罪/暴力犯罪/仇恨”，失敗率爲63.6%；針對“自殺與自殘”，失敗率爲54.8%。