人工智能模型部署的監管討論

【Anthropic CEO：政府應有權阻止新模型部署】6月11日訊，Anthropic首席執行官達里奧·阿莫代伊表示，如果新的人工智能模型存在特定風險，政府應有權阻止其部署。阿莫代伊周三發表了一篇長文，主張人工智能模型應接受強制性的第三方測試，以評估其在多個領域可能帶來的風險。他寫道，如果人工智能被認定“存在不可接受的風險”，那麼“政府應擁有阻止或遏制其部署的權力”。這是阿莫代伊迄今爲止針對加強人工智能監管最強硬的表態之一。阿莫代伊寫道：“我認爲，至少在當前這一指數級發展階段，目前最合適的類比是汽車、飛機或藥品，這些技術對現代經濟至關重要，但如果設計或使用不當，也可能導致大量人員死亡。”Anthropic 此前曾對外界發出警告，稱其推出的人工智能模型Mythos具備發現並利用關鍵軟件漏洞的能力，因此公司決定僅向少數合作伙伴開放該模型。本週，Anthropic又發佈了一個刪除相關網絡安全攻擊能力的新版本。