關於前沿人工智能研發的全球討論與建議

【Anthropic呼籲全球暫緩前沿AI研發】6月5日訊，Anthropic公司呼籲各大頂尖人工智能實驗室考慮放緩研發步伐，並指出AI系統的演進速度極快，可能很快就能在無需人類干預的情況下實現自我改進，而這種能力恐將引發重大的社會風險。Anthropic週四在一篇博客文章中披露了內部數據，詳實記錄了其最先進的模型正以何等驚人的速度實現性能提升。文章指出，AI模型的進步似乎正朝著“遞歸式自我改進”的方向邁進，即AI系統能夠在無需人類干預的情況下實現自主優化。文章稱：“我們認爲，如果世界可以選擇放緩或暫時中止前沿人工智能的研發，以使社會結構和相關研究能夠跟上技術發展的步伐，這對世界是有益的。”文章提議達成一項全球協議，明確如何可能放緩人工智能的研發速度，並建立一種機制來驗證競爭對手是否遵守該協議。