新興人工智能模型的安全性考量與發佈策略

【OpenAI擬分階段推出新模型 以防範網絡安全風險】4月9日訊，一位知情人士表示，OpenAI正在完善一個具有先進網絡安全能力的模型，並計劃僅向少數公司發佈，類似於Anthropic對Mythos的有限發佈。人工智能能力已經達到了一個臨界點，至少在自主性和黑客能力方面是如此。模型製造商現在非常擔心自己的工具可能造成的破壞，以至於不願將其公開發布。Anthropic週二稱，由於擔心其先進的黑客能力，計劃將其新的Mythos預覽版模型僅限於向一組經過挑選的科技和網絡安全公司開放使用。它是第一家對新模型採取這種做法的AI公司。知情人士透露，現在OpenAI也計劃採取類似的做法。