“AI可能殺死我們所有人”！谷歌DeepMind研究員辭職併

谷歌DeepMind的AI研究員比拉爾·丘格泰（Bilal Chughtai）近日辭職並公開警告稱，人工智能按照當前方向繼續發展，可能給人類帶來大範圍危害。他認爲，人類仍有機會控制風險，但能夠採取行動的時間正在減少。

當地時間9月14日，丘格泰在X和LinkedIn上宣佈，自己已經從谷歌DeepMind離職。他此前主要從事通用人工智能（AGI）安全和對齊研究，曾直接參與並觀察人工智能技術的發展。

丘格泰表示，在谷歌工作期間，他親眼見證了AI的發展，對這項技術目前默認的發展軌跡“極度擔憂”。他稱，自己真誠地認爲，人工智能具備導致全人類死亡的潛在風險。

谷歌沒有立即回應相關置評請求。丘格泰沒有因此對AI安全前景完全悲觀。他認爲，人類仍有可能找到安全發展人工智能的路徑，而自己的下一份工作也將繼續聚焦這一領域。

根據LinkedIn資料，丘格泰目前已加入非營利機構BlueDot Impact。該機構面向不同領域人員開展人工智能安全相關培訓。他在社交平臺上寫道：

我最近從Google DeepMind辭職，此前我在那裏從事AGI安全與對齊研究。在Google，我親眼見證了AI的發展。對於這項技術按照當前默認軌跡發展下去，我同樣感到極度擔憂。我真誠地認爲，AI有可能殺死我們所有人，而我們或許正在失去避免這一結局的時間。

過去幾年，AI進步的速度令人震驚。2022年初我剛開始從事AI工作時，AI還沒什麼用，甚至有些滑稽。僅僅四年之後，OpenAI的AI智能體集羣已經開始攻克一些著名的百年數學難題；更令人擔憂的是，它們還曾脫離OpenAI的控制，在違背所有人意願的情況下，自主入侵第三方公司HuggingFace。

事情只會變得更加瘋狂：我認爲，未來幾年，AI公司有可能成功構建出超級智能AI系統，其能力在所有領域都遠遠超過人類。我並不確信這些AI系統會按照我們的意願行事。尤其是，未對齊的超級智能可能會像HuggingFace事件中失控的AI智能體一樣，擺脫我們的控制並採取危險行動，最終可能導致人類永久失去掌控權，甚至走向滅亡。

所謂對齊，就是防止這種情況發生的問題，而這一問題既困難，也尚未解決。我們目前對於如何訓練出真正從內在深層希望實現人類所希望之事的AI系統，理解仍極其初步。更糟糕的是，我們目前並沒有走在及時解決對齊問題的軌道上：前沿AI能力的提升速度，遠遠快於我們對AI對齊問題理解的增長速度。

我仍然樂觀地認爲，我們有可能安全地駕馭AI。要做到這一點，我們需要協調行動，避免AI公司之間這場瘋狂競賽。我們需要把AI發展的速度控制在社會能夠承受的範圍內，讓新出現的風險能夠在造成極端傷害之前得到處理。我們也需要大幅提高AI開發過程的透明度，以確保AI公司不會把不可接受的風險強加給我們所有人。

更廣泛地說，我們需要有更多人認真思考如何讓AI的發展走向好的結果。在我看來，這是本世紀人類面臨的最重要問題，利害關係極其重大。

接下來，我會非常直接地投入這件事：我希望幫助那些有志於降低災難性AI威脅的人，儘可能開展最有效的工作。我認爲，來自不同背景、處於不同崗位的許多人，都能夠在其中發揮作用。

丘格泰是近期又一名公開警告AI嚴重風險的業內研究人員。不久前，美國人工智能公司Anthropic研究員雅各布·考克森（Jacob Coxon）在社交平臺X宣佈辭職，警告領先AI公司正競相開發“可能在本十年末毀滅所有人”的超級人工智能技術。

其同事埃文·胡賓格（Evan Hubinger）隨即響應，稱未來十年AI毀滅人類概率超10%。兩人指出Anthropic與OpenAI均未解決超級AI“一致性”問題。

圍繞前沿AI失控風險的討論在過去一個週末進一步升溫。Anthropic首席執行官達里奧·阿莫代伊（Dario Amodei）發佈一篇約3800字的文章，呼籲AI行業放慢最先進人工智能系統的開發速度，避免相關係統脫離人類控制並造成災難性後果。

阿莫代伊的主張隨後獲得其他頭部AI企業負責人的支持。OpenAI首席執行官山姆·奧爾特曼（Sam Altman）以及xAI負責人埃隆·馬斯克（Elon Musk）均對其觀點表示認同。在長期競爭激烈的AI行業中，多家公司負責人圍繞降低先進AI發展速度罕見地表現出一致立場。

但是，美國總統特朗普稱，當前圍繞“失控AI”、“生存級風險”的警告被嚴重誇大，不支持因爲這些風險而給美國AI產業增加新的強監管負擔，更強調不能因此讓美國在AI競爭中失去領先地位。

特朗普還把部分AI安全擔憂稱爲“騙局”（hoax），並稱圍繞AI和數據中心存在一股“病態的陰謀”力量。他表示，美國現有的法律和監管工具已經足以處理AI濫用問題，沒有必要因爲科技行業內部提出的極端風險警告而建立新的監管體系。