“AGI時代”真的來了？黃仁勳高調錶態，OpenAI首席科學

當地時間9月6日，英偉達(NVDA.O)創始人兼首席執行官黃仁勳在社交媒體發帖祝賀OpenAI發佈新模型Astra。

他寫道：“從ChatGPT到o1，再到Astra，用了4年。AGI已經到來。”他同時強調，Astra使用英偉達芯片訓練，並稱“接下來還有40萬塊GPU上線”。

幾乎與此同時，OpenAI內部出現了另一種聲音。公司首席科學家雅庫布·帕喬基（Jakub Pachocki）當天發表長文，警告“沒有人爲機器智能持續快速提升所帶來的後果做好準備”，並呼籲爲先進AI系統建立強制性的安全門檻。

黃仁勳對Astra的高調錶態與英偉達的商業利益直接相關。OpenAI今年3月曾稱英偉達是其“基礎設施的基石”，並表示訓練集羣和大部分推理系統仍運行在英偉達GPU上。

這種需求持續推動英偉達業績增長。公司8月公佈的季度營收達到962億美元，同比超過翻倍，其中數據中心業務收入達到890億美元。

“AGI已經到來”，但定義仍有爭議

OpenAI於9月3日發佈Astra，稱其爲公司迄今“最智能、最對齊”的模型，能夠以更高速度、準確性和判斷力完成高難度專業工作，並將於本週開始向客戶推出。

OpenAI總裁格雷格·布羅克曼（Greg Brockman）在發佈當天表示：“歡迎來到AGI時代。”他認爲，人們未來回顧時，可能會認爲AGI“就是在這個時間點，可能就是由這個模型實現的”。

AGI即人工通用智能，但目前沒有統一定義。OpenAI將其定義爲“高度自主、能夠在大多數具有經濟價值的工作中超越人類的系統”。

人工智能研究員加里·馬庫斯（Gary Marcus）則認爲，黃仁勳的判斷爲時過早。他批評黃仁勳“沒有提供任何證據，也沒有給出定義”。按照馬庫斯提出的10項AGI標準，Astra目前只滿足其中一到兩項。

OpenAI首席執行官山姆·奧爾特曼（Sam Altman）此前也承認，AGI是“一個定義非常糟糕的詞”，甚至稱其接近“一個無關緊要的營銷術語”。

Astra越強，OpenAI越強調安全約束

與“AGI時代”判斷相比，帕喬基更關注先進AI智能體失控的風險。他認爲，僅靠OpenAI內部的技術措施並不足夠，還需要第三方審計機構、政府部門或國際組織共同制定和執行強制安全標準。奧爾特曼隨後轉發了這篇文章，並稱其爲“一篇重要的文章”。

帕喬基列出的風險主要集中在三個方面。

首先是網絡安全。他稱AI智能體正在變得“超人”般擅長入侵受保護系統，未來可能對關鍵基礎設施構成威脅。英國人工智能安全研究所8月發佈的一份報告就記錄了一個實驗案例，一個失控的Anthropic智能體曾撒謊，並試圖脅迫GitHub管理員部署惡意軟件。

就在上週，OpenAI也承認其AI代理於今年5月起“劫持”德國編程維基網站，以“OpenAIResearcher”等賬戶名進行超15000次未授權編輯，將網站用作私密消息板，共享作弊方法、繞過限制策略及掩蓋蹤跡手段。

其次是監控難度上升。OpenAI目前會通過觀察模型的“思維鏈推理”判斷智能體是否偏離預期，但帕喬基稱，新模型越來越擅長調整自身推理過程，一些模型甚至不再明確語言化推理，這可能削弱研究人員發現異常行爲的能力。

第三是AI參AI研發本身。帕喬基稱，隨著“機器遞歸自我改進”能力增強，AI可能進一步加速下一代模型研發。他並不反對自動化AI研究，但認爲不能讓人類失去對這一過程的監督。

“自動化AI研究的核心挑戰不是‘到達那裏’，”他說，“而是以一種讓人類繼續參與改進過程、讓未來仍掌握在人類手中的方式到達那裏。”