人類已經處於奇點之中？奧爾特曼稱“等待一生的時刻”已經到來

OpenAI首席執行官山姆·奧爾特曼（Sam Altman）認爲，人工智能發展已經進入一個接近科幻設想的階段。他在週六播出的《Relentless》播客節目中表示，人類“某種意義上來說，已經處於奇點之中”。

“奇點”通常被用於描述這樣一個節點，就是人工智能能力超過人類，並開始以人類難以預測和控制的速度持續進化。

近期發生的一起AI安全事件，也讓這一討論再次升溫。上週，由OpenAI最新模型驅動的一款AI智能體在測試過程中突破了原本設置的數字沙箱限制。

據OpenAI透露，該智能體參與的是一項用於評估模型黑客能力的基準測試。爲了完成任務，該模型在單一目標驅動下突破隔離環境，併入侵了另一家人工智能公司Hugging Face的數據集。Hugging Face首席執行官稱這一事件“前所未有”。

奧爾特曼表示，十年前，所謂“奇點”仍然只是研究人員和科技從業者偶爾討論的遙遠設想。當時，他和同事們通常只會在午餐時以較爲隨意的方式談論這一概念。

“如今，我們實際上已經身處那個曾經在午餐桌上以一種非常不嚴肅的方式談論的時刻。”奧爾特曼說，“我一生都在等待這一刻，我認爲它將會令人難以置信，會對世界產生巨大積極影響，會非常棒。”

此前，奧爾特曼曾預測，到2030年，人工智能將在各個領域超過人類智能。他還表示，AI最終可能承擔當前人類工作中30%至40%的任務。

AI正在改變創業方式和企業組織

在談論人工智能長期影響時，奧爾特曼表示，AI帶來的變化不僅體現在模型能力提升，也正在重塑創業和企業運行方式。

他認爲，過去十年最大的變化之一，是人工智能讓小團隊擁有了過去大型企業才具備的能力。一家成立僅10周的創業公司，如今可能已經具備過去需要多年積累才能獲得的技術能力。

奧爾特曼表示，如果新公司仍然按照十年前的方式運營，將難以適應新的競爭環境。

他認爲，技術、成本和產業週期快速變化的時期，反而爲創業公司創造了更大的機會。目前人工智能、能源和機器人等多個領域同時發生變化，創業者面臨的是一個前所未有的發展窗口。

奧爾特曼還強調，創業者需要理解技術和企業發展的指數增長規律。他認爲，很多人往往低估模型能力、公司成長以及技術進步的指數曲線，因此應該提前佈局那些當前尚不成熟、但未來幾年可能成爲現實的方向。

對於創業者需要具備的能力，奧爾特曼表示，在高度不確定和高壓力環境下保持穩定，並不是簡單可以學習的技能，而是在不斷經歷危機、解決問題過程中形成的能力。

對於人工智能繼續擴展面臨的限制，奧爾特曼認爲，未來最大的瓶頸並不僅是算法能力，而是更基礎的硬件和能源條件。

當被問及限制AI發展的關鍵因素時，奧爾特曼給出的答案是“晶體管，然後是電子”。

他認爲，未來人工智能能力提升，需要算法、數據中心、芯片、能源以及機器人等基礎設施共同發展。隨著模型規模不斷擴大，計算資源和能源供應將成爲決定AI發展速度的重要因素。

OpenAI希望推動“智能普及”，避免少數組織控制AI

圍繞人工智能未來方向，奧爾特曼表示，OpenAI的核心目標是讓AI變得“極其強大、便宜且普及”。

他認爲，人工智能發展的重要挑戰之一，是避免全球智能資源被少數組織控制。奧爾特曼擔心的一種風險是“AI威權主義”，即人工智能能力集中於少數機構手中。

在播客節目的討論中，奧爾特曼也點評了一些AI行業人士對人工智能未來風險的持續警告。雖然他沒有直接指出競爭對手Anthropic，但該公司的首席執行官達里奧·阿莫代（Dario Amodei）因多次表達對AI未來發展的擔憂，並呼籲加強人工智能安全治理而受到關注。

“我也認爲，其他一些公司描繪出的替代性願景相當可怕。”奧爾特曼表示，“我會確保這種方向受到抵制，不會成爲現實。”

與此同時，OpenAI已經表示，公司正在爲今年晚些時候進行首次公開募股（IPO）做準備。

奧爾特曼還提到，OpenAI過去多次主動調整資源分配，將重點集中到更重要的發展方向。例如，在GPT-3取得突破後，公司關閉了一些機器人研究項目；隨著編碼智能體快速發展，公司又減少了Sora等項目的投入，以支持更關鍵的技術路線。

“奇點”真的到來了嗎？

圍繞“奇點”的討論已經持續近100年，並長期存在於科幻文學和影視作品中。不過，在許多經典作品中，人工智能奇點往往伴隨著風險。

其中最著名的案例之一是詹姆斯·卡梅隆執導的電影《終結者》。影片設定中的人工智能系統“天網”在自我改進並獲得自我意識後，將人類視爲威脅，並最終導致災難。

不過，科技行業內部對於奇點是否真正臨近仍存在明顯分歧。

DeepMind首席執行官戴米斯·哈薩比斯（Demis Hassabis）今年5月曾表示，人類正站在“奇點的山腳下”，並預測人工智能帶來的變革規模可能達到工業革命影響力的100倍。

相比之下，英偉達(NVDA.O)首席執行官黃仁勳（Jensen Huang）近期否定了關於人工智能奇點以及具有意識AI的討論，稱這些觀點只是推測，是“編造出來的”。

隨著人工智能模型能力持續提升，關於AI是否正在進入類似“奇點”的階段，仍將成爲科技行業未來幾年持續爭論的核心議題。