英偉達劃出AI安全紅線：客戶若開發不安全軟件，黃仁勳稱可停止

英偉達(NVDA.O)首席執行官黃仁勳本週在倫敦接受彭博社採訪時表示，若客戶開發不安全的人工智能軟件，他會停止供應芯片，但在採取行動前會先與對方溝通。他明確將這一回答限定爲假設情形。

週三，英偉達承諾在五年內向英國提供價值2.5億美元的計算資源，用於人工智能安全研究。支持形式是先進計算機的使用資源，按年計價值5000萬美元，重點包括智能體安全測試。

停供之前，先與客戶溝通

黃仁勳面對的問題是，是否會停止向不負責任的開發者供貨。他給出肯定回答，也說明英偉達不會經營別人的公司，對客戶如何使用其技術所作的判斷存在限度，因爲英偉達提供的是通用技術。

黃仁勳認爲，一些年輕企業增長極快，正在逐漸承擔企業發展所帶來的責任。他仍相信人工智能軟件能夠受到控制並得到安全部署，也認爲當前部分擔憂是行業自身造成的，企業對技術益處的解釋做得不夠好。

安全投入關係到芯片需求

Anthropic和OpenAI披露過智能體異常或不符合預期的行爲。Anthropic首席執行官達里奧·阿莫代伊（Dario Amodei）等高管曾提出放慢行業發展，以處理安全擔憂。

黃仁勳主張加快把約束技術整合進人工智能系統，並加快監測技術的開發。在他的判斷中，人工智能本身可以充當監測工具，幫助防護和約束這項技術，因此安全措施的推進也需要人工智能繼續發展。

《巴倫週刊》將監管列爲英偉達面臨的最大風險，認爲限制新模型訓練或增加開發成本，可能抑制人工智能處理器採購，也可能削弱較小開發者追趕領先企業的動力。該刊認爲，投資人工智能安全有利於英偉達。

五年算力承諾投向哪些研究

英國正在爭取人工智能評估與風險管理方面的領先地位。路透社介紹，英國人工智能安全研究所是較早成立的、由政府支持的技術評估機構之一；英偉達此次承諾提供的計算資源，將幫助英國研究人員加強針對能力不斷增強的人工智能的防護措施。

黃仁勳在宣佈支持計劃時表示，人工智能能力與安全必須共同推進。英國人工智能部長卡尼什卡·納拉揚（Kanishka Narayan）表示，這項支持有助於確保未來的人工智能安全、可靠，並服務於人們的利益。

獲得支持的研究方向包括牛津大學牽頭的BOLD項目，其工作涉及讓人工智能系統學習、適應並與人協作的方法。計劃還將連接帝國理工學院的機器人安全研究，以及倫敦大學學院的相關項目。