AI大模型應用中的風險挑戰探討

【農業銀行董事長谷澍：大模型當前面臨三大類風險】6月18日訊，6月18日，在2026陸家嘴論壇“全體大會六：科技創新賦能金融高質量發展”上，中國農業銀行董事長、執行董事谷澍表示，在應用大模型過程中，AI大模型當前面臨的主要風險包括模型黑箱、模型幻覺、模型自主思考和決策帶來的不確定性。在他看來，這種不確定性風險可進一步細分爲三大類：一是參數海量帶來模型可解釋性的難題。現在主流大模型的參數規模已經有千億甚至萬億級別，海量參數的矩陣運算和生成非線性疊加導致模型的決策機制和輸出結果不透明，也很難解釋。二是概率生成帶來準確性的考驗。大模型決策過程不像人類進行決策時有線性思維的過程，而是根據海量訓練數據統計詞源token的概率性規律，本質上是概率統計，不是邏輯性的事實推導。當數據和事實依據不足時，容易產生自洽的幻覺。三是模型現在已能自主思考和決策了，隨著大模型的進化和智能體的深度應用，它已突破傳統軟件輸入輸出相對固化的範式，能夠自主思考，這在一定程度上放大了過程不可控、結果不可知的風險。（證券時報）