人工智能應用中的Token消耗與成本挑戰

【AI用得越深 Token花費越高，這讓不少普通用戶和中小企業倍感壓力】4月3日訊，隨著人工智能應用場景不斷深化，有關Token消耗與使用成本的討論也越來越多。記者調查發現，隨著智能體產品廣泛落地，日常簡單交互時，成本變化並不明顯；可一旦進入深度使用，Token消耗就會顯著增加，相關支出也隨之上升。持續增長的Token消耗，也給算力系統帶來不小壓力。業內專家表示，Token成本具備下降空間，也必然會逐步下降。當前成本偏高，主要是行業仍處在發展初期，高端算力硬件成本較高、資源利用不充分等多重因素疊加。隨著技術不斷成熟、算力供給持續優化，單位Token的使用成本將會逐步走低。（央視新聞）