AI 功能本地化的能源效益探討

【Arm CEO：將部分AI功能轉移至本地可降低能耗】10月16日訊，Arm(ARM.O)首席執行官雷內·哈斯表示，將部分人工智能功能從雲端轉移出來，有助於減少能源消耗。他指出，從長遠來看，大規模的吉瓦級數據中心將難以維持。哈斯說：“你會問自己，需要做出哪些改變？我認爲有兩個方向。其中一個是低功耗，即在雲端實現儘可能低能耗，Arm在這方面貢獻很大。但更具體的是，將這些AI工作負載從雲端轉移到本地應用。”他補充稱，AI訓練可能始終會在雲端進行，但AI推理可以在本地完成，也就是運行在手機、電腦和智能眼鏡等設備的芯片上。哈斯表示，歷史已經證明“計算總是會走向混合模式”。他認爲，這種混合模式將在AI領域得到體現，這將有助於減少巨大的電力投資。（CNBC）