本集科技浪訪談耐能智慧創辦人暨執行長劉峻誠博士,深入探討 AI 晶片的發展與 NVIDIA 的市場地位。劉峻誠指出,NVIDIA 在 AI 訓練領域的優勢主要來自 CUDA 軟體層,但 GPU 並非專為 AI 而生。他將 AI 硬體的演進比喻為從 CPU 到 GPU 再到 NPU 的過程,強調 NPU 在單位功耗上的效率優勢。劉峻誠解釋了 ASIC 與 NPU 的不同,ASIC 針對特定應用優化,而 NPU 更具通用性。他預測,隨著 AI 模型的不斷演進,NPU 將在邊緣計算和主權 AI 等領域扮演更重要的角色,並打破目前消費者對於 AI 應用只能依賴雲端服務的認知。
Sign in to continue reading, translating and more.
Continue