本集節目探討大型語言模型在企業端的落地應用現況,特別著重於本地部署模型的效益與挑戰。主持人與 HPE 台灣董事長王嘉生 Jon 和 APMIC 創辦人兼執行長 Jerry 進行討論,內容涵蓋企業導入 AI 的現狀、合作模式、以及資料治理的重要性。Jon 強調混合雲模式的重要性,並指出台灣企業在 AI 應用方面仍處於 POC 階段,主要障礙包括人才培育和 ROI 考量。Jerry 則分享了 APMIC 如何協助企業快速部署和優化模型,降低成本並提升準確率,例如透過 DeepSeek R1 模型實現更有效率的本地部署。 節目最後也討論了未來 AI 發展趨勢,預測地端運算和推理模型將會越來越重要,並強調企業需要及早投入 AI 應用,以提升競爭力並應對人才短缺的挑戰。
Takeaways
Outlines
Q & A
Preview
How to Get Rich: Every EpisodeNaval
421.【達人聊產業] Edge AI 落地實戰守則 x DeepSeek 產業衝擊 ft. HPE 董事長 Jon Wang & APMIC 創辦人 Jerry | 財報狗 - 掌握台股美股時事議題 | Podwise