本集節目探討大型語言模型在企業端的落地應用現況,特別著重於本地部署模型的效益與挑戰。主持人與 HPE 台灣董事長王嘉生 Jon 和 APMIC 創辦人兼執行長 Jerry 進行討論,內容涵蓋企業導入 AI 的現狀、合作模式、以及資料治理的重要性。Jon 強調混合雲模式的重要性,並指出台灣企業在 AI 應用方面仍處於 POC 階段,主要障礙包括人才培育和 ROI 考量。Jerry 則分享了 APMIC 如何協助企業快速部署和優化模型,降低成本並提升準確率,例如透過 DeepSeek R1 模型實現更有效率的本地部署。 節目最後也討論了未來 AI 發展趨勢,預測地端運算和推理模型將會越來越重要,並強調企業需要及早投入 AI 應用,以提升競爭力並應對人才短缺的挑戰。
Sign in to continue reading, translating and more.
Continue