EP38 - AI一年半進步140倍，怎麽做到的？邊緣AI的未來

本集節目深入探討了 AI 模型在短短一年半內，知識量驚人地提升了 140 倍的現象。哈利分析了這一進展的原因：首先，訓練資料的質量和數量顯著增加，高品質的資料能更有效地利用模型參數；其次，量化技術的進步使得模型權重的精度降低（例如使用 Q4 模型），這不僅大幅縮小了模型的體積，還僅僅犧牲了少量效能。這些進展促進了邊緣 AI 的普及，未來手機和電腦等設備將內建強大的 AI 助手，實現更快速、更本地化且更具隱私性的 AI 應用，蘋果公司也將積極參與這場 AI 競爭。