AI 推理的未来在于构建 “token 工厂”,通过将重点从低延迟聊天转向长时间运行的后台 Agent,实现智能成本的量级降低。Sail Research 创始人 Neil Movva 指出,当前 AI 算力市场存在资源错配,通过优化软件算子、挖掘被低估的芯片及电力资源,可大幅提升推理吞吐量。这种模式将智能视为商品,旨在通过极致的成本控制,使 AI 能够自主完成深度研究、网络安全渗透测试等复杂且可验证的任务。随着推理需求从投机性训练转向实际应用,通过异构硬件编排和分散式数据中心建设,AI 智能将变得触手可及,从而解锁全新的产品品类与科学发现路径。
Outlines
Sign in to continue reading, translating and more.
Open full episode in Podwise
