一家美国AI公司,用中国开源模型跑业务
一家美国营销AI公司用Claude做开发,用微调后的通义千问跑生产:成本账、数据主权与魔改模型风险,一次拆解清楚。
指南8 min read
一百万token三毛钱,约是前沿模型百分之一的成本,而且让它干什么就干什么。这是Daniel Saedi报的魔改DeepSeek价格:拒绝神经元被关掉,博士级黑客能力随叫随到。他自己的公司Minerva,拿同一家族模型干的事平常得多。Minerva用Claude和Astra做开发,用微调过的Qwen跑生产。Odd Lots这期,主持人Tracy Alloway和Joe Weisenthal问的正是:华盛顿讨论强制美国公司披露中国模型使用情况时,这些公司到底拿它们在干什么?
从DeepSeek惊魂说起的问题
节目起点是2025年1月的DeepSeek时刻:便宜的中国模型看起来接近最前沿,核心焦虑只有一个,前沿或近前沿智能会不会被大宗商品化,以后谁也收不上溢价。Tracy把闭源实验室的困境摆出来:Anthropic和OpenAI要证明巨额CapEx花得值、收得起高价,中国开源模型却在基准测试上一路逼近。Joe列出标准质疑:蒸馏西方模型、专为考试调优,训练芯片还可能经第三国转运,然后把话筒转向真正花钱的人。创业公司喜欢价格竞争和下行压力,有意思的是听一个全都要的人怎么做选择:OpenAI和Anthropic、中国竞品都在菜单上,按任务点菜。
Saedi很合适:Bridgewater五年半,先帮Pure Alpha募资,后来管银行、REITs和保险的交易,现在创办营销AI公司Minerva。它的智能体包办从投放前规划到执行全流程,有人和预算就开户,没人没预算就关户,技术栈天生混搭。
开源权重不等于开源
Saedi先抠定义,这是全期最有用的概念。开源本该公开代码和数据,连训练配方一起,中国实验室没这么干。它们放出来的是权重:训练好的最终产物。调闭源API是寄数据出去、拿答案回来,中间怎么算的无从得知。下载权重至少能自己部署,还能微调。论文只讲大概,不管那堆数据和架构怎么变成产物的,过程依然是黑箱。但自己部署打开了另一扇门:数据主权。
Joe追问他一直没把握的一点,拿本地数据微调,到底是真价值还是传说。Saedi说这是开源权重对应用层最大的好处。举个具体的例子,用户要一个受众包,在OpenAI上班又喜欢橄榄球。老路子是调昂贵闭源模型把需求翻成SQL,再查库展示,又慢又贵。直接用Qwen,效果和闭源模型差不多,但比不上前沿。然后Minerva拿几千组难题配标准答案打分,微调Qwen。现在这个模型在这类任务上比闭源更快,更对客户胃口,Saedi叫它小而硬的优势。Harvey和Cognition是放大版:自有数据加分发渠道,微调打平前沿,按效果收 margin。
CapEx还是OpEx
Tracy让他排序:成本、数据主权,以及对厂商的议价权。成本第一,算法很直白:一次性投入加运营成本,对比OpenAI和Anthropic账单,多数时候微调划算,少数不划算。第二是主权,Saedi说明年会是大事:企业把数据送出去,拿回答案,模型不会因为你的用法变强。自己跑权重就能边跑边训,让模型越用越懂你。他主动澄清,没有证据说实验室拿企业客户数据违规训练,但不对称摆在那:你的使用不为你复利。第三是议价,哪怕Harvey不把自研模型摆给客户,也能拿着它去谈价值定价。以前是自动化或不自动化二选一,现在是好自动化和很好自动化的选择题。我的判断:这是全期最安静的权力转移,小公司第一次在AI时代拿到谈判筹码。
自己跑,到底多少钱
Joe的怀疑很健康:开源当年意味着免费,AI没有免费,算力和电费总得有人付。Saedi说过去一年 hosting 层塌了。一年前想微调加部署,得自己管GPU并发、SGLang或vLLM推理栈,得养推理工程师,这就是Llama出来两年只有研究组和Uber这种巨头玩的原因。现在Fireworks和Modal、Thinking Machines把它做成商品:交训练集,按权重改变量子付费,Fireworks约七到九美元一百万token,有人最终训练只花九十美元。Harvey的 tenant 模型据称花六百万美元算力打到法律任务前沿,比旗舰训练便宜两到三个数量级。Fireworks和Modal都做到十亿美元年化收入,单元经济很好:能商品化的都被商品化了。
没被商品化的是数据和评测。实验室花几十亿美元买它们,Mercor、Surge值钱就值在结构化验证。Minerva选营销,恰恰因为数据管饱:通话记录和投放数据,还有素材、站内行为,十五到二十年程序化广告攒下的家底。训练目标是RL环境,也就是复刻获客全过程的仿真:广告展示到点击到下单。缺的是解题过程,不是标准答案,老师当年说的 show your work,AI也要这一份。数据薄的地方,比如建筑图纸,加上建筑师和总包、业主的全部扯皮记录,微调就卡壳。好公司数据的市价最诚实:Micro One一份完整数据集出二十五到五十万美元,介绍费五到十万美元。Joe开玩笑,谷歌花一千万美元买下Spirit Airlines,唯一值得抢救的是数据。我的判断:每家僵尸公司都该先给邮箱定价,再给定价家具。
被魔改的那部分
节目后半段转向Saedi眼中开源权重最大的风险。他亲手试了最新DeepSeek的去审查版:有人关掉了让模型说不的神经元。每百万token混合价三毛钱,比Sonnet便宜十倍,是Fable百分之一,能跑博士级能力且不拒绝。网上那套理论是,现在这波黑客攻击就是魔改DeepSeek蜂群在干。实验室真正怕的不是数据回流中国,Saedi直接熄了这个说法,怕的是任何人改几个参数就得到一支黑客军团。他的政策设想故意留白:保住创业公司下载微调的活力,同时不让攻击者走同一条下载改两刀的路,也许下载权重前先KYC。Joe补了一刀:谷歌把造炸弹、自杀教程变得几乎搜不到,是真实存在的信息防火墙。魔改模型认不认这堵墙,还不好说,眼下这类模型还不好找,但万一好找了呢。
紧接着是蒸馏拷问,Saedi给了全场最好的标尺:美国开源权重招牌Reflection AI,据称正被英伟达收购,拿着上万块Blackwell,旗舰模型落后前沿半年到九个月。如果中国实验室是守规矩考出来的,大概也就和Reflection打平。可它们拿出了前沿实验室反过来用的新技巧,说明蒸馏是真的,但不是全部真相。
每个员工配一块GPU
Saedi收尾给了个 heuristic:AI原生员工一年烧掉约一块GPU的token。美国部署的Blackwell大概五百万到一千万块,知识工作者约一亿。四到八年后,差不多人手一块B300的算力,AI化的劳动力还差得远。主持人收束出买还是造的规矩:工程师时间贵,可复用的脚手架就付Anthropic溢价。能用落后模型的地方就用便宜的。Joe加了个私下观察:很多美国大公司私下早就在跑Qwen,只在炫耀微调成果时才提,顺带向Anthropic和OpenAI喊我们不需要你,税照交,姿态照摆。录制那周MIT的报告更刺激:拿Asterisk级模型直接改Qwen权重里的数字,让数学变好,居然真改动了。模型自己调参,我的判断:AI套娃已经开始了。
所以这期留下的问题是Joe那句:AI开支到底算CapEx还是OpEx。用前沿的搭建,用微调的跑生产,看便宜模型一路赢到哪里,只在配得上溢价的任务上停下来。披露之争吵的,就是美国公司敢不敢公开说自己两半各跑什么。
更多硬核播客内容,来自 Podwise。


