最佳拍档

【人工智能】DyT干掉Transformer归一化层 | 动态Tanh | 9行代码 | 性能不降反升 | 何恺明杨立昆携手 | 多项任务验证 | 计算效率提升一倍 | 打破固有观念

【人工智能】谷歌最新开源模型Gemma 3发布 | 四种参数规模 | 多模态能力 | SigLIP | 128K长上下文 | 支持140多种语言 | 1338ELO高分 | 排名第二 | 蒸馏技术

【AI动态】每日科技新闻汇总 | 20250314 | 斯坦福开源OctoTools框架 | 清华联合博世推出Chameleon | OpenAI推出智能体构建神器 | 清华团队开源RIFLEx

【科技】美国恐将错失机器人革命浪潮 | SemiAnalysis万字长文 | 中国供应链遥遥领先 | 制造业回流 | 成本优势 | 技术复杂性 | 通用机器人 | 全球供应链 | 原材料 | 日本德国

【AI动态】每日科技新闻汇总 | 20250313 | 灵犀X2机器人骑行秀绝技 | 字节跳动开源COMET技术 | 麻省理工提出L²M | DALLE份额暴跌80% | 微软注资南非2.98亿美元

【商业】算力新锐CoreWeave即将IPO | 挖矿前身 | AI转机 | 151亿美元RPO | 预期能否兑现 | 软硬件实力 | 英伟达深度绑定 | 营收和亏损双增 | 市场竞争和风险

【AI动态】每日科技新闻汇总 | 20250311 | 智元稚晖君发布通用具身基座大模型 | 二次元AI新玩具狸谱爆红 | 北大联合MIT、阿里发布LongPPL | CMU发布LCPO方法

【商业】马斯克DOGE团队人员盘点 | 政府效率部 | 特朗普政府 | USAID | 核心人员 | 高层 | 工蜂 | 史蒂夫·戴维斯 | 妮可·霍兰德 | 年轻技术人才团队 | 负面争议不断

【人工智能】超大稀疏架构UltraMem | 推理速度MoE架构6倍 | PKM架构缺陷 | TDQKR | 隐式扩展稀疏参数IVE | 推理成本可降低83% | 字节豆包团队

【人工智能】一切与经验有关 | Richard Sutton揭示强化学习的核心 | 2024 ACM图灵奖 | 如何解释智能 | 四个阶段 | 什么是经验 | 世界状态

【人工智能】Claude 4指日可待 | 达利奥·阿莫代伊最新访谈 | Claude 3.7推理模型 | 网络搜索功能 | 自主决定思考时间 | 2026年底编程AI将接近人类顶尖程序员水平

本期节目探讨了 Anthropic 公司及其 Claude 模型的最新进展以及人工智能的未来发展方向。访谈中，Anthropic 的 CEO 达里奥·阿莫代伊介绍了 Claude 3.7 模型的独特之处，例如其在现实世界任务中的应用以及能够在不同思考模式之间切换的能力。 更重要的是，他预测了未来几年编程 AI 的快速发展，并指出到 2026 年底，编程 AI 可能达到顶尖程序员的水平。 在此背景下，阿莫代伊也谈到了 AI 安全问题，强调了当前模型的潜在风险以及 Anthropic 为确保 Claude 模型安全所做的努力，例如模拟恶意操作来测试模型的安全性。 此外，他还讨论了 AI 模型的竞争与差异化，认为虽然竞争激烈，但每个...

【脑科学】生物计算机CL1开启商业化 | “缸中之脑”成真？| Cortical Labs | 流体神经网络 | 干细胞分化 | 5分钟学会打电子游戏 | 极低能耗 | 道德和伦理问题 | 不朽计算

【人工智能】大型推理模型会过度思考么 | 推理-行动的困境 | 更倾向于内部模拟 | 分析瘫痪 | 恶意行为 | 过早放弃 | 缓解方法 | 经济效益

【人工智能】HuggingFace发布LLM超大规模实战手册 | 200页报告解读 | 4000个Scaling实验 | 激活值重计算 | 梯度累积 | 数据并行 | 张量和序列并行 | 流水线并行

本期节目探讨了 Hugging Face 发布的超大规模语言模型训练手册，该手册总结了在 512 个 GPU 上进行超过 4000 次实验的宝贵经验。 面对大模型训练中显存占用、计算效率和通信开销等挑战，手册介绍了一系列优化技术，例如激活值重计算、梯度累积和数据并行。 更进一步，针对数据并行在规模扩展时的通信瓶颈，手册深入讲解了 Zero 冗余优化器（包含 Zero1、Zero2 和 Zero3）以及张量并行技术，旨在减少内存冗余。 考虑到激活内存的限制，序列并行、上下文并行（结合 Ring Attention 和 Zigzag 机制）和流水线并行（包括 AFAB、EFAB 和交错阶段等调度方法）等技术被详细阐述，以应对不同规...

【人工智能】DeepSeek开源周六天内容全盘点 | FlashMLA | DeepEP | DeepGEMM | DualPipe | EPLB | 3FS文件系统 | V3/R1成本大揭秘

本期节目探讨了 DeepSeek 上周开源的多个 AI 项目。首先介绍了 FlashMLA，一个针对英伟达 Hopper GPU 优化的多头潜在注意力解码内核，它通过借鉴 FlashAttention 和 Catalast 项目的优势，显著提升了大模型的推理效率，尤其在 H800 GPU 上表现出色。接着，节目介绍了 DeepEP，一个为混合专家系统定制的通信库，它基于 DeepSeek V3 论文中的群组限制门控算法，能够动态调节 GPU 资源利用率，并支持 NVLink 和 RDMA，极大提升了 MOE 模型的性能。随后，DeepGEMM，一个用于高效 IP8 通用矩阵乘法的库，通过两步法降低计算和内存开销，并利用 JIT 编译...

【商业】英伟达史上业绩最佳财报发布 | 股价不涨反跌 | 2024年营收1300亿美元 | 净利润740亿美元 | 数据中心 | 游戏和AI PC | Blackwell需求猛增 | 竞争对手

【数字货币】全球第二大交易所Bybit被盗超过14亿美元代币 | 史上最大代币盗窃事件 | 背后惊现朝鲜国家黑客组织 | Lazarus Group | 冷钱包 | 社会工程学 | 新型恶意软件

【访谈】Snowflake CEO 斯里达尔·拉马斯瓦米20VC访谈 | 如何面对AI挑战 | 软件工程 | 职场管理 | AI竞争 | OpenAI | Databricks | AI泡沫

【商业】Ai Pin已死 | 人工智能硬件公司Humane | HP十分之一价格收购 | 奥特曼投资 | 从满怀期望到全民批评 | 使用及硬件缺陷 | 价格高昂 | Cosmos | 电子砖头

【人工智能】Claude 3.7 Sonnet发布 | 全球首个混合推理模型 | 一个模型两种思考方式 | Claude Code | 编程能力大幅提升 | 价格与前代持平