AI 产品发布与更新

DeepSeek 宣布开源自研推理框架 DeepInfer，该框架以高吞吐、低延迟支撑 DeepSeek-V4.1-Flash 的规模化运行，代码见 github.com/deepseek-ai/DeepInfer。Nathan Lambert 转评称这是获取模型采用的独特方式，并指出发布时机恰逢美国政府刚在联邦机构禁用 DeepSeek，颇为讽刺。

Lovable 发布面向企业的十月功能汇总，让大型公司能把 Lovable 应用投入生产并集中治理。

Yelp 为 app 新增 Check for Me 功能，用户输入用餐人数和手机号后，AI 智能体可代其致电餐厅查询等位时间并以短信回传结果。Yelp AI 助手同时接入 OpenTable 支持应用内订位，可记住历史对话偏好并查看过去 30 天聊天记录。面向商家，Yelp 推出每月 30 美元的 Smart Lead Reply，用于自动回复并筛选客户线索。

DeepSeek 宣布将自研推理框架 DeepInfer 完全开源，代码地址 github.com/deepseek-ai/DeepInfer。官方称 DeepInfer 在生产环境中支撑 DeepSeek-V4.1-Flash，实现高吞吐和低延迟，开源旨在帮助社区降低算力成本与能耗。作者认为这将推动所有模型降价。

DeepSeek 以 Apache-2.0 许可开源了高性能大规模推理框架 DeepInfer，代码在 https://github.com/deepseek-ai/DeepInfer。支持特性包括优化的 kernel 与模型采样运行时、Attention DP / 均衡 CP、MoE EP + EPLB、DSpark 与置信度调度验证、SWA bounded replay、异步调度（零开销 batch 调度器）、batch-invariant 推理、确定性采样和结构化输出。

DeepSeek 宣布其自研推理框架 DeepInfer 完全开源，代码托管在 http://github.com/deepseek-ai/DeepInfer。该框架以高吞吐、低延迟支撑 DeepSeek-V4.1-Flash 的大规模推理，官方称开放生产技术栈旨在帮助社区降低算力成本与能耗。

DeepSeek 开源高性能大规模推理框架 DeepInfer，采用 Apache-2.0 许可，仓库地址 https://github.com/deepseek-ai/DeepInfer。支持优化 kernel、模型与 sampler 运行时，Attention DP、平衡 CP、MoE EP + EPLB 等并行方案，以及 DSpark、置信度调度验证、SWA bounded replay、零开销异步批量调度、batch-invariant 推理、确定性采样和结构化输出。

DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，此前已开源大模型、TileLang 编译工具及推理算子库。DeepInfer 集成高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，兼容英伟达与华为昇腾平台，已支撑 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务。

DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，并同步开源生产级 Token 编解码组件 deepseek-recipe。

Microsoft 在 Ignite 上公布 Sovereign Cloud 下一阶段能力，Sovereign Control Panel 进入公开预览，统一呈现主权态势并识别风险缺口。

Exa 发布面向 AI 智能体的搜索 API 升级版 Exa 3.0，采用更大的嵌入模型、推出同索引的低价搜索类型 Exa Lite（每 1000 次请求 4 美元），并将 Dynamic Highlights 正式开放。

千问APP上线新功能「千问陪逛」，开启通话和共享屏幕后，切到购物APP网购时千问可看到屏幕内容并语音实时作答。功能包括提炼商品详情页和评价重点、实时比价验货算账、陪聊拿主意，点击右上角电话图标可随时结束，功能正逐步开放。

思科总裁兼产品主管吉图・帕特尔用个人 AI 智能体扫描邮箱后发现，自己每年各类订阅总开销高达 9,000 美元，随后让智能体生成订阅清单并取消两项不需要的服务，每年省下 1,000 到 1,200 美元。该智能体每月订阅费 20 美元，还帮他取消了误开的每月 11.95 美元 Dropbox 套餐。他强调不应把未经企业审核的个人 AI 智能体接入工作工具与内部资源。

🚀 MiniCPM-V 4.7 现已获 vLLM v0.32.0 支持！感谢 @vllm_project 的支持。这让以高吞吐、低延迟方式部署 MiniCPM-V 4.7 变得更加容易。

OpenAI 在 ChatGPT 中上线 Slides 幻灯片工具，属于上月发布的 ChatGPT Space 组成部分。用户可基于对话、上传文件或大纲生成演示文稿并选用内置模板，支持团队实时协同编辑、评论，并可根据反馈自动调整。

作者提出 AI Agent 正分化为两条路线：技术路线追求完全自动化、取代人，产品路线则满足人的需求、帮助人，对应此前 Agent 与当下 Personal Agent（作者更愿称 Personal AI）的方向差异。作者称两条直线的交叉点已过，未来会渐行渐远。其团队在方向 2 上探索已久，4 月最早推出 Cola 1.0，全新的 Cola 2.0 将于 11 月上线。

感谢 @sgl_project 提供首日 SGLang-Omni 支持以及实用的 cookbook，帮助开发者把 Ming-3.0 用起来！

蚂蚁百灵感谢 vLLM 项目为 Ming-3.0 提供 Day-0 的 vLLM-Omni 支持，让模型更易部署。据引用内容，蚂蚁百灵开源了 5 款语音模型，覆盖 TTS、音频理解和 ASR，参数规模从 0.5B 到 126B 总参数（激活 6.5B），可通过 vLLM-Omni 直接部署。

感谢 @atomic_chat_hq 帮助将 Ming-3.0 带入本地 AI 工作流，让开放语音模型更易获取！

最快冲击 1 亿美元 ARR 的方式： A 公司的智能体每 3 秒给 B 公司转 10 美元。 B 公司的智能体再把同样的 10 美元原样转回去。 砰。两家 1 亿美元 ARR 的独角兽诞生了！

@MiniMax_AI 的 M3.1-Flash 刚刚上线 WorkBuddy。 0.08x 消耗量。300K 上下文。最大思考强度。 选它。提示它。发布它。 然后把你做出来的东西丢到回复里。我们很好奇（充满爱意地）。

时间线推荐有两项重要变化： - 新的 AI/SI 排序模型，能更好地预测用户可能停留的时长 - 检索模型经过训练，用于呈现用户会完整读完的帖子 用户活跃秒数呈指数级增长，几乎每天都在创历史新高：

作者引用 @0xshawnpang 的分析认为，阻碍 Agent 互联的不是技术而是政治。文中回顾了中国自 2013 年移动端时代以来的「不联网」生态，包括内容不可发现、链接被拦、功能只能进 App 使用，并指出美国平台也在向 Agent 关门，如 Amazon 向 Perplexity 发函要求其购物代理 Comet 停止未经许可的访问，eBay 要求代买 Agent 事先获得许可，Target 采用 Agent 白名单，花旗不允许第三方 AI Agent 代客户登录账户…

补看 👀：OpenAI Platform 现在有了“Decisions”API 演练场。 用户可以用近期发布的“Predicate”“Choice”和“Score”选项测试 OpenAI 的决策模型。 Probability True 🤖

Hugging Face 宣布通过 PyTorch 原生后端 TorchTPU 支持 TPU，Transformers、Diffusers 和 Kernels 可原生运行，模型加载只需 device_map="tpu"，不再需要 torch_xla 或 Optimum TPU。

vLLM 团队与 Inferact、Google 合作发布 vLLM TorchTPU（vllm-torchtpu），一个在 Google Cloud TPU 上运行 vLLM 的新后端插件，复用 vLLM 既有模型代码，无需改动模型定义即可部署大多数现有模型。

Databricks 介绍 MemCurrent，一种面向生产 Agent 的持久记忆架构，结合情景记忆与派生记忆，通过插件、工具调用和离线 dreaming 管线三种访问模式读写与整合记忆，已用于 Agent Bricks Memory 和 Genie。

Mastra 发布 Mastra Launch，提供企业平台完整访问权限与 FDE 工程师每周驻场支持，目标是在 90 天内让智能体进入生产环境。若 90 天内未上线，客户只需支付实施费用。该服务面向已用 Mastra 搭建原型但尚未上线的团队，平台可部署在 Mastra 或自有基础设施上。

xAI 为 Grok Bot 新增 IncidentWatch 和 IncidentSweep 两个 AI 队友，分别负责监测客服队列中的同类工单激增并告警、以及在事故解决后批量关闭受影响工单。

AnyLanguageModel 1.0 正式发布，同时推出 swift-huggingface 1.0 和 swift-xet 1.0。

Hugging Face 的 PyTorch 团队介绍 PyTorch 2.15 的 MPS 后端更新，将 FP8（torch.float8_e4m3fn）带到 Mac，并通过 Metal 内核加速语言模型解码。

用自己的名字给 Muse 命名，会奇怪吗？

再按一次操作按钮，或者说“goodbye”即可挂断 💭

微软于当地时间周一推出多项企业安全功能，核心是隶属于感知项目（Project Perception）的守护智能体（Guardian Agents），用于监控企业内部正在使用的各类 AI 智能体。

NotebookLM 宣布幻灯片（Slide Decks）与视频概览（Video Overviews）支持共创自定义。用户可选择来源中的建议主题或自拟主题，指定格式、长度、语言和视觉风格，再通过审阅编辑幻灯片大纲或视频制作笔记后生成。该功能面向所有 Pro 和 Ultra 订阅用户开放。

⌘ + 🐰 = 🚀 感谢 @CommandCodeAI！M3.1 Flash 限时对所有订阅用户免费。

OpenAI 为 ChatGPT Slides 更新了实时协作编辑功能。 > Teams、Dots 和 ChatGPT 现在可以共同处理一份幻灯片，进行编辑、优化并留下评论。 该功能已在 ChatGPT Pro、Business 和 Enterprise 套餐中提供。

Databricks 宣布 CustomerLake 的 Campaign Agents 进入 Beta、Profile Agents 进入 Private Preview，扩大客户参与范围。

(1/6) 全新的 FastVideo FastH3-QAD-v2 和全新的 H3 NVFP4 VAE 解码器来了！🚀🚀 这整段 768p 视频是在两台 DGX Spark 上生成的，使用了 QAD-v2 和两个新解码器。8 步视频 + 音频，QAD 权重 💾 @NVIDIARTXSpark @NVIDIAAI @MiniMax_AI

Microsoft 推出面向企业的 AI 智能体安全功能，核心是可监控企业所用智能体的 Guardian Agents，属于 6 月发布的 Project Perception 的延伸。