vLLM 集成 Helion 线性后端：Hopper GPU 上部分负载吞吐提升超 10%

Meta 的 816B 参数 MoE 模型 Muse Spark Open 在单台四芯片 TPU v7 主机上通过 SGLang-TorchTPU 部署，核心是把全部 62 层的解码或验证步骤合并为一个 Pallas megakernel，并将权重加载、KV 读取和跨设备传输全部流水化。

PyTorch 博客展示如何用 ExecuTorch 将多语言流式 ASR 模型 Nemotron 3.5 部署到 Google Pixel 11，并分析精度与分块大小对流式质量的影响。

IBM 公布 Torch-spyre 的 MLIR 数据流后端设计：KTIR 承接 Inductor 已确定的并行划分，开源 Dataflow Scheduler 将其拆分为程序并扩展为嵌套、双缓冲、多实例的数据流流水线。

PyTorch Helion 现可借助 NVIDIA CompileIQ 搜索 ptxas 编译控制空间，并将其与 tile 大小、warp 数等内核配置联合调优，在已离线调优的约 27 个内核上进一步提速。CompileIQ 把调优结果打包为可移植的 Advanced Control File（ACF），Helion 的 autotuner 可将 ACF 列表作为额外搜索维度评估。

IBM 为 Spyre 加速器打造的 PyTorch 软件栈已将 torch.compile 后端从自研的 sendnn 换成基于 PyTorch Inductor 扩展的 backend=inductor，编译器体积约为原来的 1/7。

NVIDIA Dynamo 引入统一的会话级标识符 session_id，把请求级推理服务升级为程序感知系统，覆盖会话感知路由、共享 KV 索引与程序化缓存迁移，兼容 vLLM 和 SGLang。

PyTorch 博客详解了用于推荐系统 Table Batched Embedding（TBE）前向与反向的 FBTriton 内核设计，其 Triton 实现在这些负载上超过了原有 CUDA 内核。

PyTorch 发布 PyTorch Certified Associate（PTCA）认证路径，将 4 个自定进度学习模块与 PTCA 认证考试打包为一个产品，通过 Linux Foundation Education 提供。

PyTorch 团队发布用 TLX（Triton 低层扩展）在 NVIDIA Blackwell B200 上优化 Jagged Flash Attention（Meta 生成式广告模型 GEM 的 attention kernel）的博客。

OpenRouter 实测同一 GitHub 任务下 MCP、CLI 与 skill 的 token 成本：在 Claude Sonnet 5.5 上 CLI 用 1。