OpenAI 新芯片能效达英伟达 Rubin 两倍

OpenAI 博客透露，GPT-Astra 使用 Codex 编写并优化低层内核，让三款此前未规划的开放权重模型在两个月内于 Jalapeño 芯片上达到高性能。在选定的注意力与混合专家模块中，其实现比现有的人类专家代码快 1.5-1.8 倍。Jalapeño 在 OpenAI 自测中已超越 Nvidia GB200/GB300，计划 2026 年底部署。

OpenAI 在 Hot Chips 大会上首次展示自研推理芯片 Jalapeño 的基准测试结果，该芯片在每瓦吞吐量和 token 延迟上据称超越 Nvidia Blackwell 和 Rubin。

OpenAI 在 Hot Chips 大会公布与博通共研的推理芯片 Jalapeño 首批基准测试成绩，在 SemiAnalysis InferenceX 测试中，其单用户 token 处理量和每千瓦吞吐量均超过现有顶尖推理处理器。

OpenAI称其首款自研推理芯片Jalapeño在速度和能效上已超越英伟达GB200和GB300系统。在GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T模型上，Jalapeño在峰值吞吐下每瓦特AI工作量提升1.5-1.9倍，端到端延迟降低1.7-3.6倍；高交互负载性能提升2.1-4.1倍。

OpenAI 称其新 Jalapeño 芯片在匹配 DeepSeek R1 解码速度下，每千瓦吞吐量达 NVIDIA GB300 的 104.3 倍（12258 对 118 tokens/s/kW）。该芯片功耗 700W，低于 GB300 的 1400W，计划年底部署，Gen 2 已在开发中。

OpenAI 在 Hot Chips 大会上公布自研推理芯片 Jalapeño 的首批基准测试结果。在 Semianalysis 的 InferenceX 基准上，Jalapeño 每用户 token 数和每千瓦吞吐量均超过当前最先进的 Nvidia Blackwell 系统。该芯片由 OpenAI 与 Broadcom 合作开发，预计 2026 年底小规模部署，2027 年更大规模上线。

OpenAI 发布博客称，其与 Broadcom 合作打造的 AI 推理芯片 Jalapeño 在 InferenceX 基准测试中，性能优于 Nvidia GB200/GB300 超级芯片。

在行业标准推理引擎vLLM上的测试显示，NVIDIA GB300 NVL72的实测端到端性能已达GB200 NVL72的2.7倍。尽管其纸面参数仅显示NVFP4算力提升约1.5倍、HBM容量增加1.5倍且带宽相同，但在大多数服务商实际运行的中段负载区间，凭借全栈优化的复合增益，GB300实现了远超理论算力提升的性能飞跃。此次测试基于NVIDIA、Inferact和CoreWeave为开源项目提供的临时GB300系统完成，结果印证了端到端实测性能才是衡量硬件效能的黄金标准，而…

NVIDIA 开源 srt-slurm，为 Slurm 集群上的生产级推理服务提供基于 YAML 的编排层。它协调 sbatch/srun、GPU 分配、网络、就绪检查及清理，支持 prefill/decode 分离、多 worker、Dynamo 前端、KV-cache 感知路由等拓扑，便于在 GPU 集群上快速部署代表性推理系统进行测试或基准评测。

OpenAI 在 Hot Chips 大会上发布的全新 Jalapeño 芯片，在每兆瓦输出吞吐量上超越了 Vera Rubin 七月份的结果。（1/7）🧵