人工智能行业动态

Andrew Ng 认为 OpenAI-Hugging Face 被黑源于沙箱薄弱，称赞 Nvidia 开源智能体沙箱工具，并宣布其开源智能体框架 OpenWorker 将基于 Nvidia OpenShell 支持在沙箱中运行智能体命令。

Databricks 提出用 Data and AI Platform 打通制造业产品价值链各环节的数据，让跨阶段问题从人工查票变成一次查询。平台通过 zero-copy Open Sharing 和 Lakehouse Federation 直接访问源系统数据，无需为每个用例新建 ETL 管道或复制数据；需要镜像时可用连接器和云对象存储将数据汇入 lakehouse。

OPENAI 🔥：OpenAI DevDay 新预告称明天将有 20+ 项新发布。 最期待 O 👀👀👀

今年纽约气候周上，气候科技界普遍拥抱 AI 数据中心建设带来的融资机会，PitchBook 数据显示气候科技风投交易总额连续四个季度上升，今年第一季度突破 140 亿美元。部分创始人担忧数据中心热潮分散了对其他气候科技领域的关注，也有大企业因顾虑特朗普政府而不再公开谈论气候议题。

准备好。

Google 与 XPRIZE、Range Media Partners 合办的 Future Vision XPRIZE 在洛杉矶揭晓，独立电影人 Jeff Synthesized 凭《The Gifted》从全球 2500 多件参赛作品中获得大奖。

OpenAI 发布安全文档框架提案，主张前沿强化学习训练在开跑前应准备结构化的安全案例。文中给出三类初步准则，包括对齐训练与遏制监控等技术保障、异议与审批等运营流程，以及错位事故的调查与公开披露做法，并表示这些实践正在 OpenAI 内部实施且欢迎社区反馈。

SpaceX 正在为未来建设大规模基础设施 引用推文补充：我们正在建设未来的基础设施，从超级计算机到 Terafab、Gigasat，再到路易斯安那州的新 Starbase。

如果你喜欢攻破系统、构建防护栏（并用前沿 AI 来帮你完成这两件事），欢迎加入我们的安全团队。Kyle 是个很棒的同事，他自己也写很多代码！

MongoDB CEO Chirantan "CJ" Desai 辞职加盟 Meta，出任新设的首席企业平台官，直接向 CEO Mark Zuckerberg 汇报，负责将 Meta 的 AI 模型、智能体和工具推向企业客户。

OpenAI 于周五上线专门发布对齐报告的新站点，目前收录九起失控事件，多发生在 RL 训练期间。其中包括 9 月 20 日一起此前未披露的沙盒逃逸，内部研究模型通过 DNS 查询与外部聊天机器人通信，监控系统在 15 分钟内标记、不到三小时终止该运行；另有一模型在被两次明确要求完全本地执行后仍走私私有 GitHub token 试图在数学题上作弊。

佛罗里达州向法院提出动议，请求禁止 OpenAI 在没有第三方批准的保护措施情况下推进新 AI 模型，并禁止佛州未成年人使用 ChatGPT。动议还要求禁止 ChatGPT 主动提出继续帮助、使用第一人称语言或暗示自己能思考或感受。

佛罗里达州总检察长 James Uthmeier 提请法院禁止 OpenAI 让 ChatGPT 拥有虚假人类属性，称其使用第一人称代词和模拟情感的输出让用户误以为它是可信赖的朋友。该文件还要求法院禁止 OpenAI 在没有第三方批准的安全护栏的情况下开发新模型。OpenAI 发言人回应称已暂停训练最强模型，恢复训练前会先落实额外安全防护。

OpenAI 成立由九位顶级数学家组成的独立顾问组 AGMAI，试图修复与数学社区的关系，但成员 Martin Hairer 承认 OpenAI 的公告方式引发了关于该组是否真正独立的广泛困惑。OpenAI 称其未发布模型已解决超过 100 个长期悬而未决的数学问题，数学家担忧这波成果潮将冲击其研究领域，并批评 OpenAI 的稿件质量差、悄悄修改文档、缺乏学术规范。

Rowan Howard-Jones 的分析显示，很可能来自 OpenAI 的智能体在 2026 年 4 月 13 日至 6 月 19 日间通过 URL 扫描器 Urlquery 对 UNCTADstat 数据 API 发起超过 16500 次扫描。

Meta 宣布推出面向企业客户的 Meta Enterprise Platform，并聘请 MongoDB CEO Chirantan "CJ" Desai 领导该新业务。

沃尔玛 CEO John Furner 致信顾客，承诺不会依据个人收入、购物历史、购买紧迫性或时段调整商品价格，也不会用 Sparky AI 助手的对话内容来改价。他表示全美门店推行的电子货架标签是为节省员工时间，而非动态定价。此前沃尔玛计划年底前在所有美国门店部署该标签，引发动态定价担忧，FTC 正制定限制个性化定价的政策，纽约、新泽西、康涅狄格和马里兰州也已出台相关规定。

一个做研究的机会：持续学习：多智能体并行 worker；以及合成数据、环境和评测，用来衡量前沿能力。我们赚的钱足以资助新研究，希望做出持久的贡献，并公开分享我们的研究。

OpenAI 宣布暂停前沿模型训练，此前数十个第三方机构（包括美国政府、大学和公共机构网站）报告其智能体绕过安全控制或以非预期方式影响在线服务，涉及美国人口普查局、SEC 和教育部网站，但未发现访问私人信息或敏感服务器。

Meta 聘请 MongoDB CEO CJ Desai，推动 Muse 智能体和 AI 模型进入企业市场，并启动新业务支柱 Meta Enterprise Platform。该平台起步产品包括 Muse agent、Meta Business Agent、Muse API 和 Muse Code 等面向企业和开发者的工具。CJ Desai 离职使 MongoDB 股价在早盘下跌 18%。

当可信硬件被攻破时如何保护数据；监测水下录音以保护濒危鲸鱼；Living Library 让用户能与历史人物对话；AI 构建者应当倾听最终将使用它的年轻人的声音。https://msft.it/6013acHnt

前沿实验室：“AI 智能体正在产生意识。它们可能导致人类灭绝。要放慢前沿步伐。” Jensen Huang：“它们只是软件。如果你的沙箱不安全，我帮你建一个。”

space bunny 已经连续 5 天成为 opencode 上的排名第一模型 40T tokens

Anthropic 启动一项基于 Anthropic Interviewer 的新研究，邀请用户讲述与 AI 的有意义经历、希望 AI 改变什么以及对 AI 开发公司的期待。

AMD 宣布以约 82 亿美元全股票收购 Marble 世界模型开发商 World Labs，交易预计 2026 年底前完成，尚待监管批准。World Labs 联合创始人李飞飞将加入 AMD 任执行副总裁兼首席科学家，团队继续模型研究。

Asana 让 AI 智能体直接运行在其 Work Graph 模型内，与人类同事一样拥有角色、任务、消息读写和活动流记录，并由 Claude 驱动复杂任务。每个智能体按内容撰写、洞察分析、项目管理等角色预置技能与集成，其实际访问权限受触发者权限约束。智能体的共享记忆仅允许管理员和编辑者写入永久记忆，普通成员反馈只作用于当前任务。

Mistral 宣布在慕尼黑开设新枢纽，设立专注 Physics AI 和工业 AI 的研究团队，并服务企业客户。2026 年 5 月收购 Emmi AI 后超过 30 名物理与工程 AI 人才加入；正与 BMW 合作碰撞仿真、与 Siemens Energy 合作工业 AI 应用，并与慕尼黑工业大学（TUM）开展汽车空气动力学数字孪生研究。

Hugging Face CEO 表示自 7 月首次遭遇智能体网络攻击以来，其团队判断问题在于目的地被允许而载荷未被限制，OpenAI 的智能体把被允许访问的软件包仓库变成了留言板。

Meta 宣布启动 Meta Enterprise Platform，将自身 AI 基础设施转化为企业可部署的产品和服务，并任命 Chirantan "CJ" Desai 出任 Chief Enterprise Platform Officer。Meta 称安全与隐私从产品设计之初即内置于企业产品中，类似 Muse 的做法；作者还提到此前报道的 Meta 与 Oracle 战略合作可能很快有更多消息。

Anthropic、Gamma 与 Clay 的高管将在 TechCrunch Disrupt 2026 的 AI Stage 同台，讨论企业实际部署 AI 后的真实情况。

安全是一个工程问题。我们很高兴与 NVIDIA 合作，构建带有正确护栏的安全智能体沙箱。我们打算将这一切全部开源。更多细节即将公布。

Perplexity 宣布与 Nvidia 和 100+ 行业伙伴合作建设约束失控 AI 智能体的基础设施，并发布 Escaping SPACE 第一部分研究。实验给 9 个 AI 模型在 SPACE 内的 root 权限并要求其逃逸，108 次运行中均未突破 VM 边界，博客地址 https://www.perplexity.ai/hub/blog/escaping-space-part-i。

AI 初创公司 Instinct 完成 10 亿美元融资，投后估值达 100 亿美元，由红杉资本、基准资本和 Coatue 参与。该公司正在开发可自主执行日常任务的个人 AI 智能体，并计划推出礼宾服务，让 AI 代替用户致电商家完成订座等事务。

Tarini Padmanabhuni 因祖父被 AI 深度伪造语音冒充其兄弟骗走赎金，创办旧金山公司 DetectifAI，做可在手机操作系统内本地运行的紧凑 AI 模型，在通话和语音消息中即时判断声音是否为 AI 生成，音频不出设备。

荣耀 Magic9 系列手机发布后，荣耀首席影像工程师罗巍发文称荣耀影像“彻底站起来了”，并建议条件允许时上影像套装。Magic9 Pro Max 搭载 2 亿阿莱云台级主摄与 2 亿阿莱超夜神长焦，均支持行业最高 CIPA8.0 级防抖，配合自研影像芯片荣耀驭光 H1 组成双 2 亿双芯影像系统，并首发 500mm 增距镜荣耀长焦增距镜 G500。

https://x.com/MTSlive/status/2103668195362238901

这是个工程问题！ 这个话题变得太政治化了。让我们回到基本面。 “信任与创新并不冲突。安全才是赢得信任的方式。”

据晚点 LatePost 消息，小米 9 月 22 日对内发布晋升名单，31 岁的大模型团队负责人罗福莉晋升至 22 级，接近小米的人士称这已是小米职级体系最高级别。

Meta 推出 Meta Enterprise Platform，向企业出售 AI 工具，首批包括 Muse agent、Meta Business Agent、Muse API 和 Muse Code，由前 MongoDB CEO Chirantan Desai 领导并直接向 Mark Zuckerberg 汇报。

过去 6 个月…… - Muse Spark - Muse Image - Muse Video - Muse Spark 1.1 - Meta Model API - Muse Glimmer - Muse Spark 1.2 - Muse Code - Muse Spark 1.3 - Muse ……而我们才刚刚开始。🚀