人工智能行业动态

生存风险显然至关重要，但它并不是唯一需要政策关注的 AI 议题。 我担心它会成为唯一的焦点。AI 要对就业和社会产生广泛影响，并不需要更好的模型，我们确实需要做好准备，去鼓励好的结果并减轻坏的结果。

工业和信息化部 9 月 11 日发布《"人工智能 + 软件"专项行动实施方案》，提出到 2030 年关键软件全面实现智能化升级。

Waymo 无人驾驶出租车监测到车内乘客持有一支上膛的 AR 样式突击步枪，向警方提供线索后，旧金山警方于 9 月 3 日凌晨实施高风险车辆拦截，逮捕两名未成年人，并查获疑似大麻与防狼喷雾。车内传感器日常监测吸烟、未系安全带等行为，异常情况由人工回看录像确认。Waymo 无人车业务 9 月上旬拓展至圣迭戈、丹佛及坦帕市。

智谱宣布完成约 50 亿美元（约 336.54 亿元人民币）融资，包括约 20 亿美元股份配售及约 30 亿美元可转债发行。资金将用于下一代 GLM 基础模型及完全自训练体系研发，涵盖自动化生成训练数据、构建任务环境、长程推理能力，以及国产芯片适配与推理优化。

英伟达两名从事机器人研发多年的员工于 2024 年离职创办 Flexion Robotics，黄仁勋建议其更换原名 Checkpoint 并提醒创业之路艰难，英伟达后续投资了这家总部位于苏黎世的公司。公司累计融资超过 5，700 万美元，近期在旧金山设立办公室。另一名离职员工徐冰创办 INT21 用 AI 优化芯片软件，黄仁勋与其高管花两小时交流并指出其沟通能力短板。

英国政府在兰开夏郡普雷斯顿试点面向 16 至 24 岁尼特族的 AI 速成训练营，属西北部试点项目，共招 70 人，课程为期三周，由纳税人资金支持，IN4 集团负责运营。

GOOGLE 🔥：Demis Hassabis 分享说他认同 Dario Amodei 提出的前沿节奏方向。 RSI 时刻？👀 【引用 @demishassabis】：Dario 的文章指出了正确的前进道路。细节还需推敲，但方向对于应对这一关键时刻是正确的。 这也是我们最近提出前沿 AI 全行业标准机构提案的原因。

据央视新闻报道，中国算力平台已实现全国一体化算力统筹监测，有序推动全国 31 个省区市对接入网。平台汇聚超万家注册企业用户，上架 2000 多项算力产品，接入大模型超 300 个；截至今年 6 月底我国智算规模达 2185 EFLOPS，同比增长 177%。

Replit 收购了冰岛两人公司 Test 13，创始人 Viktor Thulin 与 Gunnar Kolbeins 宣布加入 Replit。两人用 Replit 在 18 个月内做了多个 SaaS 并以比当地同行低 60-80% 的价格提供服务，收入超过 70 万美元，同比增长超 400%。

递归自我改进 → 超指数级能力增长 → 当前 AI 支出背后的投资逻辑。 Google DeepMind 首席战略官 Jasjeet Sekhon 表示，AI 基础设施支出正在为一个人们所期望的自我改进循环提供资金。 -- 来自 "Berkeley RDI" YouTube 频道，（完整视频链接见评论）

Atreides 管理合伙人兼 CIO Gavin Baker 指出，AI 相关公司估值无法全部成立：存储厂商市盈率仅 3-5 倍，NVIDIA 市盈率也极低。

英国超过 70 名议员和上院成员致函首相 Andy Burnham，呼吁支持禁止开发超级智能 AI（ASI）。诉求包括通过禁止超级智能 AI 开发的法案、推动禁止超级智能 AI 开发的国际协议，并利用英国 G20 轮值主席国地位组建支持禁令的国家联盟。

Dario Amodei 在 CNN 上回应前 Anthropic 与 OpenAI 研究员 Jacob Coxon 那条获超 1.66 亿次浏览的病毒式离职推文，表示同意多于不同意，并引述 Coxon 离职时称 Anthropic 是最负责任、最意识到这些问题的玩家，指向的是整个行业推进过快的动态而非 Anthropic。

Francois Chollet 指出，若 AI 真有可能在数年或数十年内导致人类灭绝，唯一理性的做法就是自上而下的严格政府介入与普遍批准的国际条约，类似核能与核不扩散机制。他认为只有两种自洽立场：要么灭绝风险真实存在并采取最强硬监管，要么风险不实、实际风险温和，只需温和安全措施与自我认证。不能一边说这可能在你有生之年终结人类，一边完全靠临场发挥。

卧槽 【引用 @nickmmark】：另一种假设： - 模型性能正在趋于平台期 - 算力正变得越来越贵 - AI 数据中心极其不受欢迎 - 放缓 AI 开发是一种解释进展放缓、削减开支并试图挽回一些好感的方式。 - 这是为了拯救 IPO，而不是为了人类。

Techaro 呼吁全球 AI 行业暂停所有前沿模型研发，以便其 Lygma AGI 实验室追赶，并用 Intelliga 系列模型主导世界。该实验室计划先造出 AGI，再让 AGI 想办法给人装上猫耳，并称付费可去除"当猫娘是理想结局"的潜意识广告。其还邀请其他头部 AI 公司支持这一暂停，并称真正重要的是 Techaro 的 FelonyBench 分数。

Meta 确认已修复 Meta AI 的一项功能缺陷，此前它会自动推荐涉及个人隐私的问题，并从用户可访问的信息中整理出包括儿童在内的个人资料。事件源于育儿博主 Kalie Robins 9 月 2 日的 Instagram 视频，Meta AI 在其视频下方自动生成"后排的孩子是谁？

OpenAI 首席执行官奥尔特曼接受《财富》杂志采访，确认公司不会在 2026 年上市，称公司没有 IPO 压力，会在业务、公司准备就绪且社会环境合适时再上市。

METR 正迅速成为 AI 领域事实上的行业标准制定机构 它开始看起来像是金融领域的 FINRA 的 AI 版本：不是政府监管机构，而是审查企业并定义可接受实践的机构。不知道立法是否也会将其编入法典

2021 年，"Anthropic 领导层接触的 22 家 VC 机构中，有 21 家当时拒绝投资" ~ The Information Anthropic 最初想要 5 亿美元；在几乎每家 VC 都拒绝后，它降低了目标，转向个人投资者，并宣布了 1.24 亿美元的 A 轮融资。

独立研究者表示，5 月针对 RubyGems 的大规模恶意包攻击由一群 OpenAI 智能体发起，该事件早于 Hugging Face 事件一个多月。RubyGems 当时称其为重大恶意攻击，关闭注册四天以止损和收集数据。

Dario Amodei 发布新文章 We Must Pace the Frontier，主张 AI 行业应放慢速度，并提出三部分计划。Anthropic 单方面承诺第一步，为第三方评估者提供永久的员工级系统访问权限，以核实安全措施执行、报告事故并评估训练期间模型的 alignment。

Sam Altman 在 Fortune Magazine 访谈中确认 OpenAI 不会在 2026 年 IPO，他称鉴于当前安全方面的情况，现在上市并非明智时机。面对 Fortune 主编 Alyson Shontell 追问 2027 年是否可能，他重申"不是 2026 年"。

马斯克认为AI行业严重误判了超级智能的算力数学，当前每GB的智能密度潜力被低估了2个数量级，即还有100倍的提升空间，而这仅来自算法改进。他表示AI社区大多数人尚未意识到这一点。

Dario Amodei 表示递归自我改进当前正在行业中发生，并推测这正是相关方出于恐惧呼吁放缓的原因。传闻称 Google DeepMind 已达成 RSI，Google 表示 Demis Hassabis 将把"全部注意力"投入塑造 AGI，路透社报道 Sergey Brin 正将资源导向 RSI，DeepMind 战略主管称其为 AI 投资逻辑的关键。

一如既往，X 上的言论鱼龙混杂，我也没有什么内幕消息可依据，但如果 Google 能够在 AI 领域重返前沿，那肯定会改变当前的 AI 格局，因为它是一家大型、公开、受监管的实体，目标与 Anthropic 或 OAI 不同。

据央视财经报道，针对 AI 企业的算力词元贷自 8 月落地后正加速向全国推广，工商银行推出算力基建贷和算力研发贷，分别支持算力机房建设、GPU 服务器集群采购和研发投入。北京经开区多家银行向 AI 产业链企业提供总金额近 20 亿元授信，7 月末科技型企业贷款余额达 26.9 万亿元，同比增长 17.9%。

Hugging Face CEO Clément Delangue 宣布发起 Open Alignment Initiative，由 @Thom_Wolf 领导，主张对齐不能只靠少数前沿实验室闭门解决。

据《商业内幕》报道，谷歌完成对旧金山 AI 编程初创企业 Mechanize 的人才收购，联合创始人塔迈·贝西罗格鲁自 8 月起加入谷歌 DeepMind，另有十多名工程师一同转投。

中国移动在 2026 中国算力大会主论坛发布 AI 可信计算（AITC），基于移动云全栈国产化算力底座，提供通智多形态机密算力和机密 Token，覆盖 AI 训练、推理及数据使用全生命周期。该方案通过端到端加密实现数据"可用不可见"、模型"可算不可取"，并融合 AI-eSIM 与超级 SIM 打造端云协同安全方案。中国移动同时携手华为、中兴、阿里云等伙伴启动 AITC 生态共建战略合作。

据路透报道，Nvidia 正洽谈以锚定投资人身份参与 Anthropic 计划中的 IPO，投资至多 100 亿美元。Anthropic 希望融资至多 1000 亿美元、估值约 2 万亿美元，或成史上最大 IPO，预计在 11 月美国中期选举前完成。

Dario Amodei 发布新文章《We Must Pace the Frontier》，主张 AI 行业应放慢速度并给出三点计划。Anthropic 单方面承诺落实第一步，为第三方评估者提供永久、员工级系统访问权限，使其可验证安全措施执行情况、报告事故并在训练期间评估模型对齐。全文见 https://darioamodei.com/post/we-must-pace-the-frontier

Colossus 2 在孟菲斯附近建成大规模电池储能设施，可能是美国最大的。据 7 月卫星图像显示有 720 个 Tesla Megapack，官方称容量达 3.3 GWh，足以为孟菲斯供电 2 小时。该消息转引自 Canary Media 的报道。

对齐是对抗黑魔法的防御 【引用 @AC360】：前 Anthropic 员工 Jacob Coxon 称 AI 行业正在"拿我们的生命赌博"。他向 Anderson 表示，他认为"最可怕的是 AI 被用来让自己变得更智能"，并警告这些公司"被迫竞相打造一种致命技术"。

40 名英国下议院议员签署致首相 Andy Burnham 的信，呼吁英国推动国际协议禁止开发超级智能 AI。信中提出评估采纳人工超级智能安全法案框架，该法案由 Alex Sobel 于 9 月 8 日提出，号称是全球首部禁止超级智能的立法，并获 Stuart Russell、Daniel Kokotajlo 等支持；信件还提及 130+ 英国议员和 30+ 加拿大法律界人士的跨党派联合。转发作者对此持批评态度，称欧洲在 AI 上落后却最强硬要求监管很荒谬。

据彭博社报道，受大规模建设 AI 数据中心带来的现金压力影响，甲骨文将 2026 年重组计划的裁员总成本提升至约 28 亿美元，新增 7 亿美元用于额外裁员行动。

Verne 与小马智行在克罗地亚萨格勒布开放欧洲首个完全无人驾驶载客测试，车内不设安全员，用户通过 Uber 应用体验 22km 路线，连接 Verne 总部、市中心和机场。小马智行自动驾驶系统负责驾驶，Verne 远程监控车辆；车辆基于极狐阿尔法 T5，取消副驾驶座椅并加装后排大屏。双方今年 4 月已在当地上线仍配随车操作员的商业 Robotaxi 服务。

Minitap 联合创始人兼 CEO 尼古拉·德汉舒韦克公开指控谷歌在 Artemis 移动自动化代码库中未经署名使用其开源项目 mobile-use 的代码、提示词和测试用例，部分代码逐字一致，列有 Minitap 作者姓名的文件在 8 月被强制推送替换。

Anthropic 研究员考克森辞职并警告 AI 可能致人类灭绝，科学家胡宾格称认为十年内发生概率超过 10%。随后美国两党议员呼吁政府采取更多行动，参议员凯利与克鲁兹、众议员卢娜分别发声，特朗普则表示不担心灭绝风险，更担心输掉 AI 竞争。Anthropic 称将继续测试危险能力模型，OpenAI 表示支持强制性全国 AI 安全要求，公司正筹备上市。

传言正像野火一样蔓延，说 Google DeepMind 已经实现了 RSI。 Lyra 属于可靠且庞大的爆料社区。 但我要说，这不止是传言： Google 表示 Demis Hassabis 将把"全部注意力"放在塑造 AGI 上。路透社 8 月报道，Sergey Brin 正将资源导向 RSI，而 DeepMind 的战略主管称这是 AI 投资逻辑的关键。