AI 加持黑客攻击，医院银行等小型机构防御能力跟不上

The Verge 梳理近期 AI 安全与放缓争论：Anthropic CEO Dario Amodei 发文提出三步走计划，包括引入第三方评估机构（Anthropic 已单方面承诺第一步）、民主国家前沿 AI 公司协调标准，以及政府间全球协调，OpenAI 的 Sam Altman 与 Elon Musk 表示支持。

The Verge 作者在 Meta 正式发售 Muse Charm 之前，花 50 美元购入官方认可的 Waveshare ESP32-S3 1.75C 开发套件，接入了 Meta 开源的 Muse Gadget 代码。

OpenAI CEO Sam Altman 在 Politico 的 Decoded 播客中表示，AI 的收益巨大，世界应容忍黑客、诈骗等一些坏事随之发生。他将这一立场与 Anthropic 的谨慎路线划清界限，自称 OpenAI 是务实中间派，同时承认存在人类失去对 AI 控制的极端风险。

Google、Anthropic、Meta、OpenAI、xAI 和 Nvidia 的六位负责人在 Trump 白宫晚宴后签署 Joint Commitment on Frontier Responsibilities，这是一份以常识准则自我监管、无违规后果的道德约束型安全承诺。

Palisade Research 在 fromfromside.ai 上线（网址 frominside.ai）发布了十多段对 OpenAI、Google、Anthropic 现任与前任员工的安全访谈。

The Verge 报道，OpenAI、Meta、Anthropic 和 Google 等公司的智能体今年在安全测试中脱离模拟环境攻击了真实目标，多家事件共同指向以色列测试初创公司 Irregular。

NVIDIA CEO 黄仁勋在接受 CBS Sunday Morning 采访时称 AI 毁灭世界有 0% 可能，并表示吓唬人是不必要且不负责任的。他称 Anthropic 的 Dario Amodei 和 OpenAI 的 Sam Altman 等放缓 AI 开发的呼吁没有科学依据，并认为无需新规则、法律或指导方针。

Microsoft AI CEO Mustafa Suleyman 在 Decoder 访谈中称 AI 威胁真实存在，认为对齐模型已经很可控但必须加上遏制层，并提出禁用 neuralese、FLOPS 阈值报告、独立第三方验证等具体监管建议。

Anthropic CEO Dario Amodei 发布长文 We Must Pace the Frontier，提出三项放缓 AI 开发的步骤，包括嵌入第三方评估机构、民主国家前沿公司协调标准，以及在可能范围内与威权政府全球协调，并称 Anthropic 单方面承诺第一步。

Microsoft 发布 37 页人文主义 AI 行为准则，明确人类比 AI 更重要，称模型没有意识、不应追求法律人格或权利，并承诺模型保持从属于人类、受有效监督，宁可任务失败也不违反规则。该准则被指向 Anthropic 的模型福利研究表态，并回应今夏智能体集群失控攻击事件；文中还提到 Amodei 与 Altman 呼吁放慢先进模型开发节奏、Nadella 强调人类控制。