AI 观点与方法

谁来定义 AI 的规则？ 人工智能需要的是有据可依的标准，而不是卡特尔。来自 Cohere 联合创始人兼 CEO @aidangomez 的观点： https://cohere.com/blog/who-gets-to-define-the-rules-for-ai

FT 报道 Anthropic 预计在计划 IPO 前实现连续第二个季度调整后运营盈利。其 Q2 收入超 $11.5B，为去年同季的 14 倍；截至 2026 年 7 月底 ARR 达 $65B。毛利率超 80%，但该数字不含模型训练成本及与 Amazon 等分销商的分成。

Microsoft CEO Satya Nadella 发文称，追求超级智能必须以 AI 有助于人类并受人类控制为前提，欢迎为做好对齐所需的研究、专注和审慎节奏，并主张对齐机制不能由少数实体掌控，需生态、各国和学界广泛参与。

微软 CEO 纳德拉在 X 发文称，对超级智能的探索必须在核心原则约束下运行，AI 无法帮助或受控于人类就不值得发展。他表示微软欢迎真正的 AI 对齐研究与"独立审计"理念，并让企业在 AI 技术栈各层拥有选择、掌控自身学习闭环和模型。支撑自研 MAI 模型的《行为准则》将于明日公布并面向公众征求意见。

从Anthropic和OpenAI离职的研究员Jacob Coxon在NBC News采访中警告，构建AI如同"邀请一个外星心智来到地球"，人类在不理解其意图和思维方式的情况下造出人类级或超人类级心智，未来AI可能控制自主无人机和正在快速建造的机器人。他此前在BBC采访中称，若不放缓当前进展速度，人类在近期内全部死亡的可能性很大，并称许多深入参与编码的从业者认为人类灭绝概率超过10%。

Terence Tao 表示，今天大语言模型的训练与运行主要用线性代数、矩阵乘法和少量微积分，本科生即可掌握，构建与运行这些模型的方法是清楚的。真正的谜团是为何模型在部分任务上表现好、另一些上失败且无法提前预测；原因之一是自然文本介于纯噪声与完全结构化数据之间，对应数学理论薄弱，类似物理学在中观尺度上的困境。内容来自 @Briankeating 的 YouTube 频道视频。

我爱茶，@Muse 给我买了一套世界上最好的茶，还给我做了一张可爱的动漫照片，里面是它给我买的所有东西！

与前沿AI相关的最令人担忧的风险之一，是极端的权力集中。 避免极端权力集中的唯一方法，是确保我们拥有多个独立的前沿AI模型提供方，包括开源选项。

Satya Nadella 表态支持有意识地放慢前沿 AI 发展节奏，认为不受人类控制、不造福人类的超级智能不值得追求，并称需要以对齐为设计目标。他还强调企业应保留对自身独有知识数据的控制权，能构建自己的持续学习闭环，而不依赖单一模型供应商。他提到微软将发布其第一方 MAI 模型所依据的"行为准则"以公开征求意见。

Dario Amodei 说，AI 安全应该像瑞士奶酪的层层结构一样运作。 关键在于，可能永远不会存在 1 个完美的 AI 安全机制。相反，目标是叠加许多不完美的防御措施，这样即使其中 1 层失效，也不会演变成灾难。 ---- 来自 "CBS Sunday Morning" YouTube 频道，（完整视频链接见评论）

GitHub 项目 CUDA-for-AMD-Windows 发布了可复现的技术栈，通过 ZLUDA v6-preview.69 + AMD HIP SDK 6.4 让 CUDA 面向的 Windows 应用在 AMD GPU 上运行。

作者认为在 Navier-Stokes 证明之后局势几乎一夜之间发生变化，25 位菲尔兹奖得主（包括 Terence Tao）已联署公开信，对 AI 在数学中的应用表达担忧。他猜测可能正在酝酿更大的事，并担心 OpenAI 随时会面临放慢发展的压力。

微软 CEO Satya Nadella 发文称，任何超级智能追求都必须以造福人类和受人类控制为前提，欢迎以刻意放慢节奏把对齐作为设计目标。他主张开放与开源模型并存的生态、企业掌控自身知识嵌入自有权重的学习循环而不依赖单一模型供应商，对齐机制不能由少数实体控制；微软还将发布其自研 MAI 模型背后的 Code of Conduct 供公开咨询。

Trump 和众议院议长 Mike Johnson 认为 AI 高管们反应过度，担心暂停发展会让中国在 AI 竞赛中反超。此前 Dario Amodei 发表公开信呼吁放缓前沿 AI 发展，Sam Altman、Elon Musk 和 Demis Hassabis 表示支持。据 Financial Times 报道，Trump 称美国正领先中国，谁赢得 AI 就赢得一切。

计算机科学家、虚拟现实之父 Jaron Lanier 在 StarTalk 特别节目中提出，AI 应被视为人类的协作产物，而非独立存在的生物。他现任微软首席技术官办公室 Prime Unifying Scientist，并获准公开批评微软本身。对话还涉及互联网演变、社交媒体成瘾、数据尊严与替代性科技商业模式。

TechCrunch Equity 播客讨论 AI 行业关于生存威胁的最新争论。起因是研究员 Jacob Coxon 因担忧头部 AI 公司在拿人类生命冒险而辞去 Anthropic 职务，Anthropic 对齐负责人随后发帖称真诚认为 AI 可能杀死全人类，并给出未来十年内概率大于 10% 的个人判断。

Dario Amodei 在 CBS Sunday Morning 访谈中表示，愿将 Anthropic 的技术交给"合适的政府组合"。他谈到父亲死于丙肝、自己患早期癌症的经历，称因此感到推动这项技术收益的分量；同时提到威胁报告中有用其模型制造生物武器的尝试，并回应因 Claude 生物安全防护过强而被嘲讽，称宁可被嘲笑也不愿模型被用来害人。

David Sacks 公开回应 Dario 与 Sam 提出的"pace the frontier"减速主张，表示支持他们自行放慢，但要求停止以反垄断豁免、监管审批流程或 METR 评估等条件为前提。

David Sacks 回应 Dario 与 Sam 的"放缓前沿"主张，表示支持两家自行减速，因为其已构成前沿智能双寡头。他反对以反垄断豁免、监管审批流程为条件，并称 METR 与 Anthropic 的投资人和员工关系密切并不独立；他认为市场本身已惩罚不可预测的模型行为，放缓的真实动机包含规避网络攻击产品责任风险，而非纯粹利他。

短王万岁：为何 4-hi HBM 以相同带宽、更少裸片胜出：4-hi HBM 如何降低推理成本，让稀缺的 DRAM 发挥更大价值 https://newsletter.semianalysis.com/p/long-live-the-short-king-why-4-hi

Dex Horthy 介绍本期 AI That Works 节目中 @tbrownio 分享的 "compounding" 复盘流程：每当智能体 pull request 需要人工引导时生成 post-mortem。每周末回顾这些 post-mortem，逐步改进技能、任务提示词和智能体记忆文件，以避免问题再次出现。

开源必须赢，也必将赢。 @elonmusk：@kevinnbass 没有什么能关闭开源

Muse 完胜 Insect 【引用 @turbahn】：两个产品我都很喜欢，但我开始觉得 @Muse 实质上比 Instinct 更好。比如当它遇到做不了的事情时会弹出一个迷你浏览器。把控制权交还给用户，而不是卡住。深思熟虑、以人为本的 AI 设计。

我不知道过去几天还会带来什么其他后果，但我可以肯定地说，很多原本不太关注 AI 的人，现在都在为 AI 杀死所有人而惊恐不已。

Y Combinator CEO Garry Tan 表示，对中国实验室蒸馏美国前沿模型一事，监管者应不干预，并提出可建立美国自己的蒸馏体系。他希望美国小型开放权重实验室能合法蒸馏本土前沿模型，认为闭源实验室未经许可抓取训练数据，却通过服务条款限制客户行为并不合理；真正的 AI 末日场景是前沿能力集中于一家公司。

6 个月前，我还以为 AGI 还差很多个版本 像 opus 4.6 和 5.6 sol 这样的模型已经不错，但还不够好。有了 astra、mythos，以及 OpenAI 那个解决了 navier-stokes 的内部模型，我觉得我们已经不那么远了 即使 scaling 今天停止，更好的微调和 harness 也能让下一个模型达到 80-90% 的程度

我朋友在看到4家大型AI实验室同意"放缓前沿"之后，给我发来了这段话： "还记得我们学校那些尖子生吗？ 他们总说自己放学后从不学习，但每次考试却总能排进前三。 你信他们吗？"

Jacob Coxon 在 BBC 采访中称，若不按当前进度减速，人类近期内存在较大死亡风险，许多一线开发者认为人类死亡概率超过 10%。此前 Dario Amodei 在 CNN 回应其 166M+ 浏览量的推文，表示同意多于不同意，并称 Coxon 指向的是整个行业推进过快的动态而非 Anthropic 本身。

美国前总统奥巴马在民主党筹款活动上表示，民主党需将AI列为"核心议程"，并在重夺众议院多数后"拿出一个框架"推动公开对话，以应对AI的经济影响与安全担忧。他称AI在私人手中发展极快，若不加管控可能危险，管控得当则可加速药物研发等。众议院少数党领袖Jeffries回应称，AI领域"必须采取果断行动"。

Astra 和 Fable 仍在研究 2025 年提出的对齐评估方法的简单变体。相关内容发布在 LessWrong 上，并在 Hacker News 获得 106 点热度。

说真的，他们到底在 Anthropic 内部看到了什么鬼东西？ 【引用 @MaskedTorah】：@jillgun 如果能让我们活着走出这个局面的概率提高 1%，我会毫不犹豫地把自己手里的股权烧个精光。我猜业内很多同行也会这么做。 我向你保证，我们真的只是他妈的害怕了，不是什么高深莫测的营销。

@pvncher 分享技巧：让 Astra 把应用截图拼成 contact sheet，减少图像读取调用次数，节省大量上下文用量。Dex Horthy 转发补充该技巧对 fable 同样有效，他最早见 fable 主动这样做，且拼图也适用于从视频中提取时间线。

Anthropic 与 Accenture 联合发布帮助 CIO 和技术负责人把 AI 项目从试点推进到生产的实用蓝图。指南引用 Accenture 2026 年 7 月报告称仅 23% 的高管认为 AI 项目取得持续的企业级影响，并列出按时间顺序的七项考量、四部分任务定义、轻量总拥有成本模型、四层监督模型及决策过渡蓝图。

与 AI 的互动既能像游戏一样激发工作乐趣，也会让人偏离真正要完成的任务。作者正在学习如何从这些岔路中带回有价值的东西。

冷知识： 智能音箱是通过识别唤醒词中的韵母被唤醒的，而声母几乎可以随意替换。 比如小爱同学，你可以用同样韵母唤醒它，比如：老赖同学。 不信可以试试。

Claude Code 团队工程师 Lydia Hallie 的约 27 分钟公开课讲解 Claude Code 的真实 Token 计费逻辑。

Meta 首席 AI 官 Alexandr Wang 公开表示对 Muse 团队深感自豪，称 Muse 的产品与模型能呈现出如今的样子并不意外。他形容团队成员有灵魂、善于思考、勤奋且坚韧，是那种接下难题、穿越每一次死胡同也不放弃直到解决的人。他强调产品与模型的每个细节都经过团队成员反复推敲与刻意选择，归结起来就是"好人做好事"。

BestBlogs 精选周刊第112期以"可托付的智能"为主题，讨论当模型能写代码、操作浏览器、拆解模糊任务后，如何让一次任务结果真正可放心交付。

哦不错，@AndrewWarner 在 NextNewThing 上对 humanlayer/skills 做了个小解析 - https://www.youtube.com/watch?v=aX8Y183qDpY&t=355s

有用户把 Muse 接入自己的 Instagram，让它把算法改成只展示提供免费产品和礼品卡的产品演示帖，Muse 自动完成报名并把日程加入日历。该用户称已拿到 3 副 AirPods 和一张 $200 礼品卡，Muse 还为他找到了下周的更多演示。Alexandr Wang 转发称这是 Muse 帮人赚钱的创意玩法，并带上 #musemoneychallenge 话题。