François Chollet 主张关键流程应刻意保留人类参与，不应让 AI 高度自主

François Chollet 发文称 GPT-6 Astra 在交互式推理任务上带来阶跃式能力提升，使用标准 harness 在 ARC-AGI-3 上得 66%，配合持续对话 harness 和自定义 compaction 接近 100%，每局成本约 $360。

主观能动性向来具有自我增强的特性，而AI正在放大这种效应。 低能动性的AI使用者进一步丧失能动性，高能动性的AI使用者则进一步增强能动性。

我撰写《Deep Learning with Python》旨在成为理解深度学习工作原理及最佳应用方式的权威指南。数以万计的人通过这本书开启了职业生涯。已售出12万册，更有数百万人下载阅读。 现在可以免费在线阅读：https://deeplearningwithpython.io/

强化学习在已知领域能提升模型性能，但在未知领域可能导致模型产生幻觉，误以为在执行其他训练过的任务。这一现象在GPT-5.5等大模型的ARC AGI 3基准测试中有所体现，其得分仅为0.43%，与Claude 4.6、Gemini 3.1等模型表现相近。分析指出GPT-5.5的主要失败原因包括：局部效应正确但世界模型错误、从训练数据中提取的抽象层级不当，以及虽解决问题却未强化奖励机制。深入分析此类失败案例，有助于全面理解大模型在特定模态上的能力局限与改进方向。

作者以"Glurg"游戏（实为 chess）假设情境论证：借助现有外部认知基础设施（计算机、互联网等），人类顶尖团队能在24小时内从规则解析开发出3000 Elo引擎，三周内可达3500 Elo且计算效率提升10倍。这表明人类智能已具备即时掌握复杂策略系统的能力，而非从零缓慢进化。该论述回应了关于现实世界更接近 chess 而非 Go 的争论，强调人类利用工具扩展认知边界的即时优势。

François Chollet 表示，ARC-AGI-3 于今年 3 月发布时前沿模型得分低于 1%，曾引发部分人质疑基准本身有问题、聪明人类也无法得高分。他称基准校准良好，认真投入的普通人应能得 90% 以上，表现优于其人类基线即可得 100%；AI 在 6 个月内从 <1% 提升到 100%，显示该基准记录了智能体能力的快速上升，这一速度超出包括他们自己在内多数人的预期。

François Chollet 发文称，所有 AI 不可避免会收敛于符号学习，即通过找到解释数据的最短符号程序来建模数据，因为这是效率最优的 AI 形式，但抵达这一目标可以有多条演化路径。他引用 @RTomMcCoy 团队历时 8 年的新论文作为佐证：LLM 虽与符号系统看似不同，却在语言、代码、数学等符号领域表现出色，研究发现 LLM 的表征具有隐式符号结构。

François Chollet 提出测试时扩展有两个维度：让智能体在更长时间框架上运行（深度），以及运行更多数量的智能体（广度）。他表示大家熟知第一个维度，但在解决需要广泛搜索的难题时，第二个维度同样重要。

弗朗索瓦·肖莱认为，2026年AI网络安全革命带来的快速进展可能外溢至生物学领域，导致合成病原体大流行风险。他指出生物学不同于网络安全，缺乏可验证性且依赖人类数据和湿实验等非数字瓶颈，但合成大流行或已在无AI情况下可行，AI可能加速其扩散，人类对此尚未做好准备。