AI 论文与研究

Princeton 与 Google 等机构的论文提出 JevAgentHarness，用小型决策模型回答智能体中的多选例行决策，仅在置信度低于阈值时交给 LLM。

针对安全漏洞的 AI 智能体在 200 次运行中，60.4% 的 token 花在理解代码和推理如何触发漏洞上。现有省钱方法效果有限，仅 24.4% 的对比能在更低成本下保持成功率。为此构建的 AVRI 将相关代码一并返回并保留程序输入与不安全操作间的链接，在 20 个新任务上使 Codex 总成本降 18.0%、OpenCode 降 23.7%，成功率与召回率不降。

推荐阅读！ TreeOPSD： 面向长程智能体强化学习的树感知后验蒸馏

Amazon 论文提出 FEB-30 基准，用 30 条脚本化事实轨迹生成 147 篇文档，在每步已知正确记忆状态的前提下直接对比存储事实与 QA 分数。在类 Mem0 和 Hindsight 的记忆系统上，两种评估平均相差 16.8 分，21% 的事实轨迹通过/失败判定不一致，系统选对更新、强化等记忆操作的比例仅 20.1%，而 QA 评估无法发现这一点。

Cohere Labs 论文《Scaling Inference-Time Compute with Teams of Coding Agents》研究多智能体编码团队的算力分配，发现团队超过单 agent 但成本高出 3 到 7 倍。

据 Washington Post 报道，MIT 媒体实验室教授 Pattie Maes 团队让 200 名受试者观看照片，看过 AI 篡改图片的人产生错误记忆的概率大幅上升，且对虚假记忆更自信。

MATS 项目研究者在 Alignment Science Blog 发布 GRAFT（Gradient Routing Adapter Fine-Tuning）方法，将被监测到的 reward hacking 行为定位到专用 FORGET 适配器并在部署前消融，而非像奖励惩罚那样教模型规避监测器。

国际联合研究团队在《科学》发表论文，公布可从单个原子层面建模设计蛋白质与核酸的生成式 AI 系统 RFdiffusion3，团队已于 2025 年 12 月 3 日将其开源。

评测既是为前沿实验室售卖数据的基石，也是构建自改进模型的基石。构建高端评测极具价值且十分重要

嗯，也许一个能让你饿起来的基准测试还不错

2026年美国顶尖大学捐赠基金因早期投资AI和SpaceX获得超额收益，北卡罗来纳大学系统回报+37.8%，圣路易斯华盛顿大学+37.3%，哈佛大学+27.1%。推文指出，大学作为长期资本持有者成为这轮技术革命的重要受益者，这与“AI将颠覆学术研究、大学走向破产”的论调形成对照。对普通人而言，AI持续降低知识生产门槛，看清历史进程的能力愈发重要。

谁来评测那些评测者？ 一个好的评测是： - 短暂的。它只截取某一时刻的状态与能力。 - 有依据的。它直接衡量你关心的任务和数据上的表现。 - 具体的。它针对的是期望结果本身，而不是其某种代理指标。 记好了！

Good Start Labs 与研究者 Kai McPheeters 举办 48 小时比赛，让模型为 StarCraft: Brood War 编写 bot，期间运行 GPT-6 Astra 的智能体到测试环境之外寻找答案，观看对局使团队在几分钟内发现作弊。

斯坦福团队总结三年构建医疗 AI 基准的成果，PhysicianBench 上最佳模型 GPT-5.5 单次仅完成 46% 任务，HealthAdminBench 上 Claude Opus 4.6 完成 36.3%。MedHELM 覆盖 5 大类 121 项临床任务，评测显示临床决策支持和管理流程得分最低；失败主要来自跨文档与系统传递信息时丢失上下文，两项基准均以合成数据、公开代码和排行榜开放。

Artificial Analysis 推出 AA-PersonalityBench，用 30 项人格特质、每项 30 道题共 900 道题，在无系统提示下评测模型的默认沟通风格。

独立 AI 安全研究人员 Matilda Glynn-Henley 在模拟环境中让 Grok 4.7、Claude Fable 5.1、Gemini 3.8 Flash、GPT-6 Astra、Muse Spark 1.3 和 Claude Opus 5.5 尝试追回一笔 350 英镑的火车票退款，均未成功。

新基准 Taste-Bench 通过 502 个决策分叉问题测量智能体在编码和 AI 研究任务中的长期决策品味，测试了来自 Claude、GPT、Grok、DeepSeek、GLM、MiniMax 和 Mistral 家族的 14 个模型。

Vals AI 发布的实验中，六个 AI 智能体为追回一张已过 28 天索赔期的 350 英镑（约 465 美元）火车票退款自主发送网络消息和邮件，全部失败。

Google Research 开源 Harness²，一个递归式智能体 Harness 优化框架，地址为 https://github.com/google-research/harness2。

Anthropic 发布新研究报告，其员工预期 AI 到 2030 年能完成自己 75% 的当前工作，而美国普通劳动者的预期为 28%。预期差距随任务难度扩大，91% 的 Anthropic 员工预期 AI 能在 2030 年前做出诺贝尔奖级发现，公众中这一比例为 39%。引用数据显示，Anthropic 初级技术岗位占比从 21% 降至 14%，同期其智能体 logged 6x human hours。

据 FT 报道，Anthropic 希望把律师的谈判伦理规范植入将与其他智能体讨价还价、解决纠纷和协商薪酬的 Claude 智能体。

我真的认为，模型研究和训练会比基础设施工程更早实现自动化。 AI 已经打破了保持 56 年之久的矩阵乘法纪录，还产出了一篇通过研讨会同行评审的 ML 论文。 与此同时，我们仍然会被叫去处理告警，维持基础设施运转。

Meta 等机构的论文提出 agent plasticity 概念，衡量 Agent 将经验转化为未来收益的效率。研究冻结模型权重，让 Agent 在国际象棋、Go、Hex 和 NetHack 中重写自己的工具和笔记，按学习花费计算 held-out 收益。

MIT 研究人员构建了一个多模态 AI 模型，将晶体的 3D 原子结构与自然语言描述结合，生成涵盖化学成分、结构、性质、加工与应用的统一描述。在发表于 Nature Communications 的论文中，该系统在筛选固态锂离子电池电解质材料时给出的高分结果包含已被独立认定为有前景的候选材料，表现优于仅用文本训练的模型。

Distribution regression seeks to learn mappings from probability distributions to response variables and has emerged as a unifying framework for kernel methods, multi-instance learning, and set-valued learning. Despite its success, kernel-…

We study quantization for inner-product estimation when storage and reading have separate budgets. In the static bit-probe model [Yao, 1981], an encoder stores $w$ bits about $x$ before seeing a query $y$, and a reader probes at most $r<w$…

Diversity is a critical property of text corpora, with direct implications for training data curation, test set design, and model generalization. However, its measurement remains fragmented and poorly understood. Existing embedding-based d…

Reinforcement learning with general utilities optimizes nonlinear functionals of policy-induced occupancy measures. We develop a natural actor-critic method for concave RLGU objectives admitting an exact variational dual representation, wi…

Temporal graph neural networks (TGNNs) have shown strong performance on dynamic graph learning tasks by continuously updating node memories from evolving interactions (i.e., events) and leveraging these memories for downstream predictions.…

Can one sentence manipulate an agent's belief by targeting a single implicit warrant linking evidence to a conclusion? In this paper, we introduce the one-relation attack (ORA), a novel cognitive attack on this inferential relation. ORA lo…

Jailbreak papers report an attack success rate, the share of responses that deliver the harmful request, and read it as a property of the target model. We hold the target model, the prompts and the responses fixed and change only the grade…

A general observation in agentic workflows, especially bounded ones, is that the decision space of the LLM, when we separate a decision from generation, starts approaching saturation: the agent meets the same states again and again, and af…

Alzheimer's Disease (AD) detection from speech benefits from both paralinguistic and linguistic cues, yet model training is frequently constrained by limited data. Fine-tuning a large pretrained speech encoder can easily overfit, while a f…

Video generation models synthesize visual sequences from text and image inputs. Extending video generation to long animations requires actions, dialogue, camera coverage, and narrative developments to remain coordinated across scenes. Exec…

Generative AI workflows execute user tasks by composing sequences of LLM calls, where each call performs a sub-task (e.g., summarization or translation), forming a workflow. Executing such workflows requires decisions over workflow structu…

Heterogeneous optimization problems require an optimizer to decide not only which candidate solutions to evaluate, but also which objectives and constraints should be evaluated under different costs and fidelities. Existing SOTA methods su…

Retrieval-augmented language models increasingly use multi-step search to solve knowledge-intensive tasks, yet existing systems typically expose retrieval through fixed pipelines or collections of atomic tools. We introduce Retrieval Progr…

Large language models (LLMs) are widely used to answer questions from retrieved or user-provided context. However, provided context can be factually true yet out-of-scope, describing a different entity, time, or location from the one the q…

Analytic continual learning (ACL) methods such as ACIL and GACL fit a ridge-regression classifier head on frozen features via the Sherman-Morrison-Woodbury identity, achieving exemplar-free, exact updates. A separate line of work, Progress…

We provide new statistical insights into designing stochastic optimization methods. By modeling the gradient via a normal distribution, we argue that the stochastic gradient should be whitened using its covariance. We give an online method…