AI 论文与研究
整理大模型、智能体、多模态、机器学习与生成式 AI 的论文、基准和研究进展。
分类文章5476
当前页55 / 137
持续更新永久归档
分类文章
按发布时间从新到旧 · 每页 40 条
论文研究普通
Baseten Base Labs 复现单步梯度外推研究:RL 提升主要是修复 doom loop 失败模式
Baseten Base Labs 复现并检验了近期关于 RL 训练轨迹近似直线、可通过线性外推替代完整 RL 运行的结论,发现其效果有限。
信息来源:Baseten Base Labs:模型研究
论文研究普通
FrugalEvo:面向成本感知的 LLM 引导程序进化框架
FrugalEvo 是一个成本感知的 LLM 引导程序进化框架,由更强的高成本 LLM 探索策略、更便宜的 LLM 实现并迭代优化代码,同时通过最大化前缀共享提升缓存复用。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
GPT-2 拆分学习中的梯度如何加剧文本泄露:按 token 与按文档计量
在 GPT-2 的拆分学习场景中,仅凭客户端层公开权重,攻击者从激活值可还原 94.20% 的 token,加入梯度后升至 97.38%,提高 3.17 个百分点。
信息来源:HuggingFace Daily Papers(社区热门论文) · GPT / Hugging Face
论文研究普通
Pivot-SD:面向掩码扩散语言模型的高效自蒸馏框架
Pivot-SD 是一个面向掩码扩散语言模型(dLMs)的离线自蒸馏框架,仅监督去噪过程中对最终回答影响最大的"关键承诺"(pivots),通过信息增益指标衡量其对剩余掩码位置不确定性的降低程度来筛选。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
SHIFT:通过预测为每个查询动态构建多智能体系统
研究者提出 SHIFT,将执行移出逐查询搜索循环,由本地 LLM 架构师从搜索中学习 harness 构建策略,并用价值函数预测兼顾准确率与执行成本的效用,再通过蒙特卡洛树搜索为每个查询构建 harness。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
4DCodeBench:在动态场景逆图形学上评测智能体
4DCodeBench 是一个通过代码生成评测 4D 逆图形学的基准,要求智能体从视频重建动态场景并输出可执行的图形程序。该基准包含真实视频与覆盖形变、流体、断裂等物理现象的合成场景,对前沿模型的大规模评测显示,强静态重建能力尚不能转化为对复杂动态的可靠重建。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Apple 研究:扩散模型置信度排序的局限性
Apple 研究团队从理论上证明,扩散模型(含 remasking 与 uniform-state 采样器)的每一步只有在所写入位置在已固定 token 条件下相互独立时,才与训练分布匹配,而任何逐位置分布的乘积都无法匹配存在依赖关系的 token 组。
信息来源:Apple Machine Learning Research(RSS)
论文研究普通
HyperBrowseComp:面向网页浏览智能体的多语言多模态压力测试基准
HyperBrowseComp 是一个多语言多模态网页浏览基准,包含 423 道人工编写并验证的问题,覆盖 13 种语言,由母语或高水平使用者撰写。问题要求定位冷门证据、追踪多步线索或查阅视频、扫描文档、图像、地图等异构来源,并通过无联网模型评估过滤掉可凭参数化知识作答的简单题。研究在统一智能体协议下用厂商原生搜索与共享外部检索框架评测多个模型,并对部分问题开展人工评估。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
6G Open RAN 意图解读时延对比:Jev-1.13.0 决策模型与 LLM 在 RANIntent v1 上的评测
在 RANIntent v1 基准、ns-3 闭环仿真及真实 A1/E2 路径上,Jev-1.13.0 等决策模型与 LLM 被对比解读意图的时延与无线性能。Jev-1.13.0 在 99.8% 的调用中满足 1 s 近实时预算,而两个托管 LLM 仅分别为 17.9% 和 0%;中位解读耗时 0.286 至 2.35 s,A1 与 E2 传输则低于 25 ms。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
高效推理训练并不总会损害 CoT 忠实性与可监控性
研究用固定生成预算、按样本长度目标和组相对长度奖励三种方式对大语言模型做长度压缩微调,发现高效推理对 CoT 忠实性与可监控性的影响并不相同。多数设置下忠实性下降,主因是训练后模型一致性变差;可监控性更稳健,即使 CoT 大幅缩短,模型仍会说明输入干预对答案的影响。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
EyeRobot 2.0:无需腕部相机的主动注视精准操作
EyeRobot 2.0 提出用主动注视(Active Visual Fixation)实现仅靠单个立体相机完成精细双臂操作,通过转动两个视点将注视中心对准 3D 注视点,并以中央凹方式分配更多视觉 token 给图像中心。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
World Embedding Benchmark:评估视频表征的物理信息编码能力
研究者推出 World Embedding Benchmark,包含来自 80 个家族的 8,000 个受控仿真案例,覆盖流体力学、固体力学、动力学与光学电磁学,支持文本-视频检索、物理属性回归和视频描述配对分类三项任务。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
DuoMatching:面向少步视频生成的联合-边缘分布匹配框架
DuoMatching 是一个通过联合-边缘分布匹配逼近真实视频分布的框架,在现有联合匹配基础上引入图像生成器的帧级监督,并借助 LatentBridge 解决视频学生模型与图像教师模型之间的潜表示不匹配问题。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
COSMI:多物体交互的组合式合成数据集与方法
COSMI 通过组合单物体交互片段构建出含 222k 序列、275 小时、最多五个物体的多物体交互数据集,规模约为最大同类采集数据的近三十倍。基于该数据训练的 COSMI 方法是一个文本到交互的扩散 Transformer,用权重共享的物体槽生成可变数量物体。在含未见物体与未见交互组合的基准上,其文本对齐与接触准确率均优于基线,在未见物体上优势最大。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Skill2Real:面向零样本仿真到现实机器人操作的智能体技能学习框架
Skill2Real 提出智能体策略框架,通过共享 API 学习可执行技能,其 Proposer-Verifier-Governor 循环利用仿真特权证据诊断结果并验证更新。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
ICML2026:LG AI Research 用机制可解释性解析图 Transformer TokenGT
LG AI Research 在 ICML2026 机制可解释性研讨会上报告了将机制可解释性(Mech. Interp.)应用于图 Transformer 的工作,研究对象为此前的 TokenGT(T5 encoder)。
信息来源:LG AI Research:官方研究博客
论文研究普通
Harness-Aware Distillation:让小语言模型智能体学会 harness 之外的能力
研究者提出 Harness-Aware Distillation(HAD),将蒸馏重点放在教师模型超出 harness 之外的能力上,而非模仿教师的完整输出。HAD 在 on-policy 蒸馏基础上加入动作偏好对比与有效性校验,无需任务奖励、成功标签或未来信息。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
通过模型路由与协作实现集体偏见缓解(CBM)
研究者提出 Collective Bias Mitigation(CBM)框架,通过细粒度建模不同 LLM 的行为并促进模型间知识共享来缓解偏见,是该领域首个系统探索如何选择与组织不同 LLM 以生成更公平回答的工作。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
递归自我重写(RSR):用 Qwen-3.8-27B 将多框架经验重构为通用训练轨迹
研究提出 Recursive Self-Rewrite(RSR)框架,用单一基座模型 Qwen-3.8-27B 在多种 harness 下发现解法,再由 planner、critic、executor 重构为通用 harness 下的训练轨迹。
信息来源:HuggingFace Daily Papers(社区热门论文) · Qwen / Hugging Face
论文研究普通
用 MoE 路由器实现 Decoder-Only 模型的跨语言对齐
研究者提出用 MoE 路由器的输出作为跨语言对齐目标,替代在隐藏状态上加辅助对齐损失,因为路由器输出更适合对大量 token 做池化,从而在序列级别实现更可靠的跨语言比较。在四个开源 MoE 模型上的受控持续预训练实验显示,加入该路由损失不仅让底层隐藏表示跨语言对齐,还提升了多语言评测表现。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Queen:会下棋并解释走法的 4B 参数语言模型
研究团队推出 Queen,一个 4B 参数的棋类语言模型,能在达到典型特级大师水平的同时解释自己的走法和计划。该框架结合静默棋类编码器与指令微调 LM 的交叉注意力架构,并用迭代蒸馏算法训练,七轮迭代后 Elo 从 1782 提升至 2697,超过 900 分。其棋力和解谜准确率大幅超越所有前沿模型,参数量却少三个数量级,解释的连贯性接近 GPT-5.6-Sol (high)。
信息来源:HuggingFace Daily Papers(社区热门论文) · GPT / Hugging Face
论文研究普通
CUAWright 论文提出以 bash 为唯一操作接口的极简终端智能体框架
论文提出 CUAWright,一个约 3K 行代码的极简终端 harness,以 bash 命令为唯一动作接口,用文件系统动态创建工具并管理上下文。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
ADSD:通过自动诊断与技能发现训练数值智能
研究者提出 Auto-Diagnosis and Skill Discovery(ADSD)框架,先解释数值求解器表现不佳的原因,再据此发现合适的数值方法,并将知识打包为可复用的求解器技能。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
NAVA-WAM:从纯观测视频原生预训练动作先验的世界动作模型
NAVA-WAM 提出原生动作先验学习,直接用纯观测视频预训练动作策略,跳过间接的表示到控制迁移或独立的 latent action 模型。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
ID-Forcing:让自回归视频扩散模型在测试时生成分钟级长视频
针对自回归视频扩散模型长视频生成中的漂移问题,研究者提出测试时框架 In-Distribution Forcing(ID-Forcing),通过 self-caching 机制让每个 chunk 缓存时不关注先前的 KV 条目,从源头避免 OOD KV 条目,使滚动窗口保持严格同分布。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
PointWAM:面向灵巧机器人操作的 3D 世界动作建模
PointWAM 将世界拆解为场景与手部,在统一时空坐标系中以 3D 点轨迹联合预测二者演化,再把预测的手部运动重定向为机器人动作。在人类视频上预训练使 DexJoCo 平均成功率提升 56.9 个百分点,场景轨迹监督在仅预测手部的基础上再增 10.9 个百分点。两者结合后,PointWAM 在十项 DexJoCo 任务上超越此前 SOTA 11.7 个百分点,并在真实机器人上优于强 VLA。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
语言判别能力提升多语言语音模型的语言学习效果
Apple 研究团队发现,在预训练中强化语言判别能力可缩小多语言语音模型与单语言模型的差距。在英语/法语 HuBERT 对照实验中,双语基线 phone-ABX 错误率从 11.6% 降至 10.4%(单语言为 10.8%),sWUGGY 从 52.1% 升至 56.7%,ProsAudit 词汇子任务从 68.9% 升至 72.9%。
信息来源:Apple Machine Learning Research(RSS)
论文研究普通
研究揭示 LLM Agent 在搜索中按来源偏好选择物品及其缓解方法
一项研究测试 12 个 agent 模型在三个领域的端到端搜索,发现各模型都对某些来源表现出偏好和回避,且总体一致。这种偏好可压过物品本身满足需求的程度,当来自偏好来源的物品少满足一条要求时仍约三分之二的情况被选中,反向情况则几乎不会;隐藏来源信息会削弱偏好,重新标注为偏好来源会提高选中率。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
学习潜在蛋白质语言用于自回归生成
研究提出两种学习型潜在蛋白质语言:PLL 基于冻结的 ESM-2 编码器将序列映射为 4,096 状态的上下文词表,SLL 则改造 GCP-VQVAE Lite 并保留骨架坐标解码。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
DEPICT:用答案一致性为文本到图像对齐打分
DEPICT 是一种免训练的文生图对齐评估指标,用图像侧与纯文本侧答案之间的期望一致性替代固定参考答案,并按文本对问题的决定程度加权,将否定项准确率从 19% 提升至 88%。该方法还将一致性得分与整体得分融合,以找回分解验证中丢失的上下文。在五个基准、三个模型家族的十一个骨干上评测,DEPICT 超过所有免训练指标,并在三个与人类相关性基准中的两个上超过微调评估器。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
语言模型需要可训练输入嵌入表吗?1.7B 级规模下用固定最小 token 编码
研究用相同 tokenizer、骨干网络和训练配方从零训练三个 1.7B 级 decoder-only 模型,对比可学习嵌入表、标准 16-bit token-ID 编码和 GF(2) 上固定可逆重编码三种输入接口。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
科学领域终端环境的自监督扩展:SWR 框架用 500 个工作流训练终端智能体
研究者提出 software-in-the-loop reconstruction(SWR)自监督框架,从现有科学软件工作流中自动获取参考输出与验证目标,无需为每个任务手工编写参考解。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Periscope:让冻结语言模型突破上下文窗口限制的无训练推理方法
Periscope 是一种免训练推理方法,将文本切成 N 个 chunk 排成 K×K 网格,让冻结模型对局部与跨段 span 回答同一问题,用单个 token 的 log-odds 打分,并以 s^1.5 成本让 W token 窗口覆盖 W²/c token 文本。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
SEER:面向时间序列预测的自进化事件推理与检索框架
SEER 是一个闭环框架,通过将预测误差转化为两种解耦反馈机制来动态优化事件条件:反思式检索记忆用于精炼搜索查询并过滤噪声,持久因果知识库用于蒸馏可迁移的领域动态。该框架在事件检索与反思中强制严格时间边界,防止前视偏差和数据泄漏。在六个高波动时间序列基准上,SEER 持续优于 SOTA 时间序列基础模型和语言模型基线。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
FOVEATED:用聚焦视图提升非结构化知识编辑中的原子事实召回
针对非结构化知识编辑中"上下文依赖"导致的原子事实召回失败,研究者提出即插即用框架 FOVEATED,通过随机偏移前文上下文 key 的 RoPE 位置构造聚焦视图,编辑时施加扰动、推理时移除,不改变模型原生位置编码。该框架在五种知识编辑器、两个 LLM 主干和三个基准上均取得一致提升。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
MIT CSAIL 与 Google 推出 InstructMesh:可修复 AI 生成 3D 模型再打印
MIT CSAIL 联合 Google 和东北大学推出 InstructMesh,将微软 TRELLIS 的 3D 生成能力与 GPT-4 的推理能力结合,用户可用自然语言标注并修改 AI 生成的 3D 设计后再打印。
信息来源:MIT News(RSS) · GPT
论文研究普通
Epoch AI 发布 ChatGPT 使用探索器
这些趋势来自一个自我选择的用户样本。数据未经加权处理,不代表美国成年人或 ChatGPT 整体用户的人口结构。 阅读我们的完整报告:https://epoch.ai/latest/introducing-the-chatgpt-usage-explorer 自行探索数据:https://epoch.ai/data/chatgpt-usage
信息来源:X:Epoch AI (@EpochAIResearch) · ChatGPT
论文研究普通
Epoch AI 分析 ChatGPT 用户数据
元数据由 @YouGov 提供,后者从其美国小组成员中随机选取了 ChatGPT 用户。所有消息文本在共享前均已移除。 解读时有两个关键注意事项:用户是主动选择共享其历史记录的,且在样本抽取时,这些用户在 2026 年至少使用过一次 ChatGPT。
信息来源:X:Epoch AI (@EpochAIResearch) · ChatGPT
论文研究普通
Epoch AI 收集 5000 名 ChatGPT 用户使用数据并推出 usage explorer
Epoch AI 收集了 5000 名 ChatGPT 用户的使用模式元数据,并在新的 ChatGPT usage explorer 中公开。数据历史覆盖 2022 年 12 月至 2025 年 12 月,显示该用户群体随时间推移对 ChatGPT 的使用强度不断提高。
信息来源:X:Epoch AI (@EpochAIResearch) · ChatGPT
论文研究普通
Qwen3.8-27B 聊天模板影响推理分数
ARC Prize 通过 Baseten 测试 Qwen3.8-27B,发现其自带聊天模板会按推理档位注入不同指令:low 要求思考简短聚焦,xhigh 要求仔细思考、检查假设并考虑替代方案,medium 则不加任何指令。这可能解释了 medium 档得分偏低——这些设置改变的是模型解题的指令方式,而非单纯扩大思考预算。
信息来源:X:ARC Prize (@arcprize) · Qwen