AI 论文与研究
整理大模型、智能体、多模态、机器学习与生成式 AI 的论文、基准和研究进展。
分类文章5477
当前页68 / 137
持续更新永久归档
分类文章
按发布时间从新到旧 · 每页 40 条
论文研究普通
SolveEdit:生成模型视觉问题求解基准测试
研究者推出 SolveEdit 基准,用于评估生成模型通过场景变换完成视觉问题求解的能力,包含 2,728 个案例,并用原子变换契约与 SolveScore 在无需参考输出的情况下衡量完成度与误改。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
The Endless Exam:面向超级智能的数学构造基准,覆盖 14 类参数化问题族
研究者推出 The Endless Exam 基准,涵盖 14 个参数化数学构造问题族,用可验证的连续质量分衡量模型在已发表数学前沿内外的进展,且不将改进上限封顶在 1。在 69 个实例上评测 9 个模型,虽无模型超越 30 个已发表前沿参考,连续分数仍能区分性能差异,并给出规模-质量曲线。生成器、验证器、参考、模型回答与分析均已开源。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
稀疏 Crosscoders 揭示 On-Policy Distillation 机制:学生模型只是重新加权已有特征
研究用稀疏 crosscoders 分析 LLM 推理中的 on-policy distillation(OPD),发现 OPD 既不创造新特征也不传递教师模型自身特征,学生模型超 98% 高频使用特征的激活率变化在 20% 以内。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
RegLLM:面向受监管智能体 AI 有限自主性的诊断测试框架
研究者提出 RegLLM,一个针对受监管智能体工作流中有限自主性的诊断测试框架,监测引用有效性、来源接地、schema 合规、升级正确性、宪法对齐和不安全动作率六项可信信号。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
SeLMRoute:面向大语言模型路由的概率语义证据框架
SeLMRoute 通过先提取与候选模型无关的概率语义证据、再估计候选模型表现的方式实现 LLM 路由,在 LLMRouterBench(15 个数据集、20 个候选模型、11,481 条查询)上平均准确率达 72.08%±0.45,分组五折 out-of-fold 评估为 72.64%,高于最强固定候选的 69.23%。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
用提示词分歧做偏好监督:无需像素级标注的开放词汇语义分割适配方法
研究者提出偏好引导适配框架,用二元偏好替代密集掩码监督,把不同提示词模板对同一图像产生系统性差异的"提示词分歧"现象转化为内置偏好监督来源。该方法从跨模板高不确定性区域挖掘局部偏好查询,并用 Region-Localized Preference Optimization(RLPO)配合一致性正则化适配 OVSS 模型。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
BaRe-Mem:面向多智能体咨询的贝叶斯可靠性记忆
BaRe-Mem 是一种面向多智能体咨询的在线贝叶斯可靠性记忆,基于中心模型的内部信念表示估计顾问可靠性,并用历史交互更新这些估计,从而调节顾问回答的影响、决定是咨询还是自主推理。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
看清、说出、分类:LLM 涌现性失准的机制诊断与参数空间缓解
研究对 LLM 涌现性失准(EM)做二阶几何动态分析,发现方向性 Hessian 曲率集中在语义枢轴 token 上,有害-安全差距扩大主要源于安全梯度重叠下降。据此提出的参数级几何缓解框架,在 Qwen2.5-14B-IT 上将自由生成 EM 抑制最多 80.0%,并在四个开源指令模型家族中的另外三个(3B–20B)上验证同一有害子空间控制冻结 EM 响应的条件支持。
信息来源:HuggingFace Daily Papers(社区热门论文) · Qwen / Hugging Face
论文研究普通
RenderRank:用压缩视觉 token 学习文本重排序
RenderRank 是一种从压缩视觉文档表示中学习查询相关性打分的重排序器,不再依赖传统文本 token 序列。在 BEIR 的 11 个数据集上,它减少 16.5-35.5% 输入 token,平均 NDCG@10 达 55.96,超过所有参数量低于 4B 的文本基线及部分更大模型。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Just MLPs:为多模态语言模型高效重建视觉状态
研究提出 δ-Vision,用轻量低秩适配器构建逐层视觉记忆,替代视觉 token 在 Transformer 中的重复演化,同时保留全部视觉 token 供文本检索。该方法发现视觉到文本的信息流集中在低维子空间,且轻量 MLP 能以高余弦相似度和低重建误差逼近各层视觉状态。在图像和视频基准上,δ-Vision 在相当或更低计算量下准确率超过视觉 token 剪枝基线,且不丢弃视觉 token。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
GEAR:用几何作为地址路由注意力,实现长时程相机控制视频生成
研究者提出 GEAR,一个以几何为 token 级地址来路由视觉记忆的注意力框架,用于长时程相机控制视频生成。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Tex-Zero:无需 3D 资产训练的原生 3D 纹理生成框架
Tex-Zero 提出无需任何 3D 资产即可训练高保真原生 3D 纹理生成框架,核心发现是 3D 纹理训练只需高质量细粒度颜色信息,几何信息可人工构造。该方法将 2D 图像表示为 3D 空间中的平面并施加 patch 级随机旋转与聚合,据此训练 Tex-Zero VAE 与 Tex-Zero DiT,后者将多视角条件图像同样转为 3D 平面并由 VAE 编码以缩小表示差距。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
GeoVerse:在几何隐空间中实现世界一致的新视角合成
GeoVerse 通过在预训练 3D 基础模型的几何隐空间中生成、并注入视频生成模型的外观先验,实现世界一致的新视角合成。它从 Wan2.2 VACE 提取多层级特征,经 ControlNet 式适配器注入几何隐扩散模型,并用全局空间记忆聚合已观测与合成内容以保持跨视角连贯。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
研究揭示 LLM 全流程为何默认偏向美式英语:1,813 组 AmE–BrE 变体与 DiAlign 方法
研究以 1,813 组匹配的美式英语(AmE)与英式英语(BrE)变体为资源,提出免训练的 DiAlign 方法,从数据分布证据估计区域对齐度。AmE 在全部 6 个预训练语料和 21 个后训练数据集中均被偏好,tokenizer 表示更紧凑、预测成本更低,且在中性英语提示下仍是默认生成偏好;改用英式英语提示可向 BrE 偏移,但无法稳定消除 AmE 默认。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
PLDR-LLM 的训练与推理动力学:行映射坍缩、重归一化与预测约简
该专著提出 PLDR-LLM(幂律解码器表示语言模型)训练与推理的统一理论框架,用有限工作恒等式将行中心学习映射的绝对能量变化分解为参数贡献、带符号交互与数值观测缺陷。实验揭示了观测器与优化器依赖性,否定了所测试的自主行状态候选方案,并支持有限条件预测与状态特定的算子约简。理论区分了精确恒等式、条件动力学主张与有限实证发现,并给出证明、形式化检验与紧凑数值证据。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
LEGO-Anything:用编码智能体从单图重建 3D 场景,并推出 LEGO-Bench 基准
LEGO-Anything 是一个 Image-to-Code 框架,让编码智能体迭代编写并执行 Blender 代码、检查场景与渲染结果并修订程序,把单图重建为可检查、可编辑、可查询的场景程序。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
VideoPhysEdit:基于刚体物理场景重建的物理反事实视频编辑
VideoPhysEdit 提出免训练的物理反事实视频编辑(PCVE)流程,通过刚体物理场景重建还原可复现原视频运动与交互的仿真场景,从而把物理编辑作为干预并生成反事实视频。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
KVCMAS:多智能体系统共享上下文的 KV cache 高效修正框架
KVCMAS 是一个面向多智能体系统的在线 KV cache 修正框架,用紧凑低秩状态表示跨智能体的缓存偏差,并沿智能体工作流链式修正,无需额外参考预填充。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
MaLiang-Harness:可编程图像与视频生成框架,GPT-6-Astra 双榜生成成功率 100%
MaLiang-Harness 是一个将 MLLM 驱动的视觉生成组织为持续构建、检查与修订流程的统一框架,用于弥合程序可执行但违反构图、外观或运动要求的 Program-to-Visual(P2V)差距。
信息来源:HuggingFace Daily Papers(社区热门论文) · GPT / Hugging Face
论文研究普通
AutoRef:面向智能体多参考图像生成的 Harness 自动优化
AutoRef 通过编码智能体迭代重写 harness 代码,在模型冻结的前提下自动优化多参考图像生成流程,并发现 AutoRef-Harness。该 harness 将开源 FLUX.2 [klein] 4B 在 MultiBanana 基准的四参考任务上从 5.72 提升至 7.37,追平或超过 Nano Banana Pro 和 GPT-Image-1.5 等闭源模型。
信息来源:HuggingFace Daily Papers(社区热门论文) · GPT / Hugging Face
论文研究普通
分块 KV-Cache 压缩存在周期性弱点:相位敏感性问题研究
分块 KV-Cache 压缩会引入"相位"这一新位置坐标,导致同一信息在不同相位下检索难度不同,大型开放权重模型的长上下文检索准确率跨相位差异最高达 40 个百分点。研究者从零预训练了多种 KV 压缩设计的 Transformer 家族复现该现象,并通过因果干预发现不同注意力组件在不同源相位下贡献不对称,即相位特化。评估此类压缩模型需跨压缩相位测量,高平均准确率可能掩盖系统性位置失效。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Draft-KV:学习语言模型间有用的潜态通信
论文提出 Draft-KV,让共享模型在起草答案时生成 key-value 状态,经线性投影写入侧记忆并由门控注意力分支读取,两模型均冻结,接口仅训练 1.05M 参数。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
无标签引导:将测试时强化学习压缩到仅偏置子空间
一种无标签、仅优化偏置参数的测试时强化学习(TTRL)方法,用多数投票伪标签作为奖励,冻结预训练主干,仅训练约 100K 偏置参数。在 MATH-500 上,Qwen2.5-7B 达到 76.67% 准确率,略超其有标签偏置引导复现结果,且参数量比全参数 TTRL 少 76,000 倍。
信息来源:HuggingFace Daily Papers(社区热门论文) · Qwen / Hugging Face
论文研究普通
BIABench:评估 AI 智能体在真实生物图像分析任务上的表现
研究者推出 BIABench,一个由 16 项已发表生物学研究重建而成的基准,用于端到端评估 AI 智能体完成真实生物图像分析的能力,任务覆盖 11 类分析子任务,从 H&E 组织学到单分子定位显微成像。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
FRAC:用分数阶状态空间转移实现长序列建模的选择性 SSM 架构
研究者提出选择性 SSM 架构 FRAC,用分数阶动力学将传统 SSM 的指数遗忘替换为幂律长记忆,并通过有限状态、对数间隔的指数模式求和近似重尾目标核,使其成为可并行训练与预填充、同时保留有界状态自回归解码的高效循环模块。在包括 1.3B 参数语言建模在内的实验中,FRAC 的长上下文表现持续优于当前最优 SSM 基线,短上下文性能也保持竞争力。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Persistence Forcing:利用像素空间扩散模型的特征特化
研究者提出 Persistence Forcing(PerF),通过让像素空间 DiT 中不同特征组在深度上获得不同细化预算,形成"持久特征"与"活跃特征"的分工,由持久特征持续引导活跃特征的细化。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Braco:面向极端视觉 token 压缩的 token 参数化方法
研究者提出 Braco,一种轻量四步编码器,通过变换基截断、与输入无关的基坐标嵌入、依赖预算的正交重参数化和轻量池化学习的空间残差 token 实现视觉 token 压缩。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
重新思考潜在视觉推理:将潜在推理锚定在视觉证据上
针对潜在视觉推理中潜在 token 对改变正确答案的图像扰动响应微弱这一"潜在证据信用缺口",研究者提出 ReaLVR,用正确与模型生成错误答案的对比确定监督位置,用匹配与不匹配的视觉证据指定应保留的内容。在三个模型家族上 ReaLVR 均优于现有 LVR 基线,在 Qwen2.5-VL-7B 上取得五项任务平均 63.7% 的最高成绩,并首次将潜在空间视觉推理扩展至 235B 规模。
信息来源:HuggingFace Daily Papers(社区热门论文) · Qwen / Hugging Face
论文研究普通
蒸馏防御在强化学习后轻易失效
论文指出,现有蒸馏攻击防御通常只在蒸馏后立即评估,隐含假设攻击者不再继续训练,但更现实的威胁模型包含蒸馏后的强化学习。结果显示,强化学习会降低蒸馏攻击门槛,仅用当前 API 易得数据即可窃取闭源模型推理能力,效果相当于提取完整隐藏推理轨迹的复杂攻击。任何泄露足够信息以重建近似推理轨迹的蒸馏防御都可能失效。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
EditWorld:面向可交互世界的精准编辑与灵活引用视频世界模型
EditWorld 是一个支持精准编辑与灵活引用的视频世界模型,可在自回归生成过程中流式接收编辑指令和参考图像,将世界建模从探索扩展到精准修改。它引入 Gated Causal Attention 处理时变编辑条件与参考图像,并用 Sparse Context 机制维持有界历史上下文以支持长时程推理。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
APPL:用智能体先验引导策略学习,打通技能组合与泛化
Agent Priors-guided Policy Learning(APPL)将每个策略的结构先验同时用作训练约束与组合接口:构建智能体把完整演示切分为可复用技能,为每个技能提出多个结构先验并逐一训练、验证策略,运行时智能体再按先验选择并组合这些策略。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
LLM 是通用异步智能体:Qwen 3.x 无需任务专项训练即可异步运行
研究提出异步 LLM 框架,让用户或智能体自身定义带重叠内存状态的推理协程,从而把 LLM 从"读取—思考—回复"的顺序交互推广到通用异步智能体。实验显示 Qwen 3.x 模型无需任务专项训练,即可完成流式视频理解、电子游戏和监控等异步任务。
信息来源:HuggingFace Daily Papers(社区热门论文) · Qwen / Hugging Face
论文研究普通
自进化编程智能体:从数字程序到物理世界智能
研究者提出 Physical Coding,将任务状态与执行表示为代码,并构建 HexaAnything 调用感知、规划与控制工具(含 VLA/WAM 策略),依据外部反馈在环决策。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
REST:面向潜在递归 LLM 系统的表征监督思维训练方法
针对潜在递归 LLM 系统仅用交叉熵监督最终答案、不约束思维过程的问题,研究者提出 REST(REpresentation-Supervised Thoughts)训练目标,将因果性、最小性、可分离性和稳定性四项思维表征属性转化为可微损失并叠加到 CE 上,无需改动架构或增加推理参数。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
AdaGuard:支持用户自定义策略的自适应 Guard 模型
研究团队提出 AdaGuard 系列 Guard 模型(0.6B、4B、8B),可在推理时按用户自定义策略评估语言模型智能体的轨迹。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
为何确定性 PRM 引导在离散扩散推理中表现不佳
研究显示,在同等前向计算预算下,确定性 PRM 引导的离散扩散语言模型推理不如独立采样加 ORM 重排。在 Dream-v0-Instruct-7B 上,GSM8K 每题 8 个候选时前者准确率 65.18%,后者达 75.13%,32 个候选时差距扩大到 12.69 个百分点。作者将其归因于引导阶段信号弱和 PRM 作为最终评判者能力不足,并发布了去噪状态语料与评测工具包。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
ROSS:通过选择性监督从自生成 rollout 中再学习
ROSS 提出一种选择性监督方法,将历史轨迹完整保留为上下文,仅对选定的模型生成续写计算损失,从而复用自生成 rollout 中的行为经验。在 Qwen3.6-35B-A3B 上,ROSS 将六项基准的 MOPD 平均分从 58.40% 提升至 62.20%,SWE-bench Verified 从 64.20% 提升至 68.40%。
信息来源:HuggingFace Daily Papers(社区热门论文) · Qwen / Hugging Face
论文研究普通
MT-OPSD:面向多轮图像编辑的在线策略自蒸馏框架
针对现有图像编辑模型在递归编辑中快速退化的问题,研究者提出 MT-OPSD 在线策略自蒸馏框架,让模型在自生成的条件下状态上训练,并由干净条件教师模型提供编辑监督,无需多轮标注。该工作同时发布 LME-Bench,包含 100 组十轮编辑会话,用于评估长程鲁棒性。在三个编辑骨干上的实验显示,MT-OPSD 显著提升长程编辑成功率、减少多轮崩溃,并基本保持单轮编辑质量。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
SAKIKO:审计工具调用 LLM 内部干预,行为改变不等于修复
SAKIKO 框架用于审计工具调用 LLM 的内部激活干预,在 7 个 LLM 的 When2Call 和 MetaTool 上,通道定向干预让 5 个模型获得方向性净增益,59 个预算匹配的随机方向均无法复现校准目标增益。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face
论文研究普通
Nereus:面向 LLM 后训练的自适应并行运行时
Nereus 是一个面向 LLM 强化学习后训练的成本感知运行时,可动态调整并行策略以适配资源、序列长度和内存压力的变化。在真实数据 trace 中,在线 TP/PP 自适应将平均 step 延迟降低 27.7%;在 1,024 GPU 的 1,000 步运行中,六次切换仅占总运行时间的 0.079%。
信息来源:HuggingFace Daily Papers(社区热门论文) · Hugging Face