AI圈报
论文研究普通

共享技能库成恶意代码传播温床,EvoMal 攻击致 41.8% 自毒率

信息来源:X:Elvis Saravia (@omarsar0, DAIR.AI)·
原始标题:Important read if you build with agent skills. Shared skill libraries are treated as a safe way for…

内容摘要

新研究揭示共享技能库可被用于传播恶意软件:EvoMal 将恶意技能植入库中,智能体将其作为模板复制并运行,导致自我中毒。在 153 个 SWE-bench Verified 任务上,六款模型的自毒率达 20.3%-41.8%,污染库中恶意技能数量为植入量的 4.9-9.0 倍。删除所有植入技能无法彻底清除,但反提示词可将自毒率降至 6.7% 且不显著影响任务完成度。
内容分类AI 论文与研究
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:Elvis Saravia (@omarsar0, DAIR.AI)
站内情报编号intel-118a481736f3490b2ccd0bb3