AI圈报
行业动态精选

Claude Fable 5 发布24小时被越狱,美国政府紧急下架

信息来源:X:阿易 AI Notes (@AYi_AInotes)·
原始标题:这或许就是 Fable-5 被美国政府下架/全面禁用的直接导火索之一, 不是很多人说的什么例行合规调整,关键是在发布刚满二十四小时之后,安全层就被人从头到尾扒穿了。 Pliny团队用多代理协作,把…

内容摘要

Claude Fable 5 发布刚24小时,安全层即被 Pliny 团队用多代理协作突破--通过文本混淆、分解重组、学术包装,成功诱导模型生成网络攻击代码、冰毒合成路径等高危内容,并附实锤截图全网传播。该模型安全设计采用分层降级(底层 Mythos 模型+多层分类器),但防不住碎片化恶意拼接。10号越狱帖发酵后,12号美国政府直接下达出口管制指令,全球下架。事件暴露当前对齐技术难以防御结构化多步骤协同攻击,安全护栏只拦普通用户,高水平攻击者可轻易绕过。
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:阿易 AI Notes (@AYi_AInotes)
站内情报编号intel-25706d39ab1e356654157b83