论文研究精选
HarmProfile:刻画前沿大语言模型的有害输出分布
原始标题:HarmProfile: Characterizing Harmful Distributions in Frontier LLMs
内容摘要
HarmProfile 是一个以内容为中心的基准数据集,收集了 13 个模型家族、23 个前沿 LLM 的超过 80,000 个经验证的违规样本,覆盖 15 个危害类别和 57 个子类别。研究发现,前沿 LLM 能大规模稳定产生有害内容,且不同模型呈现不同的风险画像;危害性与多样性随模型能力增长,暗示模型可能在对齐表面之下隐藏着日益危险的知识。源代码已公开。
内容分类AI 论文与研究
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源HuggingFace Daily Papers(社区热门论文)
站内情报编号intel-1e4195812cdfcbfbb773e636