AI圈报
行业动态精选

我们保护儿童安全的方法

信息来源:Runway:News(网页)·
原始标题:Our Approach to Child Safety

内容摘要

Runway公司遵循Thorn的"生成式AI安全设计"原则,全流程保护儿童免受AI滥用。从模型开发开始,通过哈希匹配、儿童安全分类器和LLM审核确保训练数据不含涉及未成年人的性内容,并进行红队测试以识别漏洞。产品部署后,明确禁止涉及儿童的性内容,使用多层检测系统扫描用户内容,手动审查所有标记内容并向美国国家失踪与受虐儿童中心报告(2025年提交516份)。同时实施C2PA来源信号追踪内容生成,并持续与行业组织合作应对威胁。
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Runway:News(网页)
站内情报编号intel-b362c0693c25766883cc8b3a