Anthropic同日收紧又放宽Fable 5生物学安全措施, Stanford研究展示AI可设计病毒基因组

摘要

Anthropic于8月7日更新Fable 5的生物学安全措施：良性查询的生物回退减少约85%，安全分类器的“宪法”被重写再训练，用以区分日常健康教育问题与仍被拦截的双重用途研究；病毒学、毒理学、分子设计、药物设计类查询仍转给较弱的Opus 5。公司称Fable 5尚不能用于专业生物学研究或药物开发，正为研究者构建受审查的门槛式访问通道，其自身评估承认该模型可能为恶意行为者提供显著助力。同日，Stanford与Arc Institute在Science发文，展示Evo 1和Evo 2可设计完全有功能的病毒基因组，Evo 2为开放权重模型。