LLMs and Biorisk

LLMs and Biorisk

Anthropic 发文讨论 LLMs 与生物风险，指出 Claude Opus 4 发布时已启用 AI Safety Level 3（ASL-3）防护，用于限制模型协助化学、生物、放射和核（CBRN）武器开发相关任务。文章称，Benchling 正在用 Claude 帮研究人员整理数据、提问和更快生成洞见，Biomni 正在用 Claude 加速生物信息学分析并自动化实验设计；同时强调低成本核酸合成、标准化试剂盒和易获取的 PCR 设备降低了生物武器相关门槛，而更强的 AI 又进一步降低了信息与知识门槛。