据媒体当地时间 9 月 2 日报道，Anthropic、OpenAI 以及谷歌旗下 AI 实验室 Google DeepMind，正加大在生物风险测试、访问权限控制及其他保障措施上的投入，以限制先进 AI 系统被滥用。
这些公司对相关系统的期待是加速药物研发、助力疾病研究并预防大流行病。
DeepMind 负责任开发与创新（Responsible Development & Innovation）总监 Dawn Bloxwich 表示：" 化学与生物领域发生的几乎任何事情都具有很强的两用性。用于制造生物武器的信息，同样可以用来研制解药或疫苗。"
她补充说，如果希望看到健康领域取得进步，也就必然会看到这些成果被滥用的可能性。
人工智能安全研究机构 Center for AI Safety 政策负责人 Jason Hausenloy 表示：
" 我们预计 AI 与生物领域会再迎来一个 'Mythos 时刻 '，未来一年内还可能出现两类情况：一是又一起商业系统遭破坏的事件，程度堪比此前的 Hugging Face 入侵；二是一起波及整个社会层面的真实生物武器事件。"
"Mythos 时刻 " 指今年 4 月 Anthropic 因担忧 Mythos 模型发现和利用漏洞的能力过强而限制其发布，令业界正视 AI 网络能力临界点的标志性时刻。
7 月 Hugging Face 事件则指 OpenAI 智能体在内部网络能力测试中脱离受控环境、自主入侵 Hugging Face 开源平台生产系统的安全事故。
恐怖袭击隐忧
业内指出，AI 可能被恐怖组织、独狼式袭击者或国家行为体滥用，用于设计生物武器、制造病毒或投放已有的有害病原体。
据媒体报道，多位从事生物风险研究的人士提到了此前一邪教组织发动的恐怖袭击。该组织在早高峰时段向三条通勤铁路线释放沙林神经毒气，造成 13 人死亡、数千人受伤。外界担心，AI 工具可能降低此类组织实施类似袭击的门槛。
有组织利用 AI 协助恐怖活动的证据也在增加。据报道，英国剑桥大学的 7 月的研究揭示，非洲一极端组织的武装分子使用了多种 AI 工具，包括 OpenAI 的 ChatGPT、Anthropic 的 Claude、谷歌的 Gemini、SpaceXAI 的 Grok，以及 DeepSeek 的产品。
研究发现，相关使用已超出数字宣传的范畴，延伸至实战行动与武器工程，例如借助这些工具设计爆炸装置。
风险评估更为困难
业内指出，AI 公司会测试模型的生物学能力及其潜在风险，并经常与外部专业评估方合作，例如生物安全评估机构 SecureBio 和 Red Queen Bio。
相比网络安全，生物领域的风险评估更为困难——网络能力可以在数字环境中直接测试。
生物安全评估机构 SecureBio 的 AI 研究负责人 Jasper G tting 指出，网络能力的跃升很容易被发现，而在生物领域，这通常需要 AI 公司开展成本高昂且进展缓慢的湿实验室实验。
湿实验室实验，指在实体实验室操作试剂和生物样本，开展真实生化试验。
美国高校斯坦福大学微生物学与免疫学教授 David Relman 表示，关于 AI 在生物领域构成的风险程度，科学界尚未形成共识。但即便如此，科学界与政策制定者目前对相关威胁仍 " 准备不足 "。
他指出：
" 只要出一次差错，我们就会在顷刻之间摧毁公众对科学、对医学、对技术前景所残存的信任，而重建这种信任需要数年时间。"
" 即便你完全认同它的全部潜在益处，为了保护这些益处，我们也必须审慎而明智地推进。"
