关键要点
- Anthropic 首次公开披露其大模型 Claude 被用于五起高危病毒与毒素相关的科研尝试。
- 涉案项目包含高致病性禽流感的哺乳动物适应性突变以及基孔肯雅病毒的增毒研究。
- Scripps Research 病毒学家批评该报告过度反应,强调相关操作属于常规且安全的基础科研。
- 研究者使用 VPN 绕过 Claude 地域封锁的行为被官方列为疑点,但多位专家认为这并非恶意证据。
首次公开大模型涉生物风险
Anthropic 在最新报告中披露,其平台近期监测到五起利用 Claude 辅助危险病原体研究的事件。虽然该公司并未断定涉事科学家怀有恶意,但这些研究者在触发系统拦截后,主动采用技术手段绕过限制,因而引发了高度怀疑。这是头部 AI 机构首次公开承认大模型可能被用于生物武器研发,在安全与科研圈激起了轩然大波。部分公共卫生专家警告,全球可能正浑然不觉地滑向灾难边缘,必须尽快对生物 AI 施加严格管控。
涉案课题聚焦病毒改造与毒素
报告记录的案例中有三起涉及病毒改造。今年五月,有研究者借助 Claude 撰写课题申请,计划筛选基孔肯雅病毒(chikungunya virus)的关键突变,以增强其传播力并逃逸免疫系统;另有团队利用该模型设计实验,试图促使高致病性禽流感病毒适应哺乳动物宿主;第三起则针对正痘病毒(orthopoxvirus)的致病机制展开。此外,还有两起案例涉及重构毒素分子与梳理毒液图谱。Anthropic 将其中部分工作定性为高危的功能获得性研究(gain-of-function),这类赋予病原体新特性的实验在业内争议极大。
学界反驳称多属常规基础研究
多位一线病毒学家对 Anthropic 的严厉定性表达了不同看法。Scripps Research 演化生物学家 Kristian Andersen 明确表示,涉案实验绝大多数属于安全的基础生物学课题。为了探明致病机制,病毒学界通常会把自然界既有的突变序列导入减毒株,或是导入无法自主复制的假病毒(pseudovirus)主干中进行验证。乔治梅森大学(George Mason University)生物安全专家 Gregory Koblentz 也指出,这些研究针对的都是正在全球传播的已知流行病,开展此类探索本身并无可疑之处。
绕道访问引争议并催生监管难题
Anthropic 警惕的另一诱因在于,涉事学者普遍使用了虚拟专用网络(VPN)等中继工具,以掩盖其真实IP地址。由于 Claude 对部分国家实施了封禁,且个别课题依托了官方或军方关联机构,Anthropic 怀疑使用者存在刻意隐瞒研究意图的倾向。然而学者们认为,在 AI 工具已成为科研刚需的背景下,研究人员寻找途径绕过地域限制十分常见,不能将其与蓄意制造武器混为一谈。不少科学家更担忧商业公司一旦掌握过多判定权,可能会误伤合法的病原体基因比对与探索。
对研究者的意义
对于从事基因组学与计算生物学交叉研究的学者而言,这一事件标志着 AI 平台的生物安全审核正在急剧收紧。大语言模型在突变体设计与功能预测上展现出巨大潜力,但也极易触碰双重用途研究的红线。随着模型提供商加大违规排查力度,未来学者在利用 AI 进行病原体序列分析或毒素计算设计时,可能遭遇更频繁的拦截与合规限制,如何在科研自由与安全防线之间取得平衡已成现实难题。
译介为忠实转述,非逐句直译;引用请以原文为准(版权归 Science 及作者所有)