Anthropic 首席执行官 Dario Amodei 否认该公司支持禁止开源权重(open weights)的人工智能(AI)模型的提议,包括那些在中国开发的模型。
该声明于周一发布,此前在美国围绕可能对其权重可被访问和修改的 AI 模型实施限制的讨论升温。
“凡是已经读过我之前文章的人都应该知道,我不认为这些禁令是一项有用的举措,但我想把话说清楚,以免有任何疑问:Anthropic 从未主张禁止自由权重模型,”Amodei 写道。
该表态发生在几天后,Nvidia 首席执行官 Jensen Huang 在 X 上发布公开信,反对针对开源权重 AI 模型可能出现的“过早限制”。
该文件得到了 Hugging Face、Meta、Microsoft 和 Mistral 等公司的支持。不过,由于中国 AI 实验室的进展,这场讨论获得了地缘政治层面的内容。
Amodei 将关于开源模型的讨论与对中国技术能力的担忧区分开来。他表示,没有危险能力的模型可以为开发者、研究人员和企业带来益处。
“不具备危险能力的开源权重模型是公共产品:除了运行它们所需的计算能力之外不需要任何成本,并且能为企业、开发者和研究人员创造价值。”
这位高管表示,他的主要担忧与专制政府使用先进系统有关。所提到的风险包括军事应用、国内镇压以及生物攻击。
在 Amodei 看来,开源权重模型在控制方面还存在额外困难,因为在它们被提供之后,其权重无法被简单地撤回。
作为替代方案,这位 CEO 主张采取措施阻止中国获取先进芯片,并采取打击模型蒸馏的行动,这是一种可能让系统从另一个系统中学习的技术。
Amodei 还支持为最强大的模型(无论是开源还是封闭的)建立国际安全测试。
“我认为,这个想法实际上已经接近共识:我对特朗普政府在过去几个月里朝这个方向推进感到兴奋,也对产业界近期提出的、将这些测试应用于最强大的模型的提议感到兴奋——不论这些模型来自哪个国家,或者是开源还是封闭的(完全豁免能力较弱的模型,比如初创公司和学术界的模型)。”Amodei 写道。
“注意,要想有效,”他补充道,“这些测试需要是全球性的,这意味着连 PCC 也需要参与。我认为这可能实现……围绕使用 AI 预防生物武器的有限合作可能是可能的,因为这同样符合中国的利益。”

