刚刚，Anthropic 以 CEO 达里奥·阿莫代（Dario Amodei）名义发表长文，首次系统回应外界关于其 “希望封禁开放模型、保护自身商业利益”的质疑。
声明明确表示：“Anthropic 从未主张禁止开放权重模型。”
不过，声明同时强调，开放权重并不意味着没有风险。
阿莫代在文章中称，真正需要关注的并不是模型是否开放，而是先进 AI 能力是否落入中国手中，以及强大模型是否可能被用于网络攻击、生物攻击等高风险场景。
声明提出，解决这些问题的重点应放在三个方向：
限制先进芯片流向中国；
打击工业规模的模型蒸馏行为；
要求所有达到一定能力水平的 AI 模型，无论开放还是闭源，都必须接受安全测试。
“全面禁止开放权重模型，既不是正确的解决方案，也不是我们曾经提出过的主张。”阿莫代写道。
以下为声明全文——
过去几天，围绕开放权重（open-weights）模型，尤其是来自中国的开放权重模型，出现了大量讨论。
有报道称，一些美国官员正在考虑禁止美国企业使用中国开放权重模型。
对此，许多科技公司签署了一封支持开放权重模型的公开信，也有人指责 Anthropic 希望通过禁止开放权重模型来保护自身商业利益。
任何读过我过去文章的人都应该知道，我并不认为这类禁令是一项有效措施。
但为了避免任何误解，我想明确说明：Anthropic 从未主张禁止开放权重模型。
那些不具备危险能力的开放权重模型是一种公共产品：除了运行这些模型所需的计算资源之外，它们本身并不产生额外成本，同时能够为企业、开发者和研究人员创造价值。
保护主义式的禁令并不能解决我最担忧的国家安全问题。
具体来说，我担心两种最糟糕的情况。我在六个月前发表的文章《技术的青春期》（The Adolescence of Technology）中已经阐述过这些风险，多年来我的立场始终一致。
我的首要担忧是：某些政府开发出比美国更强大的 AI 模型，并利用这些模型实现永久性的优势。
美国政府内部也广泛存在这种担忧。美国情报界发布的《2026年度威胁评估》指出，“其他全球大国在人工智能领域取得的强劲进展，正在挑战美国的经济竞争力以及国家安全优势。”
这些模型是否以开放权重形式发布，与这个问题无关；它们是否被美国企业使用，也同样无关。
事实上，最危险的模型可能恰恰是一款秘密训练完成的模型，仅被用在某些场景。
我的第二个担忧是：强大的 AI 模型可能被滥用于发动网络攻击、生物攻击，或者模型自身存在严重的对齐（alignment）问题。
开放权重模型——无论来自中国还是其他任何地方——确实可能比闭源模型带来更高风险，因为：
一方面，很难对开放权重模型实施有效的安全防护措施（guardrails）；另一方面，也很难持续监控其使用情况。一旦模型权重被公开发布，就无法再被收回。
但禁止美国企业使用这些模型，并不能解决这一风险，因为恶意行为者通常并不是合法的美国企业。
这种做法只会保护美国 AI 公司免受竞争，而这从来不是我的目标。
为了应对这些风险，我支持以下三项措施。这也是我和 Anthropic 一直以来持续倡导的方向：
第一，不应向中国出售先进芯片或芯片制造设备，并应打击获取这些芯片的大规模规避措施。
中国目前的本土芯片生产能力有限，因此，根据 AI 扩展规律（scaling laws），如果无法获得美国芯片，中国无法训练出比美国更强大的模型。
这是阻止第一类威胁最有效、最直接的方法。
同时，通过限制那些无法受到美国法律约束的模型训练活动，它也能够间接降低第二类威胁。
第二，应打击工业规模的模型蒸馏（distillation）行为。
蒸馏相比从零开始训练模型，是一种计算效率高得多的方法。
它能够让中国在有限芯片资源的情况下，构建出远超其算力规模所应达到水平的模型，从而部分规避芯片限制。
蒸馏并不能让中国获得与美国相当甚至超过美国的 AI 能力，但它可能让中国 AI 前沿水平接近美国前沿，仅相差数月。
确实，许多进行这类操作的公司同时发布开放权重模型。
但真正相关的问题并不是开放权重本身，而是这些操作背后是否有一个寻求超越美国 AI 前沿水平的国家支持。
我们应该通过政策手段阻止这种行为。
全面禁止开放权重模型，既不是正确的解决方案，也不是我们曾经提出过的主张。
在 Anthropic，我们也正在通过自身实践打击工业规模蒸馏行为，包括识别并封禁利用我们的模型进行此类活动的账户。
这是一项非常困难的工作。
例如，相关账户往往只有在大量蒸馏行为已经发生之后才能被发现；而蒸馏行为通常涉及创建大量虚假账户，使其成为一个不断变化的目标。
任何单一家公司的行动都无法彻底解决这一问题，因此我们才呼吁出台相关政策。
第三，所有足够强大的模型，无论开放还是闭源，都应该接受强制安全测试。
解决第二类威胁的最佳方式，是在模型发布之前，直接测试其网络安全、生物安全以及对齐风险。
我认为，这一观点实际上正在接近共识。
近年来，我一直关注美国政府朝这一方向推进；同时，行业近期提出的一些方案，也建议对最先进能力的模型进行安全测试，而不考虑其来源国家，也不区分其属于开放模型还是闭源模型。
与此同时，对于能力较弱的模型，例如创业公司和学术机构开发的模型，则应完全豁免。
开放模型是否真的带来更高风险，以及这种风险是否能够被降低，都应该通过测试结果来判断，而不是提前假设。
此外，可能存在一些提高开放权重模型安全性的有效方法，例如 Anthropic 最近关于模块化训练策略的研究。
需要注意的是，要让安全测试真正有效，它必须是全球性的。这意味着，中国也需要参与其中。
我认为这一点实际上是可能实现的。
正如我在《技术的青春期》中所写，在防止 AI 生物武器方面，有限合作可能成为现实，因为这同样符合中国自身利益。
这也引出了那封公开信。
我认同其中很多观点，比如开放权重模型扩大了 AI 经济的参与范围；至少在部分应用场景中，它们增强了竞争；同时也给予客户更大的控制权。
关于蒸馏的问题，应该通过有针对性的法律和商业框架解决——这正是我上面提出的措施。
但是，我不同意公开信中的两个观点：
第一，开放权重模型必然更容易促进安全防护措施的发展；
第二，广泛开放 AI 能力一定会让防御者比攻击者受益更多。
在我看来，至少同样有可能出现相反的情况。
例如，我担心生物领域可能存在严重的攻击者—防御者不对称。
具备足够能力的 AI 模型，可能帮助攻击者利用广泛可获得的材料，快速制造具有大流行规模影响的病毒。
而防御这类威胁，即使条件最好，也可能需要多年时间。
我们在“曲速行动”（Operation Warp Speed）中就看到了类似情况。
这些问题应该通过严格的发布前测试，以经验数据回答，而不是提前做出假设。
总结来说，Anthropic 的立场是：
我们过去没有、现在也没有主张全面禁止开放权重模型。
我们应该关注的是：
- 防止先进芯片落入中国手中；
- 阻止工业规模的模型蒸馏；
- 要求所有达到一定能力水平的模型，无论开放还是闭源，都接受安全测试。
这才是正确的方向。
硅谷公敌Anthropic
黄仁勋X首帖:反对美国禁止开源模型!
注释
- 关于利用 AI 夺取权力以及生物风险的讨论，详见《技术的青春期》中的第3节和第2节。
- 英国 AI 安全研究所（UK AI Security Institute）的报告指出，“开放性带来的优势，也意味着无法使用闭源模型开发者可以采用的许多安全措施，例如检测和阻止滥用、随着漏洞出现不断改进防护措施、控制用户访问以及撤回模型。”
一旦开放权重模型发布，这些选择将永久消失：安全措施可能被移除，模型副本可以被下载、重新分发，并运行在无法监控的私人系统中；对于具有危险能力的模型——包括高度网络攻击能力模型——开放权重发布因此会产生持续且不可逆的滥用风险。
3. 美国司法部关于芯片走私和规避出口管制的相关报告。
4. Anthropic 已承诺通过自身实践打击工业规模蒸馏行为，包括识别并封禁相关账户。但单家公司无法完全解决这一问题，因此需要政策干预。
5. 关于生物威胁以及攻防平衡的详细讨论，见《技术的青春期》第2节。
简而言之，我认为目前生物安全之所以仍然相对可控，并不是因为“防御者”足够强大，也不是因为材料难以获得，而是因为人的智力能力和制造灾难性伤害的意愿之间存在负相关关系。
过去的技术，例如互联网搜索甚至 DNA 合成，都不足以打破这种关系。
但我担心，按照当前 AI 发展的速度，这种情况很快可能发生改变。
换一种说法是，一种足够强大的技术，会移除所有障碍，并暴露攻击者和防御者之间真正的结构性优势。而在生物领域，我担心这种优势可能属于攻击者。
