美国政府周五晚间命令 Anthropic 立即暂停对其最先进的网络安全模型 Mythos 5 和 Fable 5 的访问。该指令是基于国家安全考虑和华盛顿拥有的出口管制权力。
几个小时后,Anthropic 宣布在全球范围内停用这两种模型。该公司声称,这一决定是在确定了规避《神鬼寓言 5》安全措施的可能机制之后做出的。然而,该实验室对美国当局提出的要素的严重性提出异议,并坚称所提出的功能已经在其他公开访问的模型中可用。
这种干预是前所未有的,自生成式人工智能周期开始以来,华盛顿主要关注控制基础设施:半导体、生产设备和计算能力。对于Mythos 5来说,它直接是一个受到限制的模型。这一决定可能标志着人工智能治理新阶段的开启,并迫使实验室重新考虑与国家的关系。
神话5,前沿模型的首次回忆
干预的残酷程度令多年来一直关注前沿模型安全性争论的所有人感到惊讶。先例相当多,业界已经经历过议会质询、敏感技术出口限制以及型号供应商责任争论。但从来没有政府要求立即撤回已经部署的边境模式。
该决定的范围远远超出了 Anthropic 的案例;现在重要的不仅是有关的模式,还有既定的原则。国家首次确认可以直接干预人工智能系统产生的能力的传播。
华盛顿刚刚向人工智能实验室颁发了运营许可证吗?
神话事件最被低估的影响之一可能是美国大型实验室与联邦政府之间的和解加速。
几年来,Anthropic、OpenAI 和 Google DeepMind 一直在加强与政府机构的红队演习、与国家安全组织的合作以及旨在监督最先进模型的监督系统。到目前为止,这些机制主要与风险管理有关。 《神话情节》可以赋予他们另一种功能,并获得某种形式的隐含操作许可。
因为在人择模型暂停的背后,一个新的现实正在出现。问题不再只是建立最有效的系统,而是证明它们可以在不与美国战略利益发生冲突的情况下进行部署。
这一发展逐渐使人工智能实验室更接近那些已经熟悉与国家这种关系的行业:国防、核或航空航天。除了多年来硅谷一直认为自己可以比机构更快地行动之外,它的未来现在部分取决于它与机构一起前进的能力。
欧洲发现更深层次的依赖影响其发展能力
对于欧洲来说,这个信号也非常强烈。欧洲关于数字主权的争论主要集中在基础设施、数据本地化、安全云等方面。神话揭示了另一种性质的依赖,因为基本上,无论用户身在何处,无论公司位于何处,无论数据位于何处,当关键模型在美国管辖范围内开发、托管和管理时,其访问仍然仅取决于美国的决定。
对于欧洲决策者来说,这可能是这一事件最重要的教训。因此,欧洲发现它的依赖不再仅仅是数字基础设施,而是认知能力。随着这些能力成为经济竞争力的战略组成部分,它们的控制问题就变得与能源、电信或半导体可能具有的重要性相媲美。
对欧洲模式的争论不再仅仅基于政治主权。它逐渐成为运营连续性的一个主题。
通过想要控制封闭模式,华盛顿可以加强开源
这件事的悖论在于,它可能会产生与所寻求的完全相反的效果,因为政府越是寻求监管专有模型,开放模型就会变得越有吸引力。
如果由中心化参与者托管的模型可以被暂停,那么开放权重模型一旦分发就很难从流通中删除。这一现实已经成为封闭和开源模型之间争论的核心,而神话的限制赋予了它地缘政治的维度。
对于开放性的支持者来说,这进一步证明了关键的认知基础设施不能完全依赖于受单一国家决定的少数公司,相反,对于政府来说,它加剧了对敏感能力不受控制扩散的恐惧。
技术辩论的背后隐藏着一个更广泛的问题:人工智能的未来是围绕许可和监督模型进行组织,还是围绕广泛分布且难以控制的功能进行组织?
真正的话题:未来的人工智能市场
错误的做法是将 Mythos 视为与网络安全相关的孤立案例。
网络安全可能只是模型生成的能力达到足以引起国家关注的战略价值水平的第一个领域。明天,同样的争论将围绕药物发现、材料研究、能源设计、航空航天、国防甚至情报出现。
因此,问题不仅是技术问题,而且是经济问题。到目前为止,模型的价值是通过其总体表现来衡量的,而另一种逻辑正在逐渐出现,即模型的价值很快就会由其加速特定经济或战略活动的能力来决定。
因此,该行业正在进入“能力模型”时代,系统的主要资源不再是一般智能,而是它们在给定领域产生的运营优势。
投资者应该开始为主权风险定价吗?
这一发展还可能改变市场评估大型实验室的方式。
在关于收入、未来利润、计算能力、人才或市场份额的辩论之后。神话事件引入了一个新的主权风险变数。模型变得越具有战略性,其价值就越取决于其保持授权的能力。
这是视角的重大转变,迄今为止,前沿实验室一直被视为未来的软件巨头。它们可以逐渐被视为在受监管部门运营的公司,这些部门与国家的关系本身就构成了经济资产。
总而言之,现在真正的问题不再是 Mythos 5 是否会重新激活,而是整个生态系统将如何应对这一先例。因为当政府证明它可以暂停前沿模式时,整个行业的产业战略、投资流动和技术选择都需要改变。第一个答案或反应应该很快就会出现。