昨天，即 9 月 23 日，安理会听取了 OpenAI、Anthropic 和 Hugging Face 领导人关于人工智能风险的发言。一些欧洲国家捍卫了对这些技术的公共控制。但在受邀发表分析的专家中，没有一家欧洲公司开发出类似的模型，也没有任何欧盟机构：论坛的组成已经说明了权力分配的问题。
法国邀请了四位发言人主持会议开幕：研究员 Yoshua Bengio、OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei 和 Hugging Face 的 Clément Delangue。他们以专家的身份听取意见，但没有坐在理事会成员中或参与其决策。
约书亚·本吉奥 (Yoshua Bengio) 拒绝提供比赛不在场证明
Yoshua Bengio 立即攻击了该行业反复出现的理由，即每个实验室都必须加速，因为其竞争对手正在这样做。 “种族不是自然法则，”他回答道。他认为，这是企业自身的选择。它从中得出了要求、独立评估、最先进系统的授权以及开发商的法律责任。
Sam Altman 对 OpenAI 成为这场竞争的俘虏的观点提出了质疑。他保证，该公司已经放慢了一些工作，并且可能会再次这样做。它提出了衡量模型能力、报告事件和验证所实施保护措施的通用标准，并指出这些标准“不应巩固既定参与者的地位”。
达里奥·阿莫迪 (Dario Amodei) 提出了一个更具侵入性的建议：欢迎外部评估员加入 Anthropic，用他的比喻来说，其访问权限相当于食品检验员。他还希望开发进度能够留出时间来测试系统。他之前在控制人工智能方面的立场已经宣布了这条路线。谁将任命这些检查员、他们将获取哪些信息以及哪些机构可以强加他们的结论，还有待观察。
欧洲人已经发声，但不是同一个声音
将这次会议描述为硅谷和华盛顿之间的面对面是不准确的。担任理事会主席的法国捍卫了国际框架，并回顾说，人工智能的发展不能留给少数国家的少数公司。丹麦主张对大型科技公司进行全球治理和监管。拉脱维亚提议通过非正式专家组深化理事会的工作。如果这些干预措施表明了公共控制的愿望，那么每一项干预措施都从其国家的任务和优先事项开始。
就希腊而言，它标志着一个制度上的细微差别：理事会必须审查人工智能对和平与安全的影响，而不取代负责制定技术规则的机构。最重要的是，她坚持军事决策中的人类责任，以及将人工智能引入核指挥系统的危险。非欧盟成员国的英国以更直接的措辞表达了与实验室的分歧：政府不能将其首要职责“转包给私营公司”，即保护其公民。他呼吁有效地了解开发人员的活动。
欧盟作为一个机构并未在会议上发言，同时它已经为通用人工智能模型及其系统性风险建立了法律框架。安理会将各国聚集在一起，因此缺席讲台并不是程序上的异常情况。然而，它剥夺了对实验室提出的国际标准与欧盟已经寻求实施的义务之间进行精确比较的辩论。欧洲在构建其监管的技术方面遇到的困难以另一种形式出现。
我们谈论的演员却没有听到他们的声音
四名专家的名单也被排除在 Mistral AI 论坛之外，该论坛寻求发展自己的立场来对抗美国和中国的组织。 Clément Delangue 带来了法国的视角，捍卫了开放人工智能，但 Hugging Face 并没有占据与欧洲实验室开发自己的尖端模型相同的地位，仅靠他的干预无法占据这一工业地位。
这四位嘉宾中不包括中国实验室、美国其他主要开发商、算力供应商和民间社会组织。这并不会使所听到的证词无效。这设定了他们的范围：选定的领导人和科学家概述了风险及其解决方案，而各国则讨论了影响更广泛参与者的后果。丹麦还呼吁民间社会参与未来的工作。
Clément Delangue 在演讲中挑战了这样一种观点，即有效的安全性必然需要对模型的访问进行更严格的限制。 Hugging Face 今年夏天遭受了人工智能特工的攻击；其领导人回忆道：“我们受到了人工智能的攻击；最重要的是，我们用人工智能来保卫自己。”他表示，对某些专有模型的保护使防御者的任务变得复杂，而开放模型对他们来说是有用的。Hugging Face 在人工智能生态系统中的地位使这种干预的利害关系超出了本次事件。
战斗已经结束，那些能够验证的人
就美国代表而言，他对一些欧洲人所希望的合作设定了限制：国际对话绝不能“转向全球治理”。对于华盛顿来说，每个国家都必须为其公民立法。巴基斯坦对一些实验室提出的放慢速度提出了不同的反对意见：它绝不能成为“一种新形式的访问控制”。一种情况是，国家主权优先于国际权威；另一方面，安全风险让已经很强大的参与者有权决定谁可以加入他们。
刚果民主共和国将这种批评延伸到人工智能所需的基础设施和资源。其代表回顾说，发展中国家不能认为自己仅限于使用其他地方设计的技术和应用它们没有充分参与的标准。
会议表明了为什么各国需要他们了解他们声称要监督的系统。答案将取决于他们接下来会得到什么：独立访问模型、报告的事件、可执行的评估以及在缺乏保障措施时禁止部署的能力。对于欧洲来说，成文规则与执行手段之间的差距已经是一个考验。
