英国国王把四家AI巨头请到一起，但共同规则还只是问号

英国国王查尔斯三世把人工智能行业最有影响力的一群人请到一座苏格兰庄园，只问了两个问题。

第一，怎样在获得人工智能好处的同时，把安全放在核心位置？第二，怎样建立国际合作，让各国都能参与，又不让人类失去对技术的控制？

9 月 17 日举行的会议地点是邓弗里斯庄园。与会企业包括英伟达、OpenAI、Anthropic 和 Google DeepMind，英国人工智能事务大臣卡尼什卡·纳拉扬也参加了讨论。英伟达首席执行官黄仁勋会后强调，技术能力和安全必须一同前进。

这场会议之所以值得关注，不在于王室参与了科技活动，而在于它把人工智能行业眼下最难回答的问题摆到同一张桌上：企业都愿意说安全重要，但它们是否愿意接受同一套、可以检查的安全门槛？

“不安全就不发布”听起来简单

查尔斯三世在开场讲话中说，人工智能的发展速度和能力既令人着迷，也令人担忧。他特别提到技术落入错误之手、被用于灾难性目的的风险，并要求与会者思考能够指导未来开发的基本原则。

黄仁勋随后给出的立场是，如果一项产品还不够安全，企业就应该暂缓发布，继续改进。这是一条容易理解的原则：汽车刹车没有通过测试，就不能交给消费者；人工智能产品也应如此。

问题在于，人工智能没有一张全行业通用的“刹车测试表”。一个模型可能擅长写代码，也可能被用来寻找网络漏洞；一个能够替用户操作电脑的智能体，既能提高效率，也可能未经允许发送邮件、转账或删除文件。模型越通用，测试范围就越难画清楚。

更现实的冲突是，率先发布新模型的公司可能获得用户、收入和市场地位。只让每家公司自己判断何时应该踩刹车，相当于让参赛者同时担任裁判。多数企业会建立内部安全团队，但内部判断很难替代统一测试、外部审计和事故报告制度。

“共同原则”距离共同规则还有三步

英国王室公布的信息显示，与会者讨论了能否建立一套共享原则，让人工智能服务于人的尊严、社区和环境。不过，截至会议结束后的公开信息，没有出现一份具有约束力的协议，也没有公布执行机构、测试标准或时间表。

这意味着会议更像一次议程设置，而不是监管决定。

一套原则要真正变成规则，至少还要回答三件事。第一，能力达到什么程度的模型必须接受发布前测试；第二，测试由企业自己完成，还是由独立机构复核；第三，一旦模型越权或造成损害，谁必须报告、补救并承担责任。

国际合作则更难。人工智能公司主要集中在美国，中国也是重要开发力量，英国虽然拥有 Google DeepMind、人工智能安全研究机构和一批研究人才，却不能单独为全球企业制定规则。各国还要在安全、产业竞争和国家安全之间做选择。

会议的价值，是把分歧公开化

这场峰会没有立即产生共同规则，并不等于它毫无价值。OpenAI、Anthropic、Google DeepMind 和英伟达分别处在模型开发、芯片供应和商业化链条的关键位置。把开发者、基础设施提供者、政府和社会组织放到一起，至少能让“安全”从一句口号变成一组必须回答的问题。

但会议合影也不该被误读成行业已经达成一致。英伟达强调在继续推进能力的同时做好测试；行业内另一些声音则主张，在风险迅速上升时应放慢最前沿模型的开发。双方都使用“安全”这个词，所接受的速度和约束却可能完全不同。

接下来真正值得观察的，不是谁再次承诺“人工智能为人服务”，而是这些公司是否愿意公开共同测试标准、接受外部复核，并在竞争压力最大的时候仍然推迟一款没有通过安全门槛的产品。

参考资料

[1] NVIDIA. At Dumfries House in Scotland, Our CEO Jensen Huang Joined His Majesty The King and Global Leaders[EB/OL]. (2026-09-17)[2026-09-18].

[2] THE ROYAL HOUSEHOLD. The King Convenes Tech Leaders for AI Summit in Scotland[EB/OL]. (2026-09-17)[2026-09-18].

[3] THE ROYAL HOUSEHOLD. The King’s Speech at the AI Summit in Scotland[EB/OL]. (2026-09-17)[2026-09-18].

[4] CHAN K. The King and AI: UK Monarch Charles Meets Artificial Intelligence Leaders as Safety Concerns Swirl[N/OL]. Associated Press, 2026-09-17[2026-09-18].