华盛顿 — 中国星期二(5月19日)证实美中将就人工智能(AI)进行对话。在此之前，唐纳德·特朗普(Donald Trump)总统表示，美中正在考虑AI的发展建立某种护栏机制。分析人士指出，AI的飞速发展，特别是美国Anthropic公司近期新模型Mythos的出现，让美中都感觉到了紧迫性。鉴于美中在AI上的激烈竞争，双方能谈什么？ 又可能达到什么样的效果？特朗普总统5月15日在结束与中国领导人习近平在北京的会谈后，在“空军一号”上告诉记者，他与习近平“讨论了在AI领域合作制定安全保障措施的可能性”。此前一天，美国财政部长斯科特·贝森特(Scott Bessent)在峰会期间接受消费者新闻与商业频道(CNBC)采访时说，美中已经同意建立一项人工智能(AI)护栏机制进行讨论，旨在保护那些最强大的AI模型，防止先进模型落入非国家行为体手中。5月19日，中国外交部发言人郭嘉昆在例行记者会上证实，两国元首“同意开展人工智能政府间的对话”。Mythos的出现给两国发出警报分析人士认为，尽管美中在AI方面竞争激烈，甚至存在根本性分歧，但AI的飞速发展，促使美中不得不坐下来谈，其中美国Anthropic公司的mythos的发展更是为两国政府敲响了警钟。奥尔布赖特石桥集团(Albright Stone Group)合伙人、技术以及亚洲及美洲政策主管保罗·特廖洛(Paul Triolo)通过电子邮件告诉美国之音：“Mythos模型的发布及其在防御和进攻性网络行动方面的强大能力，促使(美国)政府内部开始思考政府应该如何参与批准或监督最先进的AI模型的发布。”今年4月，Anthropic向世界宣布，它已构建了一个强大到“太危险而无法广泛发布”的人工智能模型Mythos。Anthropic说，Mythos拥有惊人的能力，能够发现并利用全球银行、电网和政府所依赖软件中的隐藏漏洞。在Mythos发布后，贝森特召集了所有美国金融机构的领导人，讨论这些公司需要获得该模型来保护其网络和数据。他还要求Anthropic与华尔街银行合作，利用这一新模型测试它们的网络安全系统。尽管Anthropic在AI军事应用问题上与美国战争部存在长达数月的冲突，4月17日，Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)还是前往白宫与白宫幕僚长苏西·怀尔斯(Susie Wiles)及政府高层高级顾问举行了高级别会谈。国会方面，共和党参议员吉姆·班克斯(Jim Banks)5月14日在特朗普总统还在北京访问时写信给特朗普政府官员，呼吁加强对AI的监管，以应对新出现的国家安全风险。他在信中写道：“特朗普政府一直明确表示，美国需要在理解和评估先进人工智能系统对国家安全的影响方面引领世界。鉴于具备先进网络能力的人工智能系统Mythos的出现，这一需求变得更加迫切。这对美国而言是一个重要的时刻：Mythos凸显了人工智能将对网络安全和国家安全产生深远的影响。”他对特朗普总统与习近平将就AI举行会谈表示欢迎。最新的报道说，白宫最早将于星期四正式发布一项有关人工智能(AI)与网络安全的行政令，责成多个联邦机构共同强化对人工智能尖端模型的审查。目前，这项行政令的签署被推迟。美国卡内基国际和平基金会技术与国际事务项目研究员斯科特·辛格(Scott Singer)认为，Mythos的出世不仅对美国是“重要的时刻”，对中国来说也是“重要的时刻”。“我认为对中国而言，人们对人工智能带来的某些最严重风险的认识已经大大提高。中国也涌现出更多高质量的人工智能安全研究成果。我认为Mythos的成功不仅对美国，对中国来说也是一个重要的里程碑。中国目前只落后几个月，很可能很快就能具备类似的能力。”北京没有就Mythos的出现发表重大公开声明。但研究中国科技界的分析师称，中国国内的研究人员和更广泛的人工智能社区一直在密切关注这一事件。《纽约时报》4月23日的一篇文章指出，中国许多银行、能源企业和政府机构所使用的软件，正是Mythos发现存在漏洞的那些软件--但目前，它们没有资格参与。该报5月13日报道说，4月，在新加坡举行的一次会议上，一家中国智库的代表接触了Anthropic公司官员，要求该公司改变立场，允许北京方面使用其强大的新人工智能模型，不过遭到了Anthropic的拒绝。奥尔布赖特石桥集团特廖洛认为，Mythos的出现促使中国政府更加重视并深入探讨前沿人工智能模型的潜在保障措施。不过，他认为北京更倾向于在多边框架下讨论这些问题，但鉴于中美两国是人工智能领域最重要的两个大国，北京显然愿意首先与美国展开对话，并希望日后将此类磋商转移到多边层面。布鲁金斯学会研究中国科技发展与产业政策的研究员陈凯欣(Kyle Chan)认为中国愿意和美国就AI的发展和管理进行会谈还因为中国希望自己被看作AI领域的领导者。他说：“部分原因在于象征意义，中国希望被视为全球人工智能领导者，塑造全球人工智能治理格局，作为两个人工智能超级大国与美国在我们这个时代最重要的技术领域展开合作。”美中可以谈什么？到目前为止，美中双方还没有就会谈提供任何具体框架。布鲁金斯学会的陈凯欣认为，现阶段两国有很多潜在的议题需要讨论，但交集的区域尚不明确，除了担忧AI落入非国家行为体手中之外。他说，鉴于Mythos的出现，美国可能更关注一些保障措施，而中国则可能更希望把重点放在更广泛的人工智能治理问题，比如AI开发的准则等。他认为，美中的会谈可以从共享安全事件信息开始，就安全事件的类型、检测方法以及应对措施进行交流。他说：“这指的是用户试图利用人工智能模型进行恶意操作的情况。所有人工智能公司都会收集这些数据，并将其保存在自己的记录中，同时尝试利用这些数据改进其内部的人工智能安全规则……比如，现有的安全机制可能阻止用户询问如何开发化学武器之类的问题。但美国的某个实验室可能发现有用户绕过了这些机制，OpenAI决定更新并加强其安全机制，并且找到了相应的方法。”陈凯欣说，美国可以将这些信息分享给中国的网站以及人工智能实验室，或者通过中国政府机构分享。他说，这不会对美国造成损害，反而有助于提高人工智能的整体安全性。陈凯欣5月8日在布鲁金斯学会网站的一篇文章中谈到美中还可以制定不具约束力的人工智能准则。他谈到，美中应建立一套共同的、不具约束力的、用于部署前沿人工智能模型的安全准则。这些准则可以包括网络安全、化学和生物安全方面的防护措施；高风险用例的共同定义；以及对危险模型行为的基本限制。他说，这样共同的标准有助于防止“安全套利”，即恶意行为者只需寻找两国中限制最少的模型即可。此外，他还说，两国还可以建立人工智能应急热线，就人工智能相关事件建立正式和非正式应急沟通渠道。这样，在危机发生或人工智能攻击时，这些渠道有助于双方快速共享信息、明确责任归属，并降低误判风险。在利益重叠的情况下，这些渠道甚至可以促使两国政府协调应对措施。美中曾在2024年曾就AI达成了一项不具约束力的协议，协议明确承诺将核武器的使用决策权保留在人类手中，而非交给人工智能。不过，有不少观察人士提到，在美中首次AI会谈中，美方派出技术专家，就人工智能可能带来的最极端风险展开了更为细致的讨论；而中方则派出外交政策专家，他们更倾向于解除出口管制。达成协议很困难奥尔布赖特石桥集团合伙人特寥洛告诉美国之音说，Mythos模型的发布让两国看到了AI模型可能被用于极其危险的用途以及并为两国围绕最先进模型及其部署的监管措施进行讨论提供了空间，但鉴于两国间的互相防范，特别是华盛顿对北京芯片出口管制措施，会对讨论产生限制。“北京认为这些管制措施并非出于国家安全考虑，而是试图通过削弱中国人工智能公司大规模部署应用的能力来遏制中国经济强国的崛起。这将降低北京就出于国家安全目的限制人工智能模型能力进行严肃深入讨论的意愿。”他说。另外，美国AI公司与美国政府，尤其是战争部的密切联系，也将使讨论更加复杂。美国2022年开始对中国购买并制造用于军事用途的特定高端芯片进行限制。特朗普政府上台后，在半导体出口管制上采取了一些调整政策，但华盛顿的共识是限制人工智能技术流向中国。特朗普访问中国前几天，5月4日，一组来自共和与民主两党的参议员推出《人工智能监管法案》(AI OVERWATCH Act)，“确保驱动下一代人工智能的芯片将助力美国创新与美国国家安全，而不是中国共产党的军队和监控机构”。在此之前，众议院外交委员会也推进了一系列两党共同支持的出口管制法案。特寥洛认为，美中人工智能涉及两个层面的竞争。第一是人工智能模型和应用的规模化部署之争--即所谓的人工智能扩散--以及两国公司如何推动这一进程，并扩大其平台和能力的覆盖范围。第二是开发某种通用人工智能或超级人工智能，而这很快就会演变成地缘政治问题，因为谁能率先实现这一目标，以及双方政府将如何利用先进的人工智能能力。布鲁金斯学会的陈凯欣认为，鉴于两国之间的不信任，两国之间目前就人工智能领域达成某种协议很困难。“要达成一项双方都能互相信任，或者允许对方进行核查和监督的协议，比如核武器协议，是非常困难的。所以这要困难得多。是的，我认为这种情况短期内不会发生。”目前还不清楚中国是否会将美国对中国的出口限制当成会谈的一部分。有些人认为，如果美国的出口限制还在的话，中国可能不愿意会谈。奥尔布赖特石桥集团特廖洛认为，各国政府应该就强制测试的必要性以及分阶段发布最先进的模型达成共识。他还表示，鉴于目前只有中国和美国以及其他一些国家拥有开发前沿模型的公司，因此任何协议都必须包含中国和美国，但同时也要被更广泛的政府群体所接受。由于大多数国家政府缺乏自行测试这些模型的能力，他说，因此，可能需要一个类似国际原子能机构的国际机构来监督这一过程。AI发展没有护栏，后果“肯定非常负面”专家们都对近期内如果不针对先进前沿人工智能模型的使用条件制定有意义的保障措施提出了警告。奥尔布赖特石桥集团特廖洛警告说，如果没有保障措施，“我们几乎肯定会看到一些最先进的能力扩散到非国家行为体手中，其后果虽然未知，但几乎可以肯定是非常负面的。”布鲁金斯学会研究的陈凯欣则指出，如果没有护栏，最紧迫和最首当其冲的将是网络安全。“网络安全问题无疑是其中之一，或许这是目前最紧迫的问题，因为Mythos以及这些新模型能够以人类专家都无法发现的方式，精准地发现开源平台和IT基础设施中的缺陷。而且，这可能会赋予其他国家，甚至更小的团体，例如一个由非国家行为体组成的小团队，造成真正的破坏的能力。例如，攻击关键基础设施，瘫痪医院系统或关闭公用设施。”他指出的另一个重大问题是生物安全。他说，“如果你将这些人工智能系统与一些合成生物学和生物设计工具结合起来，用于设计你自己的蛋白质和生物样本，那么你作为一个缺乏经验的行为者，就有可能制造出具有传染性或引发公共卫生问题的物质。”卡内基国际和平基金会技术与国际事务项目研究员辛格说：“如果两国任何一方的某种模式帮助非国家行为体制造出威胁全人类的生物武器，那么没有人是赢家。”他指出，两国政府都有责任保障公民的安全。