王辉耀：中美人工智能对话须兼顾技术安全与商业安全
SCMP | 2026年10月20日■ 仅靠设立热线和开展临时性对话远远不够。无论是人工智能技术本身，还是依托技术发展的企业，都面临着日益严峻的安全风险。
作者 | 王辉耀，全球化智库（CCG）创始人
上个月在纽约，美中两国就人工智能问题展开了对话，为双方的合作开辟了道路。在华盛顿举行的中美元首会面进一步确认了这一点，双方同意建立正式的人工智能对话机制及热线。随着下一轮人工智能对话定于11月举行，两国进一步深化合作势在必行。
人工智能生态系统正处于不断变化之中。美国科技企业们在收入模式尚未明确之前，就投入了大量资金用于芯片、数据中心以及能源设施的建设。已有数万亿美元被投入到人工智能领域的发展中。虽然这种投资规模并不像 2008年全球金融危机时房地产市场的过度杠杆化那样危险，但若人工智能领域的泡沫突然破裂，仍可能带来严重的后果。
今年美国经济增长的很大一部分来自人工智能企业或为人工智能提供支持的企业。然而，根据益普索《2026年人工智能监测报告》（Ipsos AI Monitor 2026），只有38%的美国人认为人工智能产品和服务“带来的好处多于弊端”，这一比例远低于全球平均水平；相比之下，中国持这一观点的人群比例高达85%。今年5月的益普索消费者追踪调查（Ipsos Consumer Tracker）发现，大多数美国人反对在自己所在社区建设数据中心。
人工智能能力的迅速提升引发了人们的担忧。失控的人工智能智能体所表现出的异常行为，已经从试图删除整个电子邮件收件箱，发展到逃离沙箱环境并发动网络攻击。今年7月，在一次独立评估中，OpenAI的智能体绕过自身限制，对开发者平台Hugging Face发起了自主攻击。
同月，美国一家小型安全公司 Calif开发了WeWorm蠕虫病毒，利用微信通话系统中的零点击漏洞，在无需接收方接听的情况下即可劫持账户并在手机间传播。在印度，网络安全公司 Hacktron 的研究人员利用 Anthropic 公司的 Claude 模型入侵了OpenAI系统，侵入员工账户，并访问了可能包含敏感信息的软件系统。
这两起黑客事件均在友好方的授意下进行，并未造成任何损失——腾讯和 OpenAI迅速收到警报并修复了漏洞。但它们预示着人工智能赋能的网络攻击威胁，这种威胁既可能来自管理不善的人工智能，也可能来自那些因网络战能力进一步落入私人手中而获得更大权力的攻击者。
当前形势的一个突出体现，是领先的人工智能开发者和科学家日益迫切地呼吁建立安全保障机制。Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）提议，向长期独立评估人员开放领先人工智能实验室，并推动企业与政府之间的安全标准协调。OpenAI首席执行官萨姆·奥特曼（Sam Altman）承诺，将其模型交由第三方评估；谷歌DeepMind董事长德米斯·哈萨比斯（Demis Hassabis）则支持在前沿人工智能系统部署之前开展测试。
上周，一封由全球至少420名科学家联署的公开信呼吁采取紧急措施，防止人工智能失控带来的严重后果，其中包括建立一个国际机构，记录、追踪人工智能系统各类安全管控失效事件。
这些担忧为即将举行的中美人工智能对话提供了议题。不过，对话不应局限于突发事件处置和安全保障机制的制定，还应进一步探讨如何为人工智能打造可持续的商业落地模式。中国的人工智能生态系统正日益具备自我发展的能力，在这一领域，中国有很多经验可以贡献与分享。
首先，显而易见的是，中美两国的人工智能生态系统各自拥有构建这一商业模式所需的不同要素。
美国开发者需要能够将前沿成果转化为持续收益的应用。而中国拥有全球规模领先的应用试验场，可以在制造业、物流、医疗、教育、公共服务以及具身智能等领域，完成应用的打磨、迭代与商业化落地。
中国人工智能产业可以从美国前沿模型开发领域的投资和研究中获益；与此同时，中国在数据中心统筹调度与电力供应方面的能力，也有助于缓解美国计算能力所面临的压力。
双方在高效模型、冷却技术和能源管理方面开展合作，将有助于满足不断增长的需求，同时降低消费者和社会承担的成本。一个健康的人工智能生态系统，完全可以同时容纳美国的前沿模型和中国的高效开放权重模型。
中国的开源权重模型具有更低的单个词元成本，能够和美国前沿模型形成互补搭配。企业可以使用这类模型处理常规、大批量任务，同时将前沿模型留给真正需要其强大能力的复杂场景。这种高低结合的方式可以使美国前沿模型在更广泛的工作流程中部署更具成本效益，从而增强中美两国人工智能产业的商业可行性。
为了维持这种合作，两国还必须正视人工智能风险，并共同加以管理。两年前，美国和中国已经达成一项有限共识：核武器的使用决定权掌握在人手中，而非人工智能。我建议更进一步，双方作出对等承诺，不率先使用人工智能赋能的自主武器。
人工智能领域最后一个必须讨论的问题是制度层面。治理碎片化可能导致标准不兼容和基础设施重复建设。美国主导的“硅和平倡议”（Pax Silica）和中国主导的世界人工智能合作组织（World AI Cooperation Organisation）不应当相互对立。
相反，两国应该将它们的全球人工智能治理及各自的相关诉求纳入一个与联合国相衔接的共同框架之下，让使用人工智能的国家与开发人工智能的国家一样拥有话语权。
最后，一年一度的中美人工智能峰会将是稳固合作的重要载体，推动两国政府与实验室、科学家、大学、企业以及民间社会组织共同参与其中。至少目前来看，最终决定我们技术的道德价值的仍然是人，这取决于我们如何运用它。
文章选自南华早报，2025年10月20日
