世界人工智能合作组织在上海成立后，美国部分政策圈将其解读为中国对”硅和平”（Pax Silica）倡议的回应，进一步加剧了外界对全球人工智能治理领域制度性竞争不断加剧的担忧。合作内容可包括推动人工智能内容来源溯源和水印技术的互操作性，协调应对人工智能生成的虚假信息和深度伪造，以及合作打击人工智能驱动的欺诈活动。在这一领域，两国政府可以进一步深化合作的一项内容是建立针对重大人工智能安全事件、前沿模型非预期行为、重大人工智能驱动的网络事件、影响关键基础设施的大规模人工智能故障以及人工智能漏洞通报的机制。