OpenAI已封禁与中国行动者有关联的账号，这些账号使用ChatGPT生成社交媒体内容，针对美国关于AI数据中心和关税的辩论。这是OpenAI首次发现明确介入AI数据中心辩论的中国关联行动，但该公司表示该行动未能获得显著反响。
发生了什么
OpenAI周三披露，已发现并破坏了两起来源于中国、依赖ChatGPT起草帖子、评论和政治漫画的影响力行动。该公司将活动归因于它认为与中国政府承包商以及另一个未具名团体有关的账号。两起行动都瞄准了美国围绕技术基础设施和贸易政策的激烈政治辩论。
“这不是一次影响力行动制造辩论的案例，”OpenAI情报与调查团队首席调查员Ben Nimmo告诉记者，“辩论早已存在。这是中国的一次影响力行动试图干涉其中。”
据Axios报道，OpenAI表示这些行动似乎未在网上获得有意义的影响力或参与度。
两起行动
OpenAI详细描述了两起不同的行动，每起都针对一个不同的美国政策焦点。
数据中心跟风行动： 该行动生成评论和连环漫画，将AI数据中心描绘成美国家庭电价上涨的驱动因素。用户要求ChatGPT创作关于电网容量的漫画，然后通过可能不真实的账号发布到X平台，同时附上关于数据中心能源需求的合法新闻报道链接。该行动试图放大现有的公众担忧：最近的哈佛/MIT民意调查显示，32%的美国人反对在其地区建设数据中心，而40%的人支持。
技术与关税行动： 第二起行动使用ChatGPT生成批评特朗普时代关税和美国推动全球技术主导地位的内容和政治漫画。在一个例子中，OpenAI描述了一幅漫画：特朗普总统穿着标有“美国优先”的美国国旗裤子，手持刻有“技术主导”的大锤，砸向写有“全球未来”的墙壁。该行动与现有公众情绪一致：哈里斯3月发布的民意调查发现，七成美国人表示关税导致他们支付更高价格。
为何重要
这一事件凸显了外国影响力行动的新领域：利用生成式AI低成本地围绕现有政治分歧规模化生产内容。与依赖人类内容创作或简单机器人网络的传统虚假信息行动不同，这些行动利用大型语言模型生成多样化、具有上下文感知能力的材料——包括图像——可以快速部署到社交平台。
OpenAI表示，这似乎是该公司首次看到中国关联行动使用其模型专门干预AI数据中心辩论。时机值得注意：在云提供商和AI初创公司的推动下，数据中心建设蓬勃发展，而当地关于能源使用和环境影响的反对方兴未艾。寻求放大这种反对的外国行为者现在拥有了一个强大的新工具。
这些行动也反映了更广泛的转变。去年，研究人员记录了中国国家关联行动者如何利用AI工具创建看起来逼真的新闻网站和社交媒体身份，如Axios关于AI驱动虚假信息的早期报道所述。最新事件表明，影响力操作者正在将生成式AI叠加到现有剧本上。
市场与政策影响
对科技公司而言，这一事件强调了内容审核和对抗性威胁检测日益增长的负担。OpenAI检测并封禁这些账号以及公开归因的能力本身就是一个信号，表明反制措施正在升级。但生成AI内容的低成本意味着即使是失败的行动也能作为压力测试，迫使平台和AI提供商不断更新其防御措施。
对投资者和政策制定者而言，这一新闻增加了关于AI治理和出口管制辩论的紧迫性。美国政府已经收紧了对中国先进芯片销售的限制，部分是为了限制可用于虚假信息的AI能力的发展。这一事件可能强化要求更严格执法以及AI公司与情报机构之间更紧密合作的呼声。
与此同时，关于数据中心的公众舆论仍然是一个实时问题。涉及数十亿美元的计划基础设施——从超大规模数据中心到边缘设施——即使是地方情绪的微小变化也可能影响审批、税收优惠和选址。成功煽动反对情绪的外国影响力行动可能扰乱供应链，提高建筑商和运营商的成本。
下一步
OpenAI表示将继续监控类似行动，并与行业合作伙伴和政府分享威胁情报。该公司还更新了其使用政策和执法系统，以更好地检测使用其模型的协调影响力行动。
更广泛的行业可能面临新的监管审查。国会已表现出要求AI公司报告外国滥用的兴趣，拜登政府此前发布了关于AI安全的行政命令，其中包括关于虚假信息的条款。下一届政府是否会继续这些努力仍不确定。
就目前而言，这一事件是一个警告：生成式AI正在使敌对行为者更便宜、更容易地进入美国的政治辩论——而辩论本身也变得更加激烈。
常见问题解答
OpenAI如何检测这些行动？ OpenAI的情报与调查团队分析了账号行为、内容模式，并交叉引用了已知的国家关联活动指标。该公司表示，通过自动监控和人工调查相结合的方式发现了这些行动。
是否有美国政界人士或媒体被针对？ 这些行动针对的是公众普遍辩论，而非特定个人或媒体。它们在社交媒体平台上发布评论和漫画，通常链接到合法新闻故事以营造可信表象。
这些行动如果采用不同策略是否会更有效？ OpenAI指出，这些行动未能获得显著影响力，很可能因为内容雷同，账号缺乏有机覆盖。更复杂的行动——使用定制语言、多种语言，或与现实人类影响者协调——可能产生更大影响。
其他AI公司可以从这一事件中学到什么？ 此案例突显了投资威胁检测、维护明确使用政策以及跨行业分享情报的重要性。它还表明，即使无效的行动也能为完善模型和执法提供宝贵数据。
这是否影响OpenAI与中国的业务关系？ ChatGPT未在中国正式提供，但部分用户通过VPN访问。OpenAI此前已限制某些地区的API访问。该公司表示将无视地理位置，持续执行其反滥用政策。
这与以往的中国虚假信息行动相比如何？ 传统行动依赖人类内容创作者或使用重复信息的机器人网络。AI生成的内容允许更多多样性——不同的论点、图像和格式——成本却低得多，使其更难检测和应对。
结论
OpenAI披露的两起中国关联影响力行动代表了生成式AI用于政治干预的重大升级。虽然两起行动都未在现实世界中产生影响，但国家支持的行为者现在正在测试ChatGPT以干预美国数据中心和关税辩论，这表明虚假信息军备竞赛的新阶段。随着AI工具变得更便宜、能力更强，公司和政府都需要迅速适应，以保护公共话语免受操纵。
参与讨论
Should AI companies be required to report foreign influence campaigns to the government?