OpenAI Bloquea Cuentas Vinculadas a China que Usaron ChatGPT para Campañas de Influencia en EE.UU.

OpenAI ha bloqueado cuentas vinculadas a operativos chinos que utilizaron ChatGPT para generar contenido en redes sociales dirigido a los debates en EE.UU. sobre centros de datos de IA y aranceles. La operación marca la primera vez que OpenAI identifica una campaña vinculada a China que interfiere explícitamente en el debate sobre centros de datos de IA, aunque la compañía afirma que no logró una tracción significativa.

• Lo que sucedió
• Las dos campañas
• Por qué es importante
• Implicaciones de mercado y políticas
• Qué sigue
• Preguntas frecuentes
• Conclusión

Lo que sucedió

OpenAI reveló el miércoles que había descubierto e interrumpido dos operaciones de influencia originadas en China que utilizaron ChatGPT para redactar publicaciones, comentarios y caricaturas políticas. La compañía atribuyó la actividad a cuentas que cree estaban vinculadas a un contratista del gobierno chino y a un grupo separado no atribuido. Ambas operaciones apuntaban a acalorados debates políticos en EE.UU. sobre infraestructura tecnológica y política comercial.

“No fue un caso de una operación de influencia creando un debate”, dijo Ben Nimmo, investigador principal del equipo de inteligencia e investigaciones de OpenAI, a los periodistas. “El debate ya existía. Esta fue una operación de influencia de China tratando de interferir en él”.

Según Axios, OpenAI dijo que las campañas no parecían haber alcanzado un alcance o participación significativos en línea.

Las dos campañas

OpenAI detalló dos operaciones distintas, cada una dirigida a un punto de conflicto político diferente en EE.UU.

Subirse al tren de los centros de datos: Esta campaña generó comentarios y tiras cómicas que presentaban a los centros de datos de IA como impulsores del aumento de los precios de la electricidad para los hogares estadounidenses. Los usuarios pidieron a ChatGPT que creara caricaturas sobre la capacidad de la red eléctrica, luego las publicaron en X a través de cuentas probablemente no auténticas, junto con enlaces a noticias legítimas sobre la demanda energética de los centros de datos. La operación intentó amplificar las preocupaciones públicas existentes: una encuesta reciente de Harvard/MIT encontró que el 32% de los estadounidenses se opone a los centros de datos en su área, mientras que el 40% los apoya.

Tecnología y aranceles: Una segunda operación utilizó ChatGPT para producir contenido y caricaturas políticas criticando los aranceles de la era Trump y el impulso de EE.UU. por el dominio tecnológico global. En un ejemplo, OpenAI describió una caricatura que mostraba al presidente Trump usando pantalones con la bandera estadounidense etiquetados “América Primero”, sosteniendo un mazo con la inscripción “Dominio Tecnológico” y golpeando una pared que decía “Futuro Global”. La campaña se alineaba con el sentimiento público existente: una encuesta de Harris publicada en marzo encontró que siete de cada diez estadounidenses dijeron que los aranceles les habían hecho pagar precios más altos.

Por qué es importante

El incidente destaca una nueva frontera en las operaciones de influencia extranjera: el uso de IA generativa para escalar de forma barata la producción de contenido en torno a divisiones políticas existentes. A diferencia de las campañas tradicionales de desinformación que dependen de la creación humana de contenido o de redes simples de bots, estas operaciones aprovechan grandes modelos de lenguaje para producir material variado y consciente del contexto —incluyendo imágenes— que puede desplegarse rápidamente en plataformas sociales.

OpenAI dijo que esta parece ser la primera vez que la compañía ve una operación vinculada a China que utiliza sus modelos para interferir específicamente en el debate sobre centros de datos de IA. El momento es notable: la construcción de centros de datos está en auge, impulsada por proveedores de nube y startups de IA, mientras crece la oposición local por el uso de energía y el impacto ambiental. Los actores extranjeros que buscan amplificar esa oposición ahora tienen una poderosa nueva herramienta.

Las campañas también ilustran un cambio más amplio. El año pasado, investigadores documentaron cómo actores vinculados al estado chino utilizaron herramientas de IA para crear sitios web de noticias y personajes en redes sociales de aspecto realista, como se cubrió en el informe anterior de Axios sobre desinformación impulsada por IA. El último incidente sugiere que los operadores de influencia están superponiendo cada vez más la IA generativa a los manuales de juego existentes.

Implicaciones de mercado y políticas

Para las empresas de tecnología, el incidente subraya la creciente carga de la moderación de contenido y la detección de amenazas adversariales. La capacidad de OpenAI para detectar y bloquear estas cuentas —y atribuir públicamente la actividad— es en sí misma una señal de contramedidas en escalada. Pero el bajo costo de generar contenido con IA significa que incluso las campañas fallidas pueden servir como pruebas de estrés, obligando a las plataformas y proveedores de IA a actualizar constantemente sus defensas.

Para inversores y responsables políticos, la noticia añade urgencia a los debates sobre gobernanza de IA y controles de exportación. El gobierno de EE.UU. ya ha endurecido las restricciones a la venta de chips avanzados a China, en parte para limitar el desarrollo de capacidades de IA que podrían utilizarse para la desinformación. Este incidente podría reforzar los llamados a una aplicación más agresiva y a una colaboración más estrecha entre las empresas de IA y las agencias de inteligencia.

Mientras tanto, la opinión pública sobre los centros de datos sigue siendo un tema candente. Con miles de millones de dólares en infraestructura planificada en juego —desde centros de datos a hiperescala hasta instalaciones periféricas— incluso un pequeño cambio en el sentimiento local podría afectar los permisos, los incentivos fiscales y la selección de ubicaciones. Las campañas de influencia extranjera que logren inflamar la oposición podrían interrumpir las cadenas de suministro y aumentar los costos para constructores y operadores.

Qué sigue

OpenAI dijo que continuará monitoreando operaciones similares y compartirá inteligencia sobre amenazas con socios de la industria y gobiernos. La compañía también ha actualizado sus políticas de uso y sistemas de aplicación para detectar mejor las campañas de influencia coordinadas que utilizan sus modelos.

La industria en general podría enfrentar un nuevo escrutinio regulatorio. El Congreso ha mostrado interés en exigir a las empresas de IA que informen sobre el uso malintencionado extranjero, y la administración Biden emitió previamente una orden ejecutiva sobre seguridad de IA que incluía disposiciones sobre desinformación. Si la próxima administración continúa esos esfuerzos sigue siendo incierto.

Por ahora, el episodio sirve como advertencia: la IA generativa está haciendo que sea más fácil y barato para actores adversariales entrar en los debates políticos de EE.UU. —y los propios debates se están volviendo más acalorados.

Preguntas frecuentes

¿Cómo detectó OpenAI estas campañas? El equipo de inteligencia e investigaciones de OpenAI analizó el comportamiento de las cuentas, los patrones de contenido y cotejó indicadores conocidos de actividad vinculada a estados. La compañía dijo que identificó las campañas mediante una combinación de monitoreo automatizado e investigación manual.

¿Fueron atacados políticos o medios de comunicación específicos? Las campañas apuntaban al debate público general, no a individuos o medios específicos. Publicaban comentarios y caricaturas en plataformas de redes sociales, a menudo enlazando a noticias legítimas para crear una apariencia de credibilidad.

¿Podrían estas campañas haber sido más efectivas con tácticas diferentes? OpenAI señaló que las operaciones no lograron una tracción significativa, probablemente porque el contenido era genérico y las cuentas carecían de alcance orgánico. Una operación más sofisticada —utilizando lenguaje adaptado, múltiples idiomas o coordinada con influencers humanos reales— podría lograr un mayor impacto.

¿Qué pueden aprender otras empresas de IA de este incidente? El caso destaca la importancia de invertir en detección de amenazas, mantener políticas de uso claras y compartir inteligencia en toda la industria. También muestra que incluso las campañas ineficaces proporcionan datos valiosos para refinar modelos y medidas de aplicación.

¿Esto afecta las relaciones comerciales de OpenAI con China? ChatGPT no está disponible oficialmente en China, pero algunos usuarios acceden a través de VPN. OpenAI ha restringido previamente el acceso a la API en ciertas regiones. La compañía dijo que continuará aplicando sus políticas contra el mal uso, independientemente de la geografía.

¿Cómo se compara esto con campañas anteriores de desinformación china? Las campañas tradicionales dependían de creadores humanos de contenido o redes de bots con mensajes repetitivos. El contenido generado por IA permite una mayor variedad —diferentes argumentos, imágenes y formatos— a una fracción del costo, lo que dificulta su detección y contrarrestación.

Conclusión

La divulgación de OpenAI de dos campañas de influencia vinculadas a China representa una escalada notable en el uso de IA generativa para la interferencia política. Si bien ninguna de las operaciones ganó tracción en el mundo real, el hecho de que actores respaldados por estados estén probando ChatGPT para intervenir en los debates de EE.UU. sobre centros de datos y aranceles señala una nueva fase en la carrera armamentista de la desinformación. A medida que las herramientas de IA se vuelven más baratas y capaces, tanto empresas como gobiernos necesitarán adaptarse rápidamente para proteger el discurso público de la manipulación.