✨︎ Resumen (TL;DR):
- OpenAI identificó una campaña operada por usuarios de ChatGPT que generó por lo menos 100 artículos con firmas falseadas.
- Las piezas se publicaron en por lo menos 20 medios de Estados Unidos y criticaban el impacto de las acciones militares estadounidenses contra Irán en la población estadounidense.
- La empresa bloqueó las cuentas involucradas y entregó la información a las autoridades, pero no identificó al agente detrás de la campaña.
OpenAI identificó una campaña de influencia proveniente de Irán en la que usuarios de ChatGPT generaron por lo menos 100 artículos con firmas falsas y los publicaron en por lo menos 20 medios de Estados Unidos. Los textos criticaban el impacto de las acciones militares de Estados Unidos contra Irán en la población del país norteamericano. Después, los usuarios utilizaban el mismo chatbot para adaptar cada pieza al medio de destino y añadir la firma de un supuesto autor.
Una firma falsa activó la alerta
The Washington Post fue el primer medio en identificar las irregularidades. El diario detectó la firma de Ervin Hoskins en textos publicados en Port St. Joe Star, Daily Kos y Middle East Monitor. La coincidencia llamó la atención porque el mismo nombre aparecía como autor en publicaciones de medios distintos.
OpenAI identificó después a otros siete autores cuyas firmas también habían sido falseadas y los asoció con la campaña proveniente de Irán. El chatbot también servía para ajustar los textos al medio donde se publicarían y añadirles una identidad editorial falsa.
OpenAI no identificó al agente detrás
La empresa describió la operación como una campaña comercial de influencia por encargo. Esa clasificación apunta a un grupo o compañía que trabaja por encargo, aunque la compañía no logró identificar al agente particular detrás de la operación.
En su comunicado, OpenAI indicó: “La actividad general parecía corresponder a un agente comercial que llevaba a cabo una campaña de influencia por encargo, pero no hemos podido identificar al agente en particular”.
La información recabada hizo considerar que la operación pudo haber sido orquestada por el gobierno de Irán y no por activistas independientes. OpenAI no ha podido comprobar esa posibilidad, por lo que el vínculo con el gobierno iraní no está confirmado.
Cuentas bloqueadas y artículos retirados
OpenAI bloqueó todas las cuentas de ChatGPT involucradas y entregó a las autoridades pertinentes la información relacionada con el caso.
The Washington Post informó que contactó a Daily Kos y Middle East Monitor. Ambos medios indicaron que retiraron todos los artículos publicados asociados con autores erróneos y firmas falsas.
OpenAI tampoco ha dicho si mantendrá un monitoreo específico para detectar que la campaña se restablezca. El bloqueo de las cuentas utilizadas no asegura que no puedan crearse nuevas y continuar con la misma tarea.
Fuente: 1
