Un ingeniero de software ha construido un sistema de generación de propaganda usando tecnología de inteligencia artificial en un plazo de dos meses. Utilizando plataformas desarrolladas por OpenAI, incluido ChatGPT, el proyecto ha demostrado la facilidad y bajo coste con el que se puede difundir desinformación en gran escala. Bajo el nombre de CounterCloud, el sistema fue desarrollado con una inversión mensual inferior a 400 dólares.
La persona detrás del proyecto, que ha elegido mantener su identidad en secreto, se hace llamar Nea Paw. Según publica Wired, Paw es un profesional de la ciberseguridad. En un video subido a YouTube, el desarrollador y su equipo explican los objetivos y métodos del proyecto.
CounterCloud fue probado en escenarios del mundo real para evaluar su eficacia en la generación de noticias falsas. Paw y su equipo introdujeron textos contrarios en el modelo de ChatGPT, que posteriormente generó versiones distintas del mismo artículo. Estos experimentos demostraron que los modelos de lenguaje avanzados son muy capaces de generar información engañosa.
Además, el sistema incorpora características adicionales para añadir credibilidad a las noticias falsas, incluyendo perfiles de periodistas ficticios y comentarios de reacción generados por IA. También utiliza mecanismos para dar “me gusta” y compartir publicaciones que se alinean con su narrativa programada, y responde de manera negativa a los que no lo hacen.
El proyecto no ha sido lanzado públicamente para evitar la diseminación activa de desinformación. Sin embargo, los desarrolladores argumentan que podría ser educativo hacer público el sistema para demostrar los riesgos asociados con el uso de IA en la creación y propagación de noticias falsas.
