Un desarrollador ha creado la primera «máquina de desinformación» utilizando herramientas de inteligencia artificial desarrolladas por OpenAI. El proyecto, que ha sido bautizado como CounterCloud, le ha costado a su creador unos dos meses de trabajo y algo menos de 400 dólares al mes.
El creador de CounterCloud, que ha preferido permanecer en el anonimato, ha afirmado ser un experto en ciberseguridad.
En este vídeo de youtube, se explica que el objetivo del proyecto es demostrar el potencial de la IA para generar desinformación de forma masiva.
El video es narrado por una voz en off generada íntegramente por AI y demuestra como los «deepfake» se podrán propagar de forma peligrosa.
¿Cómo lo han hecho?
Los desarrolladores de CounterCloud empezaron introduciendo artículos «contrarios» en ChatGPT, un modelo de lenguaje de gran tamaño desarrollado por OpenAI. A continuación, la herramienta de IA ofrecía distintos ejemplos del mismo artículo, escritos con estilos y puntos de vista diferentes.
El equipo de desarrolladores explica que lo hicieron de tal forma que ChatGPT acabase «generando historias falsas, acontecimientos históricos ficticios y sembrando la duda sobre la veracidad del artículo original«.
Posteriormente, se añadió un módulo de control de acceso para que la inteligencia artificial solo respondiese a los contenidos más relevantes. También se añadieron fotos y clips de audio para el modo lector de las fake news generadas por IA, con el fin de aportar todavía más autenticidad. Para algunos artículos, también se crearon perfiles falsos de periodistas y comentarios falsos reaccionando al texto.
El grupo de desarrolladores llegó incluso a pedirle a la inteligencia artificial que le diese a «me gusta» y que compartiera los mensajes de los usuarios que coincidieran con su narrativa, y que respondiese de forma «contraria» a los que no lo hacían.
En dos meses, los desarrolladores disponían de un sistema basado en IA totalmente autónomo que generaba «contenidos convincentes el 90% de las veces, 24 horas al día, siete días a la semana«.
Los creadores aún no han puesto en marcha el modelo en Internet, ya que «supondría difundir activamente desinformación y propaganda». Aun así, defienden que sería más beneficioso publicar CounterCloud y educar al público sobre cómo funcionan estos sistemas desde dentro.
La amenaza que puede suponer la inteligencia artificial para los sistemas democráticos, por la capacidad que tiene de acelerar la creación y la difusión de desinformación en Internet, ha sido una de las mayores preocupaciones en el debate sobre esta tecnología.
Las primeras conclusiones
Sam Altman, el consejero delegado de OpenAI, expresó recientemente en X su preocupación en ese sentido, indicando que «la persuasión personalizada y a escala 1:1, combinada con los contenidos de alta calidad generados, va a ser una fuerza poderosa».
En conclusión, el desarrollo de CounterCloud pone de manifiesto el potencial de la IA para generar desinformación de forma masiva. La facilidad y el bajo coste con el que se puede crear esta tecnología son una seria amenaza para la democracia y la libertad de expresión.
