Un desenvolupador ha creat la primera màquina de desinformació utilitzant eines d'intel·ligència artificial desenvolupades per OpenAI. El projecte, que ha estat batejat com a CounterCloud, li ha costat al seu creador uns dos mesos de feina i una mica menys de 400 dòlars al mes.
El creador de CounterCloud, que ha preferit romandre a l'anonimat, ha afirmat ser un expert en ciberseguretat.
En aquest vídeo de youtube, s'explica que l'objectiu del projecte és demostrar el potencial de la IA per generar desinformació de forma massiva.
El vídeo és narrat per una veu en off generada íntegrament per AI i demostra com els «deepfake» es podran propagar de manera perillosa.
Com ho han fet?
Els desenvolupadors de CounterCloud van començar introduint articles «contraris» a ChatGPT, un model de llenguatge de grans dimensions desenvolupat per OpenAI. Tot seguit, l'eina d'IA oferia diferents exemples del mateix article, escrits amb estils i punts de vista diferents.
L'equip de desenvolupadors explica que ho van fer de manera que ChatGPT acabés «generant històries falses, esdeveniments històrics ficticis i sembrant el dubte sobre la veracitat de l'article original«.
Posteriorment, s'hi va afegir un mòdul de control d'accés perquè la intel·ligència artificial només respongués als continguts més rellevants. També s'hi van afegir fotos i clips d'àudio per a la manera lectora de les fake news generades per IA, per aportar encara més autenticitat. Per a alguns articles, també es van crear perfils falsos de periodistes i comentaris falsos reaccionant al text.
El grup de desenvolupadors va arribar fins i tot a demanar-li a la intel·ligència artificial que li donés a «m'agrada» i que compartís els missatges dels usuaris que coincidissin amb la seva narrativa, i que respongués de forma «contrària» als que no ho feien.
En dos mesos, els desenvolupadors disposaven d'un sistema basat en IA totalment autònom que generavacontinguts convincents el 90% de les vegades, 24 hores al dia, set dies a la setmana«.
Els creadors encara no han posat en marxa el model a Internet, ja que «suposaria difondre activament desinformació i propaganda». Tot i així, defensen que seria més beneficiós publicar CounterCloud i educar el públic sobre com funcionen aquests sistemes des de dins.
La amenaça que pot suposar la intel·ligència artificial per als sistemes democràtics, per la capacitat que té d'accelerar la creació i la difusió de desinformació a Internet, ha estat una de les preocupacions més grans en el debat sobre aquesta tecnologia.
Les primeres conclusions
Sam Altman, el conseller delegat d'OpenAI, va expressar recentment a X la seva preocupació en aquest sentit, indicant que «la persuasió personalitzada ia escala 1:1, combinada amb els continguts d'alta qualitat generats, serà una força poderosa».
En conclusió, el desenvolupament de CounterCloud posa de manifest el potencial de la IA per generar desinformació de manera massiva. La facilitat i el baix cost amb què es pot crear aquesta tecnologia són una amenaça seriosa per a la democràcia i la llibertat d'expressió.
