El deepfake, también conocido como hipertrucaje, es una técnica que utiliza programas de inteligencia artificial para combinar, reemplazar y superponer imágenes, videoclips y audios con el objetivo de crear vídeos falsos que parezcan auténticos y reales.
Los 5 mayores peligros
Esta tecnología está avanzando rápidamente y estos son los 5 peligros más importantes:
- Manipulación de Información:
El deepfake permite crear vídeos y audios prácticamente indistinguibles de los auténticos. Esto puede ser utilizado para manipular a la opinión pública, especialmente en ámbitos como la política o el sistema judicial. La creación de fake news y falsas alarmas es un riesgo real. - Amenaza a la Intimidad:
Las mujeres son las principales víctimas de esta tecnología. El deep fake porn, que implica la creación de imágenes sexuales falsas mediante inteligencia artificial, es una amenaza grave para su intimidad. - Difusión de Desinformación:
Los deepfakes pueden ser utilizados para difundir información falsa o para desacreditar a personas e instituciones. Esto pone en peligro la confianza en los medios de comunicación y la veracidad de la información. - Duda sobre Autenticidad:
Los deepfakes plantan dudas sobre la veracidad de los documentos auténticos. Esto puede afectar a la credibilidad de pruebas en juicios y otros contextos legales.
Nuevas posibilidades técnicas
Os compartimos un video de Sora, la nueva herramienta de inteligencia artificial que ha presentado OpenAI. Esta tiene la capacidad de generar vídeos a partir de descripciones textuales de una forma muy realista. Ahora faltará saber si el uso que se le dará a esta herramienta siempre será ético. Una de las 5 tendencias clave de la Ciberseguridad para 2024 ya alerta que los ciberdelincuentes podrán aprovechar estas tecnologías avanzadas para crear ataques más sofisticados.
Datos preocupantes sobre los Deepfakes
Justamente este año, con el Día de la Internet Segura, la Agencia de Ciberseguridad de Cataluña se centró con esta nueva problemática y se presentaron estos datos preocupantes:
- El 71% de la población no conoce ni tiene la habilidad para detectar un deepfake.
- La tasa de crecimiento de estos hiper trucajes es de un 900%.
- En 2019, el 96% de los videos fakes eran de pornografia no consensuada.
¿Cómo detectar un Deepfake?
Detectar un deepfake no es sencillo, debido a la sofisticación de la tecnología, pero a continuación os listamos algunas señales que pueden ayudarnos a sospechar:
- Rostro y cuerpo:
Los deepfakes suelen centrarse en el rostro, por lo que si el cuerpo parece desproporcionado o mal alineado, es una señal para sospechar. - Número de parpadeos:
Los deepfakes a menudo tienen dificultades para replicar el parpadeo natural de los ojos. Es decir, si en el vídeo el personaje no parpadea suficientemente, podría ser una indicación de falsedad del vídeo. - Detalles faciales y de la piel:
En vídeos deepfake, los bordes de las imágenes pueden ser borrosos, la piel puede parecer demasiado lisa o arrugada y las expresiones faciales pueden ser entrecortadas o poco naturales. - Verificación de fuentes:
Si un vídeo o cualquier contenido proviene de una fuente no verificada o poco fiable, debemos sospechar sobre su legimitidad. - Extensión del vídeo:
Los deepfakes suelen ser vídeos cortos. Por tanto si el vídeo es largo, será más probable que sea legítimo. - Software de detección de deepfakes:
Para procesos que requieren de una verificación más minuciosa, se puede recurrir a soluciones de detección de deepfakes. Cabe indicar que ninguna solución tecnológica va a poder garantizar al 100% la legitimidad o no de un vídeo. - Manos:
Técnicamente, también se ha detectado que las IAs tiene problemas con la generación de imágenes de manos. Pero que seguramente que a base de entrenamiento, estas serán capaces de mejorar.
Todas las fotos que pedimos a los sistemas de IA tienen el mismo problema: las manos salen con infinidad de dedos, o solo con tres o cuatro.
Es importante recordar que ninguna de estas señales es definitiva por sí sola. La mejor defensa contra los deepfakes es una combinación de concienciación y cierto escepticismo, sentido común ante determinados contenidos y sobre todo revisar otras fuentes, antes de dar por buenos los mensajes que puedan aparecer en los vídeos.
Para terminar os dejamos con un test de la Agencia de Ciberseguridad de Cataluña.
En resumen, tal y como ya comentamos hace un tiempo en “No todo es lo que parece”, aunque el deepfake tiene aplicaciones positivas, como la mejora de efectos visuales en cine y animación, hay que ser conscientes de sus peligros y desarrollar regulaciones para proteger a la sociedad de estos abusos.
