El Deepfake cada cop serà més perillós

El deepfake, també conegut com hipertrucatge, és una tècnica que utilitza programes d'intel·ligència artificial per combinar, reemplaçar i superposar imatges, videoclips i àudios amb l'objectiu de crear vídeos falsos que semblin autèntics i reals.

Els 5 perills més grans

Aquesta tecnologia avança ràpidament i aquests són els 5 perills més importants:

  1. Manipulació d'informació:
    El deepfake permet crear vídeos i àudios pràcticament indistingibles dels autèntics. Això es pot utilitzar per manipular l'opinió pública, especialment en àmbits com la política o el sistema judicial. La creació de fake news i falses alarmes és un risc real.

  2. Amenaça a la Intimitat:
    Les dones són les víctimes principals d'aquesta tecnologia. El deep fake porn, que implica la creació d'imatges sexuals falses mitjançant intel·ligència artificial, és una amenaça greu per a la seva intimitat.

  3. Difusió de Desinformació:
    Els deepfakes poden ser utilitzats per difondre informació falsa o per desacreditar persones i institucions. Això posa en perill la confiança en els mitjans de comunicació i la veracitat de la informació.

  4. Dubte sobre Autenticitat:
    Els deepfakes planten dubtes sobre la veracitat dels documents autèntics. Això pot afectar la credibilitat de proves en judicis i altres contextos legals.

Noves possibilitats tècniques

Us compartim un vídeo de Sora, la nova eina d'intel·ligència artificial que ha presentat OpenAI. Aquesta té la capacitat de generar vídeos a partir de descripcions textuals d'una manera molt realista. Ara faltarà saber si l'ús que se li donarà a aquesta eina sempre serà ètic. Una de les 5 tendències clau de la Ciberseguretat per al 2024 ja alerta que els ciberdelinqüents podran aprofitar aquestes tecnologies avançades per crear atacs més sofisticats.

Dades preocupants sobre els Deepfakes

Justament aquest any, amb el Dia de la Internet Segura, l'Agència de Ciberseguretat de Catalunya es va centrar amb aquesta nova problemàtica i es van presentar aquestes dades preocupants:

  • El 71% de la població no coneix ni té l'habilitat per detectar un deepfake.
  • La taxa de creixement daquests hiper trucatges és dun 900%.
  • El 2019, el 96% dels vídeos fakes eren de pornografia no consensuada.
Dades de deepfake (Agència de Ciberseguretat de Catalunya)

Com detectar un Deepfake?

Detectar un deepfake no és senzill, degut a la sofisticació de la tecnologia, però a continuació us llistem alguns senyals que ens poden ajudar a sospitar:

  1. Rostre i cos:
    Els deepfakes solen centrar-se en la cara, per la qual cosa si el cos sembla desproporcionat o mal alineat, és un senyal per sospitar.

  2. Nombre de parpellejos:
    Els deepfakes sovint tenen dificultats per replicar el parpelleig natural dels ulls. És a dir, si al vídeo el personatge no parpelleja prou, podria ser una indicació de falsedat del vídeo.

  3. Detalls facials i de la pell:
    En vídeos deepfake, les vores de les imatges poden ser borroses, la pell pot semblar massa llisa o arrugada i les expressions facials poden ser entretallades o poc naturals.

  4. Verificació de fonts:
    Si un vídeo o qualsevol contingut prové d'una font no verificada o poc fiable, cal sospitar sobre la seva legimititat.

  5. Extensió del vídeo:
    Els deepfakes solen ser vídeos curts. Per tant, si el vídeo és llarg, serà més probable que sigui legítim.

  6. Programari de detecció de deepfakes:
    Per a processos que requereixen una verificació més minuciosa, es pot recórrer a solucions de detecció de deepfakes. Cal indicar que cap solució tecnològica no podrà garantir al 100% la legitimitat o no d'un vídeo.

  7. Mans:
    Tècnicament, també s'ha detectat que les IAs tenen problemes amb la generació d'imatges de mans. Però segurament que a base d'entrenament, aquestes seran capaces de millorar.

Totes les fotos que demanem als sistemes d'IA tenen el mateix problema: les mans surten amb infinitat de dits o només amb tres o quatre.

És important recordar que cap d'aquests senyals és definitiu per si mateix. La millor defensa contra els deepfakes és una combinació de conscienciació i cert escepticisme, sentit comú davant de determinats continguts i sobretot revisar altres fonts, abans de donar per bons els missatges que puguin aparèixer als vídeos.

Per acabar, us deixem amb un test de l'Agència de Ciberseguretat de Catalunya.

En resum, tal com ja vam comentar fa un temps a “No tot és el que sembla”, encara que el deepfake té aplicacions positives, com la millora d'efectes visuals en cinema i animació, cal ser conscients dels seus perills i desenvolupar regulacions per protegir la societat d'aquests abusos.

Comparteix aquest contingut:

Calendari de la Ciberseguretat /26

LIVE WEBINAR | 1/2/2024

Com protegir el teu Active Directory d'atacs Ransomware amb Tenable

Servei d'avisos

Rep les alertes de seguretat més importants al teu email
INFORDISA / Security Operations Center
Resum de privacitat

Aquest lloc web utilitza cookies per tal de proporcionar-vos la millor experiència d’usuari possible. La informació de les cookie s’emmagatzema al navegador i realitza funcions com ara reconèixer-vos quan torneu a la pàgina web i ajuda a l'equip a comprendre quines seccions del lloc web us semblen més interessants i útils.