La intel·ligència artificial (IA) és una tecnologia que permet crear continguts escrits i audiovisuals de forma automàtica. Qui pot saber avui en dia si la imatge de la capçalera és o no real?. Aquesta tecnologia té un gran potencial per al desenvolupament de noves aplicacions, però també pot ser utilitzada amb finalitats malicioses.
Segons un estudi realitzat per ISACA, el 99% dels professionals de TI europeus estan preocupats per l’ús malintencionat de la IA generativa en ciberseguretat. Els ciberdelinqüents poden utilitzar aquesta tecnologia per crear contingut fals, com notícies falses o “deepfakes”, per enganyar les persones i robar-los informació o diners.
L’estudi també ha revelat que el 74% dels professionals de TI creuen que els ciberdelinqüents estan aprofitant la IA amb igual o major èxit que els professionals de la confiança digital.
La situació actual a les empreses espanyoles
L’ús malintencionat de la IA generativa en ciberseguretat és una amenaça real que les organitzacions han de tenir en compte. Per mitigar aquesta amenaça, les organitzacions han d’implementar mesures de seguretat adequades, com la formació dels empleats en ciberseguretat i la implementació de solucions tecnològiques de detecció i prevenció d’atacs.
Les empreses espanyoles denuncien que els ciberatacs són cada vegada més crítics i nocius, però també reconeixen un augment generalitzat de la inversió en ciberseguretat com a defensa davant les amenaces que suposen el “Ransomware”, el “Phishing” i la enginyeria social.
Cimera al regne Unit per afrontar les amenaces de la IA
Aquests 1 i 2 de novembre, per lluitar contra l’ús malintencionat de la IA, líders i experts mundials sobre la IA realitzen la primera cimera de seguretat, la AI Safety Summit 2023. Aquesta es celebra al Bletchley Park d’Alan Turing del Regne Unit, justament on es va desxifrar l’Enigma, la màquina que codificava els missatges militars alemanys durant la Segona Guerra Mundial.
El primer ministre del Regne Unit, Rishi Sunak, vol que el seu país lideri la revolució de la IA i es posicioni al món fora de la Unió Europea.
La cimera busca analitzar les amenaces extremes de la IA de frontera, com el bioterrorisme i els atacs cibernètics.
Participants i absències en la cimera
La cimera reuneix uns 100 líders mundials, entre ells els Estats Units i la Xina, els líders en IA. També hi assisteixen empreses tecnològiques com Amazon, Google, Meta, Microsoft i OpenAI. No hi són, en canvi, Joe Biden, Justin Trudeau o Emmanuel Macron.
Crítiques i reptes de la cimera
Diversos experts critiquen que la cimera es centri en escenaris distòpics i no en els problemes reals que ja provoca la IA, com la pèrdua de treball o la desinformació. També caldrà veure si la cimera aconsegueix avançar en la regulació sobre la IA, tenint en compte que la Unió Europea i els Estats Units ja tenen les seves pròpies normatives.
