L’Agència de Ciberseguretat de Catalunya i el Centre of Innovation for Data Tech and Artificial Intelligence (CIDAI) presenten el ‘Whitepaper sobre la Intel·ligència Artificial aplicada a la Ciberseguretat’ al Barcelona Cibersecurity Congress
Segons apunta el whitepaper presentat, la intel·ligència artificial és una tecnologia que en diversos aspectes es mostra molt efectiva per protegir les infraestructures i actius digitals de les empreses i organitzacions dels ciberatacs, tot i que l’increment de la digitalització, tant en l’àmbit social com empresarial, genera un major nombre de dades i es fa més difícil protegir-les. En aquest escenari, el document situa com a prioritari integrar solucions basades en tecnologies d’intel·ligència artificial als sistemes de ciberseguretat.
D’altra banda, el llibre blanc assenyala les limitacions i barreres que dificulten la implementació de la intel·ligència artificial en la ciberseguretat i, per això, identifica també recomanacions per superar-les. En primer lloc, estima que calen nous itineraris formatius que incloguin les dues disciplines i subratlla la necessitat de desenvolupar entorns col·laboratius per a l’accés a dades per a entrenament respectuosos amb la normativa en matèria de protecció de dades, així com espais de dades (Data Spaces).
A més, indica la necessitat d’adoptar un marc legal que asseguri la privadesa de les dades, al mateix temps que en fomenti i agilitzi la seva compartició. Finalment, recomana l’adopció d’un marc ètic per aconseguir un equilibri entre els avenços tecnològics, els interessos empresarials i les garanties per a la ciutadania.
La revolució d’eines basades en la IA, com ChatGPT, en la ciberseguretat
El whitepaper destaca la revolució que l’aparició de ChatGPT, un model d’intel·ligència artificial conversacional que pot interactuar de forma similar a l’ésser humà i que és capaç de generar codi font, està generant en la ciberseguretat.
Aquest aspecte ja el vam comentar en el post sobre “Els nous chatbots i la ciberseguretat” del SOC.infordisa.
En aquest sentit, el whitepaper posa en relleu que aquesta eina pot afavorir el creixement de les amenaces de ciberseguretat, doncs per exemple té la capacitat de generar peces de programari maliciós (malware) per part de cibercriminals sense habilitats tècniques, d’escriure correus electrònics maliciosos, convincents i gramaticalment correctes per llençar campanyes de phishing o de generar codi que canvia el xifratge criptogràfic per esquivar els mecanismes de seguretat tradicionals, entre altres. I, d’altra banda, també és una eina útil per a la ciberseguretat per cercar i corregir vulnerabilitats quan es desenvolupa codi segur o per detectar programari maliciós mitjançant l’enginyeria inversa de forma molt més ràpida que un operador humà.
