La Agencia de Ciberseguridad de Cataluña y el Centro de Innovation for Data Tech and Artificial Intelligence (CIDAI) presentan el 'Whitepaper sobre la Inteligencia Artificial aplicada a la Ciberseguridad' en el Barcelona Cibersecurity Congress
Según apunta el whitepaper presentado, la inteligencia artificial es una tecnología que en varios aspectos se muestra muy efectiva para proteger las infraestructuras y activos digitales de las empresas y organizaciones de los ciberataques, aunque el incremento de la digitalización, tanto en ámbito social como empresarial, genera un mayor número de datos y se hace más difícil protegerlos. En este escenario, el documento sitúa como prioritario integrar soluciones basadas en tecnologías de inteligencia artificial en los sistemas de ciberseguridad.
Por otra parte, el libro blanco señala las limitaciones y barreras que dificultan la implementación de la inteligencia artificial en la ciberseguridad y, por eso, identifica también recomendaciones para superarlas. En primer lugar, estima que son necesarios nuevos itinerarios formativos que incluyan ambas disciplinas y subraya la necesidad de desarrollar entornos colaborativos para el acceso a datos para entrenamiento respetuosos con la normativa en materia de protección de datos, así como espacios de datos (Data Spaces).
Además, indica la necesidad de adoptar un marco legal que asegure la privacidad de los datos, al tiempo que fomente y agilice su compartición. Por último, recomienda la adopción de un marco ético para conseguir un equilibrio entre los avances tecnológicos, los intereses empresariales y las garantías para la ciudadanía.
La revolución de herramientas basadas en la IA, como ChatGPT, en la ciberseguridad
El whitepaper destaca la revolución que la aparición de ChatGPT, un modelo de inteligencia artificial conversacional que puede interactuar de forma similar al ser humano y que es capaz de generar código fuente, está generando en la ciberseguridad.
Este aspecto ya lo comentamos en el post sobre “Los nuevos chatbots y la ciberseguridad” del SOC.infordisa.
En este sentido, el whitepaper pone de relieve que esta herramienta puede favorecer el crecimiento de las amenazas de ciberseguridad, pues por ejemplo tiene la capacidad de generar piezas de software malicioso (malware) por parte de cibercriminales sin habilidades técnicas, de escribir correos electrónicos maliciosos, convincentes y gramaticalmente correctos para lanzar campañas de phishing o de generar código que cambia el cifrado criptográfico por esquivar los mecanismos de seguridad tradicionales, entre otros. Y, por otra parte, también es una herramienta útil para la ciberseguridad para buscar y corregir vulnerabilidades cuando se desarrolla código seguro o para detectar malware mediante la ingeniería inversa de forma mucho más rápida que un operador humano.
