La inteligencia artificial (IA) es una tecnología que permite crear contenidos escritos y audiovisuales de forma automática. ¿Quién puede saber hoy en día si la imagen de la cabecera es o no real? Esta tecnología tiene un gran potencial para el desarrollo de nuevas aplicaciones, pero también puede utilizarse con fines maliciosos.
Según un estudio realizado por ISACA, el 99% de los profesionales de TI europeos están preocupados por el uso malintencionado de la IA generativa en ciberseguridad. Los ciberdelincuentes pueden utilizar esta tecnología para crear contenido falso, como noticias falsas o “deepfakes”, para engañar a las personas y robarles información o dinero.
El estudio también ha revelado que el 74% de los profesionales de TI creen que los ciberdelincuentes están aprovechando la IA con igual o mayor éxito que los profesionales de la confianza digital.
La situación actual en las empresas españolas
El uso malintencionado de la IA generativa en ciberseguridad es una amenaza real que las organizaciones deben tener en cuenta. Para mitigar esta amenaza, las organizaciones deben implementar medidas de seguridad adecuadas, como la formación de los empleados en ciberseguridad y la implementación de soluciones tecnológicas de detección y prevención de ataques.
Las empresas españolas denuncian que los ciberataques son cada vez más críticos y nocivospero también reconocen un aumento generalizado de la inversión en ciberseguridad como defensa ante las amenazas que suponen el “Ransomware”, el “Phishing” y la ingeniería social.
Cumbre en Reino Unido para afrontar las amenazas de la IA
Estos 1 y 2 de noviembre, para luchar contra el uso malintencionado de la IA, líderes y expertos mundiales sobre la IA realizan la primera cumbre de seguridad, la AI Safety Summit 2023. Ésta se celebra en el Bletchley Park de Alan Turing del Reino Unido, justamente donde se descifró el Enigma, la máquina que codificaba los mensajes militares alemanes durante la Segunda Guerra Mundial.
El primer ministro del Reino Unido, Rishi Sunak, quiere que su país lidere la revolución de la IA y se posicione en el mundo fuera de la Unión Europea.
La cumbre busca analizar las amenazas extremas de la IA de frontera, como el bioterrorismo y los ataques cibernéticos.
Participantes y ausencias en la cumbre
La cumbre reúne a unos 100 líderes mundiales, entre ellos Estados Unidos y China, los líderes en IA. También asisten empresas tecnológicas como Amazon, Google, Meta, Microsoft i OpenAI. No están, en cambio, Joe Biden, Justin Trudeau o Emmanuel Macron.
Críticas y retos de la cumbre
Varios expertos critican que la cumbre se centre en escenarios distópicos y no en los problemas reales que ya provoca la IA, como la pérdida de trabajo o la desinformación. También habrá que ver si la cumbre logra avanzar en la regulación sobre la IA, teniendo en cuenta que la Unión Europea y Estados Unidos ya tienen sus propias normativas.
