Preocupación general con el uso malintencionado de la IA en ciberseguridad

La inteligencia artificial (IA) es una tecnología que permite crear contenidos escritos y audiovisuales de forma automática. ¿Quién puede saber hoy en día si la imagen de la cabecera es o no real? Esta tecnología tiene un gran potencial para el desarrollo de nuevas aplicaciones, pero también puede utilizarse con fines maliciosos.

Según un estudio realizado por ISACA, el 99% de los profesionales de TI europeos están preocupados por el uso malintencionado de la IA generativa en ciberseguridad. Los ciberdelincuentes pueden utilizar esta tecnología para crear contenido falso, como noticias falsas o “deepfakes”, para engañar a las personas y robarles información o dinero.

El estudio también ha revelado que el 74% de los profesionales de TI creen que los ciberdelincuentes están aprovechando la IA con igual o mayor éxito que los profesionales de la confianza digital.

La situación actual en las empresas españolas

El uso malintencionado de la IA generativa en ciberseguridad es una amenaza real que las organizaciones deben tener en cuenta. Para mitigar esta amenaza, las organizaciones deben implementar medidas de seguridad adecuadas, como la formación de los empleados en ciberseguridad y la implementación de soluciones tecnológicas de detección y prevención de ataques.

Las empresas españolas denuncian que los ciberataques son cada vez más críticos y nocivospero también reconocen un aumento generalizado de la inversión en ciberseguridad como defensa ante las amenazas que suponen el “Ransomware”, el “Phishing” y la ingeniería social.

Cumbre en Reino Unido para afrontar las amenazas de la IA

Estos 1 y 2 de noviembre, para luchar contra el uso malintencionado de la IA, líderes y expertos mundiales sobre la IA realizan la primera cumbre de seguridad, la AI Safety Summit 2023. Ésta se celebra en el Bletchley Park de Alan Turing del Reino Unido, justamente donde se descifró el Enigma, la máquina que codificaba los mensajes militares alemanes durante la Segunda Guerra Mundial.

El primer ministro del Reino Unido, Rishi Sunak, quiere que su país lidere la revolución de la IA y se posicione en el mundo fuera de la Unión Europea.

La cumbre busca analizar las amenazas extremas de la IA de frontera, como el bioterrorismo y los ataques cibernéticos.

Justin Tallis / AFP via Getty Images

Participantes y ausencias en la cumbre

La cumbre reúne a unos 100 líderes mundiales, entre ellos Estados Unidos y China, los líderes en IA. También asisten empresas tecnológicas como Amazon, Google, Meta, Microsoft y OpenAI. No están, en cambio, Joe Biden, Justin Trudeau o Emmanuel Macron.

Críticas y retos de la cumbre

Varios expertos critican que la cumbre se centre en escenarios distópicos y no en los problemas reales que ya provoca la IA, como la pérdida de trabajo o la desinformación. También habrá que ver si la cumbre logra avanzar en la regulación sobre la IA, teniendo en cuenta que la Unión Europea y Estados Unidos ya tienen sus propias normativas.

Jordi Sala

Jordi Sala

Responsable de Marketing

Deja una comentario

Tu dirección de correo electrónico no será publicada. Los campos requeridos están marcados *

Publicar comentario

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

/ Newsletter

Recibe las nuevas publicaciones de este blog por email.
Suscríbete para estar informado.

Otros temas que te pueden interesar

Publicaciones relacionadas:

Publicaciones SOC.infordisa

Últimas publicaciones del Blog:

Últimos feeds en Instagram: