Riesgos emergentes de IA en ciberseguridad

En las últimas semanas ha trascendido que Anthropic ha desarrollado un nuevo modelo de inteligencia artificial denominado Claude Mythos Preview, cuya capacidad técnica supera con creces a los sistemas de IA actualmente disponibles en el mercado.

Este modelo ha demostrado en pruebas internas una capacidad autónoma para identificar miles de vulnerabilidades críticas (incluidas vulnerabilidades zero‑day) en sistemas operativos y navegadores de uso masivo. En algunos casos, estas vulnerabilidades habían pasado desapercibidas durante décadas.

¿Por qué esto nos debe preocupar?

  • La misma capacidad que permite detectar fallos puede ser usada para explotarlos. El modelo puede generar exploits o cadenas de vulnerabilidades que facilitan ataques altamente sofisticados, incluso sin intervención experta humana.
  • La empresa ha decidido no liberar el modelo al público general por los riesgos asociados a su mal uso, y ha limitado su acceso solo a organizaciones de alto perfil tecnológico bajo una iniciativa llamada Project Glasswing.
  • Esta situación evidencia que las IA modernas no son solo herramientas pasivas: pueden convertirse en aceleradores para ciberdelincuentes o incluso permitir ataques automatizados que hoy resultan demasiado complejos o costosos para actores con recursos limitados.
  • Incluso sin un modelo “super‑IA” como Mythos, ya existen casos documentados de ciberdelincuencia potenciados por IA, como incidentes en los que agentes IA generaron malware, automatizaron ataques o facilitaron esquemas de extorsión.

Implicaciones para las organizaciones

👉 Los atacantes pueden escalar sus capacidades: con IA, un solo operador puede replicar acciones que antes requerían equipos completos de analistas o programadores.

👉 Aumenta la velocidad de descubrimiento y explotación de fallos: la IA puede recorrer grandes bases de código en minutos, descubriendo y documentando vectores de ataque antes de que existan parches efectivos.

👉 Se redistribuye el equilibrio ofensivo‑defensivo: defender redes y aplicaciones ya no solo depende de inteligencia humana y herramientas tradicionales, sino de capacidades de IA que pueden detectar patrones o anomalías en tiempo real.

👉 La IA puede ser usada como arma de doble filo: mientras acelera la detección de amenazas para los defensores, también puede convertirse en la herramienta preferida de los atacantes para automatizar campañas de phishing, ingeniería social avanzada o explotación de vulnerabilidades.

En el siguiente vídeo  de IBM se profundiza en este nuevo escenario, ayudando a contextualizar el impacto de Claude Mythos y por qué marca un antes y un después en la relación entre inteligencia artificial y ciberseguridad:

Recomendaciones de concienciación

Educar a todos los equipos sobre los riesgos de IA en ciberseguridad: no asumir que “IA = defensa”. Los atacantes también la usan y la usarán con mayor frecuencia.

Fortalecer procesos de gestión de vulnerabilidades: atención especial a los parches, pruebas continuas y priorización basada en contexto de negocio.

Reforzar la detección y respuesta ante ataques automatizados: los sistemas de monitoreo deben estar preparados para identificar comportamientos generados por IA ofensiva.

Promover buenas prácticas de seguridad en desarrollo y DevSecOps: asegurar que la seguridad sea “nativa” desde el diseño y no solo reactiva.

Comparte este contenido:

Calendario de la Ciberseguridad /26

LIVE WEBINAR | 1/2/2024

Cómo proteger tu Active Directory de ataques Ransomware con Tenable

Servicio de avisos

Recibe las alertas de seguridad más importantes a tu email
Infordisa / Security Operations Center
Resumen de privacidad

Esta web utiliza cookies para que podamos ofrecerte la mejor experiencia de usuario posible. La información de las cookies se almacena en tu navegador y realiza funciones tales como reconocerte cuando vuelves a nuestra web o ayudar a nuestro equipo a comprender qué secciones de la web encuentras más interesantes y útiles.