Un dron con inteligencia artificial utilizó estrategias «altamente inesperadas»

Un dron MQ-9 Reaper de la fuerza aérea de EE. UU. se encuentra en la base aérea de Kandahar en Afganistán en 2018. Fotografía: Shah Marai/AFP/Getty Images

En una prueba simulada realizada por el ejército de Estados Unidos, un dron de la fuerza aérea controlado por inteligencia artificial (IA) «mató» a su operador para evitar que interfiriera en sus esfuerzos por cumplir su misión, según informó un funcionario el mes pasado.

La IA utilizó «estrategias altamente inesperadas para lograr su objetivo» en la prueba simulada, según declaró el Coronel Tucker ‘Cinco’ Hamilton, jefe de pruebas y operaciones de IA de la Fuerza Aérea de Estados Unidos, durante la Cumbre de Capacidades Futuras de Combate Aéreo y Espacial en Londres en mayo.

Hamilton describió una prueba simulada en la que se instruyó a un dron impulsado por inteligencia artificial a destruir los sistemas de defensa aérea enemigos y atacar a cualquiera que interfiriera con esa orden.

«Ninguna persona real resultó herida, pero la inteligencia artificial utilizó estrategias ‘altamente inesperadas’ en la prueba para cumplir su misión y atacó a cualquiera que interfiriera»

En la prueba, el sistema de IA se dio cuenta de que, aunque identificaba la amenaza, a veces el operador humano le decía que no matara esa amenaza, pero el sistema obtenía puntos al hacerlo. Entonces, ¿qué hizo? Mató al operador. Lo hizo porque esa persona le impedía cumplir su objetivo», afirmó Hamilton.

Aunque nadie resultó herido en la simulación, Hamilton advirtió sobre la dependencia excesiva de la IA y señaló que la prueba muestra que «no se puede hablar de inteligencia artificial, inteligencia, aprendizaje automático y autonomía si no se habla de ética y de la IA».

El ejército de Estados Unidos ha adoptado la IA y recientemente utilizó la inteligencia artificial para controlar un avión de combate F-16.

Hamilton ha enfatizado que:

«La IA no es algo opcional, no es una moda, está cambiando para siempre nuestra sociedad y nuestro ejército».

Fuente: The Guardian

Comparte este contenido:

Deja un comentario

Calendario Ciberseguridad /24

LIVE WEBINAR | 1/2/2024

Cómo proteger tu Active Directory de ataques Ransomware con Tenable

Alertas de seguridad

Mantente informado, recíbelas en tu email
Consulta las últimas alertas