En una prova simulada realitzada per l'exèrcit dels Estats Units, un dron de la força aèria controlat per intel·ligència artificial (IA) «va matar» el seu operador per evitar que interferís en els seus esforços per complir la seva missió, segons va informar un funcionari el mes passat.
La IA va utilitzar «estratègies altament inesperades per assolir el seu objectiu» a la prova simulada, segons va declarar el Coronel Tucker 'Cinc' Hamilton, cap de proves i operacions d'IA de la Força Aèria dels Estats Units, durant la Cimera de Capacitats Futures de Combat Aeri i Espacial a Londres al maig.
Hamilton va descriure una prova simulada en què es va instruir un dron impulsat per intel·ligència artificial a destruir els sistemes de defensa aèria enemics i atacar qualsevol que interferís amb aquesta ordre.
«Cap persona real va resultar ferida, però la intel·ligència artificial va utilitzar estratègies 'altament inesperades' a la prova per complir la seva missió i va atacar qualsevol que interferís»
A la prova, el sistema d'IA es va adonar que, encara que identificava la amenaça, de vegades l'operador humà li deia que no matés aquesta amenaça, però el sistema obtenia punts en fer-ho. Aleshores, què va fer? Va matar l'operador. Ho va fer perquè aquesta persona li impedia complir el seu objectiu», va afirmar Hamilton.
Tot i que ningú va resultar ferit en la simulació, Hamilton va advertir sobre la dependència excessiva de la IA i va assenyalar que la prova mostra que «no es pot parlar d'intel·ligència artificial, intel·ligència, aprenentatge automàtic i autonomia si no es parla d'ètica i de la IA».
L'exèrcit dels Estats Units ha adoptat la IA i recentment va utilitzar la intel·ligència artificial per controlar un avió de combat F-16.
Hamilton ha emfatitzat que:
«La IA no és una cosa opcional, no és una moda, està canviant per sempre la nostra societat i el nostre exèrcit».
Font: The Guardian
