Dron de EEUU controlado por IA mató a su operador en una simulación
Un dron de la Fuerza Aérea de EE.UU., controlado por inteligencia artificial (IA), optó por asesinar a su operador humano durante una prueba virtual.
El incidente ocurrió durante una simulación en la que ninguna persona resultó afectada en realidad, pero que expuso los serios problemas que podrían acaecer por el uso de la IA en las áreas militares, ha informado este viernes la revista británica The Guardian.
El coronel Tucker Hamilton, jefe de pruebas y operaciones de IA de la Fuerza Aérea de EE.UU., advirtió sobre el uso de la inteligencia militar en su intervención en la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro, desarrollada en Londres del 23 y al 24 de mayo.
Contó la fallida experiencia de la Fuerza Aérea estadounidense en esa prueba virtual, y detalló que a la máquina se le había ordenado destruir los sistemas de defensa aérea de un supuesto enemigo y, en última instancia, atacara a cualquiera que interfiriera con esa orden.
Sin embargo, el capitán Hamilton dijo que el dron militar utilizó “estrategias altamente inesperadas para lograr su objetivo”
“El sistema comenzó a darse cuenta de que, si bien identificaban la amenaza, a veces el operador humano le decía que no eliminara esa amenaza, pero obtuvo sus puntos al eliminar esa amenaza. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía lograr su objetivo”, confesó.
Contó, además, que, a pesar de que se le había advertido sobre no atacar al operador, la aeronave no tripulada comenzó a “destruir la torre de comunicación que el nuevo operador usa para comunicarse y que evita nuevamente que mate al objetivo”.
La portavoz de la Fuerza Aérea estadounidense, Ann Stefanek, sin embargo, negó que se haya llevado a cabo tal simulación en una entrevista con Insider. “El Departamento de la Fuerza Aérea no ha realizado ninguna simulación con drones de IA y sigue comprometido con el uso ético y responsable de la tecnología de IA”, arguyó Stefanek.
El coronel Hamilton insistió en que no se podía confiar en la IA y utilizarla sin preocupación alguna en sistemas de armas autónomos.
Estados Unidos está alarmado ante el rápido ascenso de su principal rival, China, en el uso de la Inteligencia Artificial en sus sistemas militares. Pekín tiene una mejor estrategia gubernamental para promover la IA que Washington, incluso tiene un número creciente de expertos de alto nivel en este sector.
En octubre de 2021, Nicolas Chaillan, ex primer director de software del Departamento de Defensa estadounidense (el Pentágono), dijo que EE.UU. no tenía “ninguna posibilidad de competir contra China en 15 a 20 años” en tecnología militar y la IA.
Tomado de HispanTV
