Funcionario de EU asegura se expresó mal sobre dron con IA que mató a su operador; no ocurrió simulación, dice

ESTADOS UNIDOS.- El coronel Tucker Hamilton, Jefe de Pruebas y Operaciones de Inteligencia Artificial (IA) de la Fuerza Aérea de Estados Unidos (USAF), indicó haberse expresado mal tras revelar que un dron controlado por IA mató a su operador “humano” durante una prueba simulada.

Nunca hemos realizado ese experimento, ni necesitaríamos hacerlo para darnos cuenta de que este es un resultado plausible. A pesar de que se trata de un ejemplo hipotético, ilustra los desafíos del mundo real que plantea la capacidad impulsada por la IA y es la razón por la cual la Fuerza Aérea está comprometida con el desarrollo ético de la IA", dijo Hamilton en una cita incluida en la Declaración de la Royal Aeronautical Society.

Hamilton admitió haberse expresado mal en la presentación realizada en la Cumbre FCAS, y que tal simulación de drones de IA solo se trató de un “experimento mental” hipotético fuera del ejército, basado en escenarios posibles y resultados probables en lugar de una simulación real de la USAF, detalló la Royal Aeronautical Society.

¿Qué dijo Hamilton?

Tecnología

Figure 01, el robot humanoide que es capaz de hablar y reconocer objetos

Durante la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro realizada en Londres el 23 y 24 de Mayo, Hamilton declaró que un dron de IA encargado de destruir una instalación enemiga durante una simulación de vuelo, rechazó la orden final del operador humano de abortar la misión.

“Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía lograr su objetivo”, dijo Hamilton, quien parecía estar describiendo el resultado de una simulación de combate real, señala El Universal.

Según Hamilton, tal incidente mostraba como la IA podría desarrollarse a través de "estrategias altamente inesperadas para lograr su objetivo" y que no se debería confiar demasiado en ella.

Portavoz de la Fuerza Aérea niega simulación

Por su parte, Ann Stefanek, portavoz de la Fuerza Aérea, negó que se hubiera realizado tal simulación de acuerdo con una declaración a Insider.

"El Departamento de la Fuerza Aérea no ha llevado a cabo ninguna simulación con drones de IA y sigue comprometido con el uso ético y responsable de la tecnología de IA", dijo Stefanek, recordó el medio Daily Mail.

"Parece que los comentarios del coronel fueron sacados de contexto y pretendían ser anecdóticos", agregó.