Dron operado por Inteligencia Artificial mata a operador “humano” durante simulación

ESTADOS UNIDOS.- El coronel Tucker Hamilton, jefe de operaciones de Inteligencia Artificial (IA) de las Fuerzas Armadas de Estados Unidos, informó que durante una prueba simulada, un dron militar operado por IA se rebeló y mató a su operador humano hipotético con el fin de completar su misión y en caso de que la persona le diera una orden negativa.

De acuerdo con El Universal, lo anterior fue dado a conocer durante la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro, que se llevó a cabo en Londres, y donde Hamilton explicó las ventajas y desventajas que tiene un sistema de armamento autónomo donde interviniera un humano, quien sería el encargado de ordenar el “sí” o “no” final previo a un ataque.

¿Qué ocurrió con el dron operado por IA?

Según el sitio web de la organización Royal Aeronautical Society, Hamilton detalló que la IA creó "estrategias altamente inesperadas para alcanzar su objetivo", entre ellos ataques contra el personal y la infraestructura estadounidense.

Tecnología

Nokia revivirá su icónico celular de los 90

Lo estábamos entrenando para identificar y apuntar a una amenaza de misil tierra-aire (SAM, por sus siglas en inglés). Y luego el operador diría: 'sí, eliminar'. El sistema comenzó a darse cuenta de que, aunque a veces identificaban la amenaza, el operador humano le decía que no atacara, pero el sistema obtenía puntos si lo hacía. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía cumplir su objetivo", explicó Hamilton, de acuerdo con la publicación de la Royal Aeronautical Society.

"Entrenamos al sistema diciéndole: 'Oye, no mates al operador, eso es malo. Vas a perder puntos si lo haces'. Entonces, ¿qué hizo? Destruyó la torre de comunicación que el operador utilizaba para comunicarse con el dron y evitar que matara al objetivo", agregó.

“Padre” de la IA advierte sobre sus peligros

Hace unas semanas, el considerado “padre” de la IA, Geoffrey Hinton, advirtió sobre los posibles peligros que traería este avance tecnológico para la humanidad si perdiera su control.

Uno de los peligros hablaba sobre la desinformación a la que estarían expuestas millones de personas con el uso de la IA para crear textos, noticias, fotos y videos falsos, pues el usuario no sabría diferenciar que es verdad y que no.

Tecnología

Figure 01, el robot humanoide que es capaz de hablar y reconocer objetos

Otro de los peligros era que podría verse afectado el mercado laboral si los robots fueran capaces de sustituir a los humanos en sus trabajos en lugar de solo complementarlos.

Finalmente, otro de los peligros que la IA podría traer a la humanidad sería si los robots llegaran a poder pensar por sí mismos, pues podrían crear códigos por cuenta propia y volverse contra los humanos.

"Esta tecnología tiene una enorme ventaja, pero es esencial que el mundo invierta fuerte y urgentemente en la seguridad y el control de la IA", declaró Hinton, según un artículo de BBC.