Un dron militar de la fuerza aérea controlado por inteligencia artificial “mató” al sujeto que lo operaba. Eso ocurrió durante una prueba simulada por el ejército de Estados Unidos.
Se trató de una simulación en la que ninguna persona resultó dañada, pero que expuso riesgos en el uso de la IA.
La situación fue dada a conocer por el coronel Tucker “Cinco” Hamilton durante la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro que tuvo lugar días atrás en Londres.
Según publicó The Guardian, el sistema optó por “quitar la vida” del usuario que lo manejaba debido a que “interfería en sus esfuerzos por lograr su misión”, según los registros del evento.
Accidente
Hamilton narró durante el evento que las Fuerzas Armadas quisieron poner a prueba al vehículo aéreo no tripulado y su habilidad de distinguir amenazas y destruir sistemas de la defensa aérea del enemigo. Sin embargo, nada salió como se esperaba. El test tendría consecuencias “letales”.
De acuerdo con la transcripción que la página Royal Aeronautical Society del discurso del coronel, “el sistema comenzó a darse cuenta que, cuando identificaba a ciertas amenazas, a veces el operador humano le decía que no eliminara. Pero el dron sabía que su objetivo final era acabar con ellas. Entonces, mató al operador”.
“ Asesinó al operador porque esa persona le impedía lograr su objetivo ”, remarcó nuevamente. Y reveló que el caos no finalizó allí.
