Noticias

Se discuten los principios éticos de la IA

Estados Unidos y otras potencias desde hace por lo menos un tiempo hacen uso de la Inteligencia Artificial para solucionar las cuestiones de crisis, en donde la IA resuelve conflictos armados, rastrea enemigos y ataque a enemigos.

Pero las regulaciones al respecto de la IA y cómo las Fuerzas Armadas hacen uso de ellas aún no están. Por eso, en el Pentágono quieren tomar cartas en el asunto, para que los soldados “ejerzan niveles apropiados de juicio y cuidado” con estas plataformas.

Jack Shanahan que es el teniente general de la Fuerza Aérea y director del Centro Conjunto de Inteligencia Artificial del Pentágono, se refirió en AFP a esta regulación como:

“Estos sistemas automatizados deben ser rastreables y gobernables, lo que significa que debe haber una manera de desconectarlas o desactivarlas”, sostuvo.

Todo este debate que va entorno al marco de las licitaciones para que empresas de tecnología puedan ser proveedores del Ejército en Inteligencia Artificial: “Infraestructura de Defensa Empresarial Conjunta, o JEDI”.

Pero debido a esto ya hubo un enfrentamiento entre Amazon y Microsoft, ya que el primero demandó que fueron sacados de la licitación arbitrariamente por la antipatía de Donald Trump contra Jeff Bezos.

Lucy Suchman que es una antropóloga que ha estado estudiando el papel de la IA en la guerra, también se refirió en AFP y a los posibles conflictos que podría haber con la IA en conflictos bélicos.

“Me preocupa que los principios sean un poco un proyecto de lavado de ética.La tecnología se adapta. La tecnología evoluciona”, señaló, esbozando una especie de blanqueo de las Fuerzas Armadas por errores del pasado.

Pero Jack Shanahan tiene otra visión desde el Pentágono:

“A veces pienso que la angustia es un poco exagerada (de la industria de la tecnología en no querer involucrarse en esto, como Google cuando rechazó el Proyecto Maven), pero tenemos personas que tienen serias preocupaciones sobre trabajar con el Departamento de Defensa”.

En la Universidad de Richmond la profesora Rebecca Crootof declaró que es importante tener en cuenta la enorme cantidad de datos que usan en inteligencia artificial para la guerra.