La última década ha sido testigo de una alarmante proliferación de inteligencia artificial (“IA”) para monitorear protestas, predecir delitos y perfilar a las minorías, de formas que amenazan gravemente nuestros derechos humanos. La Comisión Europea se ha comprometido a desarrollar una regulación innovadora de estas tecnologías que «salvaguardará los valores y derechos fundamentales de la UE». En una carta publicada esta semana, Human Rights Watch se unió a más de sesenta grupos de la sociedad civil y de derechos humanos para hacer que la comisión cumpla su palabra e instar a que se tomen medidas decisivas para prevenir las aplicaciones abusivas de la inteligencia artificial.
La carta destaca cómo el uso creciente del reconocimiento facial puede desencadenar abusos de privacidad generalizados. Esta tecnología se basa en el aprendizaje automático, una forma de inteligencia artificial, para inferir las identidades de las personas a partir de imágenes fijas o videos que capturan sus rostros. Cuando se despliegan en estaciones de tren, estadios y otros espacios públicos, son capaces de rastrear las identidades y movimientos de multitudes enteras. Esta forma sin precedentes de vigilancia masiva podría tener un efecto paralizador significativo sobre nuestros derechos a la libertad de reunión y asociación.
Los sesgos incorporados en los algoritmos de reconocimiento facial también generan preocupación porque alimentan las prácticas policiales discriminatorias. Las investigaciones muestran que es menos probable que estos algoritmos identifiquen correctamente los rostros de las personas de color y las mujeres que los de las personas blancas y los hombres, lo que expone a los primeros a tasas más altas de identificación errónea y acusaciones falsas.
La carta también pide medidas para garantizar que la automatización de los programas de seguridad social y otros servicios públicos esenciales protejan la privacidad y los derechos de seguridad social. En su intento por modernizar los sistemas de bienestar que están envejeciendo, un número creciente de gobiernos dentro y fuera de Europa están creando o adquiriendo algoritmos para ayudarlos a verificar la elegibilidad de las personas para recibir beneficios, realizar pruebas de recursos y detectar fraudes.
En la era de la digitalización, la industria alimentaria se enfrenta a retos que requieren…
Aunque originalmente nació como una plataforma para gamers, Discord se ha reinventado silenciosamente como una…
Colombia enfrenta un sistema de salud que funciona con información fragmentada y actores que operan…
Luis Alberto Valle Rueda, ingeniero en sistemas de la empresa Fortinet México, dio a conocer…
Desde el primer minuto quedó claro: la IA generativa no será solo una herramienta en…
La Inteligencia Artificial (IA) está transformando el panorama laboral en México y redefiniendo lo que…