Unión Europea debería regular la inteligencia artificial para proteger los derechos humanos

La última década ha sido testigo de una alarmante proliferación de inteligencia artificial (“IA”) para monitorear protestas, predecir delitos y perfilar a las minorías, de formas que amenazan gravemente nuestros derechos humanos. La Comisión Europea se ha comprometido a desarrollar una regulación innovadora de estas tecnologías que «salvaguardará los valores y derechos fundamentales de la UE». En una carta publicada esta semana, Human Rights Watch se unió a más de sesenta grupos de la sociedad civil y de derechos humanos para hacer que la comisión cumpla su palabra e instar a que se tomen medidas decisivas para prevenir las aplicaciones abusivas de la inteligencia artificial.

Uso del reconocimiento facial

La carta destaca cómo el uso creciente del reconocimiento facial puede desencadenar abusos de privacidad generalizados. Esta tecnología se basa en el aprendizaje automático, una forma de inteligencia artificial, para inferir las identidades de las personas a partir de imágenes fijas o videos que capturan sus rostros. Cuando se despliegan en estaciones de tren, estadios y otros espacios públicos, son capaces de rastrear las identidades y movimientos de multitudes enteras. Esta forma sin precedentes de vigilancia masiva podría tener un efecto paralizador significativo sobre nuestros derechos a la libertad de reunión y asociación.

Los sesgos incorporados en los algoritmos de reconocimiento facial también generan preocupación porque alimentan las prácticas policiales discriminatorias. Las investigaciones muestran que es menos probable que estos algoritmos identifiquen correctamente los rostros de las personas de color y las mujeres que los de las personas blancas y los hombres, lo que expone a los primeros a tasas más altas de identificación errónea y acusaciones falsas.

Protección de la privacidad

La carta también pide medidas para garantizar que la automatización de los programas de seguridad social y otros servicios públicos esenciales protejan la privacidad y los derechos de seguridad social. En su intento por modernizar los sistemas de bienestar que están envejeciendo, un número creciente de gobiernos dentro y fuera de Europa están creando o adquiriendo algoritmos para ayudarlos a verificar la elegibilidad de las personas para recibir beneficios, realizar pruebas de recursos y detectar fraudes.