La inteligencia artificial puede profundizar la desigualdad social

Desde las búsquedas de Google y los sitios de citas hasta la detección de fraudes con tarjetas de crédito, la inteligencia artificial (IA) sigue encontrando nuevas formas de introducirse en nuestras vidas. Pero, ¿podemos confiar en los algoritmos que la impulsan?

Como seres humanos, cometemos errores. Podemos tener lapsus de atención y malinterpretar la información. Sin embargo, cuando reevaluamos, podemos identificar nuestros errores y corregirlos.

Pero cuando un sistema de inteligencia artificial comete un error, se repetirá una y otra vez sin importar cuántas veces observe los mismos datos en las mismas circunstancias.

Los sistemas de IA se entrenan utilizando datos que inevitablemente reflejan el pasado. Si un conjunto de datos de entrenamiento contiene sesgos inherentes de decisiones humanas pasadas, estos sesgos son codificados y amplificados por el sistema.

¿Cómo surge el sesgo algorítmico?

El sesgo algorítmico puede surgir debido a la falta de datos de entrenamiento adecuados o como resultado de un diseño o configuración inadecuados del sistema.

Por ejemplo, un sistema que ayuda a un banco a decidir si concede o no préstamos normalmente se capacitaría utilizando un gran conjunto de datos de las decisiones de préstamos anteriores del banco (y otros datos relevantes a los que el banco tiene acceso).

El sistema puede comparar el historial financiero, el historial de empleo y la información demográfica de un nuevo solicitante de préstamo con la información correspondiente de solicitantes anteriores. A partir de esto, intenta predecir si el nuevo solicitante podrá reembolsar el préstamo.

Pero este enfoque puede resultar problemático. Una forma en que podría surgir un sesgo algorítmico en esta situación es a través de sesgos inconscientes de los administradores de préstamos que tomaron decisiones anteriores sobre las solicitudes de hipotecas.

Si a los clientes de grupos minoritarios se les negaron préstamos injustamente en el pasado, la IA considerará que la capacidad de pago general de estos grupos es menor de lo que es.

Los jóvenes, las personas de color, las mujeres solteras, las personas con discapacidad y los trabajadores manuales son solo algunos ejemplos de grupos que pueden estar en desventaja.