Los programas de inteligencia artificial (IA) exitosos requieren un enfoque llamado alineación de IA, según un nuevo informe de investigación del Centro de Investigación de Sistemas de Información del MIT. Desde 2019, CISR ha investigado 52 soluciones de IA, que definen como modelos de analítica aplicada que tienen cierto nivel de autonomía. De ellos, 31 se han desplegado a gran escala.
La científica investigadora principal del CISR Barbara Wixom, la profesora de la Universidad de Queensland Ida Someh y el profesor de la Universidad de Virginia Robert Gregory encontraron que los programas de IA exitosos logran tres estados interdependientes de consistencia: consistencia científica, consistencia de aplicación y consistencia en inversión.
Consistencia científica
Consistencia científica entre la realidad y el modelo de IA. Los programas de IA deben estar entrenados para representar la realidad, y los modelos exitosos deben ser precisos. Para crear consistencia científica, los equipos utilizaron actividades de comparación, es decir, compararon el resultado de los modelos de IA con evidencia empírica. Si descubrieron inconsistencias, los equipos de IA corrigieron el rumbo ajustando los datos, las características, el algoritmo o el conocimiento del dominio.
Consistencia de la aplicación entre el modelo de IA y la solución
Un modelo de IA no solo necesita ser preciso, también debe lograr objetivos y evitar consecuencias no deseadas. La implementación de la IA requiere actividades de determinación del alcance, que analizan los impactos y las consecuencias y ajustan las restricciones, los límites, la automatización y la supervisión del modelo si es necesario.
Coherencia de las partes interesadas entre la solución y las necesidades de las partes interesadas
El programa debe generar beneficios a través de una red de partes interesadas como gerentes, trabajadores de primera línea, inversores, clientes, ciudadanos y reguladores. La coherencia ocurre cuando un programa de IA crea valor que las partes interesadas comprenden, apoyan y benefician. Una empresa debe participar en actividades de creación de valor para analizar los costos, beneficios y riesgos, y solucionar cualquier problema.
