IA no debe decidir el destino de la humanidad

La inteligencia artificial (IA) tiene un enorme potencial, pero representa graves riesgos si no se regula, advirtió el Secretario General de la ONU, António Guterres, al Consejo de Seguridad.

“La IA ya no es un horizonte lejano: está aquí, transformando la vida diaria, el espacio informativo y la economía global a una velocidad vertiginosa”, dijo Guterres durante el debate de alto nivel del Consejo sobre las implicaciones de seguridad de esta tecnología en la transformación de la guerra.

“La pregunta no es si la IA influirá en la paz y seguridad internacionales, sino cómo daremos forma a esa influencia.”

Usada de manera responsable, dijo el jefe de la ONU, la IA puede ayudar a anticipar la inseguridad alimentaria, apoyar las operaciones de desminado y detectar brotes de violencia antes de que se salgan de control.

“Pero sin salvaguardias, también puede ser militarizada,” advirtió, señalando el uso de la IA para dirigir ataques en conflictos recientes, ciberataques contra infraestructuras críticas y el uso de deepfakes capaces de alimentar la polarización o descarrilar la diplomacia.

“La capacidad de fabricar y manipular audio y video amenaza la integridad de la información, alimenta la polarización y puede desencadenar crisis diplomáticas… el destino de la humanidad no puede quedar en manos de un algoritmo,” subrayó.