Gigantes de la tecnología lanzan iniciativa para proteger la inteligencia artificial

Un total de doce gigantes de la tecnología integran una inédita alianza para prevenir las amenazas contra los sistemas de aprendizaje automático y la inteligencia artificial (IA): Adversarial Machine Learning Threat Matrix.

En esta organización participan Microsoft, Bosch, IBM y Nvidia, entre otras, además de la ONG tecnológica Mitre Corporation, que tiene por objetivo ayudar a expertos de la ciberseguridad para prevenir ataques contra modelos de inteligencia artificial.

Con el desarrollo de inteligencia artificial en varios campos, hay un incremento de amenazas en línea que ponen en juego su seguridad e integridad. Por lo que Adversarial Machine Learning Threat Matrix recopilará varias técnicas empleadas por adversarios que desestabilizan los sistemas de IA.

Los modelos de IA llevan a cabo diversas tareas, incluyendo la identificación de objetos en imágenes al analizar la información que reciben. Los investigadores han desarrollado patrones maliciosos que los hackers podrían introducir en los sistemas de IA para que estos incurran en errores.

La estructura de la nueva matriz de amenazas busca trabajar sobre las estrategias utilizadas por los atacantes, para fortalecer la industria de la seguridad.

De hecho, se basa en ataques reales y registrados en sistemas de aprendizaje automático, lo que evitará que los analistas divaguen en escenarios teóricos.

Se trata de un marco abierto centrado en la industria, que tiene como objetivo ayudar a los expertos en seguridad a responder y mitigar las amenazas en el futuro, consigna Science Times.

Así, los expertos en seguridad tendrán acceso a las técnicas comúnmente utilizadas actualmente por los ciberatacantes para eludir las medidas de seguridad de los sistemas de aprendizaje automático.

El objetivo es que los especialistas puedan mejorar sus estrategias de monitoreo y respuesta, además de incrementar la seguridad de los sistemas.

Uno de los mayores problemas es que los ciberataques se han disparado durante la pandemia. Los ciberdelincuentes han aprovechado esta oportunidad para aumentar sus ataques.