Buscan evitar uso de IA para generar imágenes que vulneran integridad

En la Ciudad de México se han documentado múltiples casos sobre la manipulación de la imagen de mujeres para generar contenido sexual inexistente, difundir imágenes falsas o crear narrativas digitales con el fin de engañar, intimidar, extorsionar o destruir su reputación, lo que les genera un impacto negativo psicológico, social, familiar y laboral, advirtió la legisladora Adriana María Guadalupe Espinosa de los Monteros García.

 

“La Inteligencia Artificial es una herramienta diseñada para facilitar procesos, optimizar servicios y potenciar el conocimiento humano, pero está siendo utilizada en muchos casos para vulnerar la dignidad, la privacidad y la integridad emocional de mujeres, niñas y adolescentes de nuestro país”, subrayó.

 

Ante esta problemática, el Congreso capitalino aprobó ayer una propuesta de la legisladora de MORENA, dirigida a tres instituciones públicas, con el fin de prevenir abusos digitales y evitar que la Inteligencia Artificial (IA) se convierta en un nuevo instrumento de violencia, pues genera inseguridad, frustración y miedo en las mujeres de todas las edades.

Prevención

 

En su intervención en tribuna, exhortó a la Secretaría de las Mujeres capitalina, la Agencia Digital de Innovación Pública (ADIP) y a la Fiscalía General de Justicia local a fortalecer las acciones para prevenir, atender y combatir el uso indebido de la IA para generar imágenes, videos o contenidos falsos, incluyendo contenido sexual no consensuado, que vulneran la identidad digital e integridad de mujeres y niñas, y las exponen públicamente sin su consentimiento.

 

De acuerdo con su Punto de Acuerdo, el 38 por ciento de las mujeres a nivel mundial han sufrido violencia en línea y 85 por ciento la ha presenciado, mientras que el 95 por ciento de los deepfakes elaborados con IA son imágenes pornográficas no consentidas y el 99 por ciento de las víctimas son mujeres.

 

También precisa que la violencia digital tiene graves consecuencias psicológicas para las víctimas como ansiedad, depresión y aislamiento, además de consecuencias materiales, pérdida del empleo, afectación académica y ruptura de relaciones.