Noticias

Seguritech Privada y FEM advierten sobre uso de IA en deepfakes

El avance acelerado de la Inteligencia Artificial (IA) ha abierto nuevas oportunidades para la innovación, pero también ha dado lugar a riesgos inéditos, alertan expertos de Seguritech Privada y Fundación en Movimiento (FEM).

Entre ellos, la manipulación de imágenes, videos y audios conocidos como deepfakes, una práctica que preocupa a expertos en ciberseguridad por su capacidad de alterar la realidad digital.

De acuerdo con datos de la Dirección General de Cómputo y de Tecnologías de Información y Comunicación (DGTIC) de la UNAM, siete de cada diez jóvenes mexicanos entre 15 y 24 años han sido víctimas de agresiones en línea, una cifra que pone en evidencia el impacto social de las tecnologías emergentes.

Frente a este contexto, Seguritech Privada, compañía mexicana líder en soluciones tecnológicas de misión crítica, en conjunto con la Fundación en Movimiento (FEM), han hecho un llamado a reforzar la investigación y desarrollo de herramientas que permitan detectar y frenar el uso indebido de la IA.

La empresa trabaja actualmente en proyectos enfocados en el análisis automatizado de contenidos y la verificación digital, con el fin de reducir la circulación de material manipulado en redes.

Seguritech Privada y FEM, trabajo conjunto

La UNESCO ha alertado que el 58% de los jóvenes ha sido víctima de acoso digital, y que el uso de deepfakes con fines de intimidación o extorsión ha crecido de manera notable en los últimos años.

Para Seguritech Privada, este fenómeno no solo amenaza la privacidad de las personas, sino que también erosiona la confianza en las plataformas tecnológicas y en los sistemas de información automatizados.

Las afectaciones se concentran principalmente en mujeres de entre 18 y 24 años, quienes son blanco de agresiones que van desde la suplantación de identidad hasta la difusión de contenidos falsificados.

Estas formas de violencia digital, según la empresa, tienen consecuencias psicológicas y sociales de largo plazo y constituyen un desafío urgente para la ética en el desarrollo tecnológico.

Para hacer frente al problema, Seguritech Privada y FEM recomiendan:

Fortalecer la alfabetización digital
Adoptar medidas básicas de protección como la verificación en dos pasos
Crear contraseñas robustas
Realizar configuración segura de la privacidad en redes sociales

Otras recomendaciones

Asimismo, subrayan la importancia de hablar abiertamente sobre las agresiones en línea, fomentar la empatía y ofrecer apoyo emocional a las víctimas.

La empresa enfatiza que la ciencia y la tecnología deben orientarse al bienestar social.

Por ello, impulsa la creación de soluciones inteligentes para la detección de contenidos falsos, contribuyendo así a un ecosistema digital más seguro, ético y confiable para todos los usuarios.