© Freepik
El avance acelerado de la Inteligencia Artificial (IA) ha abierto nuevas oportunidades para la innovación, pero también ha dado lugar a riesgos inéditos, alertan expertos de Seguritech Privada y Fundación en Movimiento (FEM).
Entre ellos, la manipulación de imágenes, videos y audios conocidos como deepfakes, una práctica que preocupa a expertos en ciberseguridad por su capacidad de alterar la realidad digital.
De acuerdo con datos de la Dirección General de Cómputo y de Tecnologías de Información y Comunicación (DGTIC) de la UNAM, siete de cada diez jóvenes mexicanos entre 15 y 24 años han sido víctimas de agresiones en línea, una cifra que pone en evidencia el impacto social de las tecnologías emergentes.
Frente a este contexto, Seguritech Privada, compañía mexicana líder en soluciones tecnológicas de misión crítica, en conjunto con la Fundación en Movimiento (FEM), han hecho un llamado a reforzar la investigación y desarrollo de herramientas que permitan detectar y frenar el uso indebido de la IA.
La empresa trabaja actualmente en proyectos enfocados en el análisis automatizado de contenidos y la verificación digital, con el fin de reducir la circulación de material manipulado en redes.
La UNESCO ha alertado que el 58% de los jóvenes ha sido víctima de acoso digital, y que el uso de deepfakes con fines de intimidación o extorsión ha crecido de manera notable en los últimos años.
Para Seguritech Privada, este fenómeno no solo amenaza la privacidad de las personas, sino que también erosiona la confianza en las plataformas tecnológicas y en los sistemas de información automatizados.
Las afectaciones se concentran principalmente en mujeres de entre 18 y 24 años, quienes son blanco de agresiones que van desde la suplantación de identidad hasta la difusión de contenidos falsificados.
Estas formas de violencia digital, según la empresa, tienen consecuencias psicológicas y sociales de largo plazo y constituyen un desafío urgente para la ética en el desarrollo tecnológico.
Para hacer frente al problema, Seguritech Privada y FEM recomiendan:
Asimismo, subrayan la importancia de hablar abiertamente sobre las agresiones en línea, fomentar la empatía y ofrecer apoyo emocional a las víctimas.
La empresa enfatiza que la ciencia y la tecnología deben orientarse al bienestar social.
Por ello, impulsa la creación de soluciones inteligentes para la detección de contenidos falsos, contribuyendo así a un ecosistema digital más seguro, ético y confiable para todos los usuarios.
El periodismo, garante de las democracias modernas, está obligado a repensar su estrategia si quiere…
El uso de herramientas de inteligencia artificial (IA) se ha vuelto cada vez más popular…
Una semana trascendental en el sector tecnológico dejó en claro que no hay señales de…
Esta semana, Amazon anunció el despido de 14 mil empleados corporativos, citando una razón que…
La inteligencia artificial (IA) ya no es una utopía futurista que veamos de lejos, es…
La transformación digital del sistema financiero mexicano avanza a paso firme, pero pocas instituciones han…