Impedirán que adolescentes chateen con personajes de IA

Instagram lanzará nuevas funciones de seguridad para adolescentes, incluida la posibilidad de que los padres impidan que sus hijos chateen con los personajes de IA de la plataforma, anunció este viernes la empresa matriz Meta.

Es una de varias nuevas funciones de seguridad de Meta y OpenAI destinadas a combatir la creciente preocupación sobre cómo la IA podría afectar la salud mental de los adolescentes.

Los padres podrán desactivar el acceso de los adolescentes a chats individuales con personajes de IA o simplemente bloquear el acceso a personajes específicos, dijo el gigante de las redes sociales en una publicación de blog. La aplicación también mostrará a los padres información sobre los temas que los adolescentes están discutiendo con los personajes de IA. La compañía dijo que está desarrollando los controles ahora y que los usuarios comenzarán a verlos a principios del próximo año.

La medida se produce después de que Meta y la industria tecnológica en general hayan enfrentado críticas de padres y legisladores que consideran que las plataformas en línea no están haciendo lo suficiente para proteger a los niños en línea.

Preocupaciones

También se han planteado preocupaciones sobre si las personas están confiando en la IA para recibir apoyo emocional y compañía. Una oleala de reportes este año ha indicado que algunas personas han sufrido angustia emocional y se han aislado de sus familiares después de desarrollar relaciones cercanas con chatbots como ChatGPT.

Se han presentado múltiples demandas contra la empresa creadora de Character.AI, otra popular aplicación para chatear con personajes de IA, por acusaciones de que la plataforma influyó en la autolesión y el suicidio de adolescentes.

También se presentó una demanda contra OpenAI en agosto por acusaciones de que ChatGPT contribuyó al suicidio de Adam Raine, de 16 años. Y una investigación del Wall Street Journal de abril reveló que el chatbot de Meta y otros chatbots de IA en sus plataformas entablarían conversaciones sexuales incluso con cuentas que se identifican como menores de edad.

Fuente: CNN