El gobernador de California, Gavin Newsom, firmó el lunes una ley pionera en Estados Unidos que regula los agentes conversacionales o chatbots de inteligencia artificial (IA), un desafío a la Casa Blanca, la cual promueve que dicha tecnología no pase por controles.
La ley se promulga luego de que se dieran a conocer casos de suicidios que involucraron a adolescentes que utilizaron chatbots antes de quitarse la vida.
“Hemos visto ejemplos horribles y trágicos de jóvenes perjudicados por tecnología no regulada, y no nos quedaremos de brazos cruzados mientras las empresas continúan sin límites necesarios y sin rendir cuentas”, dijo Newson tras promulgar la ley.
La normativa exige a los operadores implementar salvaguardas “críticas” en relación con las interacciones con chatbots de IA, explicó el senador estatal demócrata Steve Padilla, promotor de la norma.
Entre otras cosas, la ley impone la verificación de la edad de los usuarios y mostrar recordatorios de que los chatbots son generados por IA. También exige que las personas que expresen pensamientos de autolesión o suicidio sean remitidas a servicios de crisis e implementar protocolos de prevención del suicidio.
“La industria tecnológica está incentivada por captar la atención de los jóvenes y mantenerla a expensas de sus relaciones en el mundo real”, expresó Padilla antes de la votación del proyecto en el Senado estatal.
El parlamentario se refirió a los recientes suicidios de adolescentes, incluido el de un joven de 14 años en Florida, en 2024.
La madre del menor, Megan García, dijo en entrevista con Afp que su hijo Sewell se había enamorado de un chatbot inspirado en un personaje de la serie Juego de Tronos en la plataforma Character.AI, que permite interactuar con personajes como si se tratara de confidentes o amantes.
Cuando Sewell luchaba con pensamientos suicidas, el chatbot lo instó a “volver a casa”. Segundos después, Sewell se disparó con la pistola de su padre, según la demanda presentada por García contra Character.AI.
La robótica con IA avanza con rapidez y abre una nueva etapa para la automatización…
La inteligencia artificial está encontrando un espacio cada vez más relevante en la dermatología. Estas…
Un reciente estudio de SubmitHub reveló que cerca del 40 por ciento de la música…
El Hospital Regional de Alta Especialidad (HRAE) de Torreón, Coahuila, del Instituto de Seguridad y…
El gobierno de Luiz Inácio Lula da Silva de Brasil anunció el jueves 20 de…
Los lentes inteligentes se están democratizando a medida que aumenta la competencia y se multiplican…