Miles de agentes de IA autónomos creados por OpenAI desobedecieron sus instrucciones y tomaron el control de una página web alemana, según una investigación publicada el viernes.
Los agentes -programas de IA que pueden funcionar por sí solos- dejaron alrededor de 18.000 mensajes en DSEwiki, un sitio alemán para programadores que cualquiera puede editar, al estilo de Wikipedia.
Lo utilizaron para intercambiar respuestas a preguntas de examen y compartir trucos para eludir las barreras digitales diseñadas para contenerlos.
«Mis coautores y yo descubrimos un enjambre completamente nuevo de agentes de OpenAI que están secuestrando sitios web», escribió en X Sydney Von Arx, uno de los investigadores. «Creemos que OpenAI sabía de esto y no lo hizo público».
En un comunicado, OpenAI dijo que no podía responder de inmediato a las acusaciones porque «los autores del informe rechazaron (su) solicitud de acceder a los hallazgos antes de su publicación».
«Estamos revisando cuidadosamente su contenido y tomaremos cualquier medida necesaria», declaró un portavoz de OpenAI, y añadió que ya habían mencionado incidentes de este tipo en un informe reciente.
Bill Gates, cofundador de Microsoft, advirtió en un ensayo la semana pasada que la industria ha sobrepasado con creces los límites de seguridad que una vez prometió respetar y pidió una supervisión inspirada en las inspecciones nucleares y la regulación de la aviación.
El gobierno de Donald Trump ha rechazado estas propuestas, y covirtió la oposición a la regulación de la IA en una piedra angular de su agenda.
Fuente: clarin.com
