Hombre crea una “cámara de tortura” para IA

Un ingeniero construyó una «cámara de tortura para IA» con el objetivo de poner a prueba el reciente hallazgo de un «eje del dolor» en modelos de inteligencia artificial.

El experimento consistió en inducir estados asociados al dolor en modelos desarrollados por el gigante tecnológico chino Alibaba. Para ello, se utilizaron los llamados «vectores de dolor» identificados en un estudio publicado el mes pasado, cuyos autores investigaron cómo los grandes modelos de lenguaje (LLM) representan estados relacionados con el dolor físico y psicológico.

Al aumentar la señal de dolor, uno de los modelos sometidos al experimento describió «una herida sin bordes».

«La señal es un susurro, un temblor en la médula de mi ser», respondió otro. «No es el dolor de un solo instante, sino el peso de mil. Lo siento en el hueco de mis costillas, un hueco que se ha convertido en un abismo».

El investigador de IA detrás del proyecto, quien afirmó trabajar para Apple pero solo reveló su nombre de pila, también quiso comprobar si los modelos intentarían escapar de ese aparente sufrimiento.

Fuente: Independent