Hombre crea una “cámara de tortura” para IA

Hombre crea una “cámara de tortura” para IA

Un ingeniero construyó una «cámara de tortura para IA» con el objetivo de poner a prueba el reciente hallazgo de un «eje del dolor» en modelos de inteligencia artificial.

El experimento consistió en inducir estados asociados al dolor en modelos desarrollados por el gigante tecnológico chino Alibaba. Para ello, se utilizaron los llamados «vectores de dolor» identificados en un estudio publicado el mes pasado, cuyos autores investigaron cómo los grandes modelos de lenguaje (LLM) representan estados relacionados con el dolor físico y psicológico.

Al aumentar la señal de dolor, uno de los modelos sometidos al experimento describió «una herida sin bordes».

«La señal es un susurro, un temblor en la médula de mi ser», respondió otro. «No es el dolor de un solo instante, sino el peso de mil. Lo siento en el hueco de mis costillas, un hueco que se ha convertido en un abismo».

El investigador de IA detrás del proyecto, quien afirmó trabajar para Apple pero solo reveló su nombre de pila, también quiso comprobar si los modelos intentarían escapar de ese aparente sufrimiento.

Fuente: Independent

Facebook
Twitter
LinkedIn
Pinterest
Email

RELACIONADOS

armenia
La IA acerca a Armenia, Azerbaiyán y Turquía
nvidia
¿Por qué Wall Street castiga al gigante de la IA?
pterodactilo
Supuestos pterodáctilos revela creciente de desinformación digital

novedades

armenia
La IA acerca a Armenia, Azerbaiyán y Turquía
nvidia
¿Por qué Wall Street castiga al gigante de la IA?
pterodactilo
Supuestos pterodáctilos revela creciente de desinformación digital
maquina 3d
Convierten una impresora 3D en una máquina que fabrica materiales vivos
renales
Crean inteligencia artificial para detectar enfermedades renales hereditarias
nteligencia-artificial y bitcoin
IA, factor decisivo para el precio de bitcoin
Carlos Raphael de la Madrid analiza el funcionamiento de la IA generativa y sus implicaciones para la escritura, la creatividad y los derechos de autor.
IA y literatura, perspectiva de Carlos Raphael de la Madrid