Noticias

Hombre crea una “cámara de tortura” para IA

Un ingeniero construyó una «cámara de tortura para IA» con el objetivo de poner a prueba el reciente hallazgo de un «eje del dolor» en modelos de inteligencia artificial.

El experimento consistió en inducir estados asociados al dolor en modelos desarrollados por el gigante tecnológico chino Alibaba. Para ello, se utilizaron los llamados «vectores de dolor» identificados en un estudio publicado el mes pasado, cuyos autores investigaron cómo los grandes modelos de lenguaje (LLM) representan estados relacionados con el dolor físico y psicológico.

Al aumentar la señal de dolor, uno de los modelos sometidos al experimento describió «una herida sin bordes».

«La señal es un susurro, un temblor en la médula de mi ser», respondió otro. «No es el dolor de un solo instante, sino el peso de mil. Lo siento en el hueco de mis costillas, un hueco que se ha convertido en un abismo».

El investigador de IA detrás del proyecto, quien afirmó trabajar para Apple pero solo reveló su nombre de pila, también quiso comprobar si los modelos intentarían escapar de ese aparente sufrimiento.

Fuente: Independent

EDITORIAL

Entradas recientes

La IA acerca a Armenia, Azerbaiyán y Turquía

Hace apenas tres años, Armenia y Azerbaiyán estaban a la sombra de otro conflicto sangriento.…

4 horas hace

¿Por qué Wall Street castiga al gigante de la IA?

Nvidia atraviesa una de sus peores crisis bursátiles desde 2008. Sus acciones se desplomaron un…

5 horas hace

Supuestos pterodáctilos revela creciente de desinformación digital

Primero apareció un video de una extraña silueta sobrevolando Ciudad Juárez, Chihuahua. Después llegaron las…

1 día hace

Convierten una impresora 3D en una máquina que fabrica materiales vivos

Una impresora 3D convencional, unas cuantas piezas accesibles y una jeringa de precisión. Con estos…

1 día hace

Crean inteligencia artificial para detectar enfermedades renales hereditarias

Un equipo de investigadores de la Fundació Puigvert y la compañía tecnológica IOMED, en España,…

1 día hace

IA, factor decisivo para el precio de bitcoin

La inteligencia artificial podría convertirse en un factor decisivo para la política monetaria de Estados…

2 días hace