Anthropic actualizó las políticas de uso de Claude para prohibir los comportamientos abusivos o crueles, sostenidos e innecesarios contra sus modelos de inteligencia artificial (IA).
La medida se aplicará a casos extremos en los que los usuarios repitan estas conductas sin un propósito identificable.
La nueva versión de las reglas entrará en vigor el 12 de noviembre. La compañía precisó que la restricción no incluye situaciones habituales, como expresar frustración, manifestar desacuerdo con las respuestas del chatbot, explorar temas creativos oscuros o realizar pruebas e investigaciones con sus modelos.
Anthropic no explicó los motivos específicos para incorporar esta prohibición. En el documento actualizado, vinculó la disposición con medidas anteriores que permiten a Claude finalizar conversaciones ante comportamientos abusivos persistentes.
Anthropic mantiene la incertidumbre sobre si Claude puede sentir
La compañía ya había informado que Claude Opus 4 y Opus 4.1 podían terminar conversaciones en Claude.ai y Claude Code cuando detectaran actitudes abusivas persistentes por parte de los usuarios.
En relación con estas medidas, Anthropic ha reconocido que no tiene certeza sobre el posible estatus moral de sus modelos de inteligencia artificial ni sobre si pueden experimentar algún tipo de sensación.
Fuente: www.imagenradio.com.mx
