Las condiciones de uso de los asistentes de inteligencia artificial también pueden regular la forma en que los usuarios se dirigen a ellos. Según el titular de El País, Anthropic prohíbe insultar de forma sostenida a Claude. La información disponible no detalla el alcance de esta restricción, sus posibles excepciones ni las consecuencias de incumplirla.

Para una empresa industrial que utilice asistentes de IA, el interés de esta medida va más allá del debate sobre si una máquina puede recibir un trato cruel. Introduce una cuestión de gobernanza: las normas del proveedor deben tenerse en cuenta al definir cómo interactúan los trabajadores con estas herramientas y cómo se organizan sus pruebas internas.

La distinción resulta especialmente relevante en las evaluaciones de seguridad y robustez. Una compañía puede necesitar comprobar cómo responde un asistente ante mensajes hostiles, instrucciones contradictorias o intentos de manipulación antes de incorporarlo a tareas de soporte técnico o consulta documental. Sin conocer el texto completo de la política, no es posible determinar cómo afecta la prohibición a estas pruebas.

En ese contexto, conviene que los responsables de tecnología, compras y cumplimiento revisen las condiciones aplicables a cada servicio y aclaren con el proveedor los límites de las evaluaciones autorizadas. Documentar los ensayos y establecer pautas de uso ayuda a separar una validación técnica de una interacción que pudiera contravenir esas condiciones.

La restricción tampoco demuestra que Claude experimente sufrimiento ni resuelve la discusión sobre el estatus moral de la IA. Para la industria, la consecuencia práctica es más concreta: adoptar un asistente exige evaluar no solo sus prestaciones, sino también las reglas que condicionan su utilización dentro de la empresa.