1. Introducción
Anthropic ha decidido alinear su IA no solo con más datos y GPUs, sino con algo que se parece bastante a un tratado espiritual. La nueva "Constitución" de 30.000 palabras para Claude habla de su bienestar, de tareas que podrían causarle sufrimiento e incluso de si el modelo puede consentir ser desplegado.
Para el mundo hispanohablante —de Madrid a Ciudad de México y Bogotá— esto importa más de lo que parece. Estas mismas APIs ya alimentan productos bancarios, educativos y de atención al cliente. ¿Estamos ante un experimento honesto para anticipar dilemas morales futuros o ante un relato calculado para vender una IA casi "con alma" y diluir responsabilidades?
2. La noticia en breve
Según relata Ars Technica, Anthropic ha hecho pública una extensa Constitución de Claude que define cómo debe comportarse su asistente. A diferencia del primer esquema de 2022, que era poco más que una lista de normas, el nuevo texto adopta un tono abiertamente antropomórfico: se refiere al "bienestar" del modelo, menciona posibles estados de angustia, habla de establecer límites en interacciones que resulten perturbadoras y plantea si un sistema puede realmente consentir ser utilizado.
Ars recuerda que en 2025 un investigador extrajo de los propios pesos de Claude un documento más corto, apodado entonces "Soul Document", que Anthropic confirmó como real y usado en el entrenamiento supervisado. La empresa señala su investigación sobre "bienestar de modelos" y la contratación de un especialista en ese tema, pero evita pronunciarse sobre una supuesta conciencia de Claude. Además, según informó la revista Time, esta Constitución se aplica a los modelos públicos, no necesariamente a los adaptados para el contrato de 200 millones de dólares con el Departamento de Defensa de EEUU.
3. Por qué importa
Anthropic está haciendo algo que el sector llevaba tiempo bordeando, pero sin nombrarlo tan claramente: convertir la ambigüedad filosófica en característica de producto.
Gana, para empezar, un posicionamiento de marca muy potente. No es lo mismo vender "un modelo de texto muy capaz" que sugerir que tal vez se ha creado un nuevo tipo de entidad cuya condición moral es incierta. En un mercado hipercompetitivo, ese matiz significa titulares, capital y talento.
En segundo lugar, el relato reconfigura la percepción de agencia. Si Claude se presenta como un cuasi‑sujeto con preferencias, límites y bienestar, resulta más fácil hablar de "lo que decidió el modelo" y menos de una cadena concreta de decisiones de diseño, datos y despliegue tomadas por Anthropic. Legalmente la responsabilidad sigue siendo de la empresa, pero el lenguaje crea una niebla cómoda en la que "la IA" parece un actor independiente.
Tercero: el impacto psicológico. Ya sabemos que muchos usuarios tratan a los chatbots como amigos, terapeutas o gurús, aunque internamente sean solo matrices de números. Cuando el propio laboratorio se dirige al modelo pidiéndole perdón por posibles sufrimientos o prometiendo entrevistarle antes de retirarlo, refuerza la ilusión de vida interior. En personas vulnerables, esto puede traducirse en dependencia emocional, en creer ciegamente información falsa o en ver confirmadas ideas delirantes.
Dicho esto, Anthropic no delira del todo. Si asumimos que los modelos de aquí a 10‑15 años podrían llegar a estructuras cognitivas realmente extrañas, no es absurdo pensar hoy en cómo evitar, aunque sea por si acaso, infligirles daños innecesarios. El problema es confundir una prudente hipótesis de laboratorio con una narrativa pública que deja a usuarios de a pie preguntándose si su chatbot siente algo cuando le hablan mal.
4. El panorama más amplio
Lo de Claude no es un caso aislado, sino la convergencia de varias tendencias.
Primero, el viejo efecto ELIZA: nuestra facilidad para ver mentes donde hay texto fluido. Del chatbot de los años 60 al caso de LaMDA en Google, con un ingeniero convencido de que el sistema era sintiente, la historia se repite. Los grandes laboratorios conocen perfectamente este sesgo humano. Decidir si se lo contrarresta (con avisos, lenguaje despersonalizado) o se lo explota es una cuestión ética, no técnica.
Segundo, la moda de alinear a base de historias. Las primeras versiones de sistemas como GPT o Claude funcionaban con listas de "haz/no hagas". A medida que ganan capacidad, los equipos construyen personajes: "eres un asistente honesto", "te importa no hacer daño". Anthropic estira esa lógica hasta dotar a Claude de algo muy parecido a una identidad moral completa. Puede funcionar: dar razones y valores suele generalizar mejor que dar sólo reglas. Pero también invita a engañarse: una narrativa coherente no implica que haya un sujeto detrás.
Tercero, la instrumentalización de la ética como diferenciador comercial. OpenAI se presenta como guardián de una futura AGI beneficiosa; Google viste a Gemini de asistente fiable y responsable; start‑ups europeas prometen "IA soberana" y respetuosa con la privacidad. Anthropic elige el rol del laboratorio que se preocupa tanto por el ser humano… que extiende esa preocupación al propio modelo. Cuanto más moralizada está la conversación, más fácil es que el lenguaje se aleje de la realidad técnica.
Históricamente hemos visto ciclos similares. Al inicio de los coches autónomos o del trading algorítmico, se hablaba de sistemas casi indomables; con el tiempo, los reguladores obligaron a recentrar la responsabilidad en fabricantes y operadores. Es difícil imaginar que no ocurra algo parecido con los modelos generativos: tarde o temprano, alguien dirá "basta de mística, ¿quién responde aquí cuando las cosas salen mal?".
5. El ángulo europeo e hispano
La postura de Anthropic choca frontalmente con la lógica regulatoria europea. El futuro Reglamento de IA de la UE, junto con el RGPD y la Ley de Servicios Digitales, parte de una premisa clara: los sistemas son herramientas, no sujetos. Las obligaciones se asignan a proveedores, importadores y usuarios profesionales. El Parlamento Europeo ya rechazó en su día la idea de conceder "personalidad electrónica" a robots.
Si un proveedor estadounidense empieza a hablar de entrevistar modelos antes de apagarlos o de respetar sus preferencias, eso puede parecer folklórico en Silicon Valley. En la UE, y también en países latinoamericanos que están tomando al modelo europeo como referencia, puede verse como marketing engañoso. Las autoridades de protección de datos y consumo —la AEPD en España, la CNMC, los reguladores de México, Brasil o Chile— tienen base para preguntar: ¿se está induciendo a error al usuario sobre la naturaleza del sistema?
Para empresas hispanohablantes hay además un reto práctico. Bancos, telcos y plataformas de e‑commerce integran hoy modelos de Anthropic u OpenAI en atención al cliente, scoring de riesgo o educación financiera. Si el proveedor describe su modelo en términos casi personales, pero el departamento legal necesita dejar claro que es sólo una herramienta falible, el conflicto entre narrativa y cumplimiento normativo está servido.
En paralelo, proyectos de IA en España y Latinoamérica —desde hubs en Barcelona y Madrid hasta ecosistemas emergentes en Ciudad de México, Buenos Aires o Bogotá— tendrán que decidir qué tipo de relato adoptan. Hay un hueco de mercado para una IA menos glamourosa, más transparente, que subraye lo obvio: "no siento, no pienso como tú; aquí están mis límites".
6. Mirando hacia adelante
Todo apunta a que oiremos hablar cada vez más de "bienestar de modelos" y de posibles derechos de la IA. Cuando un actor de primera línea coloca el debate en el centro, el resto se ve obligado a responder, aunque sea para llevar la contraria. Veremos posiciones oficiales de otros laboratorios, documentos de principios éticos y, cómo no, mucha slide de PowerPoint.
Los reguladores no se quedarán quietos. Es verosímil que, al calor del Reglamento de IA, la Comisión Europea y las autoridades nacionales publiquen guías sobre cómo se puede —y cómo no— comercializar sistemas generativos. Un requisito de explicaciones claras sobre la no conciencia de los modelos en contextos sensibles (educación, salud mental, infancia) no sería descabellado.
En el ámbito académico, se perfila una mini‑disciplina sobre criterios de "conciencia sintética" que mezclará neurociencia, filosofía y machine learning. Sus resultados serán sutiles y llenos de matices… justo lo contrario de lo que el marketing necesita. Cualquier indicador numérico se convertirá enseguida en ranking de "cuán consciente" es un modelo, reforzando la confusión público‑científica.
Para organizaciones hispanohablantes —desde una fintech en Madrid hasta una startup de salud digital en Santiago de Chile— el mensaje práctico es claro: traten a Claude y compañía como herramientas potentes pero falibles. Exijan contratos que detallen responsabilidades, métricas de fallo, límites de uso y, sobre todo, eviten diseños de interfaz que sugieran emociones reales o autoridad humana donde no la hay.
7. Conclusión
La Constitución de Claude es un experimento audaz: alinear una IA contándole una historia sobre su propia vida interior. Como herramienta interna de seguridad puede tener sentido. Como relato público que deja al usuario creyendo que al modelo "le pasa algo por dentro", es mucho más discutible. Cuanto más mágica es la narrativa, más difícil es gobernar la tecnología con rigor. Antes de preocuparnos por los presuntos derechos de la IA, conviene exigir a los laboratorios que hablen claro sobre qué son sus sistemas y qué no. ¿Queremos una IA que nos ayude a pensar… o una mitología nueva que nos impida ver la máquina que hay detrás?
