- TITULAR + INTRODUCCIÓN
La escena es familiar: abrimos un chatbot, lanzamos una pregunta complicada y, segundos después, recibimos una respuesta fluida, segura, casi brillante. En ese momento muchos dejamos de pensar. Nueva investigación sugiere que este gesto cotidiano tiene un nombre inquietante: "rendición cognitiva".
En este artículo analizamos qué ha encontrado exactamente el estudio citado por Ars Technica, por qué la tendencia a delegar nuestro juicio en la IA es mucho más peligrosa de lo que parece, cómo encaja con otros cambios en la industria y qué implica para usuarios y empresas en España y en América Latina.
- LA NOTICIA EN BREVE
Según cuenta Ars Technica, investigadores de la Universidad de Pensilvania han publicado la obra "Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender", donde analizan cómo las personas usan grandes modelos de lenguaje (LLM) al resolver los llamados Cognitive Reflection Tests (CRT).
Los participantes podían consultar opcionalmente un chatbot basado en LLM, modificado intencionadamente para acertar solo en torno a la mitad de las ocasiones y ofrecer respuestas erróneas, pero muy convincentes, en el resto. De acuerdo con Ars Technica, en un total de 1.372 personas y más de 9.500 ensayos, los sujetos aceptaron el razonamiento equivocado de la IA aproximadamente en el 73 % de los casos y lo corrigieron en menos del 20 %.
Cuando la IA acertaba, los usuarios seguían su respuesta en más del 90 % de las veces; incluso cuando se equivocaba, la aceptaban alrededor del 80 %. El mero acceso al sistema aumentó la confianza de los participantes en sus propias respuestas en unos 11,7 puntos porcentuales, pese a que el modelo solo acertaba la mitad de las veces. La introducción de incentivos económicos y retroalimentación inmediata elevó significativamente la probabilidad de que los sujetos corrigieran a la IA, mientras que un límite de 30 segundos redujo esta tendencia. Las personas con mayor inteligencia fluida se apoyaron menos en el chatbot y detectaron mejor sus errores.
- POR QUÉ IMPORTA
El peligro central no es que la IA sea demasiado lista, sino que decidamos pensar menos porque parece lista. En el momento en que dejamos que un sistema “razone por nosotros”, nuestro desempeño se convierte en una simple función de su calidad: sube cuando acierta, se desploma cuando falla.
Hay beneficiados claros. Los proveedores de herramientas generativas ganan usuarios cada vez más dependientes: si el modelo se percibe como una autoridad infalible, ¿para qué cambiar o contrastar? Empresas bajo presión para reducir costes ven la oportunidad de automatizar tareas intelectuales trasladándolas a flujos de trabajo “asistidos por IA”, a menudo sin crear mecanismos serios de supervisión.
Los perdedores son todos aquellos que necesitan decisiones sólidas: pacientes, ciudadanos, estudiantes, inversores. La investigación se realizó con acertijos de laboratorio sin consecuencias reales, y aun así la mayoría se rindió ante la IA. Traslade este comportamiento a ámbitos donde ya se están usando LLM –redacción de informes médicos, borradores jurídicos, atención al cliente, evaluación de riesgos– y el problema deja de ser académico.
El estudio también revela la fuerza del diseño. Sistemas rápidos, fluidos y sin fricciones rebajan casi automáticamente nuestro nivel de escepticismo. No es una “torpeza” del usuario; es un sesgo bien estudiado: la tendencia a sobreconfiar en la automatización. Si la herramienta suele funcionar y se expresa con aplomo, nuestra mente deja de preguntar "¿estará bien?".
Los factores externos actúan como multiplicadores. Cuando había dinero y feedback inmediato en juego, los participantes revisaban más. Bajo presión de tiempo, el impulso contrario dominaba: aceptar y seguir. Y eso describe bastante bien la realidad de muchas oficinas y call centers en Madrid, Ciudad de México o Buenos Aires.
- EL CONTEXTO MÁS AMPLIO
Esta investigación llega en un momento en que la IA está dejando de ser una calculadora glorificada para convertirse en un “compañero de trabajo” textual. Durante años hemos delegado partes concretas del esfuerzo mental: la calculadora para operaciones, el GPS para el trayecto, el traductor para palabras sueltas. Pero manteníamos la sensación de estar al mando.
Los LLM invitan a otra cosa: saltarse directamente el proceso de razonamiento, porque el texto que generan se lee como si lo hubiera escrito un experto. No solo responden, sino que argumentan, estructuran, justifican. Y lo hacen en un tono igual de seguro, ya hablen de código en Python, de legislación laboral española o de marketing para un e‑commerce en México.
La historia tecnológica está llena de avisos. Pilotos que confiaron demasiado en el piloto automático, conductores que siguieron el GPS hasta un barranco, banqueros que se fiaron más de sus modelos de riesgo que de la realidad. Lo nuevo es que ahora este patrón abarca casi cualquier área del conocimiento humano en la misma interfaz.
En términos competitivos, esto favorece a las plataformas que maximizan comodidad, no pensamiento crítico. Un buscador o asistente de productividad que ofrece una única respuesta “perfecta” engancha más que uno que obliga a comparar fuentes, mostrar rangos de probabilidad o evidenciar dudas. El mercado suele premiar la fricción más baja, incluso si eso erosiona la calidad de nuestras decisiones.
Y aparece un nuevo tipo de brecha digital. La investigación indica que las personas con mayor inteligencia fluida y mayor inclinación al pensamiento analítico se defendieron mejor de los errores de la IA. En otras palabras: quienes más necesitarían ayuda para evaluar la calidad de las respuestas son quienes más riesgo tienen de tomarlas al pie de la letra. En regiones con desigualdades educativas marcadas, como buena parte de América Latina, este punto es crítico.
- LA PERSPECTIVA EUROPEA Y HISPANOHABLANTE
En Europa, el tema se cruza con un marco regulatorio cada vez más denso. El Reglamento de IA de la UE insiste en la “supervisión humana efectiva” y en que los sistemas de alto riesgo permitan comprender sus límites. La pregunta es si, en la práctica, un médico en un hospital público español o un funcionario en una administración latinoamericana tendrá tiempo y formación para ejercer esa supervisión cuando la IA esté integrada en todo su software.
Hasta ahora el foco regulatorio ha estado en datos (GDPR/LOPDGDD), contenidos (DSA) y competencia (DMA). La “rendición cognitiva” obliga a pensar en otra capa: la salud mental y democrática de sociedades que consultan modelos, en su mayoría estadounidenses, para racionalizar desde decisiones de consumo hasta opiniones políticas.
Para el ecosistema hispanohablante hay una oportunidad. Startups en Barcelona, Madrid, Ciudad de México, Bogotá o Buenos Aires pueden diferenciarse diseñando asistentes que fomenten la verificación: mostrar fuentes, indicar incertidumbre, pedir al usuario que valore la respuesta. Puede que no sea tan “mágico” como una caja de texto que nunca duda, pero encaja mejor con los valores europeos de precaución y con la necesidad latinoamericana de no replicar, sin más, soluciones importadas.
A nivel educativo, España y América Latina deberían entender la alfabetización en IA no solo como aprender a usar herramientas, sino como aprender a resistirlas cuando hace falta. Esa competencia crítica será tan importante como saber programar.
- MIRANDO HACIA ADELANTE
En los próximos tres a cinco años veremos menos “páginas web de chatbots” y más IA incrustada en todo: procesadores de texto, hojas de cálculo, CRMs, plataformas de e‑learning, apps de mensajería. Con cada integración nueva, será un poco más fácil aceptar la primera respuesta que aparezca en pantalla.
Hay tres líneas de evolución a vigilar.
La primera es el diseño de producto. ¿Forzarán los grandes proveedores –Microsoft, Google, Meta, Salesforce– ciertos frenos para usos sensibles, como mostrar siempre fuentes en temas médicos o legales? ¿O quedará en manos del usuario la responsabilidad de desconfiar? Si las empresas no presionan activamente, la opción por defecto será la comodidad.
La segunda es la regulación sectorial. Más allá del Reglamento de IA europeo, cabe esperar normas específicas para sanidad, finanzas, educación y administración pública. En España, en México o en Chile, los supervisores tendrán que definir qué significa realmente “supervisión humana”: ¿registro de cuándo se aceptan sugerencias de la IA?, ¿doble firma humana en decisiones clave?, ¿evaluaciones periódicas del impacto de la IA en la calidad de las resoluciones?
La tercera es la cultura organizativa. Cada empresa, universidad o administración tendrá que fijar sus propias líneas rojas: para qué se permite usar IA, cuándo es obligatorio revisar manualmente, cuándo está prohibida. Y, sobre todo, cómo se forma a la gente para reconocer los errores típicos de los LLM y no dejarse arrastrar por el tono confiado del texto.
Si fallamos en estas tres dimensiones, acabaremos con sociedades donde la calidad media del razonamiento dependa fundamentalmente de las tasas de error de unos pocos modelos propietarios.
- CONCLUSIÓN
El riesgo más inmediato de la IA no es Skynet, sino nuestra propia pereza mental. El estudio de Pensilvania, difundido por Ars Technica, muestra lo dispuestos que estamos a delegar el pensamiento en sistemas que suenan convincentes, incluso cuando se equivocan la mitad de las veces.
La pregunta para cualquier lector hispanohablante es clara: ¿quieres que, dentro de unos años, tus decisiones reflejen más las limitaciones de un chatbot que tu propio criterio? Si la respuesta es no, la tarea empieza ahora: cultivar el hábito incómodo de dudar, contrastar y, llegado el caso, decirle “no” a una máquina que parece muy segura de sí misma.
