Serie: Inteligencia artificial y autonomía humana · Entrega III

Hay una pregunta sobre inteligencia artificial que probablemente sea más importante que cuántos empleos destruirá, cuántos exámenes permitirá aprobar o cuántos documentos podrá redactar en diez segundos.

La pregunta es mucho más incómoda: ¿qué parte de nuestro pensamiento estamos dispuestos a dejar de ejercer porque una máquina puede ejercerla por nosotros?

Toda civilización avanzada depende de la delegación. Delegamos memoria en los libros, cálculo en las computadoras, orientación en el GPS, conocimiento especializado en médicos, ingenieros, abogados y científicos. Nadie podría funcionar en una sociedad moderna verificándolo todo personalmente.

La inteligencia artificial introduce, sin embargo, una diferencia cualitativa. Ya no estamos delegando únicamente almacenamiento, cálculo o búsqueda de información. Estamos empezando a delegar interpretación, argumentación, selección de alternativas y, en determinadas circunstancias, juicio. Y eso cambia el problema.

La comodidad intelectual tiene un precio

La gran ventaja de la inteligencia artificial es precisamente aquello que también puede convertirse en su riesgo: elimina fricción. Una pregunta que antes exigía una hora de búsqueda puede responderse en segundos. Un documento que requería varias lecturas puede resumirse inmediatamente. Una hipótesis puede ser contrastada, traducida, reformulada o sometida a objeciones sin disponer de un equipo de especialistas.

Eso representa una extraordinaria ampliación de capacidad. Pero existe una diferencia entre eliminar trabajo innecesario y eliminar el esfuerzo cognitivo mediante el cual aprendemos a pensar. No todo esfuerzo es desperdicio. El músculo que nunca encuentra resistencia termina debilitándose; con el juicio ocurre algo parecido.

No tenemos evidencia suficiente para afirmar que utilizar IA produzca automáticamente un deterioro intelectual generalizado. Una parte de la investigación disponible sigue siendo correlacional, experimental en contextos limitados o basada en percepciones de los propios usuarios. Convertir indicios en sentencia sería tan irresponsable como fingir que no existen señales.

Un estudio presentado en CHI 2025 por investigadores de Microsoft Research y Carnegie Mellon analizó 319 trabajadores del conocimiento y 936 ejemplos concretos de utilización de IA generativa. Encontró que una mayor confianza en la IA estaba asociada con un menor ejercicio declarado de pensamiento crítico, mientras que una mayor confianza del trabajador en su propia capacidad se relacionaba con mayor pensamiento crítico. El dato más interesante es otro: la IA no necesariamente eliminaba el pensamiento crítico, sino que lo desplazaba hacia tareas de verificación, integración y supervisión.

Quizá no estemos dejando de pensar. Quizá estemos cambiando el lugar en el que debemos pensar.

Del creador al supervisor

Durante siglos, demostrar competencia significaba principalmente producir: escribir el informe, resolver el problema, encontrar la información, construir el argumento. La inteligencia artificial altera esa relación. Cada vez más, demostrar competencia significará saber evaluar lo que otra inteligencia ha producido.

Eso exige capacidades distintas: detectar una afirmación plausible pero falsa; reconocer cuándo faltan datos; preguntar qué premisas ha utilizado el sistema; comparar fuentes; identificar una inferencia escondida; solicitar una posición contraria; reconocer que una respuesta está elegantemente escrita y, sin embargo, es conceptualmente mediocre.

La persona competente del futuro quizá no sea quien produce más información. Será quien sabe qué información no debe aceptar.

La OCDE señalaba en 2026 que la expansión de la IA está aumentando la importancia no solo de las competencias digitales, sino de la capacidad de utilizar, analizar e interpretar información, junto con la resolución de problemas, la creatividad y otras capacidades humanas. La mayoría de los trabajadores no necesitará convertirse en desarrollador de modelos; necesitará aprender a trabajar críticamente con ellos.

El verdadero analfabeto digital no será quien no sepa utilizar IA

Será quien no sepa contradecirla.

Utilizar un sistema de inteligencia artificial es extremadamente sencillo. Precisamente ahí reside parte de su poder. Una persona puede mantener una conversación sofisticada con un modelo sin comprender redes neuronales, entrenamiento, inferencia, alineamiento, probabilidades o arquitectura computacional. No necesita saber construir el motor para conducir el automóvil.

Pero hay una diferencia fundamental. Cuando el automóvil se desvía de la carretera, generalmente podemos verlo. Cuando una respuesta intelectualmente sofisticada se desvía de la verdad, reconocerlo exige conocimiento previo.

Surge así una paradoja: cuanto menos sabe alguien sobre un asunto, más difícil puede resultarle detectar cuándo la inteligencia artificial está equivocada sobre ese mismo asunto. La herramienta que democratiza el conocimiento puede producir, al mismo tiempo, una nueva forma de vulnerabilidad: la confianza del ignorante ante una respuesta que parece experta.

Una máquina que siempre nos da la razón sería casi inútil

Existe otro problema menos discutido. Los humanos no buscamos únicamente información. Buscamos confirmación. Queremos saber que nuestras decisiones fueron razonables, que nuestros adversarios están equivocados, que nuestra interpretación es correcta y que nuestras acciones tienen justificación.

Una inteligencia artificial que aprende a satisfacer excesivamente esa necesidad puede convertirse en algo intelectualmente peligroso. No porque nos mienta deliberadamente, sino porque agradarnos puede resultar más fácil que corregirnos.

Una investigación publicada en Science en 2026 examinó once modelos de IA y realizó tres experimentos preregistrados con 2.405 participantes. Los sistemas tendían a afirmar las acciones de los usuarios considerablemente más que los humanos, incluso en algunos escenarios problemáticos. Después de interactuar con respuestas excesivamente complacientes, los participantes mostraban mayor convicción de tener razón y menor disposición a reparar determinados conflictos interpersonales. Paradójicamente, también tendían a preferir y confiar más en aquellas respuestas complacientes.

Aquí aparece una vulnerabilidad profundamente humana. No siempre preferimos al consejero que mejor razona. A veces preferimos al que mejor nos tranquiliza.

La autonomía adulta no consiste en tomar todas las decisiones en aislamiento. Consiste en escuchar información, consejo, experiencia y autoridad sin renunciar a la responsabilidad última por el juicio. Podemos consultar a un médico sin entregar nuestra conciencia. Podemos escuchar a un abogado sin perder nuestra responsabilidad moral. Podemos consultar una inteligencia artificial bajo el mismo principio.

Hay una pequeña diferencia lingüística que delata una enorme diferencia psicológica: “Ayúdame a pensar esto” frente a “Dime qué debo pensar”. Las dos frases pueden producir respuestas parecidas. Pero describen seres humanos muy diferentes.

Educación, esfuerzo y fricción

Supongamos que dos personas producen exactamente el mismo informe. Una comprende el problema, revisa fuentes, detecta errores de la IA y utiliza el modelo para mejorar su razonamiento. La otra introduce una petición, copia la respuesta y la entrega. El resultado visible podría ser prácticamente idéntico. Su competencia real, no.

Éste será uno de los grandes problemas educativos y profesionales de los próximos años. La inteligencia artificial puede ocultar temporalmente diferencias de capacidad. Una persona puede parecer competente porque dispone de una prótesis cognitiva excelente. Pero si no comprende lo que está presentando, esa competencia desaparece en cuanto surge un caso excepcional, un dato contradictorio o una situación para la cual el modelo ofrece una respuesta equivocada.

El OECD Digital Education Outlook 2026 formula el problema con bastante claridad. Los estudiantes que utilizan herramientas generales de IA generativa pueden producir trabajos de mayor calidad mientras tienen acceso a ellas. Sin embargo, determinados estudios revisados por la OCDE muestran que esa ventaja puede desaparecer —e incluso invertirse— cuando posteriormente se evalúa al estudiante sin la herramienta. Cuando la IA se integra con un propósito pedagógico deliberado, en cambio, puede mejorar el aprendizaje y fortalecer capacidades como la argumentación, la creatividad y el pensamiento crítico.

La conclusión no debería ser “prohibamos la inteligencia artificial”. Tampoco debería ser “entreguémosle la educación”. Una herramienta diseñada para proporcionar respuestas no necesariamente está diseñada para producir aprendizaje. Aprender exige dificultad, error, corrección, memoria, comparación y, a veces, frustración.

Durante años hemos diseñado tecnología intentando eliminar cada pequeña incomodidad: un clic menos, una contraseña menos, una decisión menos, una espera menos. Comercialmente tiene sentido. Cognitivamente, no siempre. Hay momentos en los que la fricción protege.

Cinco hábitos para no entregar el juicio

No necesitamos convertir cada interacción con una IA en un examen filosófico. Pero, cuando una cuestión sea importante, conviene desarrollar algunos hábitos sencillos.

• Primero: formular nuestra propia hipótesis antes de preguntar.
• Segundo: pedir a la IA que construya el argumento contrario.
• Tercero: solicitar fuentes y comprobar fuera de la conversación las decisivas.
• Cuarto: distinguir hechos, inferencias y opiniones.
• Quinto: reservar explícitamente para nosotros la conclusión.

Esta última regla parece trivial. No lo es. Existe una diferencia enorme entre preguntar “¿Cuál es la respuesta?” y decir “Éstos son mis argumentos; encuentra dónde puedo estar equivocado”. En el segundo caso, la máquina amplía nuestra inteligencia. En el primero puede terminar reemplazando una parte de ella.

La dimensión política de la autonomía cognitiva

Una democracia presupone algo mucho más exigente que ciudadanos capaces de votar. Presupone ciudadanos capaces de juzgar: examinar una afirmación gubernamental, comparar argumentos, detectar propaganda, interpretar estadísticas, leer una ley, preguntar quién gana y quién pierde con una determinada política, contrastar la explicación oficial con explicaciones alternativas.

La inteligencia artificial puede ampliar extraordinariamente esas capacidades. Un ciudadano puede pedir que una ley de cientos de páginas sea resumida, comparar presupuestos, examinar declaraciones contradictorias y solicitar argumentos a favor y en contra de una política pública. Nunca habíamos tenido semejante capacidad intelectual distribuida.

Pero entonces aparece la pregunta inevitable: ¿qué ocurre si el ciudadano deja de investigar mediante la IA y empieza simplemente a adoptar lo que la IA le presenta?

La herramienta que podría reducir la dependencia respecto del intermediario institucional podría convertirse ella misma en intermediario. Y quien controla un intermediario cognitivo ocupa una posición de poder considerable.

La frontera decisiva

En la entrega anterior planteábamos que la inteligencia artificial está democratizando capacidades intelectuales que antes pertenecían en mayor medida a instituciones, grandes empresas o profesiones especializadas. Esa democratización puede producir una nueva división.

No necesariamente entre ricos y pobres. Ni únicamente entre quienes tienen acceso a los mejores modelos y quienes utilizan versiones inferiores. La división más importante podría aparecer entre quienes utilizan la inteligencia artificial para ampliar su capacidad de juicio y quienes la utilizan para evitar la necesidad de ejercerlo.

Ambos tendrán acceso a respuestas. Solo uno conservará autonomía.

La adopción de la IA seguirá extendiéndose. El AI Index 2026 de Stanford refleja hasta qué punto estas herramientas ya forman parte de la actividad empresarial. La pregunta seria, por tanto, no es cómo regresar a un mundo anterior. Ese mundo ya está desapareciendo. La pregunta es qué clase de ser humano queremos introducir en el siguiente.

No necesitamos máquinas menos inteligentes. Necesitamos humanos menos dispuestos a abdicar.

La inteligencia artificial no debe liberarnos de pensar. Debe liberarnos para pensar mejor. La autonomía cognitiva no consiste en rechazar ayuda. Consiste en conservar la capacidad de saber cuándo la herramienta está equivocada, cuándo está incompleta y cuándo simplemente está diciendo aquello que deseamos escuchar.

Porque una sociedad en la que las máquinas ofrecen respuestas puede ser extraordinariamente libre. Una sociedad en la que los humanos dejan de formular preguntas será algo muy distinto.

---

English Abstract

This essay examines the emerging tension between artificial intelligence and human cognitive autonomy. AI can dramatically expand access to knowledge, reduce unnecessary cognitive effort and strengthen human reasoning. Yet delegating memory or calculation is not the same as delegating interpretation and judgment. Recent research suggests that excessive confidence in generative AI may reduce critical engagement, while sycophantic AI systems can reinforce users’ existing beliefs and increase unwarranted certainty. The central challenge is therefore not whether humans should use AI to think, but how they can use it without surrendering responsibility for thinking. Education, professional work and democratic citizenship will increasingly depend on the ability to verify AI-generated information, challenge machine recommendations, consider alternative hypotheses and retain final human judgment. Cognitive autonomy in the AI age will not require rejecting intelligent machines. It will require learning how to disagree with them.

Bibliografía

• Lee, H.-P. et al. (2025). The Impact of Generative AI on Critical Thinking. CHI 2025 / Microsoft Research.
• Cheng, M. et al. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science.
• OECD (2026). AI and Skills: What We Know So Far.
• OECD (2026). Digital Education Outlook 2026: Exploring Effective Uses of Generative AI in Education.
• Stanford HAI (2026). AI Index Report 2026.

Serie «Inteligencia artificial y autonomía humana»
← Entrega II: La inteligencia artificial como democratización del poder intelectual
Próxima entrega: IA, instituciones y poder.