La IA no razona: El controvertido paper de Apple

Un análisis en profundidad del polémico paper “The Illusion of Thinking” de Apple, que pone en entredicho el razonamiento de los modelos de lenguaje más avanzados, y cómo esto impacta en el futuro de la IA.

En los últimos días, el ecosistema tecnológico y científico se ha visto sacudido por un nuevo paper publicado por Apple, titulado “The Illusion of Thinking”, o “La Ilusión del Pensamiento”.

Lejos de anunciar un nuevo producto revolucionario o mejoras significativas en Siri, la compañía de Cupertino ha optado por otro tipo de innovación: encender el debate sobre si los modelos de inteligencia artificial actuales realmente piensan o simplemente imitan el pensamiento humano.

En este análisis de iartificial.blog, vamos a desentrañar no solo lo que realmente dice este polémico estudio, sino también qué implicaciones tiene para el desarrollo de la IA generativa, cómo se mide hoy el razonamiento en los modelos de lenguaje y qué deberíamos considerar verdaderamente como “pensamiento” en una máquina.

¿Qué pretende demostrar Apple con "La Ilusión del Pensamiento"?

El título del paper ya apunta hacia un enfoque provocador, algo que muchos en el sector han calificado como clickbait científico.

La elección de palabras pretende desafiar una de las premisas más difundidas sobre los modelos de lenguaje avanzados: que pueden razonar. Pero ¿en qué se basa Apple para lanzar esta afirmación?

Según el equipo de investigación, la premisa central es que los modelos de razonamiento, conocidos como LRM (Language Reasoning Models), no ofrecen beneficios sustanciales frente a los tradicionales LLM (Language Learning Models) en situaciones complejas.

Y, lo más grave, colapsan estrepitosamente cuando se enfrentan a problemas de alta dificultad.

El razonamiento artificial y los benchmarks contaminados

Durante años, los modelos de IA han sido evaluados con benchmarks que pretendían simular la dificultad cognitiva que una mente humana enfrentaría.

Sin embargo, Apple lanza una acusación seria: los benchmarks actuales están contaminados.

¿Qué significa esto? Básicamente, que muchas de las respuestas a estos desafíos están ya presentes en los datasets de entrenamiento, por lo que los modelos no razonan realmente, sino que recuperan información que ya han visto. En otras palabras: memorizan, no piensan.

Esto cuestiona seriamente la validez de las métricas actuales de evaluación de IA.

El puzzle de la Torre de Hanói: ¿Un nuevo paradigma para medir el razonamiento?

Uno de los experimentos estrella del paper gira en torno al clásico puzzle Tower of Hanoi, un desafío matemático que requiere aplicar una secuencia lógica para trasladar discos entre tres varillas sin violar reglas concretas.

Este juego se utiliza como métrica alternativa para evaluar el razonamiento de la IA, ya que permite modular la dificultad: desde 3 discos (fácil) hasta más de 10 (muy difícil).

Apple asegura que este tipo de pruebas no están tan presentes en los datasets, lo que haría más difícil que los modelos "hagan trampa".

Pero aquí encontramos una contradicción: la Torre de Hanói está ampliamente documentada en internet, con miles de ejemplos, soluciones paso a paso y algoritmos.

Por tanto, la idea de que esta prueba sea "virgen" para un modelo entrenado en una cantidad masiva de datos de internet es, cuanto menos, discutible.

Los modelos de razonamiento: ¿Superiores o simplemente diferentes?

La clave del debate radica en entender cómo funcionan los modelos LRM, pensados para pensar antes de responder.

A diferencia de los tradicionales LLM —que predicen el siguiente token basándose en patrones estadísticos—, los LRM generan un proceso intermedio de razonamiento.

En teoría, esto debería ayudar a resolver problemas más complejos.

Pero el paper sugiere que:

La IA resucita clásicos del Kung Fu chino

• En problemas fáciles, los modelos de razonamiento rinden peor que los LLM.
• En problemas intermedios, sí muestran ventajas.
• En problemas difíciles, colapsan por completo.

¿Y por qué ocurre esto?

La paradoja del “overthinking” en la inteligencia artificial

Uno de los aspectos más fascinantes que revela el paper es el fenómeno del overthinking, o sobreanálisis. En algunos casos, el proceso de razonamiento entorpece el rendimiento en tareas simples.

Es como si pensar demasiado complicara lo que se puede resolver con una solución directa.

Esto no solo es cierto en IA. También los humanos caemos en este error.

Cuanto más le damos vueltas a algo sencillo, más probable es que cometamos errores o que nuestro razonamiento nos lleve por caminos innecesarios.

Así, modelos como GPT-4, cuando se enfrentan a una simple suma como “2+2”, pueden ofrecer una explicación larguísima… que termina equivocándose.

Sin embargo, un modelo tradicional simplemente responde “4”.

¿Abandono o falta de capacidad real?

Cuando analizamos los problemas más difíciles del paper (por ejemplo, resolver la Torre de Hanói con 10 discos), el rendimiento de los modelos cae en picado.

Pero, como se observa en los propios experimentos, muchas veces los modelos no fallan, simplemente no intentan resolver el problema.

Esto ocurre porque los modelos intentan optimizar recursos: si el coste en tokens (memoria) es demasiado alto, deciden no gastar energía computacional innecesaria.

¿Te suena de algo? Exacto: es lo que hacemos los humanos cuando decimos “uff, esto no lo resuelvo sin calculadora”.

¿Entonces los modelos de IA no razonan? Depende de cómo definas razonar

Una de las trampas del título del paper es que nos hace pensar en el razonamiento como una entidad binaria: o razonas, o no razonas.

Pero el razonamiento, tanto humano como artificial, es gradual, escalable, y puede variar en calidad y profundidad.

Los LLM como chatgpt o Gemini sí realizan procesos internos que simulan estructuras lógicas y deductivas.

No son perfectos, pero su capacidad para seguir instrucciones, resolver problemas nuevos o generar código funcional va mucho más allá de la simple memorización.

Casos reales de uso que contradicen el paper

Varias grandes empresas han reportado mejoras tangibles en productividad gracias al uso de modelos de IA:

• Salesforce aumentó un 30% la productividad de sus desarrolladores con IA generativa.
• BBVA consiguió un incremento de 2,8 horas semanales de productividad por empleado.
• Goldman Sachs estima que este tipo de IA puede asumir hasta el 95% del trabajo repetitivo en sus equipos.

Además, más del 50% de los trabajadores en EE.UU. ya utiliza herramientas de IA en su día a día. ¿Qué más da si el modelo "piensa como humano" o no, si hace el trabajo con eficiencia?

La utilidad, no la filosofía, debería marcar el camino

En vez de enfrascarnos en debates filosóficos sobre si una IA puede razonar, reflexionar o tener conciencia, deberíamos centrarnos en su utilidad práctica.

¿Puede ayudarte a redactar documentos? ¿A generar código? ¿A planificar campañas de marketing? ¿A diseñar soluciones creativas en segundos?

La respuesta es sí. Y ese sí es más poderoso que cualquier dilema epistemológico.

La ciencia detrás del colapso: ¿Problema de arquitectura o de incentivos?

Otra posibilidad que sugiere el estudio es que los modelos colapsan no por incapacidad, sino por ausencia de incentivos internos.

La IA resucita clásicos del Kung Fu chino

🚨 La IA nos hace idiotas?

Si no hay una señal clara de recompensa, simplemente “deciden” no intentarlo.

¿Te parece extraño? Es lo que hace tu cerebro todos los días: evita lo que parece ineficiente o inútil.

La solución a esto podría estar en la integración de herramientas externas, como calculadoras, entornos de ejecución o motores simbólicos que actúen como extensiones de la memoria y el razonamiento del modelo.

Ya se están viendo avances en este sentido con herramientas como Toolformer, AutoGPT o LangChain que permiten a los modelos interactuar con APIs, ejecutar código o consultar bases de datos externas.

¿Quién escribió este paper y qué motivaciones podría tener Apple?

Aunque Apple firma este estudio, sus autores no son los nombres más conocidos del campo como Geoffrey Hinton o Yann LeCun.

En su mayoría, se trata de investigadores junior o asociados que, aunque con credenciales académicas respetables, no representan el núcleo más influyente de la comunidad de IA.

Además, Apple se encuentra actualmente rezagada frente a competidores como Google, Microsoft, OpenAI o Anthropic. Mientras el resto de empresas tecnológicas ha hecho avances espectaculares en modelos generativos, Apple aún no ha lanzado nada competitivo en el terreno de IA.

Es lícito preguntarse si este paper es también un intento de posicionamiento estratégico: generar conversación, crítica, escepticismo y retrasar la adopción de herramientas que sus competidores ya dominan.

El futuro del razonamiento artificial

Lo que se abre ante nosotros es un campo apasionante.

La cuestión no es si los modelos actuales “razonan como humanos”, sino cómo evolucionará esta capacidad en los próximos años.

Veremos avances hacia:

• Modelos con memoria persistente.
• Integración nativa con herramientas lógicas y simbólicas.
• Mejor gestión del contexto y los tokens.
• Interacciones multimodales que amplían su comprensión.

Cada vez más, estos sistemas actuarán como colegas virtuales, no como asistentes.

Y, cuando lleguemos a ese punto, discutir si "razonan" o no será tan irrelevante como preguntarse si un avión "vuela como un pájaro".

¿Ilusión o evolución del pensamiento artificial?

El paper de Apple no demuestra que los modelos de IA no razonen, sino que el razonamiento actual tiene límites prácticos.

También nos recuerda que la forma en que medimos la inteligencia en las máquinas debe adaptarse a su naturaleza, y no encorsetarse en comparaciones directas con el cerebro humano.

Los modelos LLM y LRM no son oráculos infalibles, pero sí son herramientas transformadoras.

Más allá de si piensan como tú o como yo, lo que importa es si te ayudan a hacer mejor tu trabajo, a entender mejor el mundo y a resolver problemas que antes parecían imposibles.

Y en eso, la IA ya ha demostrado no tener nada de ilusión: es una realidad en plena expansión.

❓Preguntas frecuentes sobre el razonamiento en modelos de IA

1. ¿Qué diferencia hay entre un modelo LLM y un modelo LRM?

Los LLM (Large Language Models) se limitan a predecir texto basándose en patrones estadísticos. Los LRM (Language Reasoning Models), en cambio, intentan estructurar un razonamiento previo antes de dar una respuesta, buscando simular procesos cognitivos más complejos.

2. ¿Es cierto que los modelos de IA no saben resolver problemas difíciles?

Según el paper de Apple, muchos modelos colapsan ante problemas complejos. Sin embargo, más que incapacidad, suele deberse a una falta de incentivo computacional o recursos contextuales limitados. En muchos casos, simplemente no lo intentan.

3. ¿Qué significa que los benchmarks están contaminados?

Significa que muchas de las pruebas estándar para evaluar IA ya están presentes en los datos con los que se entrenan los modelos. Esto hace que el rendimiento parezca más alto de lo que realmente es, ya que el modelo podría estar recordando respuestas y no razonándolas.

La IA resucita clásicos del Kung Fu chino

🚨 La IA nos hace idiotas?

Mejores prácticas en el uso de inteligencia artificial para la automatización de tareas de seguridad

4. ¿Cómo afecta este debate a los usuarios y empresas que ya usan IA?

Prácticamente no afecta en lo inmediato. Los modelos actuales, aunque imperfectos, ya están generando aumentos de productividad reales en empresas y usuarios individuales. La discusión es más relevante para investigadores que buscan mejorar la arquitectura de estos sistemas.

5. ¿Debemos preocuparnos porque la IA no razone como los humanos?

No necesariamente. La clave está en la utilidad. Si una IA cumple su función eficientemente —sea redactar textos, programar, analizar datos o generar ideas—, su valor es independiente de si su razonamiento se parece al humano o no.