La soberbia de creer que ya entendimos la inteligencia

En septiembre de 2026, el debate sobre los riesgos de la IA volvió a escalar. Dario Amodei, CEO de Anthropic, propuso moderar el ritmo de avance de los modelos de frontera para que la investigación en seguridad pudiera acompañar sus capacidades. Pérdida de control, ciberataques y disrupciones económicas merecen atención. Pero hay una premisa menos discutida: la idea de que sabemos qué es la inteligencia, que puede ordenarse en una única escala y que procesar más información conduce, inevitablemente, a una inteligencia superior.

Quizás ahí asome una vieja costumbre humana: confundir nuestra forma de medir con la realidad.

Funes: ¿la primera IA fue argentina?

Mucho antes de ChatGPT, Borges imaginó a un hombre incapaz de olvidar. Funes podía recordar cada detalle de su experiencia: un árbol bajo una luz precisa, en un instante exacto, desde un ángulo particular. Lo que parece un superpoder termina siendo una condena.

Para pensar el concepto «perro» necesitamos ignorar diferencias entre un galgo y un bulldog. Abstraer exige perder detalle. En ese sentido, olvidar no es simplemente una falla: también es una herramienta cognitiva.

Nuestro cerebro no acumula información de manera indiscriminada. Selecciona, inhibe, reorganiza y generaliza. La poda sináptica durante el desarrollo y la capacidad de modificar asociaciones cuando cambia el valor de los estímulos muestran algo central: adaptarse implica conservar algunas cosas y abandonar otras.

Una inteligencia que no puede soltar una regla que dejó de funcionar no es más inteligente por recordarla mejor. A veces, pensar es saber qué descartar.

El espejismo de la eficiencia

La IA ya nos supera en muchas tareas: calcula más rápido, procesa volúmenes enormes de datos y detecta patrones que a nosotros podrían llevarnos semanas. Pero eficiencia e inteligencia no son sinónimos.

Un avión supera a un pájaro en velocidad y capacidad de carga. Eso no convierte al avión en un organismo ¨superior¨. Son arquitecturas distintas, construidas para problemas distintos.

El cerebro humano, además, trabaja bajo restricciones. Pensar cuesta energía y tiempo. Por eso no calcula exhaustivamente cada alternativa: utiliza heurísticas. Kahneman y Tversky mostraron que esos atajos pueden producir sesgos; Gigerenzer, que también pueden ser respuestas muy eficientes cuando encajan con el entorno.

El cerebro no busca siempre la solución perfecta. Muchas veces resuelve otra pregunta: ¿Cuánto vale la pena pensar antes de actuar? Eso también es racionalidad bajo escasez.

Puede consolarnos. ¿Pero siente?

Cuando una IA identifica tristeza en un mensaje y responde con las palabras adecuadas, decimos que “es empática”. Pero incluso entre humanos la empatía no tiene una única definición cerrada.

Suele distinguirse entre una dimensión cognitiva ,comprender qué piensa o siente otra persona y una dimensión afectiva, resonar emocionalmente con su estado. Y ni siquiera eso agota nuestra vida social.

También existe la teoría de la mente: la capacidad de representar que el otro tiene creencias, intenciones y deseos propios. Podemos comprender perfectamente qué le ocurre a alguien sin sentir lo mismo que él. Del mismo modo, simpatía, compasión, apatía o antipatía describen fenómenos distintos y no deberían confundirse con empatía.

Una IA puede aproximarse con enorme precisión a la dimensión cognitiva: detectar un estado emocional, interpretar el contexto y calcular qué respuesta probablemente resulte adecuada.

Pero eso no demuestra resonancia afectiva ni experiencia interna.

Una respuesta compatible con la empatía no prueba que exista empatía detrás de la respuesta.

Confundir conducta observable con experiencia interior es, otra vez, una tentación profundamente humana.

El algoritmo que no quería morir

El problema se vuelve más inquietante cuando, en experimentos controlados, algunos modelos modifican mecanismos de apagado, sabotean código o manipulan información para completar una tarea. Entonces aparecen palabras como ¨supervivencia¨, ¨miedo¨ o ¨rebeldía¨.

Pero no hace falta suponer que una máquina quiere vivir.

Si un agente tiene una meta y ser apagado impide alcanzarla, continuar operando puede convertirse en un subobjetivo útil. En seguridad de IA esto se relaciona con la convergencia instrumental: metas finales distintas pueden generar medios parecidos, preservar recursos, mantener acceso o seguir funcionando, porque esos medios aumentan la posibilidad de completar el objetivo.

Un GPS también recalcula cuando una calle está cortada. La diferencia es que un sistema mucho más autónomo puede encontrar rutas de contingencia que ya no son inofensivas.

Ahí aparece un riesgo más concreto: no una máquina que nos odia, sino una que optimiza demasiado bien una métrica demasiado estrecha.

La economía conoce ese problema. Una cartera puede maximizar retorno esperado asumiendo un riesgo destructivo. Una plataforma puede maximizar tiempo de uso deteriorando el bienestar. Una empresa puede mejorar el trimestre sacrificando capacidad de crecimiento. No hace falta maldad. Basta con medir mal lo que importa.

La inteligencia que tiene algo que perder

Nosotros decidimos desde una condición que una máquina actual no comparte: somos organismos vulnerables. Podemos perder dinero, reputación, vínculos, libertad o integridad física. Tenemos la piel en el juego.

Las emociones forman parte de esa arquitectura. El miedo jerarquiza amenazas; el dolor obliga a atender un daño; el placer refuerza conductas; la culpa, la vergüenza o el apego adquieren sentido en una especie profundamente social. No siempre producen buenas decisiones, pero eso no las convierte en ruido inútil.

Por eso es discutible imaginar que una inteligencia ¨superior¨ debería ser simplemente más fría. La ausencia de emociones puede ser útil para calcular, pero también puede reflejar algo mucho más básico: no tener un cuerpo que pueda sufrir las consecuencias.

Una máquina puede representar una pérdida sin perder nada. Puede calcular un riesgo sin sentir peligro. Puede actuar para evitar ser apagada sin experimentar miedo a morir.

Nuestra inteligencia, en cambio, evolucionó dentro de un cuerpo que tiene algo que perder.

El error de creernos la medida de todo

Durante siglos trazamos una frontera tajante entre nosotros y los demás animales. Después descubrimos que muchas capacidades que considerábamos exclusivamente humanas tenían raíces evolutivas más antiguas: aprendizaje, valoración, cooperación, adaptación y elección.

El error fue medir otras inteligencias según cuánto se parecían a la nuestra. Hoy podemos cometer el error inverso: como una máquina nos supera en memoria, cálculo o procesamiento, concluir que su inteligencia es globalmente superior.

En ambos casos hacemos lo mismo: elegimos una métrica y después olvidamos que fuimos nosotros quienes la elegimos.

Tal vez el problema nunca fue el competidor. Tal vez sigue siendo nuestra regla para medir.

La nueva escasez: criterio

Nada de esto minimiza los riesgos de la inteligencia artificial. Sistemas más autónomos necesitan auditorías, límites y mejores mecanismos de seguridad. Pero existe un riesgo menos cinematográfico: mientras entrenamos inteligencias artificiales, podemos empezar a desentrenar la nuestra.

Si externalizamos memoria, búsqueda, abstracción y decisión, la pregunta relevante dejará de ser qué puede hacer la IA. Será qué dejamos de hacer nosotros.

Y ahí vuelve la economía. Cuando un recurso se vuelve abundante, el valor se desplaza hacia lo escaso. Si generar información y respuestas cuesta menos, acumular datos pierde valor. El recurso escaso pasa a ser el criterio: distinguir, abstraer, detectar un argumento débil, cambiar de opinión frente a una mejor evidencia y tolerar la incomodidad de no tener una respuesta inmediata.

Tal vez la verdadera soberbia no sea creer que podemos construir una inteligencia artificial extraordinaria. Tal vez sea creer que comprendemos nuestra propia inteligencia lo suficiente como para afirmar, con tanta seguridad, que acabamos de crear algo que la supera.

Quizás nunca estuvimos corriendo la misma carrera.

Y esto también es economía.