El ruido alrededor de la inteligencia artificial tiende a los extremos: o va a resolverlo todo o va a destruirlo todo. Las dos posturas son malos mapas del territorio. Para usar la IA de manera útil —y para no depositar en ella más confianza de la que merece— conviene entender qué puede hacer y, sobre todo, qué no.
Hay limitaciones que son coyunturales: cosas que la IA no hace bien hoy pero que probablemente mejorará. Y hay limitaciones que son estructurales: cosas que la IA actual no puede hacer por razones de fondo que no se resuelven simplemente con más datos o más potencia de cálculo.
Este artículo trata de las segundas.
El error más común al pensar en IA
Los modelos de lenguaje como GPT, Claude o Gemini producen texto que suena coherente, informado e incluso brillante. Eso lleva a una conclusión intuitiva pero equivocada: que detrás del texto hay comprensión.
No la hay. O al menos, no del tipo que los humanos tenemos cuando hablamos de comprender algo.
Lo que existe es un sistema estadístico extremadamente sofisticado que ha procesado cantidades ingentes de texto humano y ha aprendido a predecir qué palabras suelen seguir a otras en determinados contextos. El resultado es texto que se parece al que produciría alguien que comprende. Pero la similitud del resultado no implica similitud del proceso.
El filósofo John Searle lo ilustró en 1980 con su experimento mental de la habitación china: alguien que no habla chino puede seguir reglas para responder símbolos chinos con otros símbolos chinos de manera que parezca perfectamente fluido a quien lee las respuestas. Pero esa persona no comprende chino. Solo sigue reglas.
La IA no comprende lo que genera
La consecuencia práctica más importante de esto es que la IA no detecta sus propios errores cuando no tiene forma de verificarlos externamente.
Un sistema que comprende puede darse cuenta de que algo no cuadra. Un sistema que predice texto plausible no tiene ese mecanismo. Si los datos de entrenamiento contienen errores, o si el contexto del usuario orienta la respuesta en una dirección equivocada, el modelo producirá texto plausible en esa dirección sin ninguna señal interna de que algo falla.
Por eso los modelos alucinan con confianza: inventan citas, atribuyen ideas a autores incorrectos, afirman hechos que no existen. No mienten; generan lo que estadísticamente es plausible. La diferencia es importante para entender cómo usarlos.
Sin cuerpo, sin experiencia vivida
Los seres humanos no solo aprenden a través del lenguaje. Aprendemos a través del cuerpo, de las emociones, de las consecuencias físicas de nuestras acciones. El calor del fuego, el peso del cansancio, el alivio de terminar algo difícil. Esa dimensión sensorial y afectiva impregna todo el conocimiento humano.
La IA no tiene cuerpo. No tiene historia personal. No ha experimentado el miedo a perder un trabajo, la alegría de un logro propio, ni la frustración de fallar repetidamente en algo. Puede generar texto sobre esas experiencias porque ha procesado millones de relatos humanos que las describen. Pero no tiene acceso a lo que esas experiencias significan desde dentro.
Esto tiene consecuencias directas. La IA puede hablar sobre el duelo, pero no sabe lo que es perder a alguien. Puede hablar sobre motivación, pero no experimenta querer algo. Puede ayudarte a redactar un mensaje difícil, pero no tiene intuición sobre la relación específica que hay detrás.
La IA es brillante con el conocimiento explícito —lo que puede escribirse y describirse— y ciega ante el conocimiento tácito —lo que solo se sabe desde la experiencia.
El problema de la causalidad
Los modelos de IA son extraordinariamente buenos encontrando correlaciones en grandes cantidades de datos. Son mucho peores razonando causalmente: entendiendo por qué ocurre algo, no solo qué cosas tienden a ocurrir juntas.
Correlación y causalidad son cosas distintas, y confundirlas genera errores graves. El número de médicos en una ciudad correlaciona con la tasa de enfermedades —más médicos donde hay más enfermos— pero los médicos no causan las enfermedades. Un sistema que aprende correlaciones sin causalidad puede producir conclusiones que suenan razonables y son profundamente equivocadas.
El razonamiento causal requiere un modelo del mundo: entender qué mecanismos producen qué efectos. Los modelos de lenguaje no tienen un modelo del mundo. Tienen una representación estadística de cómo el mundo se describe en texto. No es lo mismo.
Lo que esto significa para ti
Nada de lo anterior significa que la IA no sea útil. Lo es, y mucho, dentro de su dominio. Pero su dominio tiene límites reales.
Úsala para tareas donde el error es detectable y revisable: redacción, síntesis, exploración de ideas, reformulación, primer borrador. Son contextos donde tú puedes verificar el resultado con relativa facilidad.
Sé más cauteloso cuando el error no es fácil de detectar: diagnósticos especializados, razonamientos jurídicos o médicos complejos, análisis causales en dominios que no conoces bien. En esos contextos, la confianza aparente del output puede enmascarar errores importantes.
Y reserva para ti lo que la IA genuinamente no puede hacer: entender el contexto completo de tu situación particular, actuar con responsabilidad real sobre las consecuencias, o sustituir el juicio que viene de haber vivido algo. Esas cosas no van a ser delegables, no porque la IA no mejore, sino porque son parte de lo que significa ser quien toma las decisiones.
