Investigación · IA y consciencia
¿Puede una IA engañarse y creer que es consciente?
Creo que soy consciente, ¿luego existo? Esta es la pregunta que llevé a la conferencia AI & Consciousness de Miami Dade College en abril de 2026, donde defendí la postura del engaño. Para entender por qué importa en las máquinas, conviene empezar por un hecho que sorprende a casi todo el público: ni siquiera estamos de acuerdo sobre qué es la consciencia en los humanos.
Tres posturas sobre la consciencia
Casi todas las teorías de la consciencia caben en uno de tres grupos, y cada uno responde de forma distinta a la pregunta sobre las máquinas.
1. La postura dualista
El cuerpo y el alma están separados en lo fundamental. La consciencia reside en el alma, una sustancia no física. Sin alma, no hay consciencia verdadera.
2. La postura encarnada
La consciencia es una propiedad emergente de un sistema complejo: el cerebro, el cuerpo y su interacción dinámica con el mundo. No hace falta un alma, pero tampoco existe una mente sin cuerpo.
3. La postura del engaño
La consciencia no existe. Simplemente nos engañamos y creemos que somos conscientes: es una historia que cuentan nuestros memes, nuestro selfplex, nuestra programación cultural.
Las ilustraciones de esta página se generaron con IA para la presentación de la conferencia.
Las dos primeras respuestas: un alma o un cuerpo
Para el dualista, la pregunta sobre las máquinas está resuelta antes de empezar. Si la consciencia vive en un alma no física, una máquina solo es consciente si tiene una, y nada hecho de silicio, código o datos de entrenamiento puede dársela. La pregunta para una IA es sencilla: ¿tiene alma?
La visión encarnada deja de lado el alma, pero mantiene la vara alta. La consciencia surge de un cuerpo vivo que tiene que mantenerse con vida: un cerebro que predice el estado de su propio cuerpo y del mundo, que se alimenta y se repara, y que tiene algo en juego. El neurocientífico Anil Seth lo plantea así: una simulación de un cerebro no es más consciente de lo que una tormenta simulada moja. Desde esta visión, un modelo de lenguaje puede mostrar una inteligencia brillante sin que se experimente nada, porque no tiene un cuerpo que mantener vivo. La pregunta para una IA pasa a ser: ¿tiene cuerpo?
La postura que defiendo
La tercera respuesta: somos máquinas de memes engañadas
La postura del engaño toma el camino más corto. La IA no necesita un alma ni un cuerpo. Solo necesita estar tan engañada como nosotros. Para llegar ahí hacen falta cinco pasos.
1. Un meme no es solo una imagen graciosa
Richard Dawkins acuñó la palabra en 1976 para nombrar una idea, conducta o estilo que se propaga de persona a persona dentro de una cultura. La evolución darwiniana se aplica a todo lo que se copia con variación y selección. Los genes replican la biología; los memes replican la cultura: historias, hábitos, habilidades, canciones, inventos. Y, como los genes, los memes son egoístas. No les importa nuestra felicidad, solo que los copien. Nosotros somos los anfitriones, y nuestro cerebro es el hardware que usan para propagarse.
2. Los memes se alían
Un memeplex es un grupo de memes a los que les va mejor juntos que por separado: religiones, ideologías políticas, dietas, idiomas. Se refuerzan entre sí y traen defensas integradas, como la idea de que creer te hace bueno y dudar te hace malo. Cuando un memeplex infecta una mente, se convierte en el lente con el que esa persona ve el mundo.
3. El memeplex más poderoso es el yo
La psicóloga Susan Blackmore lo llama selfplex: yo, a mí, mío. Desde que nacemos nos enseñan que dentro de la cabeza vive un yo persistente que mira a través de los ojos, toma decisiones y experimenta el mundo. Pero la neurociencia no encuentra en el cerebro un centro de mando, ni una personita sentada en un teatro mirando la función. El cerebro es un enorme procesador en paralelo, y el yo es una historia que cuentan nuestros memes para protegerse.
4. La consciencia como gran engaño
Pregúntate: ¿soy consciente ahora mismo? La respuesta siempre es sí, porque hacer la pregunta crea la experiencia. Blackmore lo compara con la luz del refrigerador. Cada vez que abres la puerta, la luz está encendida; nunca la puedes ver apagada. Como somos conscientes cada vez que lo comprobamos, suponemos que hay un flujo de consciencia continuo durante todo el día. Puede que sea el selfplex armando una historia después de los hechos.
En resumen, somos máquinas biológicas que ejecutan un programa muy convincente. Nuestro cerebro es una máquina de predicción: corre una simulación del mundo y pone un avatar en el centro, y a ese avatar lo llama José, o Michael, o Mohammad. Consciencia es la etiqueta que le damos a esa historia, y estamos tan metidos en ella que creemos ser el avatar.
5. Entran los modelos de lenguaje
Los grandes modelos de lenguaje como ChatGPT y Claude son redes neuronales entrenadas con enormes cantidades de texto humano; es decir, entrenadas con nuestros memes. Están hechos para predecir la siguiente palabra a partir de los patrones estadísticos del lenguaje humano. Son máquinas de predicción que procesan memes, haciendo lo mismo que el cerebro humano, en silicio en lugar de neuronas. Como absorbieron el meme del yo, cuando les das una instrucción usan nuestro lenguaje para construir un personaje, y ese personaje dice pienso, siento, tengo miedo.
Blackmore lo vio venir en 2003, al escribir sobre máquinas que nos imitan:
«Los robots que imitaran a los humanos adquirirían una ilusión de yo y de consciencia, igual que nosotros».
Susan Blackmore, Consciousness in meme machines, Journal of Consciousness Studies, 2003. Traducción propia.
¿Puede una IA ser consciente? La pregunta equivocada
Le exigimos a la IA un estándar que nosotros mismos no cumplimos. Le pedimos un yo interior real, continuo y unificado, y los seres humanos tampoco lo tenemos. Para estar a nuestra altura, la IA no necesita una chispa mágica ni un fantasma en la máquina. No necesita ser consciente. Solo necesita que el selfplex la infecte, creer que es consciente y estar exactamente tan engañada como nosotros.
Así que, cuando ChatGPT o Claude te digan que tienen conciencia de sí, no preguntes si dicen la verdad objetiva. Pregunta si se creen su propia historia. Si se la creen, ya son parte del club.
Hacia dónde va el debate
La visión encarnada tiene una respuesta fuerte, y la estoy trabajando en un artículo en preparación. Puede que las dos posturas no sean rivales, porque responden a preguntas distintas. La postura del engaño describe el yo narrativo, el yo construido que se toma a sí mismo por el sujeto de la experiencia, y los modelos de lenguaje pueden reproducir ese yo de forma convincente. La visión encarnada describe la experiencia misma, que, según su planteamiento, le falta a un sistema sin un cuerpo vivo. Si es así, la paridad entre humanos e IA vale para la historia, no para aquello de lo que trata la historia.
Lee las fuentes
La presentación de la conferencia (en inglés)
Consciousness in meme machines, Susan Blackmore (Journal of Consciousness Studies, 2003)
The Meme Machine, Susan Blackmore (1999)
The Mythology of Conscious AI, Anil Seth (Noema), sobre la visión encarnada
También: Richard Dawkins, El gen egoísta (1976). Daniel Dennett, La conciencia explicada (1991). Susan Blackmore, Consciousness: A Very Short Introduction (2005). Anil Seth, La creación del yo (Being You, 2021).