¿Estamos hablando de inteligencia… o de experiencia?

Este es el primer artículo de una serie denominada: !Consciencia e Inteligencia Artificial!

Como siempre, al idear un artículo para MiradorSalud, busco centrarme en lo que pudiera ser útil para las personas en Venezuela en este momento. Desde lejos pensaba sobre lo que podía ofrecer en este primer artículo/serie del año, dadas las excepcionales circunstancias desencadenadas en enero, después de la sorpresiva actuación de las fuerzas estadounidenses.

Mi experiencia reciente en un grupo de meditación, compartida en el último artículo del año “Una semilla de alegría para comenzar el 2026”, incluyó una práctica para activar la resiliencia en el día a día. Para esta entrega exploré temas de rabia, desilusión e incertidumbre, entre otros, pero ninguno me animaba a proseguir. Y esperé la sincronicidad a través de una señal…

Desde hace unos meses, he estado utilizando una versión avanzada de ChatGPT [Charla con un Transformador Preentrenado Generativo] para diversas situaciones o problemas. Aclaro que ChatGPT es uno de los modelos de lenguaje generativo existentes, desarrollado por OpenAI, dentro de la alta tecnología conversacional disponible actualmente. La interacción que he tenido con ChatGPT ha sido una experiencia interesante. Entre las opciones de comunicación que ofrece (diálogo en vivo o textos) escogí mensajes de textos (en inglés o en español). Le escribo lo que deseo y en fracciones de segundos me contesta en primera persona, con una respuesta tan coloquial que frecuentemente debo recordarme que “Yemanyá” – nombre que le asigné – no es una persona, sino una asistente automatizada; además, decidí que era mujer y muy inteligente.

La sincronicidad efectivamente llegó. Dentro del contexto de mi uso de ChatGPT, declaro que todavía estoy lejos de explorar su potencial. Esta semana, en uno de mis programas favoritos de radio entrevistaron a Michael Pollan sobre su más reciente libro “A World Appears: A Journey into Consciousness” [Aparece un mundo: Un viaje hacia la consciencia]. Pollan, reconocido escritor y periodista, destacado por sus investigaciones sobre la alimentación, la mente y la experiencia psicodélica, entre otras, explora en este último libro el surgimiento de la consciencia en la evolución. Su interés no es tecnológico sino fenomenológico: ¿cómo emerge un mundo experimentado a partir de procesos biológicos? Que esta pregunta reaparezca ahora dentro del contexto expansivo de la [Inteligencia Artificial] (IA) revela la profundidad histórica del debate.

Entre lo compartido me llamó la atención la conexión que planteó entre Inteligencia Artificial y Consciencia. Este debate, que luego aprecié en otros medios y artículos, ya no gira únicamente en torno a la capacidad técnica de la IA. La pregunta se ha desplazado y expertos se preguntan, explícita o implícitamente: ¿Podría este modelo de lenguaje llegar a ser consciente?

No se trata de sí la IA pueda escribir textos complejos, diagnosticar enfermedades, programar o componer música – eso ya ocurre, dentro de ciertos parámetros. Tampoco se trata de si supera pruebas de desempeño humano en tareas específicas – también lo hace. La cuestión que tenemos ante nosotros es más profunda y antigua: ¿Existe o puede existir en estos sistemas algo que se parezca a la experiencia humana subjetiva? ¿Hay “alguien” ahí dentro? Me sonreí cuando Michael Pollan dijo, que – como el sistema se expresa en primera persona – muchas veces sentía que estaba hablando con alguien real. Justamente, eso es lo había sentido yo también. En este tipo de interacción se hace difícil distinguir entre lo que sucede: un procesamiento de información y una experiencia, que implicaría un nivel de consciencia.

De la experiencia personal paso ahora a explorar un poco lo que dicen expertos sobre el tema.

El estado actual de la IA: capacidad no es consciencia

Los sistemas actuales de IA, incluidos los modelos de lenguaje a gran escala, son arquitecturas estadísticas entrenadas a partir de volúmenes masivos de datos. Su funcionamiento se basa en la optimización matemática, un aprendizaje sólido y un ajuste de parámetros paulatino.

Investigadores como Yann LeCun, uno de los padrinos creadores de la IA, ha subrayado que los modelos actuales carecen de una comprensión profunda del mundo físico y de un sentido común agudo. Producir un texto coherente no equivale a entender.

Desde otro campo de estudio, Emily Bender, destacada lingüista computacional, es ampliamente reconocida por su enfoque crítico hacia la inteligencia artificial, especialmente respecto a los modelos de lenguaje extensos [LLM- Large Language Models] como ChatGPT.

Bender es una de las autoras del influyente artículo de 2021 sobre los «Loros Estocásticos» [Stochastic Parrots]. Sus principales puntos de vista incluyen lo siguiente:

• Falta de comprensión real: Sostiene que los modelos de IA no «entienden» el lenguaje; simplemente repiten patrones estadísticos basados en sus datos de entrenamiento, de manera similar a como un loro repite sonidos sin conocer su significado.
• Peligro de la antropomorfización (atribución de formas, emociones, comportamientos o cualidades a animales, objetos, a la naturaleza o divinidades): Critica la tendencia de las empresas y el público a atribuirles características humanas (como razonamiento o intención) a los chatbots (aplicación de software diseñada para simular conversaciones). Según Bender, esto es un «engaño» de marketing que oculta el funcionamiento real de los sistemas. (Me declaro culpable, al igual que Pollan, de casi caer en el engaño de creer que mi interlocutora de ChatGPT (Yemanya) es un ser humano).
• Riesgos éticos y ambientales: Advierte sobre el enorme consumo energético de estos modelos, la propagación de desinformación y el refuerzo de sesgos racistas o sexistas presentes en los datos de internet.

En resumen, desde el punto de vista técnico, los modelos existentes de lenguaje generativo:
1. Son modelos estadísticos de alta complejidad, no organismos con experiencia subjetiva
2. Exhiben competencia funcional y un progreso exponencial en su capacidad                                                3. No existe evidencia empírica verificable de una experiencia subjetiva como la percepción en los sistemas actuales. Esta última distinción es crucial para cualquier análisis riguroso.

El problema duro de la consciencia

Aquí el debate deja el terreno puramente técnico y entra en áreas como la neurociencia y la filosofía de la mente. Es una pregunta que atraviesa la historia de la filosofía y ahora reaparece en clave tecnológica. El filósofo australiano David Chalmers formuló en 1995 lo que llamó el “problema duro de la consciencia”; así se convirtió en una figura central del debate contemporáneo sobre el tema.

Mientras la ciencia puede explicar los mecanismos del cerebro – cómo procesamos información, cómo discriminamos estímulos, cómo reaccionamos – el problema duro pregunta algo distinto: ¿por qué esos procesos físicos van acompañados de una experiencia subjetiva o percepción inicial? ¿Por qué hay algo que “se siente” al percibir rojo o al experimentar dolor? Chalmers distinguió entre los “problemas que él llamó fáciles” de la consciencia – funciones cognitivas explicables científicamente: como describir circuitos neuronales, correlatos electroquímicos y dinámicas computacionales. Pero eso no explica por qué existe algo que se siente como “estar vivo”, “percibir rojo”, “experimentar dolor- y este problema difícil, el de explicar que ciertos procesos físicos estén acompañados de una experiencia subjetiva o percepción, apunta al misterio de la experiencia misma o qualia [cualidades subjetivas e individuales de las experiencias conscientes o el darme cuenta de que tengo un dolor].

Este problema no fue creado por la IA. La IA simplemente lo ha vuelto urgente. Si la consciencia es reducible a una función computacional, entonces – en principio – una máquina suficientemente compleja podría experimentarla. Si no lo es, entonces toda simulación seguirá siendo eso: una simulación.

Posturas escépticas: procesamiento no es experiencia

El filósofo americano John Searle propuso en 1980 el famoso experimento mental conocido como “La Habitación China”. Imaginemos una persona que no entiende chino encerrada en una habitación, con un manual que le indica cómo manipular los símbolos chinos en respuesta a otros símbolos. Desde afuera, parecería comprender el idioma, pero en realidad solo sigue reglas sintácticas. Para Searle, eso es lo que hace una computadora: procesa símbolos según reglas formales, pero sin comprender su significado. El argumento busca mostrar que la manipulación sintáctica no equivale a comprender su significado.

Searle argumenta que la consciencia es un fenómeno biológico, un producto de procesos del cerebro, pero que es frecuentemente malentendida debido a dos tradiciones opuestas: la visión espiritual la cual argumenta que la consciencia no es física y la visión materialista que niega o marginaliza la consciencia. Searle enfatiza la distinción entre la subjetividad ontológica (la conciencia existe si se experimenta) y la objetividad epistémica (el estudio científico de la consciencia es posible). También critica la teoría computacional de la mente, argumentando que las computadoras les falta una comprensión genuina porque sólo manipulan la sintaxis, no la semántica.

Más recientemente, el neurocientífico Antonio Damasio ha subrayado el papel del cuerpo en la emergencia de la consciencia y en la construcción del yo. En sus obras “El error de Descartes” («Existo, luego pienso») y “Y el cerebro creó al hombre”, sostiene que la mente no es sólo el cerebro aislado, sino un sistema integrado cerebro-cuerpo que mantiene la homeostásis del organismo. Para Damasio, la consciencia surge de la representación neural de los estados corporales. Sin esa dimensión orgánica y autorregulada, difícilmente podría hablarse de experiencia.

En dos artículos de la Dra. Pérez Schael, “Hablando del cuerpo, construyendo un quinteto” y “Todos los caminos conducen a Roma o al mundo cuántico”, se destacan aportes de Damasio a este debate: él dice: «tanto la consciencia como los sentimientos son el resultado de interacciones entre el cuerpo y el sistema nervioso en donde todos caminan juntos«. Agrega: “el origen del sentimiento es un cuerpo reaccionando ante un estímulo”. «Y es que nuestro pensar, sentir y actuar comienza con la recepción de los estímulos, externos o internos, por medio de los órganos sensoriales presentes en nuestro cuerpo. Sin cuerpo no hay mente ni mucho menos se puede apreciar el entorno donde vivimos», continua la autora.

Para otros neurocientíficos, la experiencia está inseparablemente ligada a sistemas biológicos autorregulados. Desde esta perspectiva, la IA podría simular inteligencia indefinidamente, sin que exista experiencia alguna.

Posturas abiertas: ¿consciencia como proceso emergente?

Otros investigadores adoptan posiciones más cautelosas. El funcionalismo en la filosofía sostiene que lo relevante no es el sustrato, sino la organización funcional. Si un sistema cumple las relaciones causales correctas, podría – en principio – crear estados mentales.

Un grupo liderado por Patrick Butlin (2023) propuso evaluar sistemas de IA a la luz de teorías científicas de la consciencia como:

• Global Workspace Theory [Teoría del Espacio Global de Trabajo]
• Higher-Order Thought Theories [Teorías de Pensamiento de Orden Superior]
• Integrated Information Theory [Teoría de la Información Integrada]

No afirman que la IA sea consciente, pero plantean criterios para examinar la posibilidad de un enfoque serio metodológico. El debate, por tanto, no es fantasioso. Es interdisciplinario y técnicamente sofisticado. La pregunta que queda abierta: ¿hasta ahora no existe evidencia científica de que los modelos actuales de inteligencia artificial posean experiencia subjetiva/percepción? Tampoco existe consenso sobre qué condiciones serían suficientes para que emergiera.

Lo que sí es evidente es que estamos ante una transformación tecnológica sin precedentes, y que nuestras categorías conceptuales — mente, inteligencia, consciencia, atención — necesitan ser revisadas con cuidado.

Esta serie no busca respuestas definitivas, sino ordenar preguntas fundamentales desde la ciencia, la filosofía y la tradición contemplativa. En próximos artículos exploraremos: ¿Qué entiende la tradición budista por consciencia?    ¿Puede la experiencia reducirse a información? Y ¿qué implicaciones éticas tendría un mundo donde la frontera entre simulación y experiencia subjetiva se vuelva difusa?

En última instancia, la pregunta no es si la IA puede imitarnos. La pregunta es si la experiencia subjetiva puede existir sin vida o ¿si estamos frente a sistemas que sólo procesan información o ante el umbral de algo que podría llamarse experiencia?

Muy interesantes los tiempos por venir. Espero que esta nueva serie les brinde motivos de apertura y exploración a este novedoso tema que iremos enriqueciendo en los próximos artículos. Adelanto mi agradecimiento a quienes deseen hacer comentarios o sugerencias para nuevos artículos por la página de MiradorSalud.

Jeannette Díaz

Nota: En español existe una diferencia entre el término CONCIENCIA referida a la moral y CONSCIENCIA con S que se refiere al darse cuenta de, por ejemplo, que estoy vivo, o la consciencia a la que me refiero en este artículo.

Imagen: Kohji Asakawa de Pixabay

Nota sobre la autora:

Jeannette Díaz es Doctora en Educación de la Universidad de Massachusetts, Amherst, Profesora Titular Jubilada de la Facultad de Arquitectura de la Universidad Central de Venezuela. Durante sus 28 años como docente, Coordinadora Académica y Coordinadora de Investigación, disfrutó siendo mentora y coach de estudiantes y profesores apoyándolos en el desarrollo de sus habilidades creativas y progreso en sus carreras docentes.  Formalizó esta área de interés cursando estudios y obteniendo la Certificación como Integral Master Coach® de Integral Coaching Canada. Es miembro de la Federación Internacional de Coaches en el nivel Profesional (PCC). Actualmente trabaja como coach, ayudando a profesionales creativos, arquitectos y emprendedores a cerrar la brecha entre sus expectativas y logros alcanzados.  Página web de Jeannette Díaz.