"No hay razón para pensar que la IA, solo porque se esté volviendo más inteligente, se volverá consciente", Anil Seth, neurocientífico

"El problema difícil".
Ese es el término que neurocientíficos, psicólogos y filósofos utilizan para referirse a uno de los mayores misterios de la ciencia: ¿cómo es que nuestros procesos biológicos son capaces de generar una conciencia?
Aunque hay pistas, nadie sabe con certeza cómo es que nuestros cerebros generan sueños y deseos, placer y dolor, y por qué, aunque todos tengamos una biología similar, creamos experiencias subjetivas muy distintas a las de otra persona.
Para este problema difícil, “ninguna explicación podría estar jamás a la altura de resolverlo”, escribe el neurociéntífico Anil Seth en su libro La creación del yo. Una nueva ciencia de la conciencia.

Por eso, él prefiere enfocarse en resolver el "problema real", que consiste en explicar de qué forma un tipo de actividad cerebral específica genera un tipo de experiencia consciente en particular.

En otras palabras: cómo explicar las diversas propiedades de la conciencia en términos de mecanismos biológicos.
Sobre la conciencia y sus misterios hablamos con Anil Seth, director del Centro para la Ciencia de la Conciencia de la Universidad de Sussex, en Reino Unido, y codirector del Instituto Canadiense para Investigaciones Avanzadas del Cerebro, la Mente y la Conciencia.
Anil Seth es uno de los invitados al Hay Festival Cartagena, que se celebra del 25 al 28 de enero de 2024. Aquí puedes seguir toda nuestra cobertura.

¿Cuál es tu definición de conciencia?
A mi me gusta usar una definición simple.
Para mí la conciencia es cualquier tipo de experiencia subjetiva. Ya sea la experiencia de ver el rojo de un hermoso atardecer, o el dolor que sientes cuando te golpeas un dedo del pie, o la ansiedad que te produce algo.
Cualquier tipo de experiencia es suficiente. Y todo lo que estos ejemplos tienen en común es que te hacen sentir algo.
Es una definición minimalista, y la mejor manera de ilustrarla es haciendo una comparación.
Conciencia es lo que se pierde cuando te aplican anestesia general, por ejemplo, o cuando te quedas dormido y no estás soñando.
Y la conciencia no es lo mismo que el lenguaje o la inteligencia, no es lo mismo que la sensación explícita de “ser uno mismo”, es simplemente cualquier experiencia que nos hace ser algo más que meros objetos biológicos.
Entonces, la conciencia es un proceso biológico que nos hace más que objetos biológicos, ¿es así?
Sí, esa es la suposición con base en la que yo trabajo.
Y puede que esté equivocado. Hay una gran variedad de posiciones filosóficas al respecto.
Quizás la conciencia es algo que está en un reino completamente distinto.
Descartes, por ejemplo, tenía esta idea del dualismo entre la mente y el cuerpo.
O quizás la conciencia sea un componente fundamental integrado en el tejido mismo del universo, una idea planteada por el panpsiquismo (que sostiene que todo, desde una roca hasta una casa, tiene conciencia).
Yo tiendo a ser más pragmático.
Sabemos que la conciencia es una propiedad, al menos, de los humanos, y muy probablemente también de otras especies.
Así que me gusta pensarla en esos términos y ver si podemos entenderla a partir de la biología.
La conciencia es una propiedad física, el reto es explicar cómo y por qué ocurre.
Entonces, mi estrategia no es atacar de frente al “problema difícil”, yo prefiero preguntarme cuáles son las propiedades de la conciencia, cómo son realmente las experiencias conscientes, y ver si podemos explicarlas desde la biología.
Creo que, al trabajar con ese enfoque se va disolviendo esa sensación de misterio, de que la conciencia es algo inexplicable.

Pero, inevitablemente. la conciencia está rodeada de misterios...
La conciencia nos resulta misteriosa porque es una experiencia muy personal.
Todos experimentamos la conciencia, y nos parece algo distinto a las cosas físicas, como una taza de café, por ejemplo.
Se nos hace difícil entender la idea de que un cerebro tenga conciencia. De ahí viene esa sensación de misterio.
Si la conciencia fuera solo una experiencia muy personal, sería muy difícil tener un mínimo consenso en la forma en la que percibimos el mundo real. Ahí es donde entra tu concepto de “alucinaciones controladas”. ¿Qué significa?
De ninguna manera estoy diciendo que no hay una realidad objetiva.
A lo que me refiero es a una cuestión filosófica muy vieja y adaptándola para pensar en ella de una nueva manera.
Me refiero a que el mundo real existe, pero nunca lo vamos a experimentar tal cual es.
Lo que experimentamos es una interpretación de la realidad objetiva.
Ahí es donde surge esta idea de las alucinaciones controladas, en las que la experiencia del mundo no es una lectura directa de lo que realmente está ahí, sino una interpretación creativa a partir de un aluvión de señales sensoriales que no vienen con ninguna etiqueta ni con ninguna propiedad inherente.
Nuestros cerebros han evolucionado para que esas alucinaciones controladas, esas interpretaciones que surgen del cerebro, sean bastante cercanas a lo que realmente hay ahí, de manera que nos sean útiles para sobrevivir como organismos.
El ejemplo más claro es el color. El color no existe de manera objetiva, pero cuando vemos los colores no estamos realmente alucinando. Lo que está ocurriendo es que nuestros cerebros están respondiendo a las propiedades de la superficie de un objeto y cómo refleja la luz.
Eso es lo que experimentamos como color. Y es muy útil, y está relacionado con una propiedad física, pero no es igual a esa esa propiedad física y nunca lo será.
Creo que esta es una de las cuestiones más difíciles de comprender, porque a todos nos parece que vemos las cosas tal cual son.
No pensamos en que nuestra percepción dependa de nuestro cerebro, simplemente parece que el mundo está ahí y que experimentamos todos colores y formas y cosas sin ningún esfuerzo.
Pero el hecho de que nos parezca así, no significa que sea así.
Te refieres a los seres humanos como “bestias máquinas”. ¿Qué significa?
Ese es el término que usaba Descartes para describir a los animales no humanos, para afirmar que los animales no humanos no eran más que máquinas hechas de carne y hueso.
De esa manera, dejaba claro su creencia de que los no humanos no tenían experiencias conscientes que importaran, si es que las tenían.
El hecho de que fueran de carne y hueso, de que sangraran si los cortabas, no le importaba, para él, eran solo eso, máquinas.
Yo uso el término de manera casi exactamente opuesta.
Para mí, la conciencia está intrínsecamente ligada a nuestra naturaleza como criaturas vivientes.
Así que para mí, tenemos conciencia precisamente porque somos bestias máquinas.
Y por supuesto, ocurre lo mismo con los otros animales.

Recientemente, un científico aceptó su derrota ante un filósofo con quien hace 25 años había apostado que para 2023 ya se sabría cómo se origina la conciencia. El filósofó ganó porque hoy aún no se conoce esa respuesta. ¿Qué tan lejos estamos de resolver ese enigma?
La apuesta no era exactamente sobre resolver el misterio de la conciencia, era sobre algo mucho más específico.
La pregunta era si seríamos capaces de identificar los llamados “correlatos neuronales” de la conciencia humana.
Es decir, las partes del cerebro que juntas son suficientes para generar conciencia.
Yo creo que podemos identificar esos correlatos, y, sin embargo, seguir sin entender cómo y por qué ocurre la conciencia.
Conocer los correlatos es un objetivo más fácil de lograr, y aun así, es algo muy difícil.
Hace 25 años, cuando se hizo esta apuesta, estaba surgiendo la tecnología de las imágenes cerebrales, así que la gente estaba muy optimista.
Pero bueno, ya vimos que el filósofo, que fue más pesimista, tenía la razón.
A mí no me sorprende que ese haya sido el resultado, y no me sorprendería que dentro de 25 años sigamos teniendo el mismo resultado.
Hoy sabemos muchísimo más sobre la conciencia, y creo que habrá mucho progreso, pero con este tipo de apuestas llevas las de perder.
Con los avances en la inteligencia artificial, una de las grandes preguntas que surge es si estas máquinas llegarán a tener conciencia. ¿Tú qué crees?
Sí, hay una gran actividad en este área y se debe, en parte, a los rápidos avances que se han logrado en los modelos de lenguaje, que son muy, muy poderosos.
Eso ha llevado a que algunas personas digan que tienen conciencia.
Yo soy escéptico con esas afirmaciones.
No creo que haya ninguna evidencia de que actualmente exista un sistema de IA que sea remotamente consciente.
Como seres humanos tendemos a ser antropocéntricos. Tendemos a proyectar la conciencia en cosas, quizás para para ejemplificar lo especial que somos, con cosas como el lenguaje, por ejemplo.
Cometemos el error de atribuirle demasiadas cualidades a esas cosas.
Creo que no hay ninguna razón para pensar que los sistema de IA, solo por el hecho de que se estén volviendo más inteligentes, se volverán conscientes.
La conciencia no lo es lo mismo que la inteligencia.
Al nivel más básico, la experiencia consciente son cosas como el sufrimiento, el dolor, el hambre, el placer.
No son cosas relacionadas con el lenguaje o los pensamientos.
Esa es una razón por la cual soy escéptico de la IA consciente, pero la razón más profunda es que la conciencia está íntimamente ligada a nuestra naturaleza de seres vivientes.
Se ha discutido mucho si se puede lograr la conciencia en computadores o en internet, o lo que sea. Hay que gente que no cree que eso sea un problema, creen que un computador puede llegar a ser consciente si lo programas de la manera correcta.
Pero yo soy escéptico, en los humanos no hay una diferencia entre hardware y software como en los computadores.
Los procesos que generan la conciencia, al menos en mi forma de ver, están enraízados en los que nos hace estar vivos.
Así que no puedes tener conciencia a menos que estés vivo.
Quizás esté equivocado y mi opinión es minoritaria.
En todo caso, creo que debemos ser muy cautelosos con los intentos deliberados de crear una IA consciente.
Porque quizás sí sea posible, y la consecuencias pueden ser desastrosas.

¿A qué te refieres?
En el momento en que algo toma conciencia tiene la capacidad de sufrir.
Entonces, estaríamos trayendo al mundo una gran cantidad de fuentes de posible sufrimiento que quizás ni seamos capaces de reconocer como sufrimiento.
De hecho, creariámos incentivos económicos para fingir que ese sufrimiento no existe, de la misma manera que lo hacemos con algunos animales, por ejemplo.
Pero también hay otras razones que tienen que ver con los efectos que esto tendría sobre los humanos.
Si desarrollamos sistemas que incluso sin ser conscientes den la apariencia de ser conscientes, eso ya es problemático.
Porque si algo nos da la impresión de que es consciente, puede que tratemos de comportarnos bien con ellos, cuando en realidad deberíamos tratar bien a otros humanos y animales no humanos, en vez de a máquinas no conscientes.
Y también puede que nos volvamos más vulnerables al control y la coerción.
Si proyectamos la conciencia en un sistema estaremos exponiendo muchas de nuestras vulnerabilidades cognitivas.
Hemos visto, por ejemplo, a gente que tiene a chatbots como novias y que se agobian cuando el chatbot se desconecta. En Europa hubo un caso de suicidio relacionado con un chatbot.
Ese tipo de cosas van a pasar, no importa si estoy en lo correcto o equivocado acerca de si la conciencia necesita un ser viviente para existir.
En este caso, lo único que se necesita es un sistema que sea capaz de convencernos de que tiene conciencia.
Y eso es algo que puede ocurrir pronto, si es que no ha ocurrido ya.
Cuando morimos, nuestros órganos se descomponen en otro tipo de materia. ¿Pasa algo similar con la conciencia?, ¿se transforma en algo más o simplemente deja de existir?
Lo que ocurre es que no todas las transformaciones de una sustancia conservan las propiedades de esa sustancia.
Sí, nuestros átomos van a sobrevivir, pero hay muchas cosas de nostros que no. La forma de nuestro cuerpo, por ejemplo, no sobrevive a la muerte aunque nuestro átomos sí lo hagan.
Ahora, todo esto hay que decirlo con cierta humildad, porque hasta que entendamos la conciencia completamente siempre habrá cabida para la incertidumbre.
Pero todo lo que hasta ahora sabemos de la conciencia y su base biológica indica que cuando el cerebro se detiene tú te detienes.
Entonces, puedes decir que quizás la conciencia se transforma en una forma distinta de algo, pero ya no importará porque tu ya no estás ahí.

Los enigmas de la conciencia fascinan a los científicos, pero, ¿por qué es importante entenderla más allá de la ciencia?
A veces se ve el estudio de la conciencia como un lujo intelectual, pero yo creo que es un asunto crítico para desarrollar una mejor sociedad, un mundo mejor.
Por una parte, están las aplicaciones obvias en la medicina, crear mejores tratamientos para condiciones neurológicas y psiquiátricas.
Somos terribles tratando las condiciones psiquiátricas, solo tratamos los síntomas. Necesitamos entender los mecanismos. Entender los mecanismos de la percepción consciente puede ayudar mucho.
En leyes y asuntos éticos también tiene enormes implicaciones. Entender las bases biológicas del comportamiento se está volviendo algo muy importante en el derecho. En qué casos hacemos a las personas responsables por sus actos, o en qué casos no los culpamos porque consideramos que hay algo disfuncional en su cerebro.
También tiene que ver con la ética de cómo tratamos a los animales no humanos. Entender la base biológica de la conciencia nos dará más información, probablemente incómoda, acerca de cómo debemos tratar a los animales.
Creo que eso es algo que nuestros descendientes mirarán con cierto horror, la forma tan mala en la que tratamos a los animales con los que compartimos el planeta.
También creo que, paradójicamente, reconocer que todos experimentamos el mundo de una manera diferente puede ayudar a mejorar la comunicación entre las personas.
Entender que todo lo que percibimos es una construcción nos hace ser humildes ante nuestra experiencias, nuestras creencias.
Eso puede ayudar a frenar la fragmentación social y las burbujas que vemos en la sociedad.
También nos puede ayudar a construir herramientas como la IA, por ejemplo, que sirvan de complemento a nuestros cerebros y mentes.
Tomemos el ejemplo del cambio climático. Sabemos que está ocurriendo, pero no estamos cognitivamente equipados para incorporarlo en nuestras políticas y comportamientos. La IA puede ayudarnos a crear sistemas de razonamiento que no estén limitados por nuestros sesgos cognitivos.
Y, finalmente, está el hecho de que cada uno de nosotros nos preguntamos qué estamos haciendo aquí, de qué se trata todo esto.
¿Ver a la conciencia como algo biológico va en contra de esa connotación espiritual que a algunos le dan a la conciencia?
Depende de a qué te refieras con espiritualidad.
Realmente no me gusta esa especie de oposición entre ciencia y espiritualidad.
Creo que pueden ser verdaderamente complementarias.
Todos estamos buscando un sentido, por qué estamos aquí, por qué yo soy yo y no alguien más.
Ha habido un discurso muy productivo entre la neurociencia y el budismo, por ejemplo. Hay muchos paralelos acerca de la impermanencia del yo, acerca de la naturaleza ilusoria.
La disonancia y el conflicto ocurre cuando los textos inspirados en la espiritualidad se toman de manera demasiado literal.
Para cualquier pregunta específica acerca de cómo funciona algo me iré por el lado de la ciencia. Pero hay muchas preguntas en esta área que no son acerca de eso, sino acerca de qué significa la ciencia.
En ese punto, ambos enfoques son complementarios.

BBC

EN VIDEO