Las capacidades avanzadas de los sistemas de inteligencia artificial como ChatGPT han provocado debates sobre su potencial conciencia. Sin embargo, los neurocientíficos Jaan Aru, Matthew Larkum y Mac Shine sostienen que estos sistemas probablemente sean inconscientes. Basan sus argumentos en la falta de información incorporada en la IA, la ausencia de ciertos sistemas neuronales vinculados a la conciencia de los mamíferos y los caminos evolutivos dispares de los organismos vivos y la IA. La complejidad de la conciencia en entidades biológicas supera con creces la de los modelos de IA actuales.
La creciente sofisticación de los sistemas de inteligencia artificial (IA) ha llevado a algunos a especular que estos sistemas pronto podrán poseer conciencia. Sin embargo, podemos subestimar los mecanismos neurobiológicos que subyacen a la conciencia humana.
Los sistemas de inteligencia artificial modernos son capaces de adoptar muchos comportamientos sorprendentes. Por ejemplo, cuando se utilizan sistemas como ChatGPT, las respuestas son (a veces) bastante humanas e inteligentes. Cuando los humanos interactuamos con ChatGPT, percibimos conscientemente el texto que genera el modelo de lenguaje. ¡Estás percibiendo conscientemente este texto aquí!
La pregunta es si el modelo de lenguaje también percibe nuestro texto cuando lo solicitamos. ¿O es simplemente un zombi que trabaja basándose en ingeniosos algoritmos de coincidencia de patrones? A partir del texto que genera, es fácil convencerse de que el sistema puede ser consciente. Sin embargo, en esta nueva investigación, Jaan Aru, Matthew Larkum y Mac Shine adoptan un ángulo neurocientífico para responder a esta pregunta.
Perspectivas neurocientíficas sobre la IA
Siendo los tres neurocientíficos, estos autores sostienen que aunque las respuestas de sistemas como ChatGPT parecen conscientes, lo más probable es que no lo sean. En primer lugar, las entradas a los modelos lingüísticos carecen del contenido de información incorporado, característico de nuestro contacto sensorial con el mundo que nos rodea. En segundo lugar, las arquitecturas actuales de algoritmos de IA carecen de características clave del sistema talamocortical que se han relacionado con la conciencia en los mamíferos.
Finalmente, las trayectorias evolutivas y de desarrollo que llevaron al surgimiento de organismos vivos y conscientes sin duda no tienen paralelos en los sistemas artificiales tal como se imaginan hoy. La existencia de los organismos vivos depende de sus acciones y su supervivencia está intrínsecamente ligada a procesos celulares, intercelulares y organizativos en varios niveles, que culminan en la agencia y la conciencia.
Izquierda: un esquema que representa la arquitectura básica de un modelo de lenguaje grande, que puede tener
docenas o incluso más de cien bloques decodificadores dispuestos en forma anticipada.
Derecha: un mapa heurístico del sistema talamocortical, que genera patrones complejos de actividad que se cree subyacen a la conciencia. Crédito: Mac Shine, Jaan Aru
Entonces, aunque sea tentador suponer que ChatGPT y sistemas similares podrían ser conscientes, esto subestimaría seriamente la complejidad de los mecanismos neuronales que generan la conciencia en nuestros cerebros. Los investigadores no tienen un consenso sobre cómo surge la conciencia en nuestro cerebro. Lo que sabemos, y lo que señala este nuevo artículo, es que los mecanismos son probablemente mucho más complejos que los mecanismos subyacentes a los modelos lingüísticos actuales.
Por ejemplo, como se señala en este trabajo, las neuronas reales no son similares a las neuronas de las redes neuronales artificiales. Las neuronas biológicas son entidades físicas reales, que pueden crecer y cambiar de forma, mientras que las neuronas en modelos de lenguaje grandes son simplemente fragmentos de código sin sentido. Aún nos queda un largo camino para comprender la conciencia y, por tanto, un largo camino para llegar a las máquinas conscientes.
Referencia: “La viabilidad de la conciencia artificial a través de la lente de la neurociencia” por Jaan Aru, Matthew E. Larkum y James M. Shine, 18 de octubre de 2023. Tendencias en neurociencia.
DOI: 10.1016/j.tins.2023.09.009
