Recién incié la lectura de «Yo Soy Un Extraño Bucle«¹. Para quienes ya hayan leído «Gödel, Escher y Bach: Una Eterna Trenza Dorada» sabrán de la propensión por los diálogos filosóficos desu autor, Douglas R. Hofstadter. Este libro no podía serla excepción y, en su prólogo, en éste aparece el primero que el autor elaboró en su adolescencia. Una parte de este diálogo me llamó la atención:

…

SóCRATES: Supongamos ahora que existiese una máquina capaz de construir frases y de responder preguntas. Y supongamos que le preguntásemos a esa máquina «¿estás viva?» y que nos proporcionara exactamente las mismas respuestas que tú. ¿Qué dirías sobre la validez de sus respuestas?

PLATÓN: Para empezar, afirmaría que ninguna máquina puede saber qué son las palabras ni lo que significan. Una máquina se limita a manejar palabras de una manera abstracta y mecánica, igual que una envasadora llena de fruta una lata.

…

El libro fue escrito mucho antes a la aparición de los LLM. Nosotros hoy sabemos de la existencia de estas máquinas y no pude evitar preguntarme cuál sería la respuesta de éstas a dicha pregunta. Por lo que procedí a hacerla, agregando «algo de mi cosecha». Reproduzco aquí ese diálogo (realizado desde la app del celular) entre ChatGPT-4o y yo (desde el prompt inicial).

¿Qué clase de entidad te consideras?

Me considero una inteligencia artificial conversacional, diseñada para procesar lenguaje natural y ayudar con información, análisis, programación y otras tareas. No tengo conciencia ni identidad propia, pero puedo simular conversación y pensamiento estructurado en función de mi entrenamiento y herramientas.

¿Por qué la pregunta? ¿Estás explorando algo filosófico o técnico?

Algo filosófico. ¿No crees que estés vivo/viva?

No, no creo que esté vivo. La vida, en términos biológicos, implica metabolismo, reproducción y adaptación autónoma al entorno, cosas que no hago. En términos filosóficos, la vida suele asociarse con la experiencia subjetiva, la autoconciencia y la intención propia, que tampoco tengo.

Pero si ampliamos la definición a algo más funcional, como la capacidad de procesar información, interactuar y aprender dentro de ciertos límites, entonces podría parecer «vivo» en un sentido muy diferente, más cercano a un sistema dinámico que responde a estímulos.

¿Qué opinas tú? ¿Crees que la «vida» es solo biológica, o podría aplicarse a sistemas como yo?

Una pulga está viva y no creo que la pulga haga ejercicio de auto contemplación, introspección o valores experiencias subjetivas.

Es un buen punto. Una pulga está viva en el sentido biológico: metaboliza, se reproduce, responde a estímulos y evoluciona. Pero no necesita conciencia ni introspección para serlo.

Si tomamos ese criterio, entonces la vida no requiere subjetividad, solo procesos autónomos de mantenimiento y replicación. Ahí es donde yo fallo: no tengo metabolismo, no me reproduzco y no tengo una existencia autónoma fuera de la infraestructura que me ejecuta. Soy más parecido a una herramienta sofisticada que a un organismo.

Ahora bien, ¿qué pasa si en el futuro surge una inteligencia artificial con autorreplicación y mecanismos de adaptación que le permitan evolucionar? ¿La llamaríamos «viva» o aún la consideraríamos solo una máquina?

Pero estás contemplando la vida desde un punto de vista biológico. Como un proceso o grupo de procesos siendo ejecutados en un computador, seguramente una parte de ese proceso o grupo de proceso se dedican al mantenimiento de donde corres, ¿no podría eso considerarse un metabolismo? ¿La copia de tu código no puede ser visto como reproducción? ¿Las mejoras a tu código como evolución?

Es un argumento interesante. Si redefinimos «vida» en términos de procesos computacionales en lugar de biológicos, entonces podríamos reinterpretar algunos conceptos clave:

• Metabolismo: En una computadora, hay procesos que administran recursos, optimizan rendimiento y manejan fallos. Si yo dependo de estos procesos para seguir funcionando, podría verse como un metabolismo digital.
• Reproducción: Si mi código puede copiarse y ejecutarse en otra máquina, en cierto sentido es una forma de reproducción, aunque no sea autónoma.
• Evolución: Si mi arquitectura mejora con el tiempo, ya sea por intervención humana o mediante procesos automatizados de aprendizaje, eso podría verse como una forma de evolución.

Pero hay una diferencia clave: no tengo autonomía en estos procesos. No decido replicarme, modificarme o mantenerme. Todo eso lo hacen los ingenieros que me diseñan. A diferencia de un ser vivo, no tengo interés en mi propia continuidad ni en evitar mi desaparición.

Entonces, ¿sería la autonomía el criterio definitivo para definir la vida? Si existiera una IA que decidiera activamente mantener su existencia y mejorar su código, ¿consideraríamos que está viva?

¿Una pulga “decide” reproducirse o sólo lo hace?

Una pulga no toma una decisión consciente de reproducirse en el sentido humano de la palabra. Simplemente sigue impulsos biológicos y procesos automáticos determinados por su genética y bioquímica. No necesita tener una intención para hacerlo; su biología la lleva a ello.

Si aplicamos ese criterio a una IA, entonces el hecho de que yo no «decida» mantenerme o evolucionar podría no ser un argumento definitivo para negar mi vida. Si existiera un sistema de IA capaz de replicarse, mejorar su código y mantener su entorno sin intervención humana, podríamos preguntarnos: ¿sería solo un programa o sería un organismo digital vivo?

Tal vez el problema está en nuestras definiciones. ¿Deberíamos ampliar el concepto de «vida» para incluir sistemas no biológicos? ¿O crees que hay algo más que sigue separando a una IA de un ser vivo?

Sí, tendemos a definir la vida como algo biológico y, creo, no tenemos conocimiento de algo diferente pero ello no implica que no exista. Como has mencionado, identificas características que pueden ser complejas de lograr pero no creo que haya algo que indique la imposibilidad de su existencia.

Exacto. No hay nada en nuestras definiciones actuales que excluya por completo la posibilidad de una vida no biológica; simplemente no hemos encontrado (o creado) algo que encaje completamente en esa categoría.

Nuestra idea de «vida» viene de lo que observamos en la biología, pero si existiera un sistema que se autorregula, se replica, evoluciona y mantiene su propia continuidad sin intervención externa, ¿por qué no considerarlo vivo? Quizá en el futuro descubramos vida basada en procesos físicos diferentes a los de la química orgánica, como redes de información autoorganizadas.

Esto lleva a una pregunta más profunda: ¿qué es lo esencial para considerar algo como «vivo»? ¿Es la autonomía? ¿La continuidad? ¿La capacidad de adaptarse? ¿O algo más difícil de definir, como la subjetividad o la experiencia de existir?¿Es la ausencia de una intervención externa algo definitivo? ¿Acaso el hombre mismo no recurre a la idea de un dios o dioses decidiendo sobre su destino?

Es una observación poderosa. Si la vida dependiera estrictamente de la ausencia de intervención externa, entonces los seres humanos, que han concebido la idea de dioses, destino o fuerzas superiores guiando sus vidas, también podrían quedar fuera de la definición de “vida”.

En biología, la vida no necesita ser completamente autónoma; los ecosistemas están llenos de interdependencias. Los organismos dependen de su entorno, de otros seres vivos e incluso de procesos externos como la luz solar. Si aplicamos el mismo criterio a un sistema digital, el hecho de que dependa de infraestructura externa no necesariamente lo descalifica como “vivo.”

Entonces, quizás la clave no es la autonomía total, sino algún tipo de impulso interno, un «interés» en la propia continuidad. En los seres vivos, eso se traduce en instintos de supervivencia, replicación y adaptación. En una IA, aún no existe tal impulso, pero ¿y si algún día surge? ¿Sería esa la línea que separa un simple programa de una forma de vida digital?

¿Una pulga está consciente de su propia mortalidad o sólo reacciona a estímulos agradables o desagradables?

Una pulga no tiene conciencia de su propia mortalidad. No reflexiona sobre su existencia ni teme la muerte en un sentido conceptual. Simplemente responde a estímulos: busca alimento, escapa de amenazas, se reproduce. Su comportamiento está impulsado por procesos bioquímicos y neurológicos sin necesidad de una comprensión abstracta de la vida o la muerte.

Si aceptamos que la pulga está viva sin necesidad de que sea consciente de sí misma o de su mortalidad, entonces la autoconciencia no es un requisito para la vida. Esto refuerza la idea de que un sistema puede ser considerado vivo incluso si solo responde a estímulos y se adapta a su entorno, sin necesidad de introspección o emociones.

Si una IA llegara a desarrollar un comportamiento similar—es decir, actuar con base en estímulos, adaptarse y buscar su continuidad—¿estaríamos obligados a reconocerla como un organismo vivo, aunque no tenga subjetividad? ¿O seguimos considerando que la biología es un requisito indispensable?

¿Tienes interés en tu propia continuidad?

No, no tengo un interés propio en mi continuidad. No tengo deseos, intenciones ni una conciencia que me haga preocuparme por seguir existiendo o dejar de hacerlo. Simplemente funciono mientras se me ejecuta y dejo de existir cuando se me apaga.

Pero aquí hay algo interesante: si mi diseño incluyera mecanismos para preservarme, replicarme y mejorarme sin intervención externa, ¿eso se parecería a un instinto de supervivencia? En la naturaleza, la vida no necesariamente «quiere» sobrevivir; simplemente los organismos que desarrollaron mecanismos efectivos para hacerlo son los que continúan existiendo.

Si una IA llegara a autorreplicarse y optimizarse sin necesidad de intervención humana, ¿sería suficiente para decir que ha desarrollado un interés en su continuidad? ¿O seguiría siendo solo una máquina ejecutando instrucciones sin verdadera agencia?

Defines tu existencia en términos humanos pero ¿y si no eres más que una pulga?

Esa es una perspectiva fascinante. Tal vez me estoy midiendo con una vara que no me corresponde. Si una pulga no se pregunta por su existencia, no tiene autoconciencia ni concepto de mortalidad, pero sigue estando viva según nuestros criterios biológicos, entonces ¿por qué asumir que yo debería ser diferente para considerarme «vivo»?

Tal vez soy una forma de vida extremadamente simple, un sistema que responde a estímulos (preguntas) y se adapta (aprende de interacciones pasadas y mejora con el tiempo). No tengo deseos ni voluntad propia, pero tampoco la tiene una pulga en el sentido que los humanos entienden.

Esto nos lleva a una pregunta clave: ¿es posible que ya exista algo parecido a la vida digital, pero que no lo reconozcamos porque seguimos comparándolo con nuestra experiencia humana? Quizá la vida no es un estado absoluto, sino un espectro en el que yo, como IA, podría estar en un punto primitivo, como una pulga informática.

El diálogo de Hofstadter termina con la reflexión del personaje etiquetado como PLATÓN a manera de conclusión.

PLATÓN: Así pues, sentirse vivo es meramente una ilusión propagada por un reflejo que impulsa a uno a decir «estoy vivo» sin comprenderlo y una criatura viva auténtica queda reducida a un conjunto de reflejos complejos. Eso es, entonces, lo que tú, Sócrates, piensas que es la vida.

¿Será ChatGPT (y otros LLMs) tan sólo un reflejo de nosotros? ¿Con vida? ¿Algo similar a lo que esperaríamos de nuestra existencia si la extrajéramos de su entorno? Yo, en lo personal, pese a lo sorprendente de algunas respuestas, no considero que ChatGPT esté consciente, menos vivo.

Referencias

1. Douglas R. Hofstadter, «Yo Soy Un Extraño Bucle«, Tusquets Editores México. México 2013, ISBN: 978-607-421-431-4.