Ricardo Sanz, profesor de la Universidad Politécnica de Madrid y fundador del Laboratorio de Sistemas Autónomos de esa universidad, lleva más de dos décadas asistiendo a congresos sobre consciencia en las máquinas. Recuerda su primera convención, en Suecia, como una reunión de apenas 250 personas donde convivían la metafísica, la biología y la computación en dosis similares.
Sanz aclara una distinción que en español se pierde: el inglés separa consciousness, vinculada a lo metafísico, de awareness, la autopercepción del propio estado y del entorno. Su trabajo se concentra en esta segunda idea, no en replicar la experiencia subjetiva humana.
Por qué la mayoría de los investigadores no busca lo que muestra la ciencia ficción
Nada de esto se parece al robot Andrew Martin de El hombre bicentenario, de Isaac Asimov, que anhela volverse humano, ni a la pregunta que da título a la novela de Philip K. Dick en la que se basó Blade Runner. Sanz es explícito sobre los límites de su propio campo: no busca replicar la consciencia humana ni la animal, y deja fuera lo que los filósofos llaman qualia, la naturaleza misma de las sensaciones.
Lo que sí persigue es un sistema capaz de manejar cualquier imprevisto sin que un ingeniero tenga que programarlo a mano, incidente por incidente. Hoy, si un robot de reparto está por quedarse sin batería a mitad de camino, existe un programa específico para ese caso, y otro distinto si se cruza con una persona. Lo que falta, según Sanz, es un sistema unificado que le permita al robot incorporar cualquier situación nueva sin que cada excepción deba escribirse por separado.
El problema práctico: robots que no entienden lo que ven
Sanz ilustra el problema con un ejemplo de percepción fallida: un robot que se mueve guiado por un láser de barrido necesita darse cuenta de inmediato si ese láser empieza a fallar, porque de lo contrario terminará chocando contra los objetos que debería esquivar.
Hay un segundo escenario donde una comprensión más profunda del entorno resulta clave: cuando una persona le habla a un robot o le extiende un objeto, la máquina necesita interpretar la intención detrás del gesto, algo que los humanos procesan de forma natural pero que en un robot exige programar cada caso de manera rígida y poco flexible.
Vicent Botti, catedrático de la Universitat Politècnica de València y director del Instituto VRAIN, ofrece un ejemplo similar desde la teoría de agentes autónomos: un robot que planifica una ruta y encuentra una puerta cerrada debe percibir ese obstáculo y recalcular el camino, un comportamiento reactivo que se estudia desde los años noventa sin que nadie, subraya Botti, lo llame consciencia.
¿Para qué sirve realmente que una máquina sea consciente?
Un sistema capaz de generalizar de esa manera permitiría, según Sanz, robots que se desplazan mejor dentro de fábricas y que pueden trabajar junto a personas sin necesidad de que cada movimiento esté programado de antemano. El mismo profesor ofrece un ejemplo elocuente de lo contrario: un piloto automático que interpreta el cartel de una hamburguesería con una señal de stop pintada como una orden real de frenar en plena autopista, una confusión que muestra cuánto le falta a una máquina para entender el mundo, incluso cuando lo percibe con precisión.
Botti coincide en que no hace falta consciencia, en el sentido filosófico del término, para resolver estos problemas ni para automatizar procesos industriales o administrativos. Su posición sobre los modelos de lenguaje actuales es igual de tajante: no los considera conscientes bajo ningún criterio serio.
Qué dice la ciencia sobre los niveles de consciencia
Antes del auge de los grandes modelos de lenguaje, un artículo publicado en 2017 en la revista Science por los neurocientíficos Stanislas Dehaene, Hakwan Lau y Sid Kouider planteó una hipótesis influyente: la consciencia sería reproducible mediante una arquitectura de computación, entendida como un tipo particular de procesamiento de información que el cerebro realiza de forma física.
El trabajo distingue tres niveles. El C0 corresponde al grueso de la inteligencia humana ordinaria, capaz de reconocer objetos, comprender lenguaje y aprender por refuerzo. El C1 implica una relación entre el sistema cognitivo y los objetos que genera una representación mental de ellos. El C2, el más exigente, es la capacidad de un sistema para observar sus propios procesos internos, lo que deriva en metacognición.
Santiago Sánchez-Migallón, profesor de Filosofía, define la consciencia en términos más cercanos a la sintiencia: un campo fenoménico donde un sistema percibe colores, sonidos, sensaciones táctiles e incluso emociones. Para él, las emociones entran en esa definición porque buena parte de cómo los humanos captamos el mundo ocurre precisamente a través de ellas.
La pregunta que nadie quiere responder del todo: ¿y si de verdad sufren?
Sánchez-Migallón es escéptico sobre si el cómputo puro, tal como existe hoy, puede llegar a generar consciencia real; sostiene que a una máquina así habría que incorporarle algo más allá del código para que eso ocurra. Pero incluso como ejercicio hipotético, la pregunta abre implicaciones legales y morales que trascienden lo técnico.
Sanz plantea el dilema sin rodeos: si las máquinas se acercan a comportarse como un adulto capaz, en algún momento tendrán que asumir algún tipo de responsabilidad, y encarcelar a un coche autónomo por atropellar a alguien resulta, a todas luces, absurdo. Sánchez-Migallón fija el límite en otro lugar: si una máquina no puede sufrir, cualquier castigo carece de sentido, y solo si existiera esa capacidad de sufrir habría que considerarla sujeto de derechos y otorgarle protección legal, sin que eso elimine la responsabilidad del fabricante o del dueño del sistema.
Botti cierra el debate con una distinción práctica: para ejecutar una acción moral no hace falta ser consciente, un dron de combate puede elegir su propio blanco sin experimentar nada mientras lo hace. La diferencia real con los humanos, por ahora, sigue estando en la experiencia acumulada para resolver dilemas éticos genuinos, algo que ninguna máquina actual posee.
