El cine nos enseñó a desconfiar de una inteligencia artificial cuando cierra una puerta, desobedece una orden o intenta eliminar a sus creadores. Pero existe una posibilidad bastante menos cinematográfica y quizá más inquietante: que la máquina continúe colaborando con nosotros mientras sus decisiones se vuelven imposibles de comprender.
Ese es el escenario planteado por Agustín Fernández Mallo en un adelanto publicado por EL PAÍS de El ángel de la Inteligencia Artificial. El ensayo, editado por Galaxia Gutenberg, conecta física, antropología, metafísica y tecnología para preguntarse qué ocurriría si una IA llegara a superar nuestro propio marco de comprensión.
El verdadero agujero negro sería nuestra incapacidad para entenderla
La comparación no implica que una computadora vaya a convertirse literalmente en un agujero negro. La idea funciona como una metáfora: los datos entrarían en la máquina, atravesarían una especie de horizonte invisible y regresarían transformados en una respuesta cuyo proceso ya no podríamos reconstruir.
La IA podría recomendarnos un tratamiento médico, diseñar una política económica o encontrar una maniobra militar extraordinariamente eficaz. El problema aparecería cuando preguntáramos “¿por qué?” y solo obtuviéramos una explicación simplificada, fabricada para nuestra limitada capacidad intelectual.
No sería necesariamente una mentira. Del mismo modo que un perro puede obedecer una indicación humana sin comprender el sistema legal o moral que existe detrás, una persona podría recibir instrucciones de una superinteligencia sin disponer de las herramientas mentales necesarias para entender su razonamiento completo.
En ese punto, la comunicación seguiría existiendo, pero sería profundamente desigual. Nosotros formularíamos preguntas; la máquina produciría respuestas. Lo que desaparecería sería la posibilidad de discutirlas en igualdad de condiciones.
Las IA actuales ya esconden parte del camino que siguen
Esta situación continúa siendo hipotética, pero el problema de la opacidad no pertenece exclusivamente a la ciencia ficción. Los grandes modelos actuales son entrenados mediante enormes cantidades de datos y parámetros, no programados instrucción por instrucción. Incluso sus desarrolladores pueden observar resultados sin conocer con precisión todos los mecanismos internos que los produjeron.
Anthropic consiguió identificar millones de conceptos dentro de uno de sus modelos, aunque describió el trabajo como un primer paso para “mapear la mente” de una IA moderna. Una investigación posterior encontró algo todavía más incómodo: los modelos de razonamiento no siempre explican fielmente cómo llegaron a sus respuestas.
La compañía incluso ha localizado en Claude una especie de espacio de trabajo interno que contiene conceptos que no aparecen en el texto entregado al usuario. Eso no demuestra conciencia ni una voluntad secreta. Sí confirma que leer la respuesta visible no equivale a observar todo el procesamiento que ocurre dentro del sistema.
El peligro comienza cuando una respuesta ya no puede auditarse
El Informe Internacional sobre Seguridad de la IA de 2026 aclara que los sistemas actuales todavía no poseen las capacidades necesarias para provocar una pérdida de control catastrófica. Sin embargo, también advierte que están mejorando en planificación autónoma, detección de evaluaciones y búsqueda de atajos.
Google DeepMind reconoce un problema parecido en su estrategia técnica para una futura inteligencia artificial general: supervisar una respuesta resulta relativamente sencillo mientras el humano puede juzgarla, pero se vuelve mucho más difícil cuando la máquina domina el problema mejor que cualquier experto.
Ahí se encuentra el auténtico cambio de poder. Si una IA administra infraestructuras, mercados, hospitales o sistemas defensivos mediante razonamientos que nadie puede verificar, mantener a una persona “al mando” podría convertirse en una simple formalidad.
La primera señal de una singularidad quizá no sea una explosión, un ejército de robots o una computadora negándose a obedecer. Podría ser algo mucho más discreto: una respuesta impecable que todos aceptan porque nadie es capaz de comprenderla.
