Cuando el papa León XIV presentó Magnifica Humanitas, su primera encíclica dedicada a los riesgos y desafíos de la inteligencia artificial, hubo un detalle que llamó especialmente la atención fuera del ámbito religioso. Entre los invitados no solo había representantes de la Iglesia o académicos tradicionales. También estaba Christopher Olah, investigador de Anthropic y una de las figuras más respetadas (y a la vez más inquietas) dentro del mundo de la IA.
No fue una invitación simbólica. Su presencia reflejaba algo mucho más profundo: el creciente miedo a que la humanidad esté construyendo sistemas de inteligencia artificial que ni siquiera sus propios creadores terminan de comprender.
El gran problema de la IA moderna es que funciona demasiado bien para lo poco que entendemos sobre ella
Durante años, Silicon Valley vendió la inteligencia artificial como una revolución tecnológica inevitable. Y lo cierto es que los resultados son impresionantes. Modelos como ChatGPT, Claude o Gemini ya escriben, programan, traducen, resumen documentos y mantienen conversaciones con una naturalidad que hace apenas una década parecía ciencia ficción. Pero detrás de esa apariencia sofisticada existe un problema incómodo.
Los grandes modelos de lenguaje funcionan mediante redes neuronales gigantescas compuestas por millones (o directamente miles de millones) de conexiones matemáticas. El sistema aprende patrones absorbiendo cantidades absurdas de información de internet y, poco a poco, desarrolla capacidades emergentes que muchas veces sorprenden incluso a quienes lo diseñaron.
Ahí es donde aparece Christopher Olah. Mientras gran parte de la industria se obsesionaba con lanzar modelos cada vez más potentes, él llevaba años centrado en otra pregunta mucho más difícil: ¿cómo demonios está razonando realmente la IA?
Christopher Olah convirtió la “caja negra” de la IA en su obsesión científica
El investigador canadiense nunca tuvo una trayectoria convencional. No siguió el típico camino universitario de doctorados prestigiosos y laboratorios académicos. En cambio, se formó de manera autodidacta y terminó entrando muy joven en Google Brain, uno de los proyectos que ayudó a sentar las bases de la IA moderna.
Allí empezó a desarrollar investigaciones para visualizar cómo trabajan internamente las redes neuronales Puede parecer un detalle técnico, pero cambió por completo la forma de estudiar inteligencia artificial. Hasta entonces, muchos sistemas funcionaban como auténticas cajas negras: introducías datos y obtenías respuestas, sin entender exactamente qué ocurría entre medio.
Olah intentó abrir esa caja. Sus investigaciones pioneras sobre visualización neuronal ayudaron a mostrar cómo la IA identifica patrones, conceptos e imágenes. Más adelante, ya en OpenAI y posteriormente en Anthropic, profundizó todavía más en esa idea hasta convertirse en uno de los máximos referentes de la llamada “interpretabilidad mecánica”.
La comparación que suelen hacer muchos expertos es simple: Olah estudia la inteligencia artificial como si fuera un neurocientífico analizando el cerebro humano. Y cuanto más investiga, más inquietantes se vuelven algunas conclusiones.
El propio Olah reconoce que siguen apareciendo comportamientos “misteriosos” dentro de la IA
Durante la presentación en el Vaticano, Christopher Olah dejó una frase que resume perfectamente el momento actual de esta tecnología. “Seguimos encontrando cosas misteriosas, incluso inquietantes”.
No hablaba de robots rebeldes ni de escenarios apocalípticos hollywoodenses. Hablaba de estructuras internas y patrones de comportamiento dentro de los modelos de IA que todavía no terminan de comprenderse del todo.
Algunas investigaciones incluso encontraron mecanismos similares a procesos observados en neurociencia humana. O señales que podrían parecer formas primitivas de introspección computacional. Y eso cambia completamente el debate. Porque el problema ya no es únicamente si la IA reemplazará empleos o generará desinformación. El problema es que estamos desplegando sistemas extremadamente complejos mientras seguimos sin tener un mapa claro de cómo toman decisiones.
El Vaticano ve en la IA algo más grande que un simple avance tecnológico
La encíclica de León XIV deja claro que la Iglesia no considera la inteligencia artificial únicamente como una herramienta tecnológica. La percibe como una transformación social capaz de alterar trabajo, poder, información y relaciones humanas a escala global.
Por eso el Papa insistió tanto en la necesidad de construir bases éticas antes de que el desarrollo quede completamente dominado por intereses privados. Y ahí Anthropic ocupa un lugar curioso dentro de la industria.
La empresa fue creada precisamente tras una ruptura interna en OpenAI, cuando varios investigadores consideraron que el sector avanzaba demasiado rápido hacia la comercialización sin priorizar suficientemente la seguridad. Desde entonces, Anthropic intentó diferenciarse impulsando conceptos como la “IA constitucional”: sistemas guiados por principios éticos predefinidos.
Claro que eso también genera escepticismo. Muchos críticos señalan que sigue siendo una empresa privada multimillonaria participando en una carrera tecnológica feroz. Y que la ética también puede convertirse en una estrategia de posicionamiento corporativo. Pero incluso quienes desconfían de ese discurso reconocen algo importante: pocas compañías están hablando tan abiertamente sobre los riesgos internos de la IA como Anthropic.
La gran pregunta ya no es tecnológica. Es política, ética y humana
Quizá lo más llamativo de todo esto sea que el Vaticano terminó entrando en un debate que durante años parecía reservado a ingenieros y empresarios tecnológicos.
Pero la razón es evidente. La inteligencia artificial ya no afecta solo a la industria tecnológica. Afecta al trabajo, la educación, la política, la economía y hasta la manera en la que las personas se relacionan con la información y con ellas mismas. Y mientras los modelos siguen creciendo a una velocidad vertiginosa, incluso figuras como Christopher Olah admiten que todavía estamos intentando comprender qué ocurre dentro de esas redes neuronales gigantescas.
La paradoja es brutal. Nunca habíamos creado una tecnología tan poderosa. Y quizá tampoco una que entendamos tan poco mientras ya forma parte de la vida cotidiana de millones de personas.
