Una escuela de negocios en Suiza, respaldada por Arabia Saudita, ha lanzado un Reloj del Apocalipsis para advertir al mundo sobre los peligros de una “inteligencia artificial general descontrolada”, a la que llama una IA “divina”. Imagina que las personas que vendían oficinas con hojas de cálculo de Excel en los años 80 intentaran decirles a los trabajadores que el software era una vía para crear un dios y que usaran un Rolex con cuenta regresiva para hacerlo, y tendrás una idea de lo que estamos tratando aquí.
Michael Wade, el creador del reloj y Profesor TONOMUS de Estrategia y Digital en la Escuela de Negocios IMD en Lausana, Suiza, y Director del Centro Global TONOMUS para la Transformación Digital y de la IA (por dios), reveló el reloj en un artículo de opinión reciente para TIME.
Esto data de hace tiempo…
Un reloj que cuenta hacia la medianoche es una metáfora de la era atómica que alguna vez fue poderosa y ahora está obsoleta. Es una imagen tan vieja y estancada que acaba de celebrar su 75 aniversario. Después de que Estados Unidos lanzara bombas nucleares en Japón, algunos investigadores y científicos que trabajaron en el desarrollo de las armas formaron el Boletín de los Científicos Atómicos.
Su proyecto ha sido advertir al mundo sobre su destrucción inminente. El Reloj del Apocalipsis es una de las formas en que lo hacen. Cada año, expertos en varios campos, desde armas nucleares hasta cambio climático y, sí, inteligencia artificial, se reúnen para discutir qué tan mal está el mundo. Luego ajustan el reloj. Cuanto más cerca esté de la medianoche, más cerca está la humanidad de su perdición. Actualmente está a 90 segundos de la medianoche, el tiempo más cercano que ha estado el reloj.
Wade e IMD no tienen relación con el Boletín de los Científicos Atómicos, y el reloj de Wade es su propio proyecto. La creación de Wade es el Reloj de Seguridad de la IA. “La lectura actual del reloj—29 minutos para la medianoche—es una medida de qué tan cerca estamos del punto crítico donde una IA descontrolada podría provocar riesgos existenciales”, dijo en su artículo para TIME. “Si bien no ha sucedido un daño catastrófico todavía, la velocidad vertiginosa del desarrollo de la IA y las complejidades de la regulación significan que todas las partes interesadas deben estar alerta y comprometidas”.
A los principales defensores de la IA en Silicon Valley les encanta recurrir a la metáfora nuclear. El CEO de OpenAI, Sam Altman, comparó el trabajo de su empresa con el Proyecto Manhattan. El senador Edward J. Markey (D-MA) escribió que la prisa de Estados Unidos por adoptar la IA es similar a la búsqueda de Oppenheimer por la bomba atómica. Parte de este miedo y preocupación puede ser genuino, pero al final del día, todo es marketing.
Estamos en medio de un ciclo de exageración sobre la IA. Las empresas prometen que puede generar rendimientos sin precedentes y reducir los costos laborales. Las máquinas, dicen, pronto harán todo por nosotros. La realidad es que la IA es útil, pero en su mayoría solo desplaza los costos laborales y de producción a otras partes de la cadena, donde el usuario final no los ve.
El miedo recurrente y que tanto nos persigue
El miedo a que la IA se vuelva tan avanzada que elimine a la humanidad es solo otro tipo de exageración. El alarmismo sobre calculadoras de palabras y sistemas de modelado predictivo es solo otra forma de entusiasmar a la gente sobre las posibilidades de esta tecnología y enmascarar el daño real que crea.
En un evento reciente de Tesla, camareros robots sirvieron bebidas a los asistentes. Aparentemente, estaban controlados remotamente por humanos. Los modelos de lenguaje grande (LLM) queman una tonelada de agua y electricidad al generar respuestas y, a menudo, dependen de la atención sutil y constante de “entrenadores” humanos que trabajan en países pobres por una miseria. Los humanos usan la tecnología para inundar internet con imágenes desnudas no consensuadas de otros humanos. Estos son solo algunos de los daños del mundo real que ya ha causado la rápida adopción de la IA en Silicon Valley.
Y mientras tengas miedo de que Skynet cobre vida y elimine a la humanidad en el futuro, no estarás prestando atención a los problemas que tienes justo frente a ti. El Reloj del Apocalipsis del Boletín puede parecer incomprensible en la superficie, pero hay un ejército de mentes impresionantes detrás de la metáfora que trabaja todos los días en los riesgos reales de las armas nucleares y las nuevas tecnologías.
En septiembre, el Boletín publicó una imagen de Altman en un artículo que desacreditaba las afirmaciones hiperbólicas sobre cómo la IA podría usarse para crear nuevas armas biológicas. “A pesar de todo el alarmismo, en realidad hay muchas incertidumbres sobre cómo la IA afectará a las armas biológicas y al ámbito de la bioseguridad en general”, decía el artículo.
También subrayaba que hablar de escenarios extremos en torno a la IA ayuda a evitar conversaciones más difíciles. “El desafío, como lo ha sido durante más de dos décadas, es evitar la apatía y la exageración sobre los desarrollos científicos y tecnológicos que impactan en el desarme biológico y los esfuerzos por mantener las armas biológicas fuera de los planes de guerra y arsenales de actores violentos”, decía el Boletín. “Los debates sobre la IA absorben la atención a nivel alto y comunitario y… corren el riesgo de un enfoque de amenaza demasiado estrecho que pierde de vista otros riesgos y oportunidades”.
Se publican docenas de artículos como este cada año por parte de las personas que gestionan el Reloj del Apocalipsis. El reloj suizo de la IA no tiene tal respaldo científico, aunque afirma estar monitoreando estos artículos en su sección de preguntas frecuentes.
Lo que tiene, en cambio, es dinero de Arabia Saudita. La posición de Wade en la escuela es posible gracias a la financiación de TONOMUS, una subsidiaria de NEOM. NEOM es la ciudad del futuro tan publicitada que Arabia Saudita está intentando construir en el desierto. Entre otras promesas de NEOM están los dinosaurios robot, los coches voladores y una gigantesca luna artificial.
Perdonen si no me tomo en serio a Wade ni a su Reloj de Seguridad de la IA.
