Saltar al contenido
Tecnología

El MIT ha investigado cómo podría acabar mal nuestra relación con la inteligencia artificial. Encontró 95 escenarios y ocho caminos hacia una catástrofe que nadie quiere imaginar

Un equipo internacional vinculado al MIT revisó más de 3.000 documentos sobre inteligencia artificial. Identificó 95 escenarios de riesgo extremo y ocho caminos que podrían amenazar el futuro humano.
Por

Tiempo de lectura 3 minutos

Comentarios (0)

Durante años, las películas nos acostumbraron a imaginar una rebelión de las máquinas como el gran peligro de la inteligencia artificial. Robots que toman conciencia, ordenadores que desobedecen y sistemas capaces de decidir que los humanos representan un problema. Sin embargo, una nueva investigación del MIT revela que los riesgos de la inteligencia artificial podrían ser mucho menos espectaculares. Y quizá bastante más difíciles de detectar.

Un equipo internacional de investigadores, con participación del MIT, acaba de publicar una revisión sobre los riesgos de la inteligencia artificial para el futuro de la humanidad. Después de examinar 3.184 documentos, identificaron 95 escenarios hipotéticos capaces de provocar daños irreversibles. Lo sorprendente es que no todos necesitan una superinteligencia rebelde. Algunos comienzan con decisiones humanas perfectamente reconocibles: delegar demasiado poder, concentrar recursos o automatizar conflictos militares.

Ocho escenarios de riesgo de la inteligencia artificial que van mucho más allá de los robots rebeldes

El MIT ha investigado cómo podría acabar mal nuestra relación con la inteligencia artificial. Encontró 95 escenarios y ocho caminos hacia una catástrofe que nadie quiere imaginar
La investigación organiza 95 escenarios hipotéticos en ocho familias, que abarcan desde la toma de control por una IA hasta los conflictos militares automatizados. © Google.

El trabajo, titulado Existential Risk Scenarios from AI: A Systematic Review, reunió a especialistas del Existential Risk Observatory, el Future of Life Institute y MIT FutureTech, entre otras instituciones. Los investigadores seleccionaron 58 documentos que desarrollaban escenarios de consecuencias existenciales y organizaron sus 95 hipótesis en ocho categorías.

La primera contempla que una IA especialmente poderosa consiga tomar el control por sí sola. Otras dos describen sistemas que acumulan poder de manera independiente o colaboran entre ellos. La cuarta plantea un proceso mucho más gradual: los humanos ceden responsabilidades a la tecnología hasta perder la capacidad de recuperarlas.

Las siguientes categorías ya no necesitan máquinas que busquen dominar el mundo. Incluyen regímenes autoritarios que utilizan la IA para consolidarse indefinidamente y una desigualdad económica extrema que concentra el poder en unas pocas personas.

Finalmente, aparecen dos escenarios relacionados con la capacidad destructiva humana: tecnologías catastróficas desarrolladas con ayuda de la IA y guerras automatizadas que escapan al control de sus responsables.

Como explica el MIT en su comunicado del 17 de noviembre, esta clasificación pretende identificar mecanismos de riesgo, no predecir cuándo ocurrirá una catástrofe.

La amenaza más estudiada no es necesariamente la más probable

Hay un dato especialmente revelador. De los 95 escenarios identificados, 41 describen una toma de control por parte de una única inteligencia artificial. Otros 19 analizan cómo los humanos podrían entregar progresivamente su capacidad de decisión.

En cambio, los investigadores encontraron solamente tres escenarios relacionados con guerras automatizadas y uno centrado en una estratificación económica extrema. Esa diferencia no demuestra que unos peligros sean más probables que otros. Simplemente revela qué posibilidades han recibido mayor atención en la literatura.

El equipo, encabezado por Hugo Save, también reconoce que existen importantes desacuerdos sobre las capacidades que necesitaría alcanzar una IA para provocar semejantes consecuencias. Algunas hipótesis dependen de avances tecnológicos todavía inexistentes.

La iniciativa de riesgos del MIT insiste en que los ocho grupos tampoco representan una lista definitiva. Nuevas investigaciones podrían descartar determinados escenarios, identificar otros o revelar mecanismos que todavía no entendemos.

La clave no es adivinar el fin del mundo, sino reconocer las señales antes de que aparezcan

El objetivo práctico de la investigación consiste en comprender mejor los riesgos de la inteligencia artificial. Para ello, los científicos transformaron advertencias generales en secuencias de acontecimientos que los especialistas pueden examinar.

Peter Slattery, investigador de MIT FutureTech, sostiene que este enfoque puede ayudar a gobiernos, desarrolladores y evaluadores a reconocer posibles señales de alerta. El equipo también ha publicado un explorador interactivo con los escenarios y sus fuentes, que permite analizar las hipótesis de forma individual.

Eso no significa que los investigadores hayan demostrado que una catástrofe sea inevitable. Tampoco han calculado una probabilidad global de extinción humana. Su contribución consiste en ordenar las distintas teorías para facilitar su evaluación y prevención.

La conclusión deja una reflexión incómoda: el mayor peligro de la inteligencia artificial quizá no llegue cuando una máquina decida rebelarse, sino cuando los humanos descubramos que hemos entregado demasiado poder como para recuperarlo.

Compartir esta historia

Artículos relacionados