Los futurólogos se preocupan porque el mundo se dirige a una distopía alimentada por la IA, en que la raza humana cede su ética, su toma de decisiones y su poder intelectual a una cantidad de algoritmos corporativos. Podrían encontrar la prueba en Ulf Kristersson para justificar sus miedos.
Kristersson, el primer ministro de Suecia, admitió recientemente en un sitio de noticias nórdico que a veces le pide una “segunda opinión” a Chat GPT cuando se trata de estrategias de gobernanza.
«Lo uso con bastante frecuencia”, dijo Kristersson durante la entrevista. “Aunque sea para una segunda opinión, para ver qué han hecho otros, y si sería mejor hacer todo lo opuesto. Para esa clase de cosas”.
Reacciones y preocupaciones sobre la gobernanza asistida por IA
Como era predecible, de inmediato llovieron las críticas. “Cuanto más se apoya en la IA para las cosas simples, mayor es el riesgo de confiar demasiado en el sistema”, dijo chateando en el mismo sitio de noticias Virginia Dignum, profesora de inteligencia artificial responsable de la Universidad Umeå. “Es una cuesta arriba resbaladiza. Tenemos que exigir confiabilidad garantizada. No votamos a Chat GPT”.
En otros sitios de noticias también criticaron al primer ministro, y todos sentían que la gobernanza vía chatbot no era la ruta ideal para la civilización occidental. “Es malo para Suecia que la IA mayormente adivina”, escribió Signe Krantz de Aftonbladet. “Los chatbots escriben lo que piensan que quieres leer, y no lo que tienes que hacer”.}Krantz tiene razón porque los chatbots suelen ser engañosos y sicofantes. Si un líder le pregunta a un chatbot preguntas que lleven a una respuesta, imagina la situación en que los algoritmos del software solo sirvan para reforzar lo que ya piensa ese líder (o para empujarlos más hacia lo desconocido). Lo bueno es que no parece que sean muchos los políticos que sientan que necesitan el consejo de Chat GPT para que los asesore.
Si Kristersson realmente depende y confía de un chatbot mientras cumple con sus deberes de líder, o si en realidad solo intentaba parecer cool por mencionar que usa un popular producto de tecnología en su entrevista, lo que sí está claro es que cada vez más gente usa la IA para tercerizar capacidades intelectuales que hasta hace pocos años eran dominio exclusivo de la mente humana. Es una situación peligrosa ya que la industria tecnológica hace dos décadas que se dedica a atrofiar nuestra capacidad para pensar. ¿Cuánto más estúpidos podremos ser? Supongo que en algún momento lo sabremos.
