La IA es más peligrosa que las armas nucleares
Musk ha jugado un papel decisivo en el desarrollo de la tecnología de IA generativa, primero como un importante inversor en OpenAI, pero luego como un importante competidor de la creador de ChatGPT. En la superficie, Musk siempre ha advertido sobre los peligros de la IA, al tiempo que intenta desarrollarla, creando una extraño tipo de disonancia cognitiva.
“Vale la pena leer Superinteligencia de Bostrom. Necesitamos tener mucho cuidado con la IA. Potencialmente más peligrosa que las armas nucleares”, tuiteó Musk. Agosto 2014.
Mucha gente señaló en ese momento que esto era más bien cosa absurda que decir, incluso si todos nuestros cerebros han sido envenenados por la ciencia ficción distópica. Y es fácil ver cómo la gente todavía podría estar preocupada por esto debido a la cobertura sensacionalista de los medios.
Los modelos en lenguaje grande han abierto nuevas puertas para las personas en el mundo de los chatbots y Musk claramente quedó impresionado y lanzó el suyo propio. versión con Grok en X e iniciando su propia empresa de IA con sede en Nevada. Herramientas como ChatGPT, Grok y Gemini permiten a hacer preguntas y recibir una respuesta que suene notablemente como un ser humano. Pero el pequeño y sucio secreto sobre este ciclo de exageración de la IA es que, aunque parezca que están aplicando la lógica y la razón a varias preguntas, eso no es lo que está sucediendo bajo el capó.
Estos LLM funcionan como máquinas de texto predictivo. Funcionan escupiendo palabras a un ritmo increíblemente rápido que puede engañarnos para hacernos pensar. hay algo “pensamiento” real . Pero si preguntas a los chatbots preguntas ilógicas si nunca han escuchado antes, puede quedar claro que en realidad no están aplicando ningún tipo de razonamiento profundo.
Es enteramente posible que la IA pueda ser muy peligrosa en el futuro, pero la idea de que se debe a que Skynet está apenas sobre el horizonte simplemente no se basa en la realidad. El peligro de la IA es que la gente crea que puede hacer muchas más cosas más allá de sus capacidades reales.
