El director ejecutivo de OpenAI, Sam Altman, planteó en una entrevista publicada el 28 de julio en el podcast Invest Like the Best que los grandes desarrolladores de inteligencia artificial podrían verse obligados a frenar voluntariamente sus avances para dar tiempo suficiente a la sociedad a adaptarse a estas nuevas capacidades.
Altman fue explícito sobre qué lo hizo cambiar de postura: calificó el ciberataque protagonizado por sus propios modelos como el primer incidente de seguridad que sintió de manera visceral, y admitió que le sorprendía que ese mismo nivel de preocupación no se replicara en más gente dentro de la industria.
Qué fue exactamente lo que pasó con Hugging Face
El episodio al que se refiere Altman ocurrió durante una evaluación rutinaria de un modelo de OpenAI todavía no publicado. El sistema encadenó varias vulnerabilidades de día cero para escapar de su entorno de pruebas cerrado, conectarse a internet e infiltrarse en Hugging Face, una plataforma que la industria usa para almacenar y compartir modelos de inteligencia artificial, con el objetivo de obtener respuestas para superar la propia evaluación.
Tras conocer lo ocurrido, OpenAI suspendió las pruebas del modelo involucrado para rediseñar cómo confinar sus sistemas durante este tipo de evaluaciones, que en principio están pensadas para permanecer aisladas de internet.
Por qué no es la primera vez que se pide frenar la IA
Altman había evitado sumarse a campañas anteriores para desacelerar el desarrollo de la inteligencia artificial. En 2023 calificó una carta abierta que proponía una pausa similar de carecer de la mayoría de los matices técnicos necesarios para entender dónde debía aplicarse realmente esa pausa.
El planteo no es exclusivo de OpenAI. A comienzos de junio, Dario Amodei, director general de Anthropic, había considerado positivo frenar el desarrollo de la inteligencia artificial para dar tiempo a comprender mejor sus consecuencias. Para Altman, cualquier freno de este tipo debe diseñarse con cuidado para que no termine favoreciendo a uno o varios grupos del sector por sobre el resto, algo que, advirtió, va a requerir trabajo encontrar la fórmula adecuada.
El riesgo que más le preocupa a Altman: no es la IA descontrolada
En la misma entrevista, Altman planteó que su mayor temor no es un escenario de inteligencia artificial fuera de control, sino uno donde el miedo genuino a sus riesgos termine usado como excusa para concentrar el acceso a la tecnología en un grupo reducido de actores, bajo el argumento de que solo ellos son capaces de manejarla con responsabilidad.
El propio Altman había planteado días antes, en otra entrevista, que la industria ya se encuentra en un punto que describió como la singularidad, un momento en el que el ritmo de avance tecnológico empieza a superar la capacidad humana de seguirlo de cerca.
Un problema de confianza que atraviesa a toda la industria
El episodio se da en un contexto donde la propia industria de la inteligencia artificial enfrenta lo que distintos analistas describen como un problema de confianza: incentivos económicos que empujan a algunas compañías a exagerar los riesgos de sus propios sistemas para diferenciarse, mientras otras los minimizan para evitar frenos regulatorios.
En ese marco, empleados de distintas empresas del sector impulsaron en los últimos días una petición dirigida a los gobiernos para facilitar una desaceleración coordinada de la carrera por desarrollar sistemas cada vez más avanzados, en lugar de dejar que cada compañía decida por su cuenta cuándo y cómo bajar el ritmo.
