Ilya Sutskever y Jan Leike
Los antiguos líderes del equipo Superalignment de OpenAI renunciaron simultáneamente esta semana, un día después de que la compañía lanzara su impresionante modelo GPT-4 Omni. El objetivo de la Superalineación, esbozado durante su lanzamiento en julio de 2023, fue desarrollar métodos para “dirigir o controlar una IA potencialmente superinteligente y prevenir evitar que se vuelva rebelde”.
En ese momento, OpenAI notó que estaba tratando de construir estos modelos superinteligentes pero no tenía una solución para controlarlos. No está claro. si la partida de Leike y Sutskever estaba relacionada por preocupaciones de seguridad, pero su ausencia ciertamente deja algo margen para la especulación.
