AbiertoAI dice que está entrenando el modelo de la próxima frontera , según un comunicado de prensa del martes, y anticipa que acercará a la startup un paso más a los sistemas de inteligencia artificial que generalmente son más inteligentes que los humanos. La compañía también anunció un nuevo Comité de Seguridad para guiar las decisiones críticas de seguridad, dirigido por el CEO Sam Altman y otros miembros de la junta de OpenAI.
“Si bien estamos orgullosos de construir y lanzar modelos que son líderes en la industria tanto en capacidades como en seguridad”, dijo OpenAI en un comunicado de prensa. . “Damos la bienvenida a un debate sólido en este importante momento”.
El anuncio sigue a un mes tumultuoso para OpenAI, donde un grupo liderado por Ilya Sutskever y Jan Leike que investigó Los riesgos existenciales de la humanidad de la IA fueron disueltos. Helen Toner y Tasha McCauley, ex miembros de la junta directiva de OpenAI, escribieron en The Economist el domingo estos acontecimientos y otros tras el regreso de Altman. “un mal augurio para el experimento OpenAI varios empleados preocupados por la seguridad también abandonaron la empresa en los últimos meses, muchos de los que exigieron mayor atención a los peligros de los sistemas de IA.
Este nuevo grupo parece ser el intento de OpenAI de abordar esos temores, y la primera tarea del grupo será evaluar los procesos y salvaguardas de OpenAI. durante los próximos 90 días. Sin embargo, es poco probable que incluir a Altman en este grupo apacigue a los críticos de OpenAI. Toner y McCauley escriben que Los líderes les dijeron que Altman cultivó “una cultura tóxica de mentira” en OpenAI. La semana pasada, Scarlett Johansson pareció poner en duda la confiabilidad de Altman mientras la compañía creó una voz que sonaba igual a ella.
Altman, el presidente Bret Taylor y los miembros de la junta directiva Adam D’Angelo y Nicole Seligman liderarán el Comité de Seguridad y Protección. El nuevo jefe de la compañía El científico Jakub Pachocki también formará parte del comité junto con los jefes de departamento Matt Knight, John Sculman, Lilian Weng y Aleksander Madry. El grupo también consultará con expertos externos y hará recomendaciones a la junta más grande de OpenAI sobre procedimientos de seguridad.
Durante mayo, la empresa también lanzado GPT-4 Omni, que mostró una nueva frontera en la interacción humana con los modelos de IA. Este modelo sorprendió a muchos en la comunidad de IA con su multimodal en tiempo real. interacciones, y parece que OpenAI ya está avanzando con el entrenamiento del siguiente. La startup de Altman se enfrenta a presión para competir con Google para ganar una asociación de chatbot IA con Apple, que se espera en mayor medida se presente durante el junio WWDC. La asociación podría ser uno de los acuerdos comerciales más importantes en la tecnología.
Dicho esto, el nuevo equipo de seguridad de OpenAI está compuesto en gran parte por miembros de la junta directiva incorporados después del regreso de Altman a OpenAI y nuevos jefes de departamento. a quienes se les concedió más poder como resultado de las recientes salidas. El nuevo grupo de seguridad es un pequeño paso hacia abordar las preocupaciones de seguridad que plagan OpenAI, pero la colección de expertos no parece suficiente para silenciar estas preocupaciones.
