Elon Musk tuiteó un enlace a una extraña carta el martes, supuestamente escrita por ex empleados de OpenAI, que detalla “un inquietante patrón de engaño y manipulación”. por Sam Altman y Greg Brockman”. Altman y Brockman, director ejecutivo y presidente de OpenAI, fueron despedido y luego recontratado en un dramático golpe fallido que se desarrolló durante los últimos cinco días. La carta (reimpresa a continuación) describe un comportamiento reservado y abusivo que, Por parte de Altman, supuestamente estaba “motivado por su rencor contra Elon después de su pelea”.
A partir del martes por la noche, Altman reanudó oficialmente su puesto como CEO de OpenAI después de haber sido expulsado por la junta directiva de la compañía, que ahora ha sido reemplazado en gran medida. Los ex miembros de la junta no compartieron casi nada sobre su razonamiento, aparte de describir a Altman como “inconsistentemente sincero”. El director ejecutivo Satya Nadela, que está envuelto en un acuerdo multimillonario con la empresa, no pudo obtener una respuesta sobre por qué despidieron a Altman. .
No hay evidencia que sugiera la carta compartida por Musk es real. El multimillonario tuiteó que la carta le fue enviada y “Estas parecen preocupaciones que vale la investigación ». Bien podría ser Un engaño. Sin embargo, incluye detalles extrañamente específicos.
La carta está dirigida a la junta directiva de OpenAI. “Somos antiguos empleados de OpenAI que abandonaron la empresa durante un período de agitación y agitación significativa, ” se lee. “Como ahora has sido testigo de lo que sucede cuando te atreves a enfrentarte a Sam Altman, tal vez puedas entender por qué es así. Muchos de nosotros hemos permanecido en silencio por miedo a las repercusiones”. OpenAI no respondió de inmediato a una solicitud de comentarios.
Alega un patrón de abuso por parte de Altman y Brockman “impulsado por su insaciable búsqueda de lograr inteligencia general artificial (AGI)”.
Por ejemplo, la carta dice que Altman dio instrucciones a sus empleados para ocultar el progreso de las iniciativas de investigación “secretas” y despidió a los empleados que cuestionaron la práctica. afirma que el CEO dirigió “investigaciones” sobre los empleados sin el conocimiento de la gerencia, incluido el científico jefe Ilya Sutskever, quien supuestamente jugó un papel decisivo en el despido. Altman.
La carta afirma que Brockman, presidente de OpenAI, utilizó “lenguaje discriminatorio contra un miembro del equipo de transición de género”, quien finalmente fue despedido por presunta bajo rendimiento”. Esto sugiere que la compañía ignoró las quejas sobre el tema para proteger a Brockman.
Tanto Altman como los ex miembros de la junta han acordado una “investigación” sobre la situación que llevó a su despido, según el borde. No está claro qué implicaría esa investigación cuando, presumiblemente, los miembros de la junta podrían simplemente decirle al mundo cuál era el problema.
La carta se compartió originalmente en un enlace de Hacker News, que luego colapsó bajo el peso de todo el tráfico. republicado en GitHub por una persona que le dijo a Gizmodo que lo copió con fines de archivo. Después de que Musk compartiera el enlace de GitHub, su ejército de Los fans llenaron los comentarios del usuario con abuso y acoso. La persona le dijo a Gizmodo que se vieron obligados a eliminar la publicación después de la confianza de GitHub y El equipo de seguridad se negó a ayudar. Según la persona, los autores de la carta original se pusieron en contacto para agradecerles por volver a publicarla. . La persona le dijo a Gizmodo que no tiene idea si es auténtica. Puedes leer una copia de la carta al final de esta artículo.
La carta debe haber servido como algún consuelo para Elon Musk, quien tiene una larga y problemática historia con Altman. Musk fue uno de los cofundadores y mayores donantes de la empresa en sus primeros años, pero rompieron los vínculos con la empresa alegando un conflicto de intereses El programa de vehículos autónomos impulsados por IA de Tesla. Altman afirmó que la verdadera razón de la partida de Musk fue un esfuerzo fallido por tomar el control del empresa. A principios de este mes, X lanzó una nueva IA llamada Grok, un chatbot anti-despertar eso está sintonizado para responder con humor cursi y a veces inapropiado de papá. Musk y Altman intercambiaron críticas sobre sus chatbots rivales durante las siguientes semanas. .
La mayor parte de la carta se centra en los esfuerzos de Altman para convertir OpenAI en una empresa generadora de ganancias mientras solo pretende preocuparse por la seguridad potencial. preocupaciones de avanzar con la tecnología. Entre las quejas, la carta cita “la explotación discreta pero rutinaria de Sam de los recursos sin fines de lucro de OpenAI”. para avanzar en sus objetivos personales, particularmente motivado por su rencor contra Elon después de su pelea”.
El martes por la noche, Altman confirmó su regreso a la compañía en X, antes conocida como Twitter, y escribió que “todo lo que he hecho de nuevo Los últimos días han servido para mantener juntos a este equipo y su misión”.
i love openai, and everything i’ve done over the past few days has been in service of keeping this team and its mission together. when i decided to join msft on sun evening, it was clear that was the best path for me and the team. with the new board and w satya’s support, i’m…
— Sam Altman (@sama) November 22, 2023
Sin información de los miembros de la junta, es imposible decir cuál fue el conflicto. Sin embargo, muchos especulan que los problemas surgieron de una lucha de poder .OpenAI se fundó para construir inteligencia artificial con operaciones transparentes que se centraran en proteger a la humanidad del potencial catastrófico de la tecnología. OpenAI es una organización sin fines de lucro, Altman organizó un ala con fines de lucro de la compañía construida alrededor de ChatGPT, lo que enojó a muchos de los empleados idealistas de la organización. .
Algunos de esos empleados abandonaron OpenAI para formar una nueva empresa de IA llamada Anthropic en 2021, un competidor directo que pone mayor énfasis en Problemas de seguridad de la IA. Según la información, La junta directiva de OpenAI se acercó a Anthropic sobre una fusión después de despedir a Altman. El New York Times informa Altman intentó retirar a Helen Toner de la junta en las semanas antes de su despido después de que ella publicó un trabajo académico que criticó OpenAI al tiempo que alababa A Anthropic.
21/11/2023
A la Junta Directiva de OpenAI:
Le escribimos hoy para expresarle nuestra profunda preocupación por los recientes acontecimientos en OpenAI, en particular las acusaciones de mala conducta contra Sam Altman. .
Somos antiguos empleados de OpenAI que abandonamos la empresa durante un período de agitación y agitación significativa. Como ya has sido testigo de lo que sucede cuando Si te atreves a enfrentarte a Sam Altman, tal vez puedas entender por qué tantos de nosotros hemos permanecido en silencio por miedo a las repercusiones. ya no puede permanecer en silencio.
Creemos que la Junta Directiva tiene el deber de investigar estas acusaciones a fondo y tomar las medidas apropiadas. Le instamos a:
* Ampliar el alcance de la investigación de Emmett para incluir un examen de las acciones de Sam Altman desde agosto de 2018, cuando OpenAI comenzó a pasar de ser una -lucro a una entidad con fine de lucro.
*Emitir una convocatoria abierta para declaraciones privadas de antiguos empleados de OpenAI que renunciaron, fueron puestos en licencia médica o fueron despedidos durante esta período.
*Proteger las identidades de quienes se presentan para garantizar que no sean objeto de represalias u otras formas de daño.
Creemos que un número significativo de empleados de OpenAI fueron expulsados de la empresa para facilitar su transición a un modelo con fines de lucro. Esto se evidencia por el hecho de que la tasa de deserción de empleados de OpenAI entre enero de 2018 y julio de 2020 fue del orden del 50%.
A lo largo de nuestro tiempo en OpenAI, fuimos testigos de un inquietante patrón de engaño y manipulación por parte de Sam Altman y Greg Brockman, impulsados por sus
búsqueda insaciable de lograr inteligencia general artificial (AGI). Sus métodos, sin embargo, han planteado serias dudas sobre sus verdaderas intenciones y el grado de que realmente priorizan el beneficio de toda la humanidad.
Muchos de nosotros, inicialmente esperanzados acerca de la misión de OpenAI, decidimos darles a Sam y Greg el beneficio de la duda. Sin embargo, a medida que sus acciones se volvieron cada vez más preocupantes, aquellos que se atrevieron a expresar sus preocupaciones fueron silenciados o expulsados. Este silenciamiento sistemático de la disidencia creó un ambiente de miedo e intimidación, sofocando efectivamente cualquier discusión significativa sobre las implicaciones éticas del trabajo de OpenAI.
Proporcionamos ejemplos concretos de la deshonestidad y manipulación de Sam y Greg, que incluyen:
*La exigencia de Sam de que los investigadores retrasen la presentación de informes sobre el progreso de iniciativas de investigación “secretas” específicas, que luego fueron desmanteladas por no entregar resultados suficientes bastante rápidamente. Aquellos que cuestionaron esta práctica fueron desestimados como “malas adaptaciones culturales” e incluso despedidos, algunos justo antes del Día de Acción de Gracias de 2019.
*El uso de lenguaje discriminatorio por parte de Greg contra un miembro del equipo de transición de género. A pesar de muchas promesas de abordar este problema, no se tomó ninguna acción significativa, excepto que Greg simplemente evitó toda comunicación con el individuo afectado, creando efectivamente un ambiente de trabajo hostil. Este miembro del equipo finalmente fue despedido por presunto bajo rendimiento.
*Sam ordena al personal de TI y de Operaciones que realicen investigaciones sobre los empleados, incluido Ilya, sin el conocimiento o consentimiento de la gerencia.
* La explotación discreta pero rutinaria de Sam de la organización sin fines de lucro OpenAI
recursos para avanzar en sus objetivos personales, particularmente motivado por su rencor contra Elon luego de su pelea.
*La aceptación tácita por parte del equipo de Operaciones de las reglas especiales que se aplicaron a Greg, navegando por requisitos intrincados para evitar ser incluido en la lista negra.
*La promesa incumplida de Brad Lightcap de hacer públicos los documentos que detallan la estructura de ganancias limitadas de OpenAI y el límite de ganancias para cada inversor.
*Las incongruentes promesas de Sam de investigar proyectos para cuotas de cómputo, causando desconfianza interna y luchas internas.
A pesar de la creciente evidencia de las transgresiones de Sam y Greg, aquellos que permanecen en OpenAI continúan siguiendo ciegamente su liderazgo, incluso a niveles personales significativos. costo. Esta lealtad inquebrantable surge de una
combinación de miedo a las represalias y el atractivo de posibles ganancias financieras a través de las unidades de participación en ganancias de OpenAI.
La estructura de gobernanza de OpenAI, diseñada específicamente por Sam y Greg, aísla deliberadamente a los empleados de la supervisión de las operaciones con fines de lucro, precisamente debido a su Conflictos de intereses inherentes. Esta estructura opaca permite a Sam y Greg operar con impunidad, protegidos de la rendición de cuentas.
Instamos a la Junta Directiva de OpenAI a que adopte una postura firme contra estas prácticas poco éticas y lance una investigación independiente sobre Sam y La conducta de Greg. Creemos que la misión de OpenAI es demasiado importante para verse comprometida por las agendas personales de unos pocos individuos.
Le imploramos a usted, la Junta Directiva, que permanezca firme en su compromiso con la misión original de OpenAI y no sucumba a las presiones de intereses impulsados por las ganancias. El futuro de la inteligencia artificial y el bienestar de la humanidad dependen de su compromiso inquebrantable con el liderazgo ético y la transparencia.
Atentamente,
Antiguos empleados de OpenAI preocupados
### Contacto
Animamos a los antiguos empleados de OpenAI a que se pongan en contacto con nosotros en [email protected].
Garantizamos personalmente el anonimato de todos en cualquier deliberación interna y comunicación pública.
### Más actualizaciones
Las actualizaciones se publicarán en https://board.net/p/r.e6a8f6578787a4cc67d4dc438c6d236e
### Lecturas adicionales para el público en general
* https://www.technologyreview.com/2020/02/17/844721/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/
* https://www.theatlantic.com/technology/archive/2023/11/sam-altman-open-ai-chatgpt-chaos/676050/
*https://twitter.com/geoffreyirving/status/1726754277618491416
