Bienvenido a AI This Week, el resumen semanal de Gizmodo donde profundizamos en lo que ha estado sucediendo en la inteligencia artificial.
Bueno, mierda. En lo que respecta a la industria tecnológica, es difícil decir si alguna vez ha habido una serie de eventos más impactantes. que los que tuvieron lugar en los últimos días. La intriga palaciega y el drama en la sala de juntas de El derrocamiento de Sam Altman por el tablero de OpenAI (y su reintegración victoriosa hoy ) sin duda pasará a la historia como uno de los episodios más explosivos que jamás haya ocurrido en Silicon Valley. Dicho esto, el Las consecuencias a largo plazo de este apasionante incidente seguramente serán mucho menos agradables que el espectáculo inicial del mismo.
El “golpe”, como muchos lo han llamado, se ha atribuido en gran medida a una brecha ideológica entre Sam y la junta directiva de OpenAI. el ritmo de desarrollo tecnológico en la empresa. Entonces, dice esta narrativa, el directorio, que se supone tiene la última opinión sobre la dirección de la organización, fue preocupado por el ritmo al que Altman estaba presionando para comercializar la tecnologíay decidió expulsarlo con extremo prejuicio. Altman, quien posteriormente fue respaldado por el poderoso socio y financiador de OpenAI, Microsoft, también como a la mayoría del personal de la startup, posteriormente dirigió un contragolpe, expulsó a los traidores y se reinstaló como líder de la empresa.
Gran parte del drama parece girar en torno a la discusión entre Altman y la junta sobre la “seguridad de la IA”. La historia de la empresa parece un estallido de las dos personalidades opuestas de OpenAI: una basada en la investigación y el desarrollo tecnológico responsable, y la otra. basado en ganar un montón de dinero. Un lado decididamente dominó al otro (pista: era el lado del dinero).
Otros escritores ya han ofrecido averías sobre cómo la estructura organizativa única de OpenAI parece haberla puesto en un rumbo de colisión consigo misma. organigrama flotando por la web pero, en caso de no aquí un resumen rápido: a diferencia de prácticamente todos otros negocios de tecnología que existen, OpenAI es en realidad una organización sin fines de lucro, gobernada totalmente por su directorio, que opera y controla una empresa con fines de lucro. Se supone este diseño priorizar la misión de la organización de Perseguir el bien público sobre el dinero. OpenAI propia autodescripción promueve esta noción idealista, afirmando que su objetivo principal es hacer del mundo un lugar mejor, no ganar dinero:
Diseñamos la estructura de OpenAI, una asociación entre nuestra organización sin fines de lucro original y una nueva rama con fines de lucro limitados, como un chasis para la misión de OpenAI: construir inteligencia general (AGI) que sea segura y beneficie a toda la humanidad.
De hecho, los estatutos de la junta deben su lealtad a la “humanidad”, no a sus accionistas. Entonces, a pesar del hecho de que Microsoft ha invertido una megatonelada de dinero y recursos en OpenAI, se supone que la junta directiva de la startup todavía (hipotéticamente) tiene la última palabra sobre lo que sucede con sus productos y tecnología. empresa parte de la organización es se informa que vale decenas de miles de millones de dólares. Como muchos ya han señalado, la misión ética de la organización parece haber entrado directamente en conflicto con los intereses económicos de quienes había invertido en la organización.
Dicho todo esto, se podría argumentar que no deberíamos respaldar completamente esta interpretación todavía, ya que las razones reales de la decisión de Altman La destitución aún no se ha hecho pública. En su mayor parte, los miembros de la compañía no estas hablando sobre las razones que Sam fue expulsada o negado rotundamente que su derrocamiento tuvo algo que ver con la seguridad de la IA. Mientras tanto, han circulado teorías alternativas, y algunas sugieren que las verdaderas razones porque la salida agresiva de Altman fue decididamente más colorida, como las acusaciones que buscó financiación adicional a través de regímenes autocráticos de Medio Oriente.
Pero empantanarse demasiado en la especulación sobre los catalizadores específicos del drama de OpenAI es ignorar lo que todo el episodio ha revelado definitivamente: En lo que respecta a Silicon Valley, la “seguridad de la IA” no existe. De hecho, ahora sabemos que, a pesar de ser supuestamente a prueba de balas, estructura organizacional y su misión declarada de desarrollo responsable de la IA, a OpenAI nunca se le iba a permitir anteponer la ética al dinero.
Para ser claros, la seguridad de la IA es un campo realmente importante y, si realmente fuera practicado por las corporaciones estadounidenses, eso sería excelente. Dicho esto, la versión que existía en OpenAI, posiblemente una de las empresas que hecho lo más Seguir un modelo orientado a la “seguridad” no parece haber sido muy compatible con las maquinaciones de realpolitik de la industria tecnológica. . En términos aún más francos, las personas que fueron ordenadas con una administración responsable de esta nueva y poderosa tecnología no parecen tener Sabían lo que estaban haciendo. No parecen haber entendido que Sam tenía todas las conexiones de la industria, los amigos en las altas esferas. , era muy querido, y actuar en su contra en un mundo donde ese tipo de capital social lo es todo equivalía a un suicidio profesional. Si vienes hacia el rey, será mejor que no falles.
Como tal, si el objetivo de la seguridad de la IA es proteger a la humanidad de la IA desbocada, entonces, como estrategia para lograrlo, efectivamente acaba de reprobar su primera gran prueba. ¿Por qué? Porque es bastante difícil poner tu fe en un grupo de personas que Incluso son capaces de predecir el muy predecible resultado que ocurriría cuando despidieran a su jefe. ¿Cómo, exactamente, puede un grupo así ser ¿Se le ha confiado la supervisión de una tecnología supuestamente “súper inteligente” y revolucionaria? Si no puede ser más astuto que un grupo de inversores indignados, entonces probablemente no pueda ser más astuto que la entidad tipo Skynet que afirma estar construyendo. Dicho esto, tampoco podemos confiar en los cobardes y obsesionados con el dinero. C-suite que ahora ha reafirmado su dominio. Están obviamente no vamos a hacer lo correcto. Así que, efectivamente, la humanidad está atrapada entre la roca y la dura.
A medida que se resuelve el conflicto de OpenAI, parece que la empresa está bien posicionada para volver a la normalidad. desechar Las dos únicas mujeres en su directorio, agregó la compañía. matón fiscal Larry Summers.Altman está de vuelta en la empresa (al igual que el ex presidente de la empresa, Greg Brockman, quien renunció en solidaridad con Altman), y Microsoft alto ejecutivo, Satya Nadella, ha dicho que está “alentado por los cambios en el tablero de OpenAI » y dijo que es un «primer paso esencial en un camino hacia un más estable, bueno -gobernanza informada y eficaz”.
Con el fracaso de la junta, parece claro que los bienhechores de OpenAI pueden no sólo haber hecho retroceder su propia misión de “seguridad”, sino que podrían También han iniciado una reacción violenta contra el movimiento ético de la IA en general. Un ejemplo: el drama de este fin de semana parece haberse radicalizado aún más una ideología antiseguridad ya bastante radical que había estado circulando en el negocio. “aceleracionistas efectivos” (abreviado “e/acc”) creemos que cosas como regulaciones gubernamentales adicionales, la “ética tecnológica y la seguridad de la IA» son obstáculos engorrosos para verdadero desarrollo tecnológico y ganancias exponenciales. Durante el fin de semana, cuando surgió la narrativa sobre la “seguridad de la IA”, algunos de los más fervientes partidarios de este sistema de creencias llevó a X a denunciar lo que percibieron como un ataque sobre la verdadera víctima del episodio (capitalismo, por supuesto).
Hasta cierto punto, el objetivo de la adopción de la “ética” y la “seguridad” por parte de la industria tecnológica tiene que ver con la tranquilidad. Las empresas se dan cuenta de que el Las tecnologías que venden pueden ser desconcertantes y disruptivas; quieren asegurarle al público que están haciendo todo lo posible para proteger a los consumidores y sociedad. Sin embargo, al final del día, ahora sabemos que no hay razón para creer que esos esfuerzos alguna vez lograrán un ¿Hay diferencia si la “ética” de la empresa termina entrando en conflicto con su dinero? ¿Y cuándo esas dos cosas alguna vez no han entrado en conflicto?
Pregunta del día: ¿Cuál fue el mejor meme de OpenAI?
de esta semana embrollo sin precedentes Inspiró tantos memes que la posibilidad de elegir un favorito parece casi imposible. Inmediatamente después del derrocamiento de Altman, hubo un montón de Memes De Conspiración De Rust Cohl Eso circuló mientras el mundo tecnológico se esforzaba por entender exactamente qué estaba presenciando. También hubo bromas sobre ¿quién debería reemplazar? Altman y lo que pudo haber causado la lucha por el poder en primer lugar. Luego, cuando quedó claro que Microsoft estaría detrás del CEO derrocado, la narrativa— y los memes cambiaron. El-triunfal-Sam-regresa-a-OpenAI-después-de-expulsar-al-género-del-tablero se hizo popular, al igual que toneladas de Memes relacionados con Satya Nadelle. Hubo Sucesión memes. Finalmente, surgió un inevitable género de meme en el que los usuarios de la web abiertamente se burló del tablero OpenAI por haber desperdiciado tan totalmente el golpe contra Altman. Yo personalmente encontré esto vídeo deepfake que intercambia la cara de Altman con la de Jordan Belfort en El lobo de Wall Street ser bueno. Dicho eso, habla en los comentarios con tu favorito.
Más titulares de esta semana
La otra empresa de IA que tuvo una semana realmente mala. OpenAI no es la única empresa tecnológica que pasó por problemas esta semana. Cruise, la empresa de robots taxis propiedad de General Motors, es también está pasando por una situación bastante difícil. El fundador y director ejecutivo de la empresa, Kyle Vogt, renunciar el lunes, después de que el estado de California acusara a la compañía de no revelar detalles clave relacionados con un incidente violento con un peatón. Vogt fundó la empresa en 2013 y la llevó a un lugar destacado en la industria de viajes automatizados. Sin embargo, la empresa falló lanzamiento de vehículos en San Francisco en agosto provocó una consternación generalizada y un montón de quejas de residentes de la ciudad y funcionarios de seguridad pública . Los escándalos de Cruise llevaron a la empresa a todos sus vehículos fuera de las carreteras en California en octubre y, luego, eventualmente, detener las operaciones en todo el país.
MC Hammer es aparentemente un gran fanático de OpenAI. Para añadir a la rareza de esta semana, también descubrimos que “U Can’t Touch This» el rapero MC Hammer es un confirmó OpenAIstan. El miércoles, cuando el caos de la lucha por el poder de esta semana llegó a su fin, el rapero tuiteó: “Saludo y felicitaciones al 710 plus@OpenAI miembros del equipo que dieron una demostración incomparable de lealtad, amor y compromiso con @sama y @gdb En estos tiempos peligrosos era algo hermoso ser testigo”.
Los creativos están perdiendo la guerra de los derechos de autor de la IA.La demanda de Sarah Silverman contra OpenAI y Meta no va muy bien. Esta semana se reveló que la demanda del comediante contra el Los gigantes tecnológicos (a quienes ella acusa de violaciones de derechos de autor) han fracasado. Silverman no está sola. Una demanda presentada por varios artistas visuales contra Midjourney y Estabilidad la IA era casi pero desechado por un juez el mes pasado. Dicho esto, aunque estas demandas parecen estar fallando, podría ser simplemente una cuestión de encontrar el argumento legal adecuado para que tengan éxito. Aunque los reclamos actuales pueden no ser lo suficientemente sólidos, los casos podría revisarse y volverse a presentar.
