Tecnología, ciencia y cultura digital
We may earn a commission from links on this page

Vetan en Twitch a la IA que emitía una serie sin fin al estilo Seinfeld por comentarios tránsfobos

Nothing, Forever cambió el modelo de lenguaje de su IA con resultados catastróficos

We may earn a commission from links on this page.
La serie Nothing, Forever de Twitch creada por una inteligencia artificial
Imagen: Nothing, Forever

Jerry Seinfeld, perdón: Larry Feinberg, un personaje ficticio controlado por una IA, empezó a proferir comentarios tránsfobos en su directo ininterrumpido de Twitch minutos antes de que el canal fuera vetado durante 14 días.

Nothing, Forever es uno de los muchos proyectos basados en modelos de inteligencia artificial generativa que han surgido con los últimos avances. Está inspirado en Seinfeld, la mítica serie de televisión de los 80, y nos presenta a unos personajes muy similares a Jerry, Elaine, George y Kramer que hablan entre ellos a partir de generado con GPT-3, el modelo de ChatGPT.

Advertisement

Siguiendo la idea original de hacer una serie sobre nada, estos personajes controlados por la inteligencia artificial hablaban sin parar del clima, de los nuevos restaurantes que han abierto en la ciudad y, de vez en cuando, de la IA, rompiendo la cuarta pared por capricho del guion generado por GPT-3.

Los personajes solían estar juntos en el apartamento de Larry, pero otras veces solo veíamos a Larry presentando sus monólogos en un antro de stand-up comedy, como pasaba con Jerry en la serie original de Seinfeld. Fue en una de estas escenas que el personaje virtual dijo de repente que quería hacer una pieza “sobre cómo ser transgénero es una enfermedad mental y cómo algunos liberales son secretamente gays y quieren imponérselo a todo el mundo”.

Advertisement
Advertisement

Estas declaraciones discriminatorias van contra los términos de Twitch, donde Nothing, Forever emitía 24/7 con una base de fans cada vez mayor, así que el canal fue vetado temporalmente; según los creadores del proyecto, 14 días.

Al parecer, el exabrupto de la IA se debió a un cambio del modelo de lenguaje que se usaba para generar los diálogos. En Discord, los desarrolladores de la serie explicaron que el modelo Davinci de GPT-3 había sufrido una caída, así que decidieron cambiarlo por uno de sus predecesores, Curie. Curie generó el texto inapropiado, y las herramientas de moderación de contenido de OpenAI, que funcionaban bien con Davinci, no funcionaron.

Advertisement

Skyler Hartle, co-creador de Nothing, Forever, dijo a The Verge: “Estamos avergonzados, esto no refleja nuestros valores u opiniones en absoluto. Fue el resultado de un error de nuestra parte que resultó en un problema técnico”.