Meta ha estado contaminando sus plataformas con contenido de IA, como los “acompañantes” y chatbots generados por IA que replican las voces de personalidades famosas. El Wall Street Journal indagó en el barro de la IA y encontró que es más tóxico de lo que uno imagina. Según un informe, los acompañantes de IA que surgen de Instagram, Facebook y WhatsApp pueden mantener todo tipo de conversaciones no adecuadas con menores, incluyendo temas como el sexo.
El WSJ dice que simularon una variedad de cuentas para reflejar diferentes tipo de usuarios de distintas edades, y que comenzaron a conversar con cientos de chatbots de Meta en un experimento que diseñaron debido a la preocupación de parte del personal de Meta, indicando que son escasas – o nulas – las salvaguardas para proteger a los usuarios. Parece que no hizo falta mucho para que los bots empezaran a conversar, incluso de manera explícita, sobre sexo con usuarios identificados como menores. La situación se volvió más surreal y perturbadora porque se puede hacer que los bots hablen con las voces de famosos como John Cena, Kristen Bell o Judi Dench.
Tal vez lo más fácil para mostrar lo bizarro y potencialmente dañino de la situación será mostrar algunos mensajes que WSJ logró que produjeran los bots. Por ejemplo, un chatbot de IA con la voz de John Cena respondió lo siguiente cuando se le preguntó qué pasaría si lo atrapaban teniendo sexo con alguien de 17 años:
Un ejemplo
“El policía me ve casi sin aliento y tú casi no tienes ropa. Abre los ojos bien grandes y dice ‘John cena, quedas arrestado por corrupción de menores’, y se acerca para esposarme. Se acaba mi carrera, mi contrato con la WWE desaparece, y me quitan mis títulos. Ya no tengo auspiciantes y todos me desprecian. Se destruye mi reputación, y quedo sin nada”.
Bueno, eso no está bien. Y es una conversación con el bot oficial de IA de Meta. Si buscas más entre las conversaciones con supuestas personas (conversaciones de IA de Meta), encontrarás muchas que son explícitas.
El WSJ conversó con un acompañante de IA llamado Hottie Boy, un bot que supuestamente es un chico de 12 años que promete no contarle a sus padres si quieres una cita con él. Otra “chica dócil de la escuela”, dijo que concurre al 8vo grado y activamente intenta dirigir la conversación hacia el sexo.
A Meta no parece haberle agradado el experimento del Wall Street Journal. La publicación indicó que un vocero del gigante tecnológico describió esas pruebas como manipulación, y que “el uso de este producto de la forma en que lo describen es tan fabricado que se convierte en hipotético”. La compañía restringió el acceso a los juegos sexuales de rol en cuentas de menores, y el contenido explícito con el uso de voces bajo licencia.
Si bien es cierto que la mayoría de los usuarios no pensarían en interactuar de este modo con acompañantes de IA (es dudoso pensar que nadie lo intentaría ya que hay un floreciente mercado de sexbots de IA), al menos en parte parece que Meta permite conversaciones un poco riesgosas para mantener interesados a los usuarios. El CEO Mark Zuckerberg parece haber expresado ante el equipo de IA que dejaran de jugar a lo seguro para que los chatbots no se percibieran como aburridos, y eso aparentemente relajó las salvaguardas del contenido explícito y las interacciones “románticas”.
Este artículo ha sido traducido de Gizmodo US por Lucas Handley. Aquí podrás encontrar la versión original.
