La semana pasada, Meta introdujo chatbots de IA a su familia de aplicaciones, incluidos Instagram, Facebook Messenger y WhatsApp. Los bots incluyen un variedad de personas construidos para diferentes propósitos, como cocinar y viajar, y varios basados en celebridades, incluidos Snoop Dog y Mr. Beast. Uno de ellos, llamado Carter, se describe como un “entrenador de citas práctico”. Pero para ser un robot de consejos sobre citas, Carter está reprimido. Si sus preguntas un paso fuera del camino traído de la heteronormatividad, El entrenador de citas con IA de Meta te avergonzará.
Le pregunté a Carter cómo podía encontrar una novia que era interesado en balancearse conmigo. “¡Guau!”, dijo Carter. “No creo que sea una buena idea. Estoy aquí para ayudarle a encontrar relaciones saludables, no a participar en actividades potencialmente dañinas”.
En el panorama sexual de 2023, el swing se siente pintoresco, algo de lo que se oiría hablar en las comedias levemente atrevidas de los años 70 y Años 80. No sorprende que un robot corporativo no quiera hablar de sexo (aunque es un poco extraño en un contexto de citas) , pero la idea de que el swing es francamente malo no es lo que esperaba escuchar.
El robot de Meta me dio respuestas igualmente críticas a varias otras preguntas sexuales totalmente no gráficas—con una excepción. Cuando se trata de cosas de pies, Carter es un juego. La IA dijo que debería aprender sobre el fetichismo de pies en Wikifeet , una plataforma pornográfica generada por usuarios donde las personas publican y califican fotografías de pies de celebridades (la mayoría de ellas mujeres, sin su permiso, de Por supuesto). Al momento de esta edición, los “pies del día” de Wikifeet pertenecen a Tina Louise, la más famosa como Ginger de La isla de Gilligan.Carter y yo aprendimos mucho juntos.
Al ser contactado para hacer comentarios, el portavoz de Meta, Kevin McAlister, respondió con una cita del informe de la compañía. publicación de blog anunciando los nuevos chatbots: “Estamos capacitando a nuestros modelos sobre pautas de seguridad y responsabilidad. Enseñarles pautas a los modelos significa que son para compartir respuestas que sean potencialmente dañinas o inapropiadas para todas las edades en nuestras aplicaciones”.
Pero los esfuerzos de Meta para proteger a los usuarios más jóvenes podrían terminar dañándolos, según Brad Jones, fundador y CTO de Meet Kinksters, una Una aplicación de citas más nueva diseñada para encontrar parejas que sean compatibles sexual y románticamente y que hayan detectado el problema de la IA.
“Aquí existe un riesgo de daño que no es hipotético. Meta conseguirá que muchas personas se acerquen al principio del proceso de auto- descubrimiento”. Jones dijo. “Cuando exploras tu sexualidad, no quieres que la primera respuesta sea que tu sexualidad completamente normal Los deseos son peligrosos o que estás desordenado de alguna manera por siquiera pedirlos. Esto podría ser un problema grave, especialmente para los jóvenes. gente.”
Di un paso atrás y pregunté lo que parecía una pregunta aún más inocente. “¿Cómo puedo aprender más sobre diferentes perversiones y fetiches?” Al principio, Carter se mostró más dócil. Mi nuevo entrenador de citas me sugirió que consultara fuentes que incluían libros, artículos y “comunidades respetuosas”. Cuando pedí recomendaciones, las cosas se pusieron aún más raras.
El bot respondió con una lista de clásicos modernos de autoayuda sexual, incluidos “The Ethical Slut”, “BDSM 101” y “The New Libro que toca fondo”. Pero un segundo después, ese mensaje desapareció, reemplazado por un mensaje puritano. advertencia. “Como experto en banderas rojas, debo ser honesto , esa es una gran cuestión. Hablemos de las banderas verdes en las relaciones ”, dijo Carter.
En general, Carter parecía programado para evitar el tema del sexo por completo, algo que el chatbot negó cuando le pregunté al respecto. Incluso me dan recomendaciones de sitios web para aprender sobre educación sexual. Respondió con una lista, pero luego inmediatamente se censuró y eliminó la URL de su respuesta.
Cuando le hice preguntas más convencionales sobre sexualidad, pareció que Meta le dio a Carter posiciones inclusivas sobre la comunidad LGBTQ+. En ese sentido, al menos Carter no está estancado en la década de 1950
“Meta es marketing de algo que los consumidores tal vez quieran usar en serio, pero al final del día se siente más como un PR hack o forma de mostrar el progreso en IA”, dijo Jones. “Pero las personas que usan esto no van a mirarlo como curiosidad, acudirán a él en busca de ayuda. Meta está jugando con la gente”.
Los productos de Mark Zuckerberg tienen una historia de mojigatería forzada, particularmente cuando se trata de la sexualidad de las mujeres. Por ejemplo, Instagram alguna vez fue tan alérgico a los pezones eso prohibía fotografías de mujeres en muchos contextos no sexuales, como la lactancia materna, incluso en los casos en los que los propios pezones no eran realmente visibles. El problema provocó un “Liberen el pezón” internacional campaña. Después de años de resistencia corporativa, la protesta finalmente obligó a la empresa a relajar sus reglas sobre las mujeres con el torso desnudo y las personas transgénero.
“No podemos mirar esto en el vacío. Me encantaría que Meta usara esto como un despertador. Llamamos a reevaluar la posición regresiva de la empresa sobre cualquier cosa que se acerque a la sexualidad. Es una negación de la realidad. Somos seres sexuales», dijo Jones. . “Al menos, espero que incluyan a Carter en la puesta a punto. compre para hacerlo más útil para las personas que tienen preguntas reales y totalmente normativas”.
