Bienvenido a AI This Week, la inmersión profunda semanal de Gizmodo sobre lo que ha estado sucediendo en la inteligencia artificial.
Preocupaciones sobre la pornografía con IA o, más comúnmente, “porno falso”—no son nada nuevo. Durante años, innumerables mujeres y niñas han sido sometidas a una avalancha de imágenes pornográficas no consensuadas que son fáciles de distribuir en línea pero bastante difícil de eliminar. Más notablemente, celebridad deepfake porno ha sido una fuente continua de controversia, una que con frecuencia ha llamado la atención pero poca tracción legislativa. Ahora, el Congreso finalmente puede hacerlo algo al respecto gracias a las imágenes sucias generadas por computadora de la estrella del pop más famosa del mundo.
Sí, ha sido una historia que ha sido difícil de evitar: Hace un par de semanas, Imágenes pornográficas generadas por IA de Taylor Swift se distribuyeron ampliamente en X (antes Twitter). Desde entonces, la base de fans de Swift ha estado alborotada y ha surgido una conversación nacional. sobre el tema familiar de la computadora sobre qué hacer sobre este problema tan familiar.
Ahora, se ha introducido legislación para combatir el problema. La Ley de interrupción de imágenes explícitas falsificadas y ediciones no consensuales (DEFIANCE) fue introducida como legislación bipartidista por el sensador Dick Durbin (D-Ill.), Josh Hawley (R-Mo) y Lindsey Graham (RS.C.). Si se promulga, el proyecto de ley permitiría a las víctimas de pornografía deepfake demandar a personas que distribuyeran “falsificaciones digitales” de ellos que fueran de naturaleza sexual. La ley propuesta básicamente Abrir la puerta a litigios de alto perfil por parte de celebridades femeninas cuyas imágenes se utilizan en casos como el que involucra a Swift. Otras mujeres y víctimas también podrían demandar, obviamente, pero las más ricas y famosas tendrían los recursos para llevar a cabo tales litigio.
El proyecto de ley define la “falsificación digital” como “una representación visual creada mediante el uso de software, aprendizaje automático, inteligencia artificial o cualquier otro medios generados por computadora o tecnológicos para parecer falsamente auténticos”.
“Este mes, imágenes falsas y sexualmente explícitas de Taylor Swift que fueron generadas por inteligencia artificial que se extendió a través de las plataformas de redes sociales. Aunque las imágenes pueden ser falsas, el daño a las víctimas de la La distribución de ‘deepfakes’ sexualmente explícitos es muy real”, afirmó el senador Durbin en un comunicado de prensa asociado con el proyecto de ley. El comunicado de prensa también señala que el “volumen de contenido ‘deepfake’ disponible en línea está aumentando exponencialmente a medida que la tecnología solía crearlo se ha vuelto más accesible al público”.
Como se señaló anteriormente, la IA o la pornografía Deepfake ha sido un problema constante durante bastante tiempo, pero la IA ha avanzado en los últimos años han hecho que la generación de porno realista (aunque un poco extraño) mucho, mucho más fácil. La llegada de generadores de imágenes gratuitos y accesibles, como DALL-E de OpenAI y otros de su tipo, significa que prácticamente cualquiera puede crear cualquier imagen que quieran o, al menos, puedan crear la mejor aproximación de un algoritmo de lo que quieran con solo hacer clic en un botón. Esto ha causado una serie de problemas en cascada, incluido un aparente explosión de material de abuso infantil generado por computadora que los gobiernos y los reguladores de contenido no parecen saber cómo combatir.
La conversación sobre la regulación de los deepfakes se ha abordado una y otra vez, aunque se han presentado o abandonado repetidamente esfuerzos serios para implementar alguna nueva política. por el Congreso.
Hay pocas maneras de saber si este esfuerzo particular tendrá éxito, como señala Amanda Hoover en Wired. recientemente señaladoSi Taylor Swift no puede derrotar al porno deepfake, nadie podrá.
Pregunta del día: ¿Puede el nuevo robot de Meta limpiar tu asqueroso dormitorio?
Actualmente hay una carrera en Silicon Valley para ver quién puede crear el robot más viable comercialmente. Si bien la mayoría de las empresas parecen estar preocupadas creando un robot “humanoide” efectivo que recuerda a los espectadores a C3PO, Meta puede estar ganando la carrera para crear un robot auténticamente funcional que pueda hacer cosas por usted. Una semana, investigadores conectados a la empresa dieron a conocer su OK-Robot, que parece un soporte de lámpara acoplado a un Roomba. Puede parecer tonto, el sistema de IA que impulsa la máquina significa un negocio serio. En varios videos de YouTube, se puede ver al robot haciendo zoom una habitación desordenada y recogiendo y reubicando varios objetos. Los investigadores dicen que el bot utiliza “Modelos de Visión-Lenguaje (VLM) para la detección de objetos , primitivas de navegación para el movimiento y primitivas de agarre para la manipulación de objetos”. En otras palabras, esta cosa puede ver cosas, agarrar cosas y moverse en un espacio físico con una buena cantidad de competencia. Además, el robot hace esto en entornos en los que nunca ha estado antes, lo cual es una hazaña impresionante para un robot ya que la mayoría de ellos sólo pueden realizar tareas en entornos altamente controlados.
Otros titulares esta semana:
Las empresas de IA acaban de perder un montón de valor de sus acciones. La capitalización de mercado de varias grandes empresas de IA se desplomó esta semana después de que sus informes de ganancias trimestrales mostraran que habían generado ingresos significativamente menores. de lo que los inversores esperaban. La empresa matriz de Google, Alphabet, Microsoft y el fabricante de chips AMD fueron testigos de una venta masiva masiva el martes. Reuters informa queEn total, las empresas perdieron 190.000 millones de dólares en capitalización de mercado. En serio, ¡ay! Eso es mucho.
La FCC podría criminalizar las robocalls generadas por IA. La IA ha permitido que el fraude en línea se generalice: estafas en línea que ya eran molestas, pero que, gracias a las nuevas formas de automatización , ahora están peor que nunca. La semana pasada, el presidente Joe Biden fue objeto de una llamada automática generada por IA y, como resultado, la Comisión Federal de Comunicaciones ahora quiere prohibir legalmente tales llamadas. “La clonación de voz e imágenes generadas por IA ya están sembrando confusión al engañar a los consumidores a pensar que las estafas y los fraudes son legítimos”, dijo Jessica Rosenworcel, presidenta de la FCC, en una declaración enviado a NBC.
Amazon ha estrenado un asistente de compras con IA. La empresa de comercio electrónico más grande del mundo ha lanzado un chatbot entrenado con inteligencia artificial, denominado “Rufus”, diseñado para ayudarlo. comprar cosas más eficientemente. Rufus es descrito como un “asistente de compras experto capacitado en el catálogo de productos de Amazon e información de toda la web para responder las preguntas de los clientes sobre las necesidades de compra, productos y comparaciones”. Aunque me siento tentado a burlarme de esto, tengo que admitir: Ir de compras puede ser difícil. A menudo se siente como si Se requiere una cantidad ridícula de investigación solo para realizar la compra más simple. Sólo el tiempo dirá si Rufus realmente puede salvar el tiempo de usuario ocasional de la web o si le “alucinará” algún consejo espantoso que empeorará aún más su viaje de comercio electrónico. Si esto último Si resulta ser así, voto por presionar a Amazon para cambiar el nombre del robot a “Doofus”.
