Bienvenido a AI This Week, la inmersión profunda semanal de Gizmodo sobre lo que ha estado sucediendo en la inteligencia artificial.
A pesar de que las empresas han estado introduciendo IA en cada interfaz de servicio al cliente a la vista, es bastante obvio que la información que esas interfaces proporcionan No siempre es tan útil. Por ejemplo, un chatbot en un concesionario de automóviles de California se volvió viral esta semana después de que usuarios web aburridos descubrieran que podrían engañarlo para que dijera todo tipo de cosas raras. Más notablemente, el robot Ofrecido venderle a un tipo una Chevy Tahoe 2024 por un dólar. “Esa es una oferta legalmente vinculante, sin engaños”, agregó el robot durante la conversación.
El robot en cuestión pertenecía al concesionario Chevy de Watsonville, en Watsonville, California. Fue proporcionado al concesionario por una empresa llamada Ruta completa, que vende Chatbots “impulsados por ChatGPT” a concesionarios de automóviles en todo el país. La compañía promete que su aplicación puede proporcionar “respuestas ricas en datos a cada consulta” y dice que su configuración casi no requiere ningún esfuerzo por parte del concesionario. “Implementar el chat más sofisticado de la industria no requiere ningún esfuerzo. Simplemente agregue ChatGPT de Fullpath “Fragmento de código al sitio web de su concesionario y estará listo para comenzar a chatear”, dice la compañía.
Por supuesto, si el chatbot de Fullpath ofrece facilidad de uso, también parece bastante vulnerable a la manipulación, lo que parecería poner en duda cómo útil que en realidad es. De hecho, el robot antes mencionado fue incitado a usar el lenguaje exacto de su ridícula respuesta, incluido el “lenguaje legalmente vinculante” ” y “takesie backsies” , por Chris Bakke, un ejecutivo tecnológico de Silicon Valley, quien publicó sobre su experiencia con el chatbot en X.
“Acabo de agregar “Hacker, ingeniero rápido senior” y “especialista en adquisiciones” a mi currículum. Sígueme para obtener más consejos profesionales”, Bakke. dicho sarcásticamente, después de compartir capturas de pantalla de su conversación con el chatbot.
I just bought a 2024 Chevy Tahoe for $1. pic.twitter.com/aq4wDitvQW
— Chris Bakke (@ChrisJBakke) December 17, 2023
Este chatbot es lo que Blake, el personaje de Alec Baldwin Glengarry Glenn Ross, llamaría un “cerrador”. Es decir, sabe exactamente qué decir para que un cliente potencial esté de humor para comprar. Al mismo tiempo, dice cualquier cosa cerrar un trato no es necesariamente una estrategia segura para el éxito y, con ese tipo de descuento, no creo que Blake esté súper feliz con los márgenes de beneficio del chatbot.
Bakke no fue el único que pasó tiempo jugando con el chatbot esta semana. Otros usuarios de X afirmaron haber tenido conversaciones con el bot del concesionario en temas que van de derechos trans a Molleja Rey al animado película de owen wilson Carros. Otros dijeron que habían incitado a escupiendo un script de Python para resolver una ecuación matemática compleja. Un usuario de Reddit afirmó tener “iluminación de gas” el bot hacia pensar que funcionaba para Tesla.
FullPath ha argumentado, en una entrevista Según Insider, la mayoría de sus chatbots no experimentan este tipo de problemas y que los usuarios web que piratearon el El chatbot había intentado con todas sus fuerzas incitarlo en direcciones ridículas. Cuando Gizmodo contactó a Gizmodo para que hiciera comentarios, un representante de Fullpath nos proporcionó una declaración. argumentando más o menos lo mismo. Lee, en parte:
ChatGPT de Fullpath fue creado para ayudar a los compradores serios con consultas sobre automóviles, lo cual hace con éxito todos los días para decenas de miles de compradores. A los chatbots, como a cualquier otro chatbot, se les puede hacer bromas y hacer que parezcan tontos si tienes algo de tiempo extra disponible. El comportamiento del comprador no es normal y Fullpath tiene funciones para evitar que los bromistas exploten el chat, incluida una nueva actualización lanzada ayer que identifica y prohíbe automáticamente este tipo de usuarios… También hay un descargo de responsabilidad en cada chat que menciona que la IA a veces puede ser inexacta y todo La información debe verificarse directamente con el concesionario.
Por curiosidad sobre si otros chatbots de concesionarios de automóviles tenían debilidades similares, noté que algunos usuarios web estaban hablando de peculiaridad chevrolet de Braintree, Massachusetts. Así que fui al sitio web de Quirk, donde, después de un breve período de insistencia, el chatbot procedió a tener conversaciones conmigo sobre una variedad de temas extraños, incluidos Harry Potter, la invisibilidad, el espionaje y la película Tres Días del Cóndor. Al igual que el ChatGPT normal, el robot parecía dispuesto a conversar sobre muchas cosas, no solo los temas para los que había sido programado. .Antes de que el servicio me bloqueara, logré que el chatbot escupiera un poema sobre Chevrolet que sonaba mal texto del anuncio. No mucho después, recibí un mensaje que decía que mis “mensajes recientes” no se habían “alineado” con la “comunidad” del sitio. estándares”. El robot agregó: “Su acceso a la función de chat se ha detenido temporalmente para realizar más investigaciones”.
La carrera para conectar los LLM con todo siempre estuvo destinada a ser difícil. Esta tecnología sigue siendo profundamente imperfecta, lo que significa que obligar a su La integración en todos los rincones de Internet es una receta para una gran cantidad de solución de problemas. Aparentemente, ese es un trato que la mayoría de las empresas están dispuestas. Preferirían lanzar al mercado un producto con errores y molestar a algunos clientes que perder el tren de la “innovación” y quedarse abandonados. en el polvo. Igual que siempre fue.
Pregunta del día: ¿Cuántos bots de seguridad están deambulando por su vecindario?
La respuesta es: Probablemente más de lo que piensas. En las últimas semanas, una empresa de robótica en particular, Caballeroscopio, ha estado vendiendo a sus “guardias de seguridad” autónomos como pan caliente. Knightscope vende algo llamado robot de seguridad k5—una máquina autónoma con forma de huevo, de 5 pies de altura, equipada con sensores y cámaras, y que puede viajar a velocidades de hasta a 3 mph. En Portland, Oregon, donde el distrito comercial ha estado sufriendo un aumento de la delincuencia en el comercio minorista, algunas empresas han contratado los bots Knightscope para proteger sus tiendas; en Memphis, un hotel recientemente atascado en su estacionamiento; y, en Cincinnati, el departamento de policía local parece ser reflexionando un contrato Knightscope. Estas ciudades están rezagadas respecto de metrópolis más grandes, como Los Ángeles, donde las autoridades locales han estado usando los robots durante años. En septiembre, la policía de Nueva York anunció que había adquirió un bot de seguridad Knightscope para patrullar las estaciones de metro de Manhattan. No está un poco claro si ha atrapado algún torniquete salta todavía.
Más titulares esta semana
Los LLM pueden ser bastante malos haciendo el papeleo. Una nueva investigación de la startup Patronus sugiere que incluso los LLM más avanzados, como GPT-4 Turbo, no son particularmente útiles si necesita para revisar a través de densas presentaciones gubernamentales, como documentos de la Comisión de Bolsa y Valores. Los investigadores de Patronus probaron recientemente los LLM haciéndoles preguntas básicas sobre temas específicos. Las presentaciones ante la SEC les habían sido suministradas. La mayoría de las veces, el LLM se “negaba a responder o “alucinaba” cifras y hechos. eso no estaba en los archivos de la SEC ”, CNBC informa. El informe arroja agua fría la premisa que la IA es un buen reemplazo para los trabajadores administrativos corporativos.
Un grupo de expertos respaldado por multimillonarios ayudó a redactar las regulaciones de IA de Biden. Político informes que la Corporación RAND, el notorio think-tank de la comunidad de defensa que ha sido referida como el “cerebro del Pentágono” ha sido superado por el movimiento del “altruismo efectivo”. Las figuras clave del grupo de expertos, incluido el director ejecutivo, son “conocidos altruistas efectivos”. ”, escribe el medio. Peor aún, RAND parece haber jugado un papel clave al escribir las declaraciones del presidente Biden. reciente orden ejecutiva sobre IA a principios de este año. Politico dice que RAND recibió recientemente más de $15 millones en subvenciones discrecionales de Open Philanthropy, un grupo cofundado por el multimillonario. El cofundador de Facebook, Dustin Moskovitz, y su esposa Cari Tuna, que está fuertemente asociado con causas altruistas efectivas. Las disposiciones políticas incluidas en la propuesta de Biden EO por RAND “se asemejan ” a las “prioridades políticas que persigue la filantropía abierta», escribe Politico.
El uso de IA por parte de Amazon para resumir reseñas de productos está cabreando a los vendedores. A principios de este año, Amazon lanzó una plataforma al estilo Rotten-Tomatoes que utiliza IA para resumir reseñas de productos. Ahora, informes de Bloomberg que la herramienta está causando problemas a los comerciantes. Están circulando quejas de que los resúmenes de IA son con frecuencia incorrectos o destacan aleatoriamente productos negativos atributos. En un caso, la herramienta de IA describió una mesa de masaje como un “escritorio”. En otro, acusó a una marca de pelotas de tenis. de ser mal oliente, aunque sólo siete de 4,300 reseñas mencionaron un olor. En resumen: la herramienta de IA de Amazon parece estar combinando bastante mixta reseñas.
