Titulares de esta semana
OpenAI implementó una serie de importantes actualizaciones para ChatGPT esta semana. Esas actualizaciones incluyen “ojos, oídos y voz“(es decir, el chatbot ahora cuenta con reconocimiento de imágenes, capacidades de síntesis de voz a texto y de síntesis de texto a voz y voces similares a las de Siri, por lo que básicamente hablando con el HAL 9000), así como una nueva integración que permite a los usuarios navegar por internet abierto.
En su evento anual Connect de esta semana, Meta lanzó una serie de nuevas características relacionadas con la IA. Pegatinas generadas por IA. Hurra.
¿Deberías usar ChatGPT? como terapeuta? Probablemente no. Para obtener más información sobre eso, consulte la entrevista de esta semana.
Por último, pero no menos importante: los novelistas todavía demandando a la mierda fuera de empresas de IA por robar todos sus trabajos con derechos de autor y convertirlos en comida de chatbot.
La historia principal: Tiza Uno Arriba para los buenos chicos
Una de las preguntas persistentes que embrujado La huelga de escritores de Hollywood era qué tipo de protecciones se materializarían (o no) para proteger a los escritores de la amenaza de la IA. En, los estudios de cine y streaming hicieron saber que estaban entusiasmado por la idea de que un algoritmo ahora podría “escribir” un guión. ¿Por qué no lo harían? No tienes que pagar un programa de software. Por lo tanto, los ejecutivos inicialmente se negaron a hacer concesiones que hubieran definido claramente al guionista como una persona claramente humano rol.
Bueno, ahora la huelga ha terminado. Afortunadamente, de alguna manera, los escritores ganó grandes protecciones contra el tipo de desplazamiento automatizado que temían. Pero si se siente como un momento de victoria, podría ser solo el comienzo de una batalla continua entre los altos ejecutivos de la industria del entretenimiento y sus trabajadores humanos.
El nuevo contrato WGA que surgió de la huelga de escritores incluye amplias protecciones para los cuadros editoriales de la industria del entretenimiento. Además de las concesiones positivas que involucran residuos y otras preocupaciones económicas, el contrato también describe definitivamente protecciones contra el desplazamiento a través de la IA.
Según el contrato, a los estudios no se les permitirá usar IA para escribir o reescribir material literario, y el material generado por IA sí no se considerará material de origen para historias y guiones, lo que significa que los seres humanos conservarán el crédito exclusivo por el desarrollo de obras creativas. Al mismo tiempo Al mismo tiempo, si bien un escritor puede optar por usar IA mientras escribe, una empresa no puede obligarlo a usarla. FFinalmente, las empresas tendrán que revelar a los escritores si algún material que se les entregue fue generado a través de IA.
En resumen: es una muy buena noticia que los escritores de Hollywood hayan obtenido algunas protecciones que detallan claramente que no serán reemplazados inmediatamente por software, para que los ejecutivos de los estudios puedan ahorrarse un pequeño gasto. Algunos comentaristas están incluso diciendo que La huelga de escritores ha ofrecido a todos un plan sobre cómo salvar los empleos de todos de la amenaza de la automatización. Al mismo tiempo, Queda claro que la industria del entretenimiento (y muchas otras industrias) todavía están fuertemente invertidas en el concepto de IA, y lo estarán para el futuro previsible. Los trabajadores van a tener que seguir luchando para proteger sus roles en la economía, a medida que las empresas buscan cada vez más atajos gratuitos y automatizados.
La entrevista: Calli Schroeder sobre Por qué no deberías usar un Chatbot para un terapeuta
Esta semana charlamos con Calli Schroeder, asesora de privacidad global en el Centro de Información de Privacidad Electrónica (EPIC). Queríamos hablar con Calli. sobre un incidente eso tuvo lugar esta semana con OpenAI. Lilian Weng, jefa de sistemas de seguridad de la compañía, levantó más de unas cuantas cejas cuando ella tuiteó que se sintió “escuchada y cálida” mientras hablaba con ChatGPT. Luego tuiteó: “¿Nunca has probado la terapia antes, pero probablemente sea esto? Pruébalo, especialmente si normalmente lo usas como una herramienta de productividad”. La gente tenía escrúpulos sobre esto, incluida Calli, quien posteriormente publicado un tema en Twitter desglosando por qué un chatbot no era un compañero terapéutico menos óptimo: “Santa mierda, no usesChatGPT como terapia «, Calli tuiteó. Simplemente teníamos que saber más. Esta entrevista ha sido editada para mayor brevedad y claridad.
En tus tuits parecía que estabas diciendo que hablar con un chatbot no debería considerarse terapia. Estoy de acuerdo con Ese sentimiento, pero tal vez podrías aclarar por qué te sientes así. ¿Por qué un chatbot con IA probablemente no sea la mejor ruta para alguien? ¿Buscas ayuda mental?
Veo esto como un riesgo real por un par de razones. Si estás intentando utilizar sistemas de IA generativa como terapeuta, y compartir toda esta información realmente personal y dolorosa con el chatbot… toda esa información ingresa al sistema y eventualmente ser utilizados como datos de entrenamiento. Así , sus pensamientos más personales y privados se están utilizando para entrenar el conjunto de datos de esta empresa. Y puede existir en ese conjunto de datos para siempre. Es posible que no haya manera de pedirles que lo eliminen o que no se pueda para eliminarlo. Es posible que no sepa si se puede rastrear hasta usted. Hay muchas razones por las que toda esta situación es un riesgo enorme.
Además de eso, también está el hecho de que estas plataformas no son en realidad terapeutas, ni siquiera son humanos. tienen algún deber de cuidado hacia usted, pero a ellos literalmente no les importa. No son capaces de preocuparse. Tampoco nos hacemos responsables si te dan malos consejos que acaban empeorando las cosas para tu estado mental.
A nivel personal, me preocupa y me entristece que las personas que se encuentran en una crisis de salud mental se acerquen a las máquinas. , solo para que puedan conseguir que alguien o algo los escuche y les muestre algo de empatía. Creo que eso probablemente habla de algunos problemas mucho más profundos en nuestra sociedad.
Sí, definitivamente sugiere algunas deficiencias en nuestro sistema de atención médica.
Cien por ciento. Desearía que todos tuvieran acceso a una terapia buena y asequible. Reconozco absolutamente que estos chatbots están llenando un vacío porque Nuestro sistema de salud le ha fallado a la gente y no tenemos buenos servicios de salud mental. Pero el problema es que estas supuestas soluciones En realidad, puede empeorar mucho las cosas para las personas. Por ejemplo, si esto fuera sólo cuestión de que alguien escribiera en su diario para expresar sus sentimientos, eso sería una cosa. Pero estos chatbots no son un foro neutral; te responden. Y si las personas Buscar ayuda y esas respuestas son inútiles, eso es preocupante. Si se trata de explotar el dolor de la gente y lo que le cuentan, es una todo un asunto aparte.
¿Alguna otra inquietud que tenga sobre la terapia de IA?
Después de tuitear sobre esto, hubo algunas personas que dijeron: “Bueno, si la gente decide hacer esto, ¿quién eres tú para decírselo? ¿no hacerlo?” Ese es un punto válido. Pero la preocupación que tengo es que, en muchos casos que involucran nueva tecnología , A la gente no se le permite tomar decisiones informadas porque no hay mucha claridad sobre cómo funciona la tecnología. Si la gente estuviera consciente de cómo se construyen estos sistemas, de cómo ChatGPT produce el contenido que hace, de dónde va la información que usted alimenta, ¿Cuánto tiempo se almacena? Si tenías una idea realmente clara de todo eso y todavía estabas interesado en ello, entonces… seguro. , está bien. Pero, en el contexto de la terapia, todavía hay algo problemático al respecto porque si te acercas de esta manera , es completamente posible que estés en un estado mental angustiado en el que, por definición, no estás pensando con claridad. La complicada cuestión de si el consentimiento informado es real en este contexto.
Ponte al día con todo Noticias de IA de Gizmodo aquí, o ver todas las últimas noticias aquí. Para actualizaciones diarias, suscríbete al boletín gratuito de Gizmodo.
