Titulares de esta semana
Los stickers generados por IA de Meta, que se lanzaron la semana pasada, son ya está causando caos. Los usuarios rápidamente se dieron cuenta de que podían usarlos para crear imágenes obscenas, como Elon Musk con tetas, niños soldados y una versión sanguinaria de los personajes de Disney. Lo mismo ocurre con la función de generación de imágenes de Microsoft Bing, que ha desencadenado una tendencia en la que los usuarios crean imágenes de celebridades y personajes de videojuegoscometiendo los ataques del 11 S
. Otra persona ha sido herida por un robotaxis de Cruise en San Francisco. La víctima fue inicialmente atropellada por un automóvil conducido por humano, pero luego fueatropellado por el vehículo automatizado, que se detuvo encima de ella y se negó a moverse a pesar de sus gritos. Parece que todo“mejorar la seguridad vial”
Lo que las compañías de vehículos autónomos han hecho en su declaración de misión aún no se está concretando exactamente. Por último, pero no menos importante: un nuevo informe muestra que la IA ya está siendo utilizada como arma por gobiernos autocráticos en todo el mundo. Freedom Househa revelado
que los líderes están aprovechando las nuevas herramientas de inteligencia artificial para reprimir la disidencia y difundir desinformación en línea. Entrevistamos a uno de los investigadores conectados a el informe para la entrevista de esta semana.
La historia principal: el golpe creativo de la IA Sam Altman, CEO de OpenAI.Shutterstock
Aunque los empresarios detrás de la industria de la IA generativa detestan admitirlo, sus productos no son particularmente generativos ni particularmente inteligentes. En cambio, el contenido automatizado que plataformas como ChatGPT y DALL-E hacen popó con intenso vigor podría caracterizarse con mayor precisión como un desperdicio derivado: el regurgitación de un puré algorítmico de miles de obras creativas reales creadas por artistas y autores humanos. En resumen: el “arte” de IA no es El arte es simplemente un aburrido producto comercial producido mediante software y diseñado para una fácil integración corporativa. Una Comisión Federal de Comercio
La audiencia de esta semana, “Economía creativa e IA generativa”, fue diseñada para permitir a representantes de diversas vocaciones creativas la oportunidad de expresar sus inquietudes. sobre la reciente disrupción tecnológica que azota sus industrias. Desde todos los sectores, el rotundo llamado fue a una regulación impactante para proteger a los trabajadores. Este deseo de acción probablemente fue mejor ejemplificado por Douglas Preston, uno de las docenas de autores que actualmente figuran como demandante en un demanda colectiva contra OpenAI debido al uso por parte de la empresa de su material para entrenar sus algoritmos. Durante sus comentarios, Prestonnotó que
“ChatGPT sería poco e inútil sin nuestros libros» y añadió: «Simplemente imagínese cómo sería si sólo entrenara en texto extraído de blogs web, opiniones, artículos de historias de gatos, pornografía y cosas similares”. En el trabajo, vertimos nuestro corazón y nuestra alma en nuestros libros”.
El problema para los artistas parece bastante claro: ¿cómo van a sobrevivir en un mercado donde las grandes corporaciones pueden utilizar la IA para ¿Reemplazarlos o, más precisamente, reducir sus oportunidades y poder de negociación mediante la automatización de grandes partes de los servicios creativos?
Mientras tanto, el problema para las empresas de IA es que hay cuestiones legales sin resolver en lo que respecta a los bytes no contados de trabajo patentado. que empresas como OpenAI han utilizado para entrenar a sus algoritmos de reemplazo de artistas/autores/músicos. ChatGPT no podría generar poemas y cuentos con solo hacer clic en un botón, ni DALL-E tendría la capacidad de desplegar sus extrañas imágenes, si la empresa detrás de ellos no Engulló decenas de miles de páginas de autores y artistas visuales publicados. El futuro de la industria de la IA, entonces, y realmente el futuro de la creatividad humana , se decidirá por un argumento en continuo que se desarrolla actualmente dentro del sistema judicial de Estados Unidos.La entrevista:
Allie Funk habla de cómo las autocracias están convirtiendo la IA en un arma Esta semana tuvimos el placer de hablar con Allie Funk, directora de investigación para tecnología y democracia de Freedom House. Freedom House, que realiza un seguimiento de los problemas conectado con las libertades civiles y los derechos humanos en todo el mundo, publicó recientemente su informe anual sobre el estado de la libertad en Internet.informe se centró en las formas en que las herramientas de inteligencia artificial recientemente desarrolladas están potenciando los enfoques de los gobiernos autocráticos hacia la censura, la desinformación y la supresión general de libertades digitales. Como era de esperar, las cosas no van particularmente bien en ese departamento. Esta entrevista ha sido ligeramente editada para mayor claridad y brevedad.
Uno de los puntos clave de los que habla en el informe es cómo la IA está ayudando a la censura gubernamental. ¿Puede analizar un poco esos hallazgos? ¿poco?
Lo que encontramos es que la inteligencia artificial realmente está permitiendo a los gobiernos evolucionar su enfoque hacia la censura. El gobierno chino, en particular, ha intentado regular los chatbots para reforzar su control sobre la información. Lo están haciendo a través de dos métodos diferentes. El primero es que están intentando Para asegurarse de que los ciudadanos chinos no tengan acceso a chatbots creados por empresas con sede en EE. UU., están obligando a la tecnología empresas en China no integren ChatGPT en sus productos…también están trabajando para crear chatbots por sus propios para que puedan Incorporar controles de censura dentro de los datos de entrenamiento de sus propios robots. Las regulaciones gubernamentales requieren que los datos de entrenamiento de Ernie, el chatbot de Baidu, se alineen. con lo que el PCC (Partido Comunitario Chino) quiere y se alinea con los elementos centrales de la propaganda socialista. Si juegas con eso, puedes ver esto. Se niega a responder a las preguntas sobre la masacre de la plaza de Tiananmen.La desinformación es otra área de la que habla. Explique un poco sobre lo que la IA está haciendo en ese espacio.
.
Hemos estado haciendo estos informes durante años y, lo que está claro, es que las campañas de desinformación del gobierno son solo una característica regular de la espacio de información en estos días. En el informe de este año, encontramos que, de los 70 países, al menos 47 gobiernos desplegaron comentaristas que utilizaron tácticas engañosas o encubiertas para tratar de manipular los debates en línea. Estas redes de [desinformación] han existido durante mucho tiempo. En muchos países, son bastante sofisticados. Ha surgido todo un mercado de servicios de alquiler para respaldar este tipo de campañas. contrata a un influencer de redes sociales o algún otro agente similar para que trabaje para ti y hay tantas empresas de relaciones públicas turbias que hacen este tipo de trabajo para los gobiernos.
Creo que es importante reconocer que la inteligencia artificial ha sido parte de todo este proceso de desinformación durante mucho tiempo. algoritmos de plataforma que se han utilizado durante mucho tiempo para eliminar información incendiaria o poco confiable. Tienes bots que se utilizan en las redes sociales para facilitar la difusión de estas campañas. Por lo tanto, el uso de la IA en la desinformación no es nuevo. Pero lo que esperamos que la IA generativa Lo que se debe hacer es reducir la barrera de entrada al mercado de la desinformación, porque es muy asequible, fácil de usar y accesible. Cuando hablamos En cuanto a este espacio, no solo estamos hablando de chatbots, también estamos hablando de herramientas que pueden generar imágenes, videos y audio.
¿Qué tipo de soluciones regulatorias cree que se deben considerar para reducir los daños que la IA puede causar en línea?
Pensamos que hay muchas lecciones de la última década de debates en torno a la política de Internet que se pueden aplicar a la IA. Muchas Algunas de las recomendaciones que ya hemos hecho en torno a la libertad en Internet podrían ser útiles cuando se trata de abordar la IA. Entonces, por ejemplo, Que los gobiernos obliguen al sector privado a ser más transparente sobre cómo se diseñan sus productos y cuál es su impacto en los derechos humanos podría ser bastante útil. Mientras tanto, entregar los datos de la plataforma a investigadores independientes es otra recomendación crítica que hemos hecho; los investigadores independientes pueden estudiar lo que El impacto de las plataformas es en las poblaciones, qué impacto tienen en los derechos humanos. La otra cosa que realmente recomendaría es fortalecer regulación de la privacidad y reforma de las reglas de vigilancia problemáticas. Una cosa que hemos analizado anteriormente son las regulaciones para garantizar que los gobiernos no puedan hacer un mal uso de la IA. herramientas de vigilancia. Ponte al día con todoNoticias de IA de Gizmodo aquí, o vertodas las últimas noticias aquí. Para actualizaciones diarias,suscríbete al boletín gratuito de Gizmodo
