Todo el mundo sabe que la desinformación en línea es un problema enorme, que posiblemente ha comunidades desgarradas, manipularon elecciones, y provocaron que ciertos segmentos de la población global perder la cabeza. Por supuesto, nadie parece especialmente preocupado por solucionar este problema. De hecho, las instituciones más responsable por la desinformación en línea (y, por lo tanto, las que están en mejor posición para hacer algo al respecto), es decir, las empresas tecnológicas, parecen tener la intención de en hacer todo lo que puedan para empeorar exponencialmente el problema.
Caso en cuestión: OpenAI lanzado Sora, su nuevo generador de texto a video, el jueves. El modelo está diseñado para permitir a los usuarios web generar videos de IA de alta calidad con solo un mensaje de texto. Actualmente, la aplicación está sorprendiendo a Internet con su extraña variedad de imágenes visuales, ya sea un desfile del Año Nuevo Chino, un hombre corriendo hacia atrás en una cinta de correr en la oscuridad, un gato en una cama, o dos barcos piratas dando vueltas en una taza de café.
the sora “weakness” demos are legitimately uncannily cool video art lol https://t.co/RYp5tABXSA pic.twitter.com/nNcvBcz57M
— benjamin (@ikeadrift) February 15, 2024
Llegados a este punto, a pesar de su misión de “cambiar el mundo”, se podría argumentar que la mayor contribución de OpenAI a Internet ha sido la instantánea generación de incontables terabytes de basura digital. Todas las herramientas públicas y abiertas de la empresa son generadores de contenido, como, Los expertos han advertido, están preparados para ser utilizados en campañas de fraude y desinformación.
en su publicación de blog Sobre Sora, el equipo de OpenAI reconoce abiertamente que podría haber algunas desventajas potenciales en su nueva aplicación. Para abordar esas desventajas, la compañía dice que está trabajando en tecnologías de marcas de agua que marcarían el contenido que su generador ha creado. También está interactuando con personas conocedoras para descubrir cómo para hacer el inevitable aluvión de basura generada por IA que Sora desatará menos tóxico. Sora no está abierto al público aún y, Mientras tanto, OpenAI dice que creará sistemas que negarán a los usuarios que quieran generar imágenes violentas o sexuales. :
Involucraremos a formuladores de políticas, educadores y artistas de todo el mundo para comprender sus inquietudes e identificar casos de uso positivos para esta nueva tecnología. . A pesar de investigaciones y pruebas exhaustivas, no podemos predecir todas las formas beneficiosas en que las personas usarán nuestra tecnología, ni todas las formas en que las personas abusará de ello.
Este planteamiento del problema, como si OpenAI no estuviera muy seguro de cómo su aplicación podría ser mal utilizada, es bastante gracioso, ya que ya es totalmente obvio cómo sucederá. Una vez que entre en funcionamiento, Sora generará contenido falso a una escala gigantesca, algunos de los cuales probablemente se utilicen con fines de desinformación, algunos de los cuales, parece innegable, se utilizarán para contribuir a una variedad de fraudes y estafas, y algunas de las cuales se utilizarán para generar contenido tóxico de un tipo u otro. Todo este contenido inundará las redes sociales. canales de medios, haciendo más difícil para la gente común distinguir entre lo que es real y lo que es falso, y haciendo de Internet, en general, un Mucho más molesto. No creo que sea necesario un panel global de expertos para resolver eso.
OpenAI ha dicho que quiere poner límites significativos al contenido violento y sexual producido por Sora, pero los usuarios web han demostrado cuán inteligentes ellos pueden ser en hacer jailbreak a sistemas de IA para generar los tipos de contenido que desobedecen las políticas de uso de las empresas. No parece fuera del ámbito de la posibilidad que el mismo será verdad aquí.
Hay una serie de otras desventajas obvias de esta aplicación. Por un lado, Sora—y otros de su calaña—probablemente no tendrán el mayor impacto ambiental. Los investigadores han demostrado que los generadores de texto a imagen son significativamente peores, desde el punto de vista medioambiental, que los generadores de texto, y simplemente,crear una imagen de IA requiere la misma cantidad de energía que para cargar completamente su teléfono inteligente. Las nuevas tecnologías de generación de texto a video probablemente dañarán la economía de los creadores de videos, porque ¿por qué las empresas deberían pagarle a las personas para que creen contenido visual cuando todo ¿Qué es necesario para crear un vídeo es hacer clic en un botón?
Como tal, Sora se siente como un gran “vete a la mierda” ante la realidad, pero también se siente como un “vete a la mierda” hacia toneladas de otras cosas. En lo que respecta a la clase corporativa en este país, nada realmente importa excepto el dinero. Al carajo con el medio ambiente, al carajo con los artistas, al carajo con Internet. que esté libre de desinformación, que se joda la salud del discurso político, que se joda cualquier cosa que se interponga en el camino del afán de lucro. Cualquier cosa que se puede exprimir para ganar dinero se debe exprimir, incluso si se trata de un programa de software cuya única utilidad real es que puede generar un video de un hámster vaquero montando un dragón. Como un X usuario lo puso: “Esto es por lo que los imbéciles sacrifican el medio ambiente. Estúpida. Mierda. Como. Esto”.
https://t.co/WJQCMEH9QG pic.twitter.com/Qa51e18Vph
— Sam Altman (@sama) February 15, 2024
