el nuevo Samsung Galaxy S24 está todo en la IA, tanto es así que el fabricante del teléfono hizo un gran escándalo sobre cómo se entiende su nueva marca de agua de IA para disuadir a los usuarios de difundir en línea imágenes alteradas por IA o puramente falsificadas. El problema es que S24 Cuenta con tantas capacidades de IA que una simple herramienta tipo Magic Eraser puede eliminar esa misma marca de agua con poca molestia.
En su Galaxia desempaquetada En el evento del pasado miércoles, Samsung declaró que cualquier imagen que usara las capacidades generativas de la compañía venía con una marca de agua. lado de cada imagen como el logotipo “sparkle” de Samsung.
Gizmodo confirmó que la herramienta de borrado de objetos basada en IA de Samsung, la característica anunciada que puede eliminar y reemplazar partes no deseadas de una foto, puede eliminar la marca de agua que se supone marca si una imagen fue generada por IA. Esto funcionó en el Galaxy S24 Ultra modelo de prueba, y algunos otros también han notado la gran supervisión destinada a evitar que las imágenes falsas hagan que Internet sea aún más más inhóspito de lo que ya es.
You can easily remove Samsung's AI watermark by simply object-erasing it 🤣 pic.twitter.com/YSVTI3avKt
— Raven (@Razar_the_Raven) January 18, 2024
Pero se vuelve aún más confuso. En las pruebas de Gizmodo, algunas imágenes donde usamos la herramienta de borrado de objetos no aparecieron con un marca de agua, mientras que otros, incluido un fondo de pantalla modificado por IA, sí lo hicieron. relanzar la grabación de su conferencia Unpacked, la marca de agua aparece una vez que el Sr. Bestia usa la herramienta de borrado de objetos para deshacerse de su grúa de su chocolate gigante (de sabor horrible) barra. En el texto que se encuentra en la parte inferior de ese mismo clip, Samsung dejó explícito que no se responsabiliza por ninguna información inexacta. deepfake.
“La edición generativa requiere una conexión de red y un inicio de sesión con una cuenta Samsung. La edición con edición generativa da como resultado una foto redimensionada de hasta 12 MP. La marca de agua se superpone en la salida de la imagen al guardarla para indicar que la imagen es generada por IA. La precisión y la confiabilidad de la producción generada no está garantizada”.
Samsung no respondió de inmediato a la solicitud de comentarios de Gizmodo si tiene conocimiento de estos problemas y si está trabajando en una solución. La herramienta de borrado, al igual que el Borrador Mágico de Google anterior, reemplaza los píxeles de objetos no deseados en una imagen para combinarlos con el Antecedentes. No está claro por qué el sistema simplemente no reemplaza la misma marca de agua en la nueva imagen.
A las grandes empresas de IA les gusta Adobe y incluso la Casa Blanca Han promovido las marcas de agua como una forma de lidiar con la afluencia de deepfakes de IA en línea. Estas marcas de agua, incluidas las de Samsung, también introducen metadatos en cada imagen, notificando que la imagen fue modificada. Sin embargo, editar los metadatos de una imagen con solo un poco conocimiento es muy fácil. Imágenes cargadas a aplicaciones como Instagram no mostrarán ningún metadato a los usuarios que hojean sin pensar sus gramos.
Por otra parte, La IA ha demostrado desde hace mucho tiempo ser capaz de eliminar marcas de agua. Si Samsung soluciona el problema y hace que las marcas de agua sean más herméticas, eso no impedirá que los usuarios tomen la misma foto en cualquier otra imagen similar. aplicaciones para eliminarlo. DeepMind de Google ha declarado previamente que tiene una forma de instalar una marca de agua más permanente dentro de los mismos píxeles de una imagen. DeepMind no ha ofrecido ninguna idea sobre cómo funciona esto o qué herramientas la gente podría usar para identificar estas imágenes alteradas, pero la empresa mencionó que la función sólo funcionaría en fotos modificadas con las herramientas de Google.
Para el resto de nosotros, tendremos que conformarnos con medias tintas.
