La nueva herramienta de detección de IA de Meta no funciona del todo como se anuncia, según un informe reciente.
Meta presentó el debut de su primer modelo de generación de imágenes, Muse Image, esta semana y como parte de ese debut el gigante tecnológico también anunció que todas las imágenes generadas por el modelo incluirían un sistema de marca de agua invisible, el Content Seal. Ese sello permanece intacto incluso si la imagen generada con IA “se recorta, comprime, cambia el tamaño o se hace captura de pantalla”, según afirmó la compañía. Además, Meta anunció que su herramienta de detección de IA podría detectar si Muse Image había generado una imagen.
Pero en un informe que se publicó el viernes los reporteros de Reuters dicen que la herramienta de detección de IA no logró identificar más de la mitad de las imágenes que había generado si éstas se habían recortado. Reuters halló que la herramienta identificaba correctamente las imágenes generadas por Muse Image como generadas por IA, pero si se recortaba a la mitad o a un tercio de su tamaño original, la herramienta solo lograba identificar al 55% como generadas por IA.
A medida que las herramientas de IA generativa van mejorando para producir deepfakes que casi dan escalofríos, la detección se convierte en un problema cada vez mayor. Según DeepStrike, una compañía de ciberseguridad, el volumen de deepfakes generados por IA que hay en Internet creció casi un 900% al año entre 2023 y 2025. Sin embargo, la capacidad de detección no avanzó del todo a la par. Las herramientas comerciales de detección de IA, también impulsadas por IA siguen cometiendo errores en tanto que la capacidad de la persona promedio para identificar contenido generado por IA está bastante librada al azar, según estudios anteriores.
Aunque no logre un éxito inmediato, es esa la brecha que busca cubrir Meta con el nuevo Contento Seal y su herramienta de detección.
La búsqueda por liderar el podio
Muse Image y los productos que le acompañan buscan avanzar un paso más en nombre de Meta, que en el espacio de la IA parece haber estado un paso atrás. El año pasado el CEO de Meta Mark Zuckerberg decidió que no hay momento mejor que el presente para tratar de ponerse a la altura, y anunció importantes esfuerzos en el campo de la IA. Ese plan incluía multimillonarias inversiones en investigación y desarrollo, además de “robar” talentos a la competencia, para construir mejores productos de IA persiguiendo el ambicioso objetivo de crear una superinteligencia artificial.
Después de invertir miles de millones en IA y de efectuar reestructuraciones, Meta presentó Muse Spark en abril, un modelo propio que según la compañía planea ofrecer en código abierto y que fue recibido con entusiasmo y escepticismo a la vez. Esta semana, presentó Muse Image.
Pero ese debut de la herramienta para generar imágenes y detectarlas ha quedado sumido en la controversia, y no solo por el informe de Reuters. Hubo usuarios de Instagram que se alarmaron al encontrar que el modelo de IA podía usar fotos de cualquier perfil público sin preguntarle al propietario del perfil si estaba de acuerdo. Ahora, esa función se ha eliminado.
La compañía ha puesto la mira en su próximo debut de IA generativa: el generador de videos Muse Video. Esperamos que la compañía logre resolver los problemas de las herramientas de detección y respete el derecho a la privacidad de los usuarios, antes de que presente el generador.
