Saltar al contenido
Tecnología

El MIT pone en duda una idea clave sobre las imágenes generadas por IA: eliminar a un artista del entrenamiento puede no cambiar el resultado

Investigadores del MIT identificaron un fenómeno que llaman “decaimiento de la atribución”: cuanto más grande es el conjunto de datos utilizado para entrenar una IA, más difícil resulta vincular una imagen generada con una obra o un autor concreto. El hallazgo podría complicar aún más los debates sobre derechos de autor.
Por

Tiempo de lectura 3 minutos

Comentarios (0)

Una de las grandes preguntas que rodean a los generadores de imágenes mediante inteligencia artificial es cuánto debe cada resultado a las obras utilizadas durante su entrenamiento. Artistas, fotógrafos y empresas llevan años reclamando que algunos modelos fueron entrenados con contenido protegido, mientras varias demandas intentan determinar hasta qué punto una imagen creada por IA puede considerarse derivada de una obra previa.

Una investigación del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT (CSAIL) acaba de añadir una nueva dificultad al problema. Sus investigadores comprobaron que, cuando los modelos se entrenan con cantidades enormes de información, la influencia individual de una fotografía o incluso del catálogo completo de un artista puede volverse extremadamente pequeña.

El equipo bautizó este fenómeno como “decaimiento de la atribución”.

Cuantos más datos aprende una IA, menos pesa cada imagen

La lógica parece sencilla. Un modelo generativo aprende a partir de enormes colecciones de imágenes y, a medida que aumenta ese conjunto, cada elemento representa una fracción cada vez menor de todo lo que el sistema ha visto.

El problema era demostrarlo experimentalmente.

Para conocer realmente cuánto influye una determinada fotografía en un modelo habría que eliminarla del conjunto de entrenamiento, volver a entrenar el sistema desde cero y comparar posteriormente sus resultados.

Repetir ese proceso con modelos entrenados mediante millones o miles de millones de imágenes sería demasiado caro y lento. Por eso, los investigadores del MIT diseñaron una arquitectura diferente.

El MIT pone en duda una idea clave sobre las imágenes generadas por IA: eliminar a un artista del entrenamiento puede no cambiar el resultado
© Magnific

Encontraron una forma de “borrar” imágenes sin entrenar de nuevo toda la IA

En lugar de utilizar un único sistema enorme, el equipo construyó un modelo compuesto por múltiples componentes más pequeños, cada uno entrenado con distintos subconjuntos de datos.

Esta estructura permite estudiar qué ocurriría si una imagen determinada nunca hubiera formado parte del entrenamiento. Para hacerlo, los científicos pueden simplemente desactivar los componentes que tuvieron acceso a ese contenido y observar cómo cambia el resultado.

El mismo procedimiento puede utilizarse para eliminar no solo una fotografía, sino también todas las obras asociadas a un determinado artista.

Los experimentos mostraron algo llamativo: en modelos suficientemente grandes, retirar una obra concreta puede producir cambios mínimos o prácticamente imperceptibles en la imagen final generada. Incluso eliminar conjuntos más amplios vinculados a un único creador puede tener una influencia sorprendentemente pequeña.

Esto podría complicar las demandas por derechos de autor

El descubrimiento entra directamente en uno de los debates legales más importantes alrededor de la inteligencia artificial generativa.

Numerosos artistas sostienen que estos modelos producen imágenes gracias a haber aprendido de sus obras y que, por lo tanto, existe una relación entre el material utilizado durante el entrenamiento y el resultado generado.

El trabajo del MIT no demuestra que las obras originales sean irrelevantes para entrenar una IA. El modelo necesita aprender de grandes cantidades de contenido para desarrollar sus capacidades. Lo que plantea es algo más específico: puede resultar extremadamente difícil demostrar que una imagen generada depende de una obra individual concreta.

Y esa diferencia podría resultar importante cuando un tribunal intenta establecer si existe una copia, una transformación o una influencia suficientemente directa para justificar una reclamación.

La IA no parece funcionar como una simple máquina de hacer collages

El estudio también pone en cuestión una explicación habitual sobre los modelos generativos: la idea de que simplemente toman pequeños fragmentos de las imágenes utilizadas durante el entrenamiento y los reorganizan para producir algo nuevo.

En sistemas de gran escala, el proceso parece ser mucho más distribuido. Las características aprendidas proceden de cantidades enormes de datos y terminan mezclándose dentro del modelo hasta que resulta difícil señalar una única fuente responsable de un resultado.

Eso no resuelve el conflicto sobre derechos de autor. De hecho, posiblemente lo haga todavía más complejo.

Hasta ahora, una de las grandes preguntas era si una IA había utilizado una determinada obra para aprender. El trabajo del MIT introduce otra igual de incómoda: aunque sepamos que la utilizó, ¿cómo demostramos cuánto influyó realmente en lo que terminó creando?

 

 

Fuente: Infobae.

Compartir esta historia

Artículos relacionados