Un pintor descubre que un modelo de inteligencia artificial se entrenó con sus cuadros, sin permiso ni pago, y demanda. Si una parte de su reclamación depende de vincular una imagen generada con sus obras concretas puede encontrarse ante una prueba endiabladamente difícil: demostrar que esas obras influyeron causalmente en lo que la máquina produjo y que, de retirarlas del entrenamiento, el resultado habría cambiado. Un estudio del MIT publicado en agosto de 2026 en Nature Communications acaba de mostrar que, en los modelos y conjuntos de datos examinados, esa prueba puede no encontrar en muchos casos una influencia causal individual apreciable. No necesariamente porque el pintor se equivoque, sino por la escala y la redundancia con que funcionan determinados modelos de generación de imágenes.
El estudio se titula «los resultados de los modelos generativos de difusión son a menudo inatribuibles». Sus autores, Zheng Dai y David K. Gifford, plantean una pregunta contrafactual: ¿qué habría generado el modelo si una determinada unidad de datos no hubiera estado en su entrenamiento? Para responderla sin reentrenar la máquina entera cada vez, diseñan un sistema que les permite eliminar del modelo la influencia de una unidad concreta y observar qué cambia. Esa unidad no es solo una imagen suelta: puede ser todas las fotos de una persona o todas las obras de un artista dentro del corpus. Excluyen por separado cada una de esas unidades, miden la diferencia en lo que la máquina produce y encuentran un patrón claro: cuanto más grande es el conjunto de entrenamiento, menos tiende a cambiar el resultado al quitar una pieza individual. En algunos de sus experimentos podía omitirse incluso la unidad correspondiente a una persona o a un artista sin que determinadas muestras generadas presentaran cambios apreciables.
El estudio precisa qué supone esto porque la conclusión equivocada favorece justo a quien uno no querría. Las obras influyen. La máquina depende de lo que la entrenó. Lo que el estudio muestra es que la influencia causal de una unidad concreta puede dejar de ser apreciable mediante esta prueba a medida que crecen la escala y la redundancia del conjunto de entrenamiento. Los autores consideran que la explicación principal es la redundancia de los datos. Si muchas imágenes contienen patrones semejantes, quitar una puede no producir un cambio apreciable, porque las demás siguen aportando información análoga. La obra no tiene que ser irrelevante para dejar de ser necesaria.
La trampa lógica que revela el estudio es asumir que, si una unidad concreta no es indispensable por sí sola, el conjunto deja de ser importante. El modelo aprende de los patrones estadísticos presentes en el agregado y, al mismo tiempo, puede no mostrar una dependencia causalmente detectable de una imagen, persona o artista concreto mediante una prueba de exclusión individual. Es la estructura de un pajar: retirar una brizna puede no alterar su silueta, pero el pajar solo existe como acumulación de briznas. No significa que todas sean imprescindibles ni que todas hayan contribuido por igual. Significa que la necesidad del conjunto puede coexistir con la sustituibilidad de algunas de sus partes.
Trasladado al derecho y a la ética, esa estructura puede diluir determinadas formas de responsabilidad. Si la controversia exige vincular un output concreto con una obra concreta, el creador se enfrenta a una dificultad que crece con la escala y la redundancia: su obra puede haber formado parte del proceso sin que retirarla produzca una diferencia apreciable en esa muestra. La cuestión de la posible apropiación se plantea en el nivel del corpus, mientras que algunas formas de imputación buscan una cadena individual entre obra y resultado. Entre ambas escalas se abre un vacío probatorio. La escala no elimina necesariamente el problema; puede blindarlo frente a una prueba concebida para relaciones causales individuales.
El estudio no prueba que haya infracción, ni que el entrenamiento sea ilegal, ni exonera a nadie; se ocupa de una cuestión técnica, si un resultado puede vincularse causalmente a una entrada concreta, y no de una cuestión jurídica. Se probó, además, solo en modelos de difusión y con datasets académicos de imágenes, no en los grandes modelos comerciales entrenados con corpus de otra escala y composición. No sabemos si el mismo comportamiento se reproduce allí, ni con qué intensidad: la redundancia permite formular esa hipótesis, pero el estudio no la comprueba. Y no fija ningún umbral mágico. No hay un número de imágenes a partir del cual la atribución desaparezca; hay una pendiente por la que se debilita a medida que crece la escala. Nada de esto es una sentencia. Es un hallazgo sobre lo que se puede y no se puede probar.
La forma en que se difumina aquí la atribución individual es la misma en que se difumina la responsabilidad en tantas estructuras contemporáneas. La contaminación de un río puede proceder de vertidos acumulados cuya contribución individual resulte difícil de aislar. La precariedad puede surgir de decisiones e incentivos distribuidos entre instituciones y empresas. El diseño adictivo de una plataforma puede ser el resultado de muchas decisiones parciales sin que ninguna explique por sí sola el efecto agregado. En todos esos casos puede existir un daño cuyo origen resulta difícil de localizar cuando se examina cada aportación por separado. Estos modelos de difusión llevan esa lógica a una forma particularmente nítida: un sistema que aprende del trabajo de muchos y que, por la escala y la redundancia de sus datos, puede hacer empíricamente indetectable, mediante esta prueba contrafactual, la influencia de determinadas contribuciones concretas sobre una muestra. La dilución no aparece aquí como una dificultad externa para investigar el modelo, sino como un efecto emergente de la escala y la redundancia de sus datos.
El estudio cambia el terreno de una forma concreta de prueba, y puede hacerlo a favor de quien controla la escala. Un creador puede tener dificultades para pasar de «mi cuadro estaba en el corpus» a «mi cuadro influyó causalmente en esta imagen concreta». La primera afirmación se refiere a la procedencia de los datos; la segunda, a la relación entre una unidad del entrenamiento y un resultado determinado. El estudio muestra que esa segunda relación puede dejar de ser detectable mediante una prueba de exclusión individual. Eso no invalida cualquier reclamación jurídica, porque la obtención y la reproducción de los datos de entrenamiento plantean cuestiones distintas, pero sí puede dificultar la prueba en aquellas reclamaciones que dependan de vincular una obra concreta con un output concreto. La respuesta, si la hay, difícilmente puede limitarse siempre a la relación entre una obra y un resultado. Tendría que abordar también la obtención y el uso del conjunto de datos, no solo la aguja imposible de señalar en el pajar. Mientras toda la discusión se concentre en identificar una brizna causalmente imprescindible, el pajar podrá ocultar la cuestión anterior: de dónde proceden todas las briznas que lo hicieron posible.
Sobre la conversación abierta
Este texto comenta un estudio de Zheng Dai y David K. Gifford, del MIT, publicado en Nature Communications el 18 de agosto de 2026, que muestra que, en los modelos de difusión examinados, la influencia causal atribuible a una unidad individual de entrenamiento tiende a disminuir a medida que crece el corpus. Los autores estudian como unidades una imagen, las fotografías de una persona o las obras de un artista presentes en el conjunto de datos, y consideran que la redundancia explica principalmente el fenómeno. El estudio no demuestra que las obras carezcan de influencia, que el modelo sea independiente del corpus agregado ni que el entrenamiento sea lícito o ilícito; tampoco exonera de responsabilidad a las empresas. Su alcance es técnico: investiga si una muestra generada puede vincularse causalmente a una unidad concreta mediante su exclusión contrafactual, y se probó solo en modelos de difusión con datasets académicos.
Mi interés está en la estructura que el hallazgo permite pensar: la escala puede volver indetectable una contribución individual sin eliminar la dependencia del conjunto, y permite pensar una distancia entre el nivel colectivo de la obtención de datos y el nivel individual de determinadas formas de atribución. Es un problema distinto del discutido en Thaler v. Perlmutter, referido a la registrabilidad de una obra sin autor humano y no a la licitud de utilizar obras protegidas para entrenar modelos. Si alguien quiere intervenir desde el derecho de autor, la estadística, la ética de la tecnología o la práctica artística, este cuaderno sigue abierto.
Fuentes
Zheng Dai y David K. Gifford, «Outputs of generative diffusion models are often unattributable», Nature Communications, vol. 17, art. 6974, 18 de agosto de 2026. DOI: 10.1038/s41467-026-75667-5. Artículo revisado por pares. Demuestra, mediante ablación contrafactual sobre diffusion ensembles, con control por reentrenamiento completo a pequeña escala, que la influencia causal atribuible a una unidad individual de entrenamiento, una imagen, una persona o un artista, decae siguiendo aproximadamente una ley de potencia inversa a medida que crece el corpus. En los conjuntos mayores estudiados, determinadas muestras pueden permanecer sin cambios apreciables al omitir por separado cualquiera de esas unidades. Los autores atribuyen el fenómeno principalmente a la redundancia de los datos. Probado en modelos de difusión y en datasets académicos, MNIST, Fashion-MNIST, CIFAR-10/100, CelebA, MetFaces y ArtBench, con tamaños de entre 256 y 162.770 imágenes; no en modelos comerciales, modelos autorregresivos ni grandes modelos de lenguaje.
Expediente de revisión abierta de «Outputs of generative diffusion models are often unattributable». Los autores distinguen la atribución causal mediante exclusión individual de las formas de atribución agregada, por subconjuntos o aproximadas, que pueden seguir siendo útiles. El estudio no niega la dependencia del corpus agregado ni se pronuncia sobre la legalidad del entrenamiento, la responsabilidad de las empresas o la existencia de infracción. Las declaraciones de David K. Gifford sobre las posibles implicaciones jurídicas aparecen en la nota divulgativa de MIT News, no en el artículo revisado por pares.
Contexto jurídico, como asunto distinto: el Tribunal Supremo de Estados Unidos rechazó revisar Thaler v. Perlmutter, n.º 25-449, el 2 de marzo de 2026. La denegación dejó firme en ese caso la decisión del Tribunal de Apelaciones del Circuito del Distrito de Columbia, que exige autoría humana para que una obra pueda recibir protección mediante copyright. El asunto versa sobre la registrabilidad de una obra sin autor humano, no sobre la licitud de utilizar obras protegidas para entrenar modelos.