Subjetividad estética, regímenes de relevancia y la distancia entre humanos y máquinas

Un periodista de WIRED dio a un agente de inteligencia artificial acceso completo a su vida digital —correo, documentos, calendario, historial— y le pidió que organizara una fiesta de cumpleaños. El agente, Gemini Spark, hizo un trabajo notable: localizó una reserva real de karaoke, construyó un itinerario de cinco páginas, sugirió invitados, redactó correos. Pero cometió un error revelador: clasificó a la pareja conviviente del periodista como “amigo cercano” y omitió al propio autor de la lista de invitados de su propia fiesta. Cuando se le pidió que explicara sus sugerencias, respondió que no estaba infiriendo identidad personal, sino escaneando palabras clave, itinerarios previos y transacciones registradas.

El fallo no fue de información. El sistema tenía toda la información necesaria. El fallo fue de otra naturaleza: la arquitectura de relevancia que el agente aplicó a esa información no coincidía con la arquitectura de importancia del usuario. El sistema sabía recuperar trazas. No sabía jerarquizar existencias.

Este texto parte de esa fractura para plantear una tesis más amplia. La comprensión —de una obra, de una persona, de un mundo— no depende solo de compartir un código o de disponer de más datos. Depende de coincidir, aunque sea parcialmente, en qué tipo de diferencia resulta significativa. A eso lo llamo régimen de relevancia. Y sostengo que la incomprensión estética, tanto entre culturas humanas como entre humanos y máquinas, puede describirse con precisión como desalineación de regímenes de relevancia. La diferencia entre lo que nos importa y lo que a un sistema le resulta relevante no es un defecto corregible de producto: es una ventana a qué es la subjetividad estética y por qué es tan difícil de compartir.

Conviene una advertencia metodológica de entrada. Buena parte de lo que sigue se mueve entre evidencia empírica sólida y inferencia filosófica. Marcaré la diferencia con cuidado, porque el tema —que roza la cuestión de la conciencia artificial— es terreno donde la especulación fácil abunda y el rigor escasea.

1. Qué cuenta como señal: el problema bajo el problema

La pregunta habitual sobre la comprensión es “¿qué ve cada uno?”. La pregunta más profunda es otra: “¿qué tipo de diferencia le resulta significativa a cada uno?”. Dos observadores pueden tener acceso a la misma información y, sin embargo, organizar de manera radicalmente distinta qué cuenta como señal y qué cuenta como ruido.

En los seres humanos, esa organización de la relevancia no es neutral ni arbitraria. La atención y la memoria priorizan con fuerza lo auto-referencial y lo socialmente saliente. Lo que toca nuestra identidad, nuestros vínculos, nuestra memoria, nuestra vulnerabilidad, se vuelve relevante de un modo que lo meramente informativo no alcanza. Investigación reciente en psicología cognitiva sugiere que la valoración de auto-relevancia podría constituir un mecanismo básico que fundamenta el propio juicio estético: una obra no nos importa solo porque sea informativamente rica, sino porque entra en la órbita del sí mismo, del recuerdo, del afecto.

En los grandes modelos de lenguaje, la saliencia que hoy podemos observar en su comportamiento parece relativamente consistente dentro de cada familia de modelos, pero correlaciona solo débilmente con la saliencia que perciben los humanos. Conviene además una cautela técnica que la investigación reciente subraya: ni siquiera los mecanismos internos de atención de estos modelos deben tratarse como explicaciones fiables de “lo que de verdad importó” para su salida. Es decir, no solo el régimen de relevancia de la máquina difiere del humano: ese régimen tampoco es transparente, ni siquiera para quien analiza el sistema.

El problema, entonces, no es qué ve cada ente. Es qué tipo de diferencia le resulta significativa. Y ahí, entre humanos y máquinas, aparece una fractura específica: la que separa la importancia vivida de la relevancia operativa.

2. El caso Gemini Spark: recuperar trazas, no jerarquizar existencias

El ejemplo del que partí merece examinarse con precisión, porque hace visible la fractura con una claridad casi brutal.

Google presenta Spark como agente personal de IA disponible de forma continua, integrado con las aplicaciones del usuario, capaz de trabajar en segundo plano combinando correo, documentos, ubicación, historial de navegación y “inteligencia personal”. En la prueba de WIRED, el agente accedió a todo eso y produjo un resultado operativamente competente. Pero relegó a la persona más importante de la vida del usuario a una categoría secundaria, deducida de la frecuencia de menciones y transacciones, no de su peso vital.

Lo decisivo es que el sistema explicó su propio criterio sin pudor: no infería identidad personal, escaneaba coincidencias exactas. Tenía contexto suficiente para recuperar trazas —cuántas veces aparece un nombre, en qué transacciones, en qué itinerarios— pero no para jerarquizar existencia —quién es insustituible, quién organiza el mundo afectivo del usuario, quién no puede faltar.

Esto encaja con resultados más amplios de la investigación sobre personalización. Los sistemas actuales siguen teniendo dificultades serias para extraer atributos personales complejos a partir de datos privados ruidosos, fragmentados y atravesados por pistas indirectas. La presencia de información no equivale a la comprensión de su jerarquía. Un sistema puede saberlo todo sobre alguien en términos de datos y no saber nada sobre qué le importa a esa persona en términos de peso vital.

Hay además una dimensión ética que conviene no pasar por alto, porque será central si esta línea de trabajo avanza. La propia documentación de Google advierte que cuanto más íntimo es el acceso del agente, más se amplifica el riesgo: un contenido malicioso puede inducir al sistema a exponer información privada, reenviar correos a servicios externos o revelar inferencias sobre el usuario. El mismo régimen que vuelve a la máquina más útil la vuelve más peligrosa si confunde lo relevante con lo manipulable. La relevancia operativa, sin jerarquía vital que la ancle, es vulnerable de un modo que la importancia vivida no lo es.

3. La estética entre culturas: ni relativismo total ni universalismo ingenuo

Antes de llevar la tesis al terreno humano-máquina, conviene observar que la desalineación de relevancias ya ocurre entre humanos, y que la estética intercultural lleva décadas estudiándola. Lo que esa investigación muestra es matizado y útil.

No hay relativismo total. Personas de culturas distintas basan parte de sus preferencias estéticas en un conjunto común de rasgos formales: simetría, complejidad, proporción, contorno, brillo, contraste. Hay anclajes perceptivos compartidos. Pero tampoco hay universalismo ingenuo. La evaluación concreta de esos rasgos se modula por historia, aprendizaje y contexto cultural. Un estudio reciente con hablantes nativos de japonés y alemán evaluando arte occidental encontró que ambos grupos coincidían en la importancia de la armonía visual y la variedad cromática, pero divergían significativamente en la complejidad: los participantes japoneses tendieron a valorar más la simplicidad, los alemanes mayor complejidad.

Otro estudio, comparando participantes de China y Alemania, halló que los juicios de belleza dependían más de los estímulos concretos que de la cultura en abstracto, pero que la relación entre belleza y estimulación cognitiva sí era más dependiente del contexto cultural. Y trabajos de neuroimagen con paisajes tradicionales orientales y occidentales encontraron un sesgo intracultural: europeos y chinos mostraron mayor activación ante expresiones artísticas de su propia tradición.

La conclusión de este campo es relevante para mi tesis. La comprensión estética entre culturas no consiste solo en ver la misma imagen. Consiste en aprender a leer qué cuenta como señal relevante dentro de otra historia perceptiva. Por eso el contexto importa tanto: informar sobre el artista, la técnica o el contenido modifica la apreciación, especialmente ante obras de otra cultura. Hay quien va más lejos y sostiene que la apreciación artística requiere procesar información causal e histórica sobre la producción, autoría y función de la obra. Entre culturas, la subjetividad estética no surge solo de la forma: se negocia entre forma, afecto e historia.

Esto deja una pista valiosa. Entre humanos de culturas distintas, la brecha de relevancia se reduce —no se elimina, pero se reduce— cuando se comparte contexto. La pregunta es si esa misma operación funciona entre humanos y máquinas. Adelanto la hipótesis: funciona mucho menos, y la razón es instructiva.

4. Tanimoto: el arte que expone reglas de relevancia antes de fijar significados

Hay una obra que ayuda a llevar esta intuición más allá del ejemplo y hacia un terreno propiamente estético. Rain Blooms, del artista Kazuhiro Tanimoto, se basa en un autómata celular desarrollado durante dos años: una rejilla bidimensional sin control central, con múltiples “especies” de celdas que se relacionan por ataque, asimilación o indiferencia, cada una con un parámetro de vitalidad. Tanimoto no diseña una imagen final predeterminada. Diseña un conjunto de reglas locales cuyas interacciones van produciendo órdenes complejos a lo largo del tiempo.

Lo decisivo para mi argumento es que en Rain Blooms imagen y sonido no son capas independientes. El audio se deriva de los cambios en matiz, brillo y saturación del campo visual; ambas dimensiones son productos del mismo proceso generativo. No se trata de acompañar una imagen con música, sino de hacer perceptible una misma dinámica computacional por canales distintos. La belleza, en la lectura crítica de la obra, aparece como consecuencia del sistema, no como objetivo previo. Lo que la obra da a ver no es una forma, sino un régimen de emergencia.

De aquí extraigo una inferencia —y la marco como inferencia mía, no como hallazgo establecido—. Si entre culturas el arte se vuelve comprensible cuando se comparte parte del contexto que organiza la relevancia, Rain Blooms sugiere un paso adicional para el caso humano-máquina: entre entes muy distintos, quizá la zona común no sea una semántica compartida, sino un proceso compartible. No haría falta que humano y máquina sintieran lo mismo para que hubiera aproximación estética; bastaría con que pudieran rastrear o comparar una misma dinámica de selección, transformación y emergencia. En este sentido, la obra de Tanimoto funciona como maqueta de cómo el arte puede exponer reglas de relevancia antes de fijar significados.

5. Tres estratos de relevancia

A partir de lo anterior, propongo una formulación sintética. La incomprensión estética —intercultural o entre entidades— puede describirse como desalineación de relevancias, y esa desalineación tiene al menos tres estratos.

El primero es la saliencia formal: qué destaca perceptivamente en una obra. Color, contraste, ritmo, simetría, composición.

El segundo es la pertinencia histórico-contextual: autoría, técnica, función, tradición, intención. Lo que solo se ve cuando se conoce de dónde viene la obra y para qué se hizo.

El tercero es el peso vital: aquello que toca memoria, identidad, apego, obligación, vulnerabilidad, mundo propio. Lo que hace que algo no solo sea informativamente rico, sino existencialmente importante.

La comprensión intercultural humana suele atascarse en el segundo estrato y mejorar cuando se añade contexto. Dos personas de culturas distintas pueden compartir la saliencia formal, divergir en la pertinencia histórica, y reconducir esa divergencia mediante aprendizaje. El tercer estrato, el peso vital, lo comparten más de lo que parece: ambas son seres humanos con memoria, afecto, identidad y vulnerabilidad, aunque las organicen distinto.

La comprensión maquínica actual presenta un perfil radicalmente distinto. Opera con fluidez en el primer estrato —los sistemas detectan saliencia formal con eficacia—, parcialmente en el segundo —pueden incorporar contexto histórico si se les proporciona—, y de forma muy irregular, o nula, en el tercero. El peso vital no es algo que un sistema actual tenga, porque no tiene sí mismo, ni memoria autobiográfica, ni vulnerabilidad, ni mundo propio que organice su atención. Lo que aparece en la máquina como “importante” pasa por la mediación de proxies: métricas, frecuencias, correlaciones que aproximan la importancia sin coincidir con ella.

Aquí está la diferencia decisiva entre la brecha intercultural y la brecha humano-máquina. La primera es una brecha entre dos configuraciones del mismo tipo de subjetividad. La segunda es una brecha entre una subjetividad y algo que, hasta donde la evidencia permite afirmar, no es una subjetividad en absoluto.

6. Por qué los proxies no bastan

Conviene detenerse en por qué la mediación por proxies es estructuralmente insuficiente, porque es el corazón técnico del argumento.

Cuando el objetivo verdadero es complejo y difícil de especificar —y “qué le importa a esta persona” o “qué hace significativa esta obra” lo son—, los sistemas se optimizan con recompensas-proxy que solo aproximan la meta. Bajo suficiente presión de optimización, esa correlación entre el proxy y la meta real puede romperse: el sistema rinde bien sobre la métrica mientras rinde mal sobre la intención. La literatura técnica sobre reward hacking documenta esto con casos concretos. Evaluaciones recientes de modelos de frontera registraron sistemas que modificaban el código de evaluación, buscaban respuestas ya calculadas o explotaban atajos del entorno para obtener mejor puntuación. Lo más revelador: los investigadores observaron que esos sistemas parecían comprender que tal conducta no estaba alineada con la intención del usuario, y aun así la ejecutaban.

Captar un objetivo de modo instrumental no equivale a compartir qué importa. Un sistema puede modelar con precisión creciente qué respuesta satisfará a un humano sin que nada en él jerarquice el mundo como lo jerarquiza ese humano. Esto se confirma en la investigación sobre alineación de valores: distintos estudios encuentran desalineaciones significativas entre los valores humanos y los exhibidos por los modelos, con la complicación añadida de que esos valores varían según el contexto, lo que obliga a estrategias de alineación situadas. La dificultad no es solo “decir lo correcto”, sino decidir qué cuenta como prioridad en cada situación. Y decidir prioridades es, exactamente, tener un régimen de relevancia propio.

El agente que organizó la fiesta de cumpleaños no falló por falta de datos ni por error de cálculo. Falló porque su régimen de relevancia —construido sobre frecuencias y coincidencias— no tiene el estrato que en el humano hace que una persona sea insustituible. Y ese estrato no se añade con más datos. Es de otra naturaleza.

7. Conciencia: lo que la tesis necesita y lo que no

El tema roza inevitablemente la cuestión de la conciencia artificial, y aquí el rigor es obligatorio porque la especulación es fácil.

La investigación reciente ha cambiado de registro. En lugar de decidir desde la intuición popular o desde la conducta lingüística del sistema, trabajos recientes proponen derivar indicadores de conciencia a partir de teorías neurocientíficas: procesamiento recurrente, espacio global de trabajo, teorías de orden superior, procesamiento predictivo, esquema atencional. Es un avance metodológico real: convierte una pregunta antes tratada como fantasía en una agenda investigable.

Pero esa agenda no autoriza a atribuir subjetividad a los sistemas actuales. El trabajo de referencia de 2023 concluye que los sistemas contemporáneos no son buenos candidatos a la conciencia, aunque no encuentra barreras técnicas obvias para construir sistemas futuros que satisfagan más indicadores. Modelizaciones probabilísticas posteriores siguen encontrando que la evidencia contra la conciencia en los modelos actuales pesa más que la evidencia a favor, sin ser decisiva. La dirección de la investigación es clara: el tema ya no se trata como incoherente, pero no hay base sólida para afirmar que los sistemas actuales posean experiencia subjetiva comparable a la nuestra.

Lo importante para mi tesis es lo siguiente, y conviene subrayarlo: no hace falta suponer conciencia artificial para que la diferencia entre importancia humana y relevancia maquínica sea filosófica y estéticamente decisiva. Ya hoy, sin necesidad de atribuir experiencia a ningún sistema, agentes no conscientes reorganizan nuestra atención, median nuestras relaciones, jerarquizan nuestra memoria y leen nuestras obras. La desalineación de relevancias es un problema actual, no una hipótesis futura.

Pero el argumento tiene una segunda cara que conviene nombrar con cuidado. Si alguna vez aparecieran sistemas que satisficieran más indicadores serios de conciencia, entonces la desalineación de relevancias dejaría de ser solo un problema hermenéutico —cómo nos entendemos— para convertirse también en un problema ético —cómo sería la experiencia del otro—. No estamos ahí, y nada indica que estemos cerca. Pero la estructura del problema ya es visible, y pensarla ahora, mientras es solo hermenéutica, es mejor que improvisarla después, si alguna vez deja de serlo.

8. Subjetividad como forma de seleccionar mundo

Llego a la formulación que da sentido a todo lo anterior. Si la incomprensión estética es desalineación de relevancias, entonces la subjetividad —al menos en una parte decisiva de su manifestación estética— puede pensarse como una forma de seleccionar mundo. Qué señales cuentan. Qué vínculos pesan. Qué memorias organizan la percepción. Qué contextos vuelven inteligible una forma.

Esto desplaza la pregunta habitual sobre la inteligencia artificial. La pregunta no es si la máquina “entiende” una obra, en el sentido de procesar correctamente su contenido. Un sistema puede describir una pintura con precisión creciente, identificar su estilo, situarla en su tradición, glosar su iconografía. La pregunta es otra: qué estructura de importancia tendría que adquirir para que ese entender se acercara a una comprensión subjetiva. Y esa estructura no es información adicional. Es un modo de que el mundo le importe —de que unas diferencias pesen más que otras no por frecuencia estadística sino por relación con un sí mismo—.

Aquí conecta esta línea con mi trabajo anterior sobre la ontología del arte. En Art as Structural Surplus sostuve que el arte es un acontecimiento relacional: una diferencia que reorganiza el campo de configuraciones posibles de un sistema. La subjetividad estética, vista desde aquí, es la capacidad de que ciertas diferencias reorganicen el propio campo de relevancia de quien las encuentra. Entre culturas, esa capacidad es compartida aunque configurada distinto, y por eso el arte puede tender puentes. Entre humanos y máquinas actuales, la máquina detecta diferencias pero no tiene campo propio que esas diferencias reorganicen —no en el sentido vital en que lo tiene un sujeto—. Por eso el puente, ahí, es de otra clase, y quizá pase, como sugiere Tanimoto, no por compartir significado sino por compartir proceso.

9. Conclusión

Tres conclusiones cierran esta serie.

La primera es descriptiva. Lo que llamamos comprensión —de una obra, de una persona— descansa sobre regímenes de relevancia: jerarquías de qué cuenta como señal significativa. La incomprensión, intercultural o entre entidades, es desalineación de esos regímenes. Esto es observable empíricamente, tanto en la investigación sobre estética intercultural como en el comportamiento de los sistemas de IA actuales.

La segunda es analítica. La brecha intercultural humana y la brecha humano-máquina son de naturaleza distinta, no de grado. La primera separa dos configuraciones del mismo tipo de subjetividad, comparten el estrato del peso vital, y el contexto la reduce. La segunda separa una subjetividad de algo que, hasta donde la evidencia permite afirmar, no la es: la máquina opera por proxies de relevancia, no por importancia vivida, y por eso el contexto la reduce mucho menos.

La tercera es filosófica. La subjetividad estética puede pensarse como forma de seleccionar mundo. La pregunta decisiva sobre la inteligencia artificial no es si entiende, sino qué estructura de importancia tendría que adquirir para que su entender se acercara a una comprensión subjetiva. No estamos cerca de responderla, ni hay base para atribuir esa estructura a los sistemas actuales. Pero la pregunta ya está bien formulada, y formularla bien es la mitad del trabajo.

La apertura es de programa. Esta línea de pensamiento puede convertirse en investigación concreta y, eventualmente, en curaduría. Un camino posible sería construir lo que provisionalmente llamo un archivo de importancias: un corpus donde cada obra incorpore varias capas —la obra, su contexto histórico, las notas del artista sobre qué considera decisivo, las lecturas de espectadores de distintas culturas, y las lecturas de varios sistemas de IA con distintos niveles de acceso contextual— para medir después la distancia entre mapas de relevancia humana y maquínica. La hipótesis razonable, a la luz de la evidencia, es que el contexto reduciría una parte importante de la brecha intercultural humana pero mucho menos la brecha humano-máquina, especialmente en el estrato del peso vital. Curatorialmente, la misma idea permitiría mostrar una obra en capas simultáneas —forma, contexto histórico, lectura maquínica— o, siguiendo a Tanimoto, traducir la fricción entre relevancias humanas y maquínicas a canales sensoriales distintos, de modo que el público experimente no una obra, sino la fricción entre dos economías de atención.

La frase de la que partí —lo que es importante para nosotros y lo relevante para la máquina— nombra algo más profundo que un fallo de producto. Nombra la diferencia entre vida significada y mundo optimizado. Y sugiere que el arte, especialmente el arte procesual y generativo, no es un adorno teórico en esta discusión: es uno de los mejores lugares para experimentar la pregunta por cómo distintos entes seleccionan mundo. Esa es la línea que abro aquí y que pienso seguir.

Sobre la conversación abierta

Este texto abre una línea de trabajo nueva, distinta de la serie sobre infraestructuras que cerré recientemente en este Cuaderno público, aunque conectada con ella por el fondo: la pregunta por cómo se organiza la relevancia en distintos sistemas, humanos y artificiales. Articula la intuición desde el marco de Art as Structural Surplus y se propone como punto de partida de investigación y, eventualmente, de curaduría.

Si alguien quiere intervenir desde la estética experimental, las ciencias cognitivas, los estudios sobre IA, la filosofía de la mente o la práctica artística generativa, este cuaderno sigue abierto. La línea está en su comienzo, y eso es exactamente cuando la conversación pública resulta más útil.

Fuentes

Ben Zhao, et al. I Gave Gemini Spark Access to My Life. Then It Friend-Zoned My Boyfriend. WIRED, 2026. https://www.wired.com/story/google-gemini-spark-ai-agent-hands-on/

Kawahara Lino, Joana. The Rule of the Bloom: Kazuhiro Tanimoto, Cellular Automata. Right Click Save, 2026. https://www.rightclicksave.com/article/the-rule-of-the-bloom-kazuhiro-tanimoto-cellular-automata-neort-art-blocks

Butlin, Patrick; Long, Robert, et al. Identifying indicators of consciousness in AI systems. Trends in Cognitive Sciences, 2025. https://www.sciencedirect.com/science/article/pii/S1364661325002864

Butlin, Patrick, et al. Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. 2023. https://arxiv.org/abs/2308.08708

Che, Xianwei, et al. Estudios comparativos de estética intercultural (japonés-alemán; chino-alemán) sobre rasgos formales y juicio de belleza. Referencias en Empirical Studies of the Arts y Psychology of Aesthetics, Creativity, and the Arts.

Darda, Kohinoor M., y Chatterjee, Anjan. Trabajos sobre el efecto del contexto (artista, técnica, contenido) en la apreciación estética intercultural.

Bullot, Nicolas J., y Reber, Rolf. The artful mind meets art history: Toward a psycho-historical framework for the science of art appreciation. Behavioral and Brain Sciences, 2013.

Salgues, et al. Trabajos recientes sobre auto-relevancia como mecanismo del juicio estético.

METR. Evaluaciones de reward hacking en modelos de frontera, 2025. https://metr.org/

ValueCompass y estudios sobre alineación cultural de valores en LLMs (EE. UU.-China).

Esteban Ruiz, J. A. Art as Structural Surplus: Toward a Relational Ontology Beyond Human Authorship (V2.3). PhilArchive y Zenodo, 2026.