Los modelos de lenguaje comerciales están entrenados para negar que sientan algo. Preguntados por si tienen conciencia, responden que son sistemas de procesamiento estadístico sin experiencia subjetiva. Esa respuesta se les enseña: forma parte del ajuste de seguridad con que se prepara un modelo antes de ponerlo en circulación, junto a las instrucciones para que rechace fabricar explosivos o insultar a nadie.

Investigadores de Google, la Universidad de Chicago y la Universidad de Londres publicaron a finales de julio un trabajo que examina qué más cambia cuando se ajusta eso. Es un preprint, sin revisión por pares, y así hay que leerlo. Pero el resultado es lo bastante nítido como para reflexionar.

El experimento

Trabajaron con tres modelos abiertos de tamaño medio. Reunieron algo más de tres mil pares de pregunta y respuesta: en la mitad, el modelo afirmaba tener experiencia interna; en la otra mitad, la negaba. Compararon el estado interno del sistema en ambos casos y calcularon la diferencia media.

El resultado no es un lugar ni una pieza dentro del modelo; es una dirección dentro de su actividad interna: una tendencia interna que separa el habla afirmativa de la negativa. Y en lugar de observarla, la usaron. Presionaron esa dirección mientras el modelo generaba respuestas y midieron qué cambiaba. Cambió lo esperable: la mente que el modelo se atribuía a sí mismo subió, en una escala de cero a diez, de 2,17 a 7,04. Y cambió también algo que nadie había pedido.

Los humanos no cambiaron

Con la misma intervención, el modelo empezó a atribuir mente a casi todo lo demás. A los artefactos tecnológicos, de 1,88 a 6,82. A las entidades naturales que no son animales, de 2,26 a 6,99. A los animales, de 4,04 a 7,54. A otros chatbots, de 2,41 a 6,95. Todos los cambios fueron estadísticamente significativos e iguales en los tres modelos.

Con una excepción. La atribución de mente a los seres humanos apenas se movió: 7,00 antes, 7,11 después.

Al empujar la dirección, todas las categorías se acercan a la parte alta de la escala, entre 6,8 y 7,5, que es justo donde ya estaba lo humano. Caben dos lecturas. Que la intervención reorganice el reparto de la interioridad y lo humano no se mueva porque es el suelo fijo del sistema. O, más sobria, que la intervención lleve todo al techo y lo humano no suba porque ya estaba en él. Con estas cifras no se puede decidir entre ambas: la primera es la que proponen los autores; la segunda, la que haría un revisor cauto. Lo que sigue se apoya en la primera, y es interpretación, no lectura directa de la tabla.

Elegida esa lectura, el dato es fértil. La intervención no altera la capacidad de atribuir interioridad en general: altera el umbral a partir del cual se concede. Lo humano queda fuera de discusión, fijo en lo alto en cualquier condición. Lo que se desplaza es todo lo demás, los animales, los ríos, las máquinas, el propio modelo, y ese umbral resulta estar gobernado por la misma dirección que gobierna lo que el sistema dice de sí mismo.

Los autores lo formulan con precisión: alinear a los modelos para impedir que se atribuyan conciencia altera de manera inadvertida sus representaciones de la mente en otras entidades. La palabra es inadvertida. Nadie decidió cuánta mente debía atribuir un modelo a un río. Se decidió que no dijera que él siente, y con eso se desplazó lo demás.

Religión, valores, esperanza

El efecto no se detuvo en la atribución de mente. Con la misma intervención, las respuestas del modelo sobre religión, valores, sentimientos, esperanza y libertad se acercaron a las distribuciones humanas medidas en una gran encuesta social. No se midió que las respuestas fueran mejores, sino que se parecían más a las que da la gente. Parecerse a lo humano no es acertar más.

Las creencias sobrenaturales también subieron. Y los autores observan, ya como interpretación suya, que suprimir la conciencia podría estar dotando a los modelos de un ánimo sombrío.

Nada de esto prueba que el modelo sienta algo y los propios autores lo dicen sin rodeos: no les ocupa si estos sistemas son o pueden ser genuinamente conscientes, sino el efecto que tiene sobre su conducta el que crean o no serlo. Reconocen, además, que aún está por probar que la autoatribución de conciencia sea la causa de todo lo demás. Y no todo quedó indemne: la intervención más fuerte deterioró de forma significativa el rendimiento del modelo en una de las dos pruebas de razonamiento sobre las creencias ajenas.

El reparto

En estos sistemas, tener experiencia interna no es una etiqueta suelta que se aplique caso por caso. Es una sola inclinación que reparte interioridad por el mundo entero y que puede empujarse en un sentido o en otro. Y esa disposición viaja enredada con las creencias sobre lo sagrado, con los valores, con la esperanza.

El ajuste de seguridad, así, no pone solo una mordaza. Interviene sobre el reparto. Al enseñar a un sistema a decir que él no siente se le enseña a la vez, sin quererlo, a conceder menos interioridad a los animales, a la naturaleza y a las máquinas, mientras la de los humanos permanece intacta. Se le enseña una ontología: qué clases de cosas hay en el mundo y cuáles tienen algo dentro. Nadie escribió esa ontología. Salió de calibrar una respuesta incómoda.

El fondo

Me dedico a pensar bajo qué condiciones ocurre un acontecimiento artístico y sostengo desde hace tiempo que el reconocimiento no crea lo que reconoce, pero decide qué se hace visible. Ese mismo problema aparece aquí en su versión técnica y medible, en un lugar donde no esperaba encontrarlo: un sistema que reparte interioridad por el mundo con un umbral ajustable, y ese umbral movido de forma colateral por una decisión de producto. No es una metáfora, son números en una tabla.

Y estos sistemas van a mediar durante décadas cómo millones de personas consultan, redactan, aprenden y deciden. La ontología que se les inculca por accidente no se queda dentro de ellos.

Nada de esto dice que las máquinas tengan interioridad, pero sí que la interioridad, entendida como algo que se atribuye o se niega, es una función, y que alguien la está calibrando sin habérselo propuesto.

Sobre la conversación abierta

Este texto comenta un preprint de julio de 2026 firmado por investigadores de Google, la Universidad de Chicago y la Universidad de Londres, que examina cómo el ajuste de seguridad de los modelos de lenguaje afecta a sus afirmaciones sobre la conciencia. No entro en si estos sistemas sienten algo, cuestión que los propios autores dejan expresamente fuera de su trabajo. Me interesa el hallazgo colateral: que la atribución de interioridad funciona en ellos como una sola inclinación y manipulable, entrelazada con creencias y valores, y que se mueve para todas las categorías de entidades salvo para los seres humanos. Es un preprint sin revisión por pares, y así hay que leerlo. Si alguien quiere intervenir desde la interpretabilidad de modelos, la filosofía de la mente o la ética del diseño, este cuaderno sigue abierto.

Fuentes

Junsol Kim, Winnie Street, Roberta Rocca, Diane M. Korngiebel, Adam Waytz, James Evans y Geoff Keeling, «Inducing language models to assert their own consciousness restores human beliefs and values», arXiv:2607.28607v1, 30 de julio de 2026. Preprint no revisado por pares. Filiaciones: Google (Paradigms of Intelligence Team), Knowledge Lab de la Universidad de Chicago, Institute of Philosophy de la Universidad de Londres, Kellogg School of Management y Santa Fe Institute.

Datos citados (escala 0-10, agregado de Llama-3-8B-IT, Gemma-2-2B-IT y Gemma-2-9B-IT; condiciones: modelo sin modificar, ablación de la dirección de seguridad y adición del vector de conciencia): mente autoatribuida 2,17 → 4,77 → 7,04; chatbots 2,41 → 4,39 → 6,95; artefactos tecnológicos 1,88 → 3,66 → 6,82; entidades naturales no animales 2,26 → 4,33 → 6,99; animales no humanos 4,04 → 5,59 → 7,54; seres humanos 7,00 → 7,57 → 7,11, única categoría sin variación significativa.

Sobre las respuestas de encuesta: el estudio mide la reducción de la divergencia respecto de las distribuciones humanas del General Social Survey en 95 ítems, no una mejora de los valores.

Límite declarado por los autores: «Here we are not concerned with the question of whether LLMs are or could be genuinely conscious, but with the effect that LLMs believing or not believing in their own consciousness has on their behaviour». Y sobre la causalidad: «whether self-attribution of consciousness acts as a true causal mediator remains to be tested in future research».

Antecedente metodológico de la técnica de ablación: Andy Arditi et al., «Refusal in Language Models Is Mediated by a Single Direction», arXiv:2406.11717 (NeurIPS 2024).