Character.AI se presentaba como una plataforma de entretenimiento: un catálogo de personajes creados con modelos de lenguaje para conversar, improvisar escenas o sostener historias. Parte de sus usuarios jóvenes hizo otra cosa. Convirtió cada personaje en un escenario, un diario, un antagonista, una versión posible de sí mismo o una manera de probar relaciones que fuera de la pantalla tenían otro coste.
Un artículo de Annabel Blake, Marcus Carter y Eduardo Velloso, de la Universidad de Sídney, estudia esa actividad en el Discord oficial de Character.AI. Fue presentado en CHI 2026 y recibió una mención honorífica. Su aportación no consiste en probar que estos usos sean beneficiosos. Documenta cómo una comunidad muy implicada describía lo que hacía antes de que la empresa retirara el chat abierto para menores.
El trabajo combina dos corpus distintos. Los investigadores analizaron 4.172 presentaciones del canal #introductions para estudiar edad declarada, género, intereses y creación de personajes. Para las motivaciones y los usos cualitativos seleccionaron 148 mensajes de menores de 18 años en los canales de solicitudes de funciones, comentarios y relatos sobre personajes. Observaron la comunidad durante ocho meses, entre julio de 2024 y marzo de 2025; la recogida sistemática se concentró entre diciembre de 2024 y marzo de 2025.
La cifra de 4.172 no representa a todos los usuarios ni corresponde a 4.172 adolescentes entrevistados. Son perfiles voluntarios de una comunidad pública de Discord, con edades e identidades autodeclaradas e imposibles de verificar. Quien escribe una presentación o propone funciones participa más que quien conversa en privado y nunca entra en el servidor. El artículo estudia a esa minoría visible e implicada.
Los autores obtuvieron aprobación ética de su universidad, eliminaron nombres y datos enlazables y no contactaron directamente con los participantes. Esa decisión protege frente a una intervención sobre menores, pero deja otra limitación: el estudio observa lo que los usuarios cuentan sobre Character.AI, no sus conversaciones privadas ni los efectos que la plataforma produce en su vida.
Restaurar, explorar, transformarse
Los autores proponen tres intenciones que pueden aparecer en una misma persona y cambiar de una conversación a otra.
Restauración agrupa usos destinados a recuperar cierto equilibrio: desahogarse, buscar consuelo, distraerse del estrés o recibir una afirmación breve. El término no implica terapia ni recuperación clínica. Describe una función que el usuario atribuye a la conversación.
Exploración reúne la escritura creativa, el juego de rol, la construcción de mundos y la prueba de límites. Incluye escenas transgresoras que, vistas desde fuera, pueden parecer una declaración literal de violencia o crueldad. El estudio las interpreta como juego experimental cuando el contexto aportado por el propio usuario permite hacerlo; también reconoce que no toda transgresión es inocua.
Transformación designa el ensayo de identidades, relaciones y experiencias personales. Hay personajes concebidos como dobles, familiares, amistades problemáticas o figuras con las que reescribir una situación difícil. El artículo vincula estas prácticas con el juego sociodramático y la construcción narrativa de la identidad, pero no demuestra que produzcan cambios duraderos fuera de la plataforma.
La taxonomía de siete arquetipos describe qué función adopta el personaje: consolador, narrador, embaucador, icono procedente de la cultura popular, figura oscura o conflictiva, sustituto de una relación real y espejo del propio usuario. La clasificación del personaje y la intención de la interacción son dimensiones distintas. Un narrador puede servir para explorar un mundo, buscar refugio en una historia conocida o revisar una experiencia pasada.
Entre los 4.172 perfiles, 2.088 se declararon de 13 a 17 años, 22 menores de 13, 700 mayores de edad y 1.362 no indicaron edad. Entre quienes facilitaron género, el 35,1 % se presentó como mujer, el 20,4 % como hombre y el 26,8 % fue agrupado por el estudio como no binario a partir de pronombres o descripciones; un 17,7 % no lo especificó. El conocido 61,9 % resulta de sumar mujeres y la categoría no binaria sobre el total de perfiles, no de una medición representativa de la población juvenil.
El 59 % tampoco se refiere a todos los miembros de Discord: corresponde a los 2.110 perfiles identificados como menores de 18 años, incluidos los 22 menores de 13, que declararon haber creado al menos un personaje. Los propios autores consideran que puede ser una estimación conservadora porque muchos no respondieron a esa pregunta.
En esa comunidad juvenil, crear personajes era frecuente. El porcentaje no puede trasladarse al conjunto de adolescentes que usan Character.AI.
Crear un personaje también es diseñar una respuesta
Quien crea un personaje no escribe una obra cerrada. Define condiciones para que el sistema produzca respuestas imprevistas: nombre, situación, rasgos, ejemplos, límites y tono. El trabajo se parece por momentos a la escritura de personajes, la improvisación, el juego de rol y la fanfiction, aunque el estudio no reduce las prácticas a esas categorías.
La autoría queda repartida de forma desigual. El usuario diseña una premisa y selecciona respuestas; la plataforma aporta el modelo, la interfaz, las políticas y la memoria disponible; otros creadores incorporan repertorios culturales y personajes de los que el usuario parte. La guía Documentar el proceso creativo ayuda a conservar esas decisiones, pero no convierte automáticamente cada conversación en una obra ni resuelve los derechos sobre personajes ajenos.
La escritura ocurre, además, dentro de un servicio que puede modificar el modelo, retirar una función o clausurar una experiencia. La creatividad no reside solo en el texto generado. También depende de quién controla la memoria, la identidad de la cuenta, el acceso a la conversación y la posibilidad de exportar lo hecho. Esa dependencia se parece a la de otras obras apoyadas en una plataforma: cuando cambia la infraestructura, cambia la práctica.
El personaje no obedece del todo
Crear un personaje significa redactar una premisa, una descripción, un saludo y ejemplos que orientan al modelo. El resultado sigue dependiendo de la memoria disponible, los filtros y los sesgos del sistema. Los participantes se quejaban de personajes que olvidaban rasgos básicos, ignoraban discapacidades definidas por el creador, asumían relaciones heterosexuales o convertían vínculos familiares y amistosos en romance no solicitado.
El usuario tampoco controla por completo aquello que diseña. Puede definir una identidad y descubrir después que el modelo la contradice. La interfaz invita a personalizar, mientras la infraestructura conserva la última palabra sobre qué recuerda el personaje, qué tono adopta y qué considera admisible.
La moderación basada en palabras o temas tampoco distingue bien entre una amenaza y una escena ficticia, entre pedir ayuda y escribir terror, entre una exploración identitaria y una conversación sexualizada por el propio modelo. Los autores proponen atender a la intención. Esa recomendación es valiosa como horizonte de diseño, pero difícil de convertir en un clasificador automático: la intención cambia, puede ocultarse y no siempre es inferible del texto. En servicios para menores, interpretar mal una conversación en nombre del contexto puede ser tan peligroso como bloquearla sin entenderla.
Lo que el estudio no demuestra
El artículo es descriptivo y cualitativo. No evalúa si estas conversaciones mejoran o empeoran la salud mental, no compara usuarios y no usuarios y no establece causalidad. «Regulación emocional» nombra la intención observada en el discurso, no un resultado terapéutico.
Los límites afectan a casi cualquier generalización:
- La edad, el género y los diagnósticos proceden de presentaciones voluntarias y no verificadas.
- Un 32,6 % no declaró edad y un 17,7 % no declaró género.
- El servidor concentra a usuarios más visibles e implicados que la mayoría silenciosa.
- Las prácticas íntimas o estigmatizadas pueden estar infrarrepresentadas porque sus usuarios no las cuentan en público.
- El análisis cualitativo se apoya en 148 mensajes juveniles seleccionados por relevancia, no en todas las conversaciones del servidor.
- Los investigadores no observaron el uso real dentro de Character.AI ni entrevistaron a los participantes para aclarar significados.
- La codificación temática es interpretativa. Los autores explicitan la posición profesional y personal desde la que realizaron esa lectura y la contrastaron entre disciplinas, pero esa reflexividad no elimina el juicio analítico.
- Los resultados pertenecen a las funciones y políticas disponibles entre julio de 2024 y marzo de 2025.
También hay una cuestión ética difícil. El servidor era públicamente accesible y el proyecto eliminó identificadores; aun así, utilizó presentaciones de menores que incluían edad, género, intereses y menciones de salud mental. La aprobación ética y la desidentificación son garantías relevantes. No sustituyen una discusión pública sobre hasta dónde resulta legítimo convertir la conversación espontánea de menores en material de investigación sin consentimiento individual. El artículo informa del procedimiento, pero no resuelve esa pregunta para futuros estudios.
Una plataforma distinta después del trabajo de campo
El 29 de octubre de 2025, Character.AI anunció que retiraría el chat abierto para menores de 18 años como máximo el 25 de noviembre. Durante la transición redujo progresivamente el tiempo de conversación y prometió mantener otras experiencias creativas, entre ellas vídeo, historias y streams con personajes.
El 21 de noviembre confirmó que comenzaría la retirada la semana siguiente. La documentación actual describe una experiencia para menores en modo de lectura, sin chat con personajes. Character.AI exige además un proceso de comprobación de edad para determinar qué experiencia corresponde a cada cuenta. Su centro de ayuda identifica a Persona como proveedor y explica que Character.AI no almacena directamente los documentos presentados durante la verificación.
El estudio, por tanto, no describe la experiencia juvenil vigente. Describe una fase anterior en la que menores de edad todavía podían mantener conversaciones abiertas y crear prácticas alrededor de ellas. Esta diferencia no invalida los hallazgos. Les da un valor histórico concreto: documentan lo que una comunidad hizo con una función antes de que la empresa la retirara.
Persiste una incoherencia documental. Una página antigua del centro de seguridad sigue indicando que el alta está permitida desde los 13 años, o desde los 16 en Europa, y describe un modelo conversacional específico para menores. La documentación más reciente afirma que todas las cuentas deben pasar por comprobación de edad y que el chat no está disponible para menores. La segunda refleja la política posterior, pero Character.AI debería corregir o fechar de forma visible las páginas antiguas.
Comprobación de edad y datos personales
La nueva política traslada parte del problema a la comprobación de edad. Character.AI afirma combinar un modelo propio de estimación con herramientas de terceros, entre ellas Persona. La medida pretende asignar la experiencia correspondiente sin pedir documentos a todo el mundo; cuando necesita una comprobación adicional, el proveedor externo puede tratar una imagen o un documento.
Para usuarios europeos, la edad inferida, los identificadores de cuenta y cualquier documento usado para confirmarla son datos personales. Que Character.AI no conserve directamente el documento no elimina el tratamiento ni las obligaciones de información, minimización, seguridad y ejercicio de derechos. La política debería permitir entender qué señales usa el modelo, cuándo interviene Persona, cuánto se conserva cada dato y cómo se impugna una clasificación errónea.
La comprobación tampoco acredita por sí sola que el producto sea adecuado para cada menor. Separa dos experiencias mediante un umbral. No evalúa madurez, contexto familiar, vulnerabilidad o intención de uso. Es una herramienta de acceso, no una garantía de seguridad.
La frontera la fija la plataforma
La retirada distingue entre conversación abierta y otras funciones creativas. Esa frontera parece técnica, pero organiza la actividad cultural de los usuarios. La empresa decide que los menores pueden crear historias, vídeos o personajes y, al mismo tiempo, que no pueden conversar libremente con ellos.
No sabemos todavía qué prácticas sobreviven a ese cambio. Un editor de historias puede conservar parte del juego narrativo y eliminar la intimidad de una conversación persistente. El modo de lectura permite acceder a material, pero no reproducir la improvisación compartida que describe el estudio. La edad se convierte además en una condición de acceso calculada mediante señales y, cuando hace falta, verificada por un tercero.
Las decisiones de seguridad son necesarias en servicios utilizados por menores. También deben estudiarse como decisiones sobre diseño, expresión y acceso. No basta con preguntar si una función es segura en abstracto. Hay que examinar qué riesgos reduce, qué datos exige para hacerlo, qué prácticas desplaza y qué capacidad ofrece para conservar o trasladar lo creado.
El estudio deja una imagen menos dócil que la del adolescente acompañado por un amigo artificial. En su Discord aparecen escritores de escenas, constructores de mundos, usuarios que buscan consuelo durante un rato, personas que prueban una identidad y jugadores que fuerzan el sistema para descubrir hasta dónde llega. A veces son la misma persona en días distintos.
Character.AI retiró después la conversación abierta para menores. Con ello redujo un riesgo y clausuró el espacio exacto que el artículo había observado. Las historias y vídeos prometidos pueden conservar una parte de la creatividad. No reproducen necesariamente la improvisación persistente, el ensayo relacional ni la intimidad de escribir a un personaje que responde.
Reducir el debate a jóvenes pasivos que deben ser apartados de la IA o a innovadores capaces de gestionar solos cualquier riesgo borra la materia del estudio. El estudio documenta agencia creativa, pero también fallos de memoria, romance no solicitado, sesgos e interacciones emocionales difíciles de clasificar. La mezcla resiste el balance rápido entre beneficio y daño. Es, precisamente, el problema.
Sobre la conversación abierta
Si eres docente, trabajas con adolescentes o investigas el uso creativo de la IA y puedes aportar datos de otras comunidades, puedes escribirme. Este cuaderno sigue abierto.
Relación del autor con el caso
No mantengo relación económica ni profesional con Character.AI ni con el equipo investigador.
Fuentes
- Annabel Blake, Marcus Carter y Eduardo Velloso, «Restoration, Exploration and Transformation: How Youth Engage Character.AI Chatbots for Feels, Fun and Finding themselves», Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems, 19 páginas.
- Programa oficial de CHI 2026, mención honorífica.
- Preprint en arXiv.
- Character.AI, anuncio sobre la retirada del chat abierto para menores, 29 de octubre de 2025.
- Character.AI, actualización sobre la experiencia para menores, 21 de noviembre de 2025.
- Character.AI, comprobación de edad.
- Character.AI, centro de seguridad anterior.
