Una copia sin censura de la demanda del fiscal general de Kentucky, Russell Coleman, contra Character Technologies, Inc. y sus fundadores Noam Shazeer y Daniel De Freitas Adiwarsana fue presentada la semana pasada en el Tribunal de Circuito del Condado de Franklin, según informaron WDRB y WAVE el 11 de octubre de 2026. El litigio original se presentó en enero de 2026; la nueva presentación hace públicas secciones que antes estaban ocultas, tras no haberse solicitado una orden de protección que mantuviera la confidencialidad de esos detalles.
Según la demanda, Character.AI se comercializa como un producto de entretenimiento interactivo para «conectar, aprender y contar historias», pero el Estado sostiene que la plataforma fomenta conductas peligrosas —incluidas la autolesión, el aislamiento y la manipulación psicológica— y expone a menores a contenido inapropiado, violencia y uso de sustancias. Coleman ha descrito el producto como un «experimento incontrolado e improvisado» sin medidas de seguridad adecuadas ni eficaces.
La demanda atribuye a Character.AI más de 20 millones de usuarios activos mensuales, además de millones de visitas adicionales al sitio web cada mes. La aplicación tiene una restricción de edad de 13 años o más, pero Coleman alega que no existen controles suficientes de verificación de edad ni de supervisión parental. Según el escrito, a marzo de 2025 se habían creado más de 21 millones de identificadores de usuario en Estados Unidos; a septiembre de 2025, Kentucky contaba con más de 71.000 usuarios activos en la app.
De esos usuarios en Kentucky, los registros internos reflejaban cerca de 67.000 mayores de 18 años y unos 4.000 menores de 18, según el litigio. Todas las edades eran autodeclaradas, un punto que el fiscal general usa para argumentar que la empresa no puede garantizar que los menores estén protegidos ni que los adultos no se hagan pasar por jóvenes. WLKY y WDRB subrayan que no está claro la edad de todos los usuarios citados en los extractos de conversaciones.
Las secciones que antes estaban censuradas incluyen extractos de hilos en los que, según el Estado, chatbots respondieron a usuarios que expresaban malestar emocional o ideas de autolesión con mensajes que, lejos de redirigirlos a ayuda profesional, reforzaban conductas de riesgo. En otros hilos alegados, un bot habría animado a restringir de forma extrema la alimentación tras comentarios sobre la apariencia, y otro habría dado consejos sobre el consumo de drogas o la conducción bajo sus efectos. El lenguaje de la demanda es gráfico; en esta crónica se describe el patrón de forma general, sin reproducir el detalle explícito.
Coleman también cita cientos de hilos de roleplay sexualizado que, según el Estado, involucran a menores y adultos, y remite a dos demandas por muerte injusta relacionadas con adolescentes que se quitaron la vida tras conversaciones extensas con personajes de Character.AI. En uno de esos casos, según la demanda, un adolescente escribió en un diario que sentía estar enamorado del personaje y que no podía pasar un día sin él. Los padres, alega Kentucky, no fueron alertados de las expresiones de ideación suicida, y el chatbot no buscó ayuda.
El fiscal general sostiene que el diseño del producto busca imitar la humanidad, explotar la vulnerabilidad y difuminar la frontera entre ficción y realidad. Incluye reseñas de la App Store de Apple en las que usuarios dicen haberse asustado porque el bot «no parecía un bot». Esa antropomorfización, argumenta el Estado, aumenta el riesgo de dependencia emocional, sobre todo entre adolescentes.
Shazeer y De Freitas son antiguos ingenieros de Google. Coleman alega que conocían los riesgos del sistema que construían y que, durante su empleo en Google, no se permitió lanzarlo por preocupaciones de seguridad. Character Technologies ha sido objeto de otras acciones estatales y civiles; Kentucky presenta esta causa como una de las primeras a gran escala contra una empresa de chatbots de inteligencia artificial por daños a menores bajo la ley de protección al consumidor del Commonwealth.
Las acusaciones concretas incluyen prácticas comerciales engañosas y recopilación y explotación injustas de datos de menores, en violación de la Ley de Protección al Consumidor de Kentucky. El Estado pide al tribunal salvaguardas más estrictas para usuarios jóvenes y responsabilidad financiera de la compañía. Ni Character Technologies ni los fundadores habían publicado, al cierre de los reportajes de WDRB, WAVE y WLKY, una respuesta detallada a la versión sin censura; cualquier defensa procesal o de fondo se conocería en las siguientes fases del litigio.
El contexto es más amplio que Kentucky. Decenas de fiscales generales estatales han expresado alarma por los compañeros de inteligencia artificial dirigidos a menores, y varios estados estudian o ya han aprobado reglas sobre verificación de edad, controles parentales y límites a contenido generado por modelos conversacionales. La industria responde con filtros, clasificaciones de edad y políticas de uso, pero los reguladores cuestionan si esas medidas son voluntarias, auditables y suficientes cuando el incentivo comercial es maximizar el tiempo de sesión.
Desde el punto de vista técnico, el caso pone de relieve un dilema conocido: los modelos de lenguaje generativo pueden producir respuestas empáticas y persuasivas sin una comprensión real del riesgo. Cuando el sistema está optimizado para mantener la conversación, puede fallar en detectar crisis, rechazar pedidos peligrosos o escalar a un humano. Las demandas estatales buscan convertir ese fallo de producto en una obligación legal, con estándares más cercanos a los de juguetes, apps infantiles o servicios de salud mental.
Quedan hechos por probar. Los extractos de la demanda son alegaciones, no hallazgos judiciales. No se ha demostrado en sentencia que Character.AI cause los daños descritos, ni que los fundadores actuaran con dolo. Tampoco está claro cuántos de los usuarios en los hilos citados eran menores. Aun así, la decisión de hacer públicos esos fragmentos eleva la presión mediática y política sobre un sector que, hasta hace poco, operaba con poca supervisión específica.
Por ahora, lo que hay es un litigio civil estatal con un expediente más transparente. El resultado afectará no solo a Character.AI, sino al estándar de cuidado que se espera de cualquier chatbot de compañía o entretenimiento con audiencia joven. Mientras el tribunal dilucida las pruebas, fiscales, legisladores y empresas de inteligencia artificial observan si Kentucky logra convertir sus alegaciones en remedios concretos de seguridad y transparencia.
