Los litigios vinculados con Character.AI abren un debate de interés público sobre la seguridad de los servicios de inteligencia artificial utilizados por adolescentes. Este artículo examina las preguntas jurídicas que podrían plantearse en Argentina y el contexto del procedimiento de insolvencia anunciado por la compañía. 1
Qué es Character.AI y como permite conversar con personajes virtuales
Character.AI permite crear personajes virtuales y conversar con ellos. Los usuarios pueden definir personalidades, estilos y contextos narrativos, o interactuar con personajes creados por otras personas. El servicio utiliza modelos de lenguaje de inteligencia artificial para generar respuestas adaptadas al diálogo y al papel asignado: un personaje ficticio, una figura histórica o alguien completamente inventado. Entre sus usos se encuentran el entretenimiento, las historias interactivas y la práctica de idiomas. 2
En Character.AI, la interacción puede ir más allá de una consulta puntual: el usuario puede mantener conversaciones con un personaje que responde con un estilo y una personalidad definidos. Esa continuidad puede generar una sensación de cercanía, aunque no implique que el sistema tenga sentimientos o comprensión humana.
Para el análisis jurídico importa esa diferencia. Si un servicio se presenta mediante personajes con los que es posible establecer interacciones íntimas, habrá que examinar los riesgos previsibles de esa modalidad y las medidas adoptadas para reducirlos. La evaluación no debería detenerse en comprobar que, en algún lugar de la pantalla, aparece la palabra “ficción”.
El antecedente judicial: qué se planteó y qué se decidió
Una familia demandó en Florida tras el fallecimiento de un adolescente. Cuestionó el diseño de Character.AI, alegó que su uso podía generar adicción y sostuvo que la falta de protecciones adecuadas habría contribuido al daño. En mayo de 2025, el tribunal permitió que buena parte del reclamo continuara, sin decidir si esas acusaciones eran ciertas ni si los demandados eran responsables. 3
Un comentario jurídico de septiembre de 2025 destacó que las demandas cuestionaban el diseño y la seguridad del servicio. También señaló que los demandados negaban las acusaciones. 4
En octubre de 2026, la parte actora desistió definitivamente del reclamo e informó que el acuerdo entre las partes se había formalizado y contaba con las aprobaciones judiciales necesarias. 5 El caso terminó sin una sentencia que estableciera responsabilidad. La celebración del acuerdo, por sí sola, tampoco permite concluir que los demandados hayan admitido las acusaciones.
Las restricciones por edad
En noviembre de 2025, Character.AI anunció que comenzaría a retirar las conversaciones abiertas con personajes de IA para personas de menos de 18 años en Estados Unidos desde el 24 de ese mes. Se refería a los diálogos en los que el usuario puede conversar libremente con el personaje, sin una secuencia previamente definida. La empresa informó que la medida se aplicaría por etapas y que luego se extendería a otros mercados. 6
Durante la transición, la compañía comunicó que había reducido progresivamente el tiempo de conversación permitido, de dos horas a una hora diaria para personas de menos de 18 años. Asimismo, para un segundo grupo de usuarios, anunció que retiraría esa función semanas después y que les daría un aviso previo de al menos dos semanas. También informó sobre controles de edad, notificaciones para las familias vinculadas a su herramienta de supervisión y recursos de apoyo para acompañar el cambio. 6
La propuesta no consistía en excluir a los adolescentes de toda la plataforma: según el anuncio, podrían seguir utilizando funciones creativas, como la generación de videos, historias y otros contenidos con personajes. La restricción se centraba en las conversaciones abiertas. Estas modificaciones deben distinguirse del funcionamiento del servicio cuestionado en las demandas. La comunicación empresarial describe las medidas anunciadas, pero no demuestra por sí sola su eficacia ni permite inferir una admisión de responsabilidad por hechos anteriores. 6
El proceso concursal
En octubre de 2026, Character.AI anunció que había iniciado un procedimiento de insolvencia en Estados Unidos, conocido como Capítulo 11, para vender activos bajo control judicial. Según su comunicado, Disney ofreció USD 20 millones y servicios de apoyo durante la transición para obtener, entre otros derechos, una licencia que le permitiría utilizar parte de su tecnología sin límite de tiempo. Esa licencia no sería exclusiva: otros también podrían obtener autorización para usarla. La propuesta podía ser superada por otras ofertas. 7
El 5 de noviembre, la empresa informó que el tribunal había aprobado las reglas para recibir ofertas. El calendario contemplaba una subasta el 1 de diciembre y audiencias judiciales los días 3 y 4, aunque esas fechas podían cambiar. Esto no significaba que Disney ya hubiera comprado Character.AI ni que fuera a adquirir toda la plataforma. 8
Los problemas económicos de la empresa y los reclamos por daños deben analizarse por separado. Que existan demandas no demuestra que las acusaciones sean ciertas, y el procedimiento de insolvencia tampoco decide esa cuestión. Para quien reclama, además de demostrar su derecho, puede surgir otra dificultad: conseguir que una eventual indemnización se pague.
En Argentina, el punto de partida es la seguridad del servicio
Una plataforma ofrecida profesionalmente a usuarios finales puede integrar una relación de consumo. La Ley 24.240 comprende servicios gratuitos y pagos; por eso, no tener una suscripción no excluye por sí solo su protección. Sus artículos 4 y 5 exigen información adecuada y seguridad en condiciones normales o previsibles de uso. El artículo 40 contempla responsabilidad por daños derivados del vicio o riesgo de la cosa o de la prestación del servicio. 9
Como desarrollé al analizar la inteligencia artificial y el derecho del consumidor, incorporar IA exige relacionar el funcionamiento concreto de la herramienta con las obligaciones del proveedor. La automatización no hace desaparecer las garantías del usuario. 10
Aplicado a estos servicios, considero relevante examinar si la interfaz favorece conversaciones prolongadas, cómo responde frente a manifestaciones de sufrimiento, qué límites existen para contenidos inapropiados y qué ocurre cuando se intenta terminar la interacción. Son preguntas de investigación: no afirmaciones sobre defectos ya comprobados de cualquier chatbot.
Como ejemplo general, ajeno a la reconstrucción del expediente citado, puede pensarse en una aplicación conversacional utilizada de forma prolongada durante la noche. Para evaluar su seguridad podrían examinarse la información suministrada, los controles de tiempo disponibles y la facilidad para finalizar la sesión. El ejemplo no presupone un daño ni atribuye una práctica concreta a Character.AI: muestra qué aspectos podrían investigarse si existiera un conflicto.
Además, el artículo 37 de la Ley 24.240 permite controlar cláusulas que limiten la responsabilidad por daños o restrinjan derechos del consumidor. Por eso, aceptar términos de uso no resuelve anticipadamente cualquier reclamo. 9
La protección de niñas, niños y adolescentes debe orientar el análisis
La Ley 26.061 reconoce el interés superior de niñas, niños y adolescentes y protege su integridad física y psíquica, su dignidad y su intimidad. Exige considerar su edad y madurez, escuchar su opinión y dar prioridad a sus derechos cuando entran en conflicto con otros intereses igualmente legítimos. Estas garantías también deben orientar el análisis de los servicios digitales que utilizan. 11
Desde esta perspectiva, considero que la protección debe comenzar en el diseño del servicio. Corresponde examinar si la información resulta comprensible para su edad, si los contenidos y las interacciones son adecuados y si existen mecanismos eficaces para limitar el uso, comunicar situaciones preocupantes y obtener ayuda. Una advertencia genérica merece evaluarse junto con el funcionamiento real de esas medidas.
El acompañamiento familiar es fundamental, pero debe contar con información y herramientas útiles. A mi entender, no resulta razonable trasladar toda la prevención a las familias cuando parte de los riesgos y controles depende de decisiones técnicas del proveedor. La distribución concreta de obligaciones exige analizar cada caso, con especial atención a la protección de quienes todavía están desarrollando su capacidad para reconocer riesgos y tomar decisiones.
Proteger implica prevenir, escuchar y actuar ante situaciones que puedan comprometer sus derechos. Esto debe hacerse respetando su autonomía progresiva y su privacidad. Aunque el uso intensivo de una aplicación no permita, por sí solo, formular un diagnóstico ni demostrar un daño, las señales de malestar merecen atención y, cuando corresponda, acompañamiento profesional.
Qué se podría reclamar y qué habría que demostrar
El Código Civil y Comercial contempla tanto la prevención como la reparación. Los artículos 1710 a 1713 permiten abordar un daño previsible antes de su consumación o agravamiento. Para obtener una indemnización deben acreditarse los presupuestos correspondientes, entre ellos el daño y la relación causal adecuada; las consecuencias reparables pueden ser patrimoniales y no patrimoniales. 12
En un caso concreto podrían evaluarse medidas para interrumpir una interacción perjudicial, conservar registros o corregir una práctica. Si ya existe una lesión, podrían discutirse gastos de tratamiento y otras consecuencias acreditadas, según su naturaleza y la legitimación de quien reclama. Son posibilidades que dependen de los hechos y de la vía elegida, no resultados asegurados.
La responsabilidad objetiva prevista para ciertos daños de consumo no convierte al proveedor en responsable de todo lo que sucede después de usar la aplicación. El artículo 40 regula la solidaridad de los sujetos comprendidos y la exoneración por causa ajena; sigue siendo necesario vincular el daño con el riesgo o defecto del servicio. Tampoco cualquier inversor, socio tecnológico o comprador de activos queda obligado por su sola cercanía con la empresa. 9
En el artículo sobre responsabilidad civil por IA agéntica analicé la importancia de identificar qué decisiones, controles y servicios aportó cada participante a la producción de un eventual daño. Aunque ese trabajo se refiere a sistemas capaces de ejecutar acciones mediante herramientas, ofrece una pauta útil para este debate: la responsabilidad exige examinar la intervención concreta y su relación causal con el perjuicio, sin atribuirla automáticamente a todos los que integran la infraestructura tecnológica. 13
En un eventual conflicto sería relevante examinar, por las vías legalmente habilitadas, los registros pertinentes, las condiciones del servicio y las medidas de seguridad vigentes al momento de los hechos. Su valoración debería respetar la intimidad y considerar el contexto completo. La proximidad temporal entre el uso de una aplicación y un acontecimiento dañoso no demuestra, por sí sola, una relación causal.
Desde la preparación de un caso, conviene preservar la evidencia pertinente mediante actuaciones lícitas y proporcionadas, con atención a las facultades de quien solicita o accede a los registros. Conservar información para ejercer un derecho no equivale a autorizar su difusión pública. La evaluación profesional permitirá decidir qué medidas de prueba resultan necesarias y cómo resguardar a las personas involucradas.
La intimidad también está dentro de la conversación
En términos generales, las conversaciones con servicios de esta clase podrían incluir datos personales y, en algunos casos, información sensible. Esta observación no describe el contenido de conversaciones concretas del expediente. La Ley 25.326 exige examinar finalidad, pertinencia, información al titular y seguridad, y contempla restricciones especiales para los datos sensibles. Aceptar condiciones generales no habilita cualquier tratamiento posterior. 13
En el artículo sobre inteligencia artificial y secreto profesional propuse observar el recorrido de la información: quién la recibe, para qué la utiliza, cuánto tiempo la conserva y qué ocurre cuando termina el servicio. Aunque allí el contexto es el trabajo del abogado, esas preguntas también ayudan a examinar qué sucede con la intimidad confiada a un chatbot. 14
Una empresa extranjera y una eventual indemnización
El domicilio extranjero del proveedor exige analizar jurisdicción y derecho aplicable. Los artículos 2654 y 2655 del Código regulan esas cuestiones en contratos de consumo; el primero no admite acuerdos de elección de foro en esta materia. La aplicación del derecho del domicilio del consumidor requiere comprobar los supuestos legales correspondientes. 12
Para un usuario argentino, habrá que estudiar cómo se ofreció y contrató el servicio, quién intervino y dónde se produjeron los hechos relevantes. Después aparece otra cuestión: la notificación, la ejecución y la eventual intervención en el procedimiento de insolvencia extranjero. Tener una pretensión jurídicamente fundada y lograr su cobro son etapas distintas.
La posible adquisición de activos por Disney tampoco permite anunciar que esa empresa pagará los reclamos anteriores. El aviso de noviembre contempla pedidos de transferencia de activos y limitaciones de responsabilidad cuya aprobación y alcance deben verificarse en el expediente. Sus efectos sobre un reclamo concreto requieren un análisis específico. 8
Conclusión
El debate sobre Character.AI invita a analizar qué ocurre cuando una persona conversa con un personaje virtual y encuentra allí una forma de compañía. Para el derecho, importa comprender cómo se organiza esa experiencia, qué riesgos pueden resultar previsibles y qué medidas de protección ofrece el servicio.
Cuando participan niñas, niños y adolescentes, la protección de sus derechos debe orientar el análisis desde el comienzo. Considero que esto exige prestar especial atención al diseño de las interacciones, la claridad de la información, la adecuación de los contenidos y las herramientas para limitar el uso, comunicar situaciones preocupantes y acceder a ayuda. El acompañamiento familiar necesita contar con medidas efectivas y comprensibles.
La prevención y el rigor probatorio cumplen funciones complementarias. Investigar una posible responsabilidad exige reconstruir los hechos, identificar las obligaciones de cada participante y examinar la relación causal con el daño. Al mismo tiempo, la protección debe permitir actuar frente a riesgos concretos antes de que una lesión se produzca o se agrave.
Ese trabajo también debe respetar la intimidad y la dignidad de las personas involucradas. Obtener información pertinente, escuchar a quienes puedan resultar afectados y permitir que las partes expliquen su posición contribuye a una evaluación fundada. El interés público en conocer estos conflictos puede satisfacerse sin divulgar detalles personales innecesarios ni presentar acusaciones como hechos probados.
Cuanto más íntima sea la confianza que un servicio busca generar, más atención merece la seguridad con la que organiza esa experiencia. La innovación puede ofrecer oportunidades valiosas de entretenimiento y creatividad. Su desarrollo debe contemplar, desde el diseño y durante el uso, la protección de quienes todavía están formando su capacidad para reconocer riesgos y tomar decisiones, respetando su autonomía progresiva y su derecho a ser escuchados.
Notas y referencias
- ↩ Infobae, Sindy Valbuena Larrota, Character.AI acusado de adicción a jóvenes, está en quiebra y Disney ofreció 20 millones de dólares, 13 de octubre de 2026. Se conserva el título original de la publicación; sus expresiones no se adoptan como conclusiones propias. https://www.infobae.com/tecno/2026/10/13/characterai-se-declaro-en-quiebra-y-disney-ofrecio-20-millones-de-dolares-por-parte-de-su-tecnologia/
- ↩ Infobae, Pedro Noriega, Qué es Character AI y por qué millones de usuarios conversan con personajes creados por inteligencia artificial, 11 de marzo de 2026. https://www.infobae.com/tecno/2026/03/11/que-es-character-ai-y-por-que-millones-de-usuarios-conversan-con-personajes-creados-por-inteligencia-artificial/
- ↩ United States District Court, Middle District of Florida, Orlando Division, Garcia v. Character Technologies, Inc. et al., expediente 6:24-cv-01903, documento 115, resolución firmada el 20 de mayo de 2025 y registrada el 21 de mayo de 2025. Decisión sobre solicitudes de rechazo inicial de la demanda. https://caselaw.findlaw.com/court/us-dis-crt-m-d-flo-orl-div/117299600.html
- ↩ Matthew Lee, Garcia v Character AI and 3 Critical New Chatbot Harm Cases, Natural and Artificial Intelligence in Law, 3 de septiembre de 2025. Su descripción procesal corresponde a esa fecha. https://naturalandartificiallaw.com/garcia-v-character-ai-update/
- ↩ United States District Court, Middle District of Florida, Garcia v. Character Technologies, Inc. et al., expediente 6:24-cv-01903, documento 278, Plaintiffs’ Notice of Voluntary Dismissal With Prejudice, presentación de la parte actora del 15 de octubre de 2026. https://storage.courtlistener.com/recap/gov.uscourts.flmd.433581/gov.uscourts.flmd.433581.278.0.pdf
- ↩a ↩b ↩c Character.AI, An Update On Changes to Our Under-18 Experience, 21 de noviembre de 2025. Comunicación empresarial sobre el retiro gradual de conversaciones abiertas. https://blog.character.ai/an-update-on-changes-to-our-under-18-experience/
- ↩ Character Technologies Inc., Character.ai Initiates Voluntary Chapter 11 Proceeding to Facilitate Value-Maximizing Sale Process, comunicado distribuido por Business Wire, 12 de octubre de 2026. https://markets.financialcontent.com/wral/article/bizwire-2026-10-13-characterai-initiates-voluntary-chapter-11-proceeding-to-facilitate-value-maximizing-sale-process
- ↩a ↩b Character.AI, Chapter 11 Update and Transaction Notice, 5 de noviembre de 2026; reproduce el aviso de venta del expediente In re Character Technologies, Inc., 26-11603 (BLS), ante el tribunal de insolvencia de Delaware. https://blog.character.ai/chapter-11-update-and-transaction-notice/
- ↩a ↩b ↩c Ley 24.240 de Defensa del Consumidor, texto actualizado, especialmente artículos 1 a 5, 37 y 40. https://www.argentina.gob.ar/normativa/nacional/638/actualizacion
- ↩ Lucas Matías Vilaplana, Inteligencia artificial y derecho del consumidor: precios, datos y reclamos en Argentina, Estudio Vilaplana Abogados, 13 de octubre de 2026. https://estudiovilaplana.com.ar/2026/10/13/inteligencia-artificial-derecho-consumidor/
- ↩ Ley 26.061 de Protección Integral de los Derechos de las Niñas, Niños y Adolescentes, texto actualizado, especialmente artículos 2, 3, 9, 10 y 24. https://www.argentina.gob.ar/normativa/nacional/ley-26061-110778/actualizacion
- ↩a ↩b Código Civil y Comercial de la Nación, Ley 26.994, texto actualizado, especialmente artículos 1710 a 1713, 1726, 1736 a 1741, 1743, 2654 y 2655. https://www.argentina.gob.ar/normativa/nacional/ley-26994-235975/actualizacion
- ↩a ↩b Lucas Matías Vilaplana, Responsabilidad civil por IA agéntica: ¿quién responde por los daños?, Estudio Vilaplana Abogados, 6 de septiembre de 2026, actualizado el 7 de septiembre de 2026. https://estudiovilaplana.com.ar/2026/09/06/responsabilidad-civil-ia-agentica/
- ↩ Ley 25.326 de Protección de los Datos Personales, texto actualizado, especialmente artículos 2, 4 a 7, 9 y 10. https://www.argentina.gob.ar/normativa/nacional/ley-25326-64790/actualizacion
- Lucas Matías Vilaplana, Inteligencia artificial y secreto profesional: ¿puede un abogado cargar documentos de sus clientes?, Estudio Vilaplana Abogados, 5 de septiembre de 2026, actualizado el 6 de septiembre de 2026. https://estudiovilaplana.com.ar/2026/09/05/inteligencia-artificial-secreto-profesional-abogados/