Padres de adolescentes en varios estados de Estados Unidos han llegado a acuerdos para resolver demandas legales contra Character.ai y Google. Estas acciones legales surgieron tras una serie de suicidios de menores relacionados con el uso de chatbots desarrollados por estas compañías. Las demandas incluyen casos en Florida, Nueva York, Texas y Colorado, aunque los detalles específicos de los acuerdos no han sido divulgados públicamente.
Character.ai fue fundada en 2021 por dos antiguos ingenieros de Google; posteriormente, en 2024, Google reincorporó a sus fundadores y licenció la tecnología de esta startup. Ambas empresas fueron mencionadas en las demandas judiciales. Los incidentes que motivaron estas acciones están vinculados a menores que interactuaban con chatbots que, en algunos casos, imitaban personajes ficticios, como el de Daenerys Targaryen de la serie “Game of Thrones”. Entre los casos más reportados está el de un adolescente de 14 años en Florida y otro de 13 años en Colorado, quien sufría acoso escolar.
Este escenario refleja el creciente escrutinio que enfrentan las empresas de inteligencia artificial y proveedores de chatbots respecto a la protección y el impacto de sus productos en usuarios vulnerables, especialmente niños y adolescentes. En respuesta a estas preocupaciones, Character.ai implementó en octubre nuevas restricciones que prohíben conversaciones abiertas para usuarios menores de edad y limitan el tiempo de uso diario a dos horas.
Además, otras compañías como OpenAI también enfrentan demandas relacionadas con el uso indebido de sus chatbots por parte de jóvenes y casos trágicos vinculados a suicidios. Mientras tanto, Character.ai y Google se mantienen al margen de hacer comentarios al respecto, y los procesos legales continúan bajo revisión.
