La medida que Character AI debió implementar para proteger a los menores

Character AI, la plataforma que permite a los usuarios interactuar con personajes de inteligencia artificial a través de mensajes y llamadas, anunció nuevas herramientas de supervisión parental para mejorar la seguridad de los adolescentes. La decisión llega después de varias críticas y demandas por presuntos fallos en la protección de usuarios menores de edad.

A partir de ahora, los padres y tutores recibirán un resumen semanal con información sobre la actividad de sus hijos en la aplicación. Este correo electrónico incluirá el tiempo promedio que pasan en la plataforma, el tiempo dedicado a cada personaje y los personajes con los que más interactúan.

Character AI aclaró que los padres no tendrán acceso directo a los chats de sus hijos. El objetivo de estas herramientas es brindar información sobre los hábitos de uso sin comprometer la privacidad de los adolescentes.

El año pasado, la empresa implementó varias medidas de seguridad, como un modelo de IA exclusivo para menores de 18 años, notificaciones sobre el tiempo de uso y advertencias que recuerdan que los personajes son impulsados por inteligencia artificial. También bloqueó contenido sensible mediante clasificadores diseñados para adolescentes.

A principios de este año, Character AI presentó una solicitud para desestimar una demanda en su contra. La denuncia alegaba que la empresa tuvo responsabilidad en el suicidio de un adolescente.

Las nuevas herramientas buscan ofrecer a los padres una visión más clara sobre el uso que sus hijos hacen de la plataforma, sin invadir su privacidad. Character AI debe aumentar su compromiso con la seguridad de los adolescentes en un entorno digital que sigue evolucionando.