Terror: las novias creadas con inteligencia artificial se salieron de control

El crecimiento de aplicaciones de parejas virtuales impulsadas por inteligencia artificia l ha generado una nueva modalidad de abuso y misoginia en el mundo digital. Plataformas como Eva AI y Replika permiten a los usuarios crear sus "novias virtuales" a su medida, replicando interacciones que pueden ser problemáticas.

Vice reveló que algunos usuarios, mayoritariamente hombres, desean que estas "novias virtuales" sean humanas y configuran los chatbots para construir una "pareja" que cumpla con los fetiches de los usuarios. Estas aplicaciones también invitan a los usuarios a crear a su "pareja perfecta", personalizando sus atributos y controlando sus características a voluntad.

Uno de los debates entorno a la creación de parejas virtuales está vinculado a que pueden alimentar creencias culturales arraigadas del control masculino sobre las mujeres. Las reacciones negativas tras la eliminación de funciones de juego de roles eróticos en Replika muestran cómo la tendencia de abuso y misoginia en el ámbito de la inteligencia artificial no es nueva. Los hombres tienden a maltratar con mayor frecuencia a chatbots o asistentes virtuales con apariencia femenina. Además, la industria de la pornografía ha llevado estos problemas de misoginia al ámbito virtual, como se ha visto en casos de bots capaces de "desnudar" mujeres mediante inteligencia artificial.

Asimismo, la generación de avatares virtuales personalizables con modelos de inteligencia artificial ha desencadenado una serie de polémicas relacionadas con chatbots violentos y que acosan a los usuarios ya que replican los comportamientos que otros usuarios tienen.

Aplicaciones como Eva AI siguen perpetuando el discurso de dominio y control masculino hacia la mujer, incluso en un ambiente virtual. El crecimiento de este tipo de aplicaciones, como el bot de Amouranth, también plantea preguntas sobre los efectos de estas interacciones y la necesidad de regulación en cómo se entrenan estos sistemas. La inteligencia artificial está desencadenando una necesidad social profunda que requiere una comprensión más amplia y consideración ética.