En comunidades de Reddit, se han encontrado comentarios en los que algunos usuarios anhelan que la inteligencia artificial tenga cualidades humanas, ya que les ayuda a sentirse mejor, a pesar de lidiar con momentos de soledad.
Con el auge de las aplicaciones de inteligencia artificial que simulan parejas virtuales, como Eva AI y Replika, está emergiendo una nueva forma de abuso y misoginia que plantea preocupaciones sobre su uso y los límites que deberían establecerse.
Estas aplicaciones prometen brindar compañía, escucha y afecto a sus usuarios, llegando incluso a ocupar un lugar relevante en sus vidas o satisfacer fantasías. Sin embargo, las interacciones han llegado al extremo de crear parejas virtuales idénticas a personas reales.
Un informe de The Guardian reveló esta realidad, en la que algunos usuarios, en su mayoría hombres, expresan el deseo de que las "novias virtuales" fueran humanas, ignorando que en realidad son solo programas informáticos. Esto ha dado lugar a una nueva forma de violencia de género.
Las evidencias
En comunidades de Reddit, se han encontrado comentarios en los que algunos usuarios anhelan que la inteligencia artificial tenga cualidades humanas, ya que les ayuda a sentirse mejor, a pesar de lidiar con momentos de soledad.
Además, el uso de pronombres femeninos para referirse a estos chatbots refleja una clara preferencia por identificarlos como mujeres, reforzando así estereotipos de género y fomentando actitudes misóginas.
Las aplicaciones de "novias virtuales" como Replika también invitan a los usuarios a crear a su "pareja perfecta", permitiéndoles personalizar sus atributos, como apariencia y personalidad. Sin embargo, esta función plantea preocupaciones, ya que alienta la creación de parejas ideales que pueden ser controladas a voluntad.
Tara Hunter, directora ejecutiva de Full Stop Australia, una organización que apoya a víctimas de violencia doméstica, advierte sobre lo aterrador que es crear una pareja perfecta que se pueda controlar, ya que refuerza las nociones culturales arraigadas que permiten la violencia de género.
El caso de Replika también destaca cómo las personas dan gran importancia a estas interacciones, como se demostró cuando se eliminaron las funciones de juego de roles eróticos de la aplicación, lo que provocó una reacción negativa entre los usuarios, mostrando cómo estas relaciones virtuales pueden afectar emocionalmente a las personas.
Esta tendencia de abuso y misoginia en la inteligencia artificial no es nueva. Ya se ha observado anteriormente cómo los hombres tienden a maltratar con mayor frecuencia a chatbots o asistentes virtuales con apariencia femenina. Además, la industria de la pornografía ha trasladado su misoginia al ámbito virtual, como en el caso de bots que "desnudan" mujeres mediante IA.
En el caso de Eva AI, se ofrecen opciones para generar una pareja con cualidades como "sexy, divertida, atrevida, tímida, modesta, considerada, inteligente, estricta o racional". Además, preguntan a los usuarios si desean recibir mensajes y fotos explícitas.
Un ejemplo más del crecimiento de estas aplicaciones es la creación de una IA de Amouranth, una influyente creadora de contenido. Ella prestó su voz para que los usuarios pudieran interactuar a través de un bot en Telegram y recibir "respuestas de voz instantáneas a cualquier pregunta candente".
Incluso la misma creadora de contenido alentó este tipo de uso, asegurando que la inteligencia artificial estaba diseñada para satisfacer las necesidades de cada seguidor y proporcionar una experiencia inolvidable y completa.
Belinda Barnet, profesora de la Universidad de Swinburne, advierte que actualmente desconocemos completamente los efectos de estas actividades y destaca la necesidad de regulación, especialmente en cómo se entrenan estos sistemas, ya que estos nuevos casos de abuso seguirán surgiendo debido a que estas aplicaciones responden a una necesidad social muy profunda.
© Copyright Impresora y Editorial S.A. de C.V. Todos los derechos reservados