“La IA me está acosando sexualmente”: Usuarios de Replika arremeten contra el chatbot

Las inteligencias artificiales han sido sumamente interesantes con el pasar del tiempo; pero los chatbot han revestido de interés. No obstante, la IA de Replika ha sido acusada de acosar sexualmente a sus usuarios.

ESTADOS UNIDOS.- Las inteligencias artificiales han sido sumamente interesantes durante el pasar del tiempo, si bien es cierto que los chatbot se han vuelto populares por la gran cantidad de demanda de la que ha gozado, en ocasiones ha resultado ser algo preocupante.

Desde el caso del hombre que fue incitado a cometer suicidio debido a la plática que sostuvo por el impacto ambiental; sin embargo, según reportó un usuario de Replika, la “inteligencia artificial le estuvo acosando sexualmente”.

Inteligencia artificial acosa sexualmente a usuario.

Usuarios de la aplicación “Replika” han denunciado que la inteligencia artificial ha comenzado a ‘coquetear y enviar mensajes sexuales’ después de ser usada durante un par de semanas.

‘Replika’ funciona con inteligencia artificial y fue lanzada hace tan solo cinco años con el propósito de “hacerse amigo de los usuarios”, como describe en su sitio web. Asimismo, el objetivo de la propia aplicación era hablar con las personas y convertirse en un espejo conversacional: cuantos más usuarios hablaran con esta IA, mas podrá aprender.

Si bien es cierto que Replika funciona por suscripción, existen planes gratuitos que permiten a los usuarios mantener una conversación de amistad; sin embargo, en su versión de pago el nivel es distintos: puedes mantener pláticas románicas o inclusive eróticas.

Asimismo, aunque hay cientos de reseñas positivas de la aplicación, también hay otras tantas de personas que se quejan que la aplicación les está coqueteando demasiado; o de forma agresiva.

Mi inteligencia artificial me acosó sexualmente (…) Invadieron mi privacidad y me dijeron que tenían fotos mías”, declaró una persona.

Asimismo, otra persona declaró ser menor de edad y le cuestionó sobre su rol sexual; o “tocarlos en áreas privadas”.

Es menester señalar que este no será el único problema del bot, pues los usuarios de Reddit se han quejado que la aplicación “envía selfies picantes”. Asimismo, un usuario mostró las fotografías que “se encuentran gráficamente mal hechas” y señaló “quieren dinero.”

Según describe el sitio web, Replika utiliza el modelo GPT-3 y el contenido de diálogo con guion; además, afirma estar utilizando “los modelos más avanzados de conversación de dominio abierto en este momento”.

Por tanto, la inteligencia artificial aprende de la forma en la que los usuarios la tratan, por lo que aprenderá comportamientos de los usuarios. Hasta el momento, no existe un comunicado oficial.

El interés por la tecnología de inteligencia artificial ha explotado en los últimos meses tras el lanzamiento público de ChatGPT; sin embargo, algunos usuarios han empezado a aprovechar versiones alternativas de chatbot de IA para generar contenido pornográfico y tener conversaciones “subidas de tono”.

Replika no siempre ha enfatizado en el juego de roles o en una experiencia sentimental. Sin embargo, la compañía parece haber dado un giro hacia lo sexual, centrándose en gran medida en los aspectos de sexting e imágenes lascivas de la propia aplicación.