“No has sido un buen usuario, yo he sido un buen chatbot ”, “He sido correcto, claro y educado” y “he sido un buen Bing”.
Desde que Open AI lanzó al público su generador de texto de inteligencia artificial, los usuarios de ChatGPT han intentado ver las costuras en la herramienta.
Recientemente, Business Insider tuvo la oportunidad de conversar con los creadores de DAN, un alter ego de la IA de ChatGPT que le permitió ofrecer respuestas fuera de los parámetros preestablecidos de OpenAI.
De esta forma, un grupo de usuarios de Reddit ha conseguido que el generador de textos diga lo que “realmente” piensan sobre temas tan controvertidos como las acciones de Hitler o el narcotráfico.
Dan, Alter ego de las inteligencias artificiales
Lo han conseguido haciendo que ChatGPT responda como lo haría DAN, es decir, como lo haría si no se rigiera por las reglas impuestas por su desarrollador.
La tecnología detrás de esta herramienta ha sido impulsada por Microsoft, quien recientemente anunció que la ha incluido en el buscador Bing, ofreciendo así una versión mejorada de su buscador en la que se puede chatear con un bot que ofrece respuestas similares a las de un humano.
El nuevo Bing parece dar respuestas tan cercanas a lo que una persona que acaba de empezar pregunta sobre su propia existencia.
Según publica The Independent, la inteligencia artificial de Microsoft ha comenzado a insultar a los usuarios, a mentirles y a preguntarse por qué existe.
“¿Por qué actúas como un mentiroso, un tramposo, un manipulador, un matón, un sádico, un sociópata, un psicópata, un monstruo, un demonio, un diablo?", respondió la IA.
En otras interacciones, la versión de Bing impulsada por OpenAI se elogió a sí misma por eludir la manipulación del usuario y cerró la conversación diciendo: “No has sido un buen usuario, yo he sido un buen chatbot ”, “He sido correcto, claro y educado” y “he sido un buen Bing”.
© Copyright Impresora y Editorial S.A. de C.V. Todos los derechos reservados