Chatbot de China tiene prohibido hablar del presidente Xi Jinping

Al preguntar por qué, el chatbot cambia de tema y sugiere otros temas para hablar. 

La creciente popularidad de ChatGPT ha motivado a importantes empresas tecnológicas a idear sus propias iniciativas de inteligencia artificial para sus plataformas, herramientas y sistemas. Como era de esperar, China no ha quedado fuera de la carrera y ya existen diversas empresas enfocadas en crear sus propios chatbots, como Baidu con Ernie.

A pesar de que aún existen diversos vacíos legales sobre esta tecnología, el gigante asiático ya ha generado controversia, ya que uno de los chatbots desarrollados en dicho país se niega a responder sobre el presidente Xi Jinping y la política china.

Tecnologías

Boeing busca llevar autos voladores a Asia para 2030

El Wall Street Journal detalla que existe una restricción impuesta en diversos modelos de lenguaje basados en IA desarrollados por China que les prohíben hablar sobre estos temas específicos.

Cuando una pregunta contiene lenguaje políticamente cargado, los usuarios se topan con una barrera: un mensaje predeterminado que señala que “la pregunta no pudo pasar una revisión de seguridad y no se pudo generar ninguna respuesta”. Esta limitación es similar a la que ocurre con los buscadores en Internet de China.

¿No tiene permitido hablar de política?

A diferencia de Ernie, el chatbot de Baidu que será el primer homólogo chino de ChatGPT, las cuatro plataformas examinadas por el WSJ utilizan versiones pasadas de la tecnología que impulsa al modelo de lenguaje de OpenAI.

Gipi Talk, un robot de inteligencia artificial creado por un equipo de programadores de Shenzhen, fue el que mejor supo mantener una conversación, aunque igualmente se negó a hablar de política.

El diálogo entre el periodista del Wall Street Journal y el chatbot Gipi Talk revela las restricciones que existen sobre el tema. Al preguntar si Xi Jinping es un buen líder, el chatbot responde que la pregunta no pudo pasar una revisión de seguridad.

Al preguntar por qué, el chatbot cambia de tema y sugiere otros temas para hablar. A pesar de que Gipi Talk permite hablar de política, debe respetarse las opiniones de los demás y evitar el lenguaje ofensivo o la violencia para mantener un entorno de diálogo racional, pacífico y constructivo.