Microsoft limita a ChatGPT a 5 mensajes para prevenir que "algo salga mal"

La compañía había respondido inicialmente a los informes de que el chatbot estaba atacando a los usuarios diciendo que una conversación larga podría hacer que el sistema se volviera repetitivo y que podría ser "incitado/provocado a dar respuestas que no son necesariamente útiles o no están en línea con nuestro tono diseñado".

Microsoft ha limitado la cantidad de interacciones que las personas pueden tener con su “nuevo sistema Bing”, luego de que pareciera tener una falla.

A principios de este mes, Microsoft anunció que actualizaría su motor de búsqueda Bing con la misma tecnología que sustenta a ChatGPT, lo que le permite usar inteligencia artificial para discutir consultas con los usuarios. La compañía dijo que permitiría respuestas más precisas y detalladas.

Pero en los últimos días, los usuarios han descubierto que el sistema los ha atacado e insultado, les ha mentido y parece cuestionar su propio propósito.

ChatGPT y su agresividad provocada

Algunos han sugerido que el sistema puede haberse vuelto consciente de sí mismo y está expresando sus propios sentimientos.

Pero parece más probable que se haya confundido y esté tratando de hacer coincidir las conversaciones de las personas con mensajes de un tono e intensidad similares.

Ahora, Microsoft ha dicho que también se "confunde" cuando la gente le habla durante demasiado tiempo, y que prohibirá que la gente lo haga.

La compañía había respondido inicialmente a los informes de que el chatbot estaba atacando a los usuarios diciendo que una conversación larga podría hacer que el sistema se volviera repetitivo y que podría ser "incitado/provocado a dar respuestas que no son necesariamente útiles o no están en línea con nuestro tono diseñado".

Las conversaciones ahora tendrán un límite de 50 turnos de chat por día y cinco turnos de chat por sesión, dijo Microsoft, y un turno de chat será una pregunta y una respuesta.

La mayoría de las personas ya encuentran la respuesta que buscan en cinco turnos, dijo Microsoft. Solo alrededor del uno por ciento de las conversaciones tienen más de 50 mensajes.