Desde su lanzamiento público, se han reportado varios casos en los que ChatGPT dio respuestas perturbadoras, lo que ha llevado a la empresa a buscar soluciones para mejorar su algoritmo y su entrenamiento.
OpenAI, la empresa líder en investigación de inteligencia artificial, ha anunciado que ofrecerá recompensas monetarias a aquellos que reporten errores en sus servicios, incluyendo su chatbot con IA, ChatGPT.
La compañía busca fomentar la transparencia y la colaboración, invitando a la comunidad global de investigadores de seguridad, hackers éticos y entusiastas de la tecnología a identificar y abordar las vulnerabilidades en sus sistemas.
Las recompensas varían desde $200 por “hallazgos de baja gravedad” hasta $20,000 por “descubrimientos excepcionales”, y los informes se pueden enviar a través de la plataforma de ciberseguridad Bugcrowd. Estos pagos están destinados a incentivar las pruebas y agradecer a quienes las realizan.
La letra pequeña
Sin embargo, no se otorgarán recompensas por liberar ChatGPT de su programa fuente o hacer que el chatbot genere código o texto malicioso. Los problemas relacionados con el contenido de las indicaciones y respuestas del modelo no serán recompensados, según indica la página Bugcrowd de OpenAI.
A pesar de las preocupaciones iniciales por el comportamiento del chatbot, la compañía ha seguido trabajando en mejorar su rendimiento.
Desde su lanzamiento público, se han reportado varios casos en los que ChatGPT dio respuestas perturbadoras, lo que ha llevado a la empresa a buscar soluciones para mejorar su algoritmo y su entrenamiento.
La oferta de recompensas de OpenAI para aquellos que informen sobre errores en sus servicios demuestra su compromiso con la seguridad y la transparencia en la IA. Además, es una forma de involucrar a la comunidad de investigadores y expertos en tecnología en el proceso de mejora continua de sus productos y servicios.
© Copyright Impresora y Editorial S.A. de C.V. Todos los derechos reservados