Expertos advierten sobre los problemas que esto puede acarrear, como la desinformación, el plagio y cuestionamientos hacia el sistema educativo y judicial.
OpenAI ha dado de baja en silencio su herramienta AI Classifier, diseñada para detectar textos generados por inteligencia artificial, debido a su alto índice de fallos, llegando a tener una tasa de aciertos de solo el 26% en algunos casos.
Esta decisión esconde detrás problemas que han sido recurrentes en la historia de la falsificación, ya que con el tiempo, las copias generadas por IA se han vuelto más perfectas, dificultando su detección.
Ahora, los detectores se enfrentan al desafío de identificar textos e imágenes que pueden ocultar millones de operaciones matemáticas realizadas por una IA.
ChatGPT y el fracaso de los bots
Este fracaso tiene implicaciones en el ámbito educativo, donde estudiantes continúan presentando trabajos generados por chatbots como ChatGPT, sin que los profesores puedan detectarlos a simple vista.
Sin embargo, expertos advierten sobre los problemas que esto puede acarrear, como la desinformación, el plagio y cuestionamientos hacia el sistema educativo y judicial.
OpenAI lanzó ChatGPT primero y, posteriormente, AI Classifier en enero de 2023, con la intención de tranquilizar a los usuarios sobre las capacidades del chatbot.
No obstante, el clasificador demostró tener limitaciones desde el inicio, alcanzando solo un 26% de precisión. La empresa admitió que era imposible detectar de manera fiable todos los textos escritos por IA y, por tanto, se esperaba que fuera una versión provisional sujeta a mejoras.
No obstante, estas mejoras nunca llegaron y, finalmente, OpenAI decidió descontinuar el clasificador debido a su bajo rendimiento.
El experto Julio Gonzalo, catedrático de Lenguajes y Sistemas Informáticos de la Universidad Nacional de Educación a Distancia (UNED), explica que los chatbots generativos aprenden a clasificar textos a partir de ejemplos, proporcionándoles una amplia cantidad de textos generados tanto por humanos como por IA. Durante el entrenamiento, el sistema va ajustando los valores de los parámetros según las predicciones que realiza en función de si acierta o no. De esta manera, el chatbot puede predecir si un nuevo texto se asemeja más a ejemplos generados por humanos o por máquinas.
Este proceso de entrenamiento busca reconocer los patrones matemáticos que subyacen a la generación de textos e imágenes, los cuales involucran cientos de millones de operaciones matemáticas sucesivas a partir de un modelo enorme.
© Copyright Impresora y Editorial S.A. de C.V. Todos los derechos reservados