ChatGPT: detectar textos generados por la IA es "muy difícil de comprobar"

El algoritmo logró detectar el 100% de los artículos completos redactados por ChatGPT, aunque su precisión disminuyó ligeramente al analizar párrafos individuales, con un 91%.

¿Por qué realizar las tareas si ChatGPT puede hacerlas por sí solo? La llegada de este modelo de inteligencia artificial generativa ha planteado un debate singular en el ámbito académico.

La calidad de los textos generados es tan alta que resultaba casi imposible detectar si, por ejemplo, un trabajo escolar había sido redactado por un estudiante humano o por ChatGPT, según informa Gizmodo.

¿Un detector casi infalible? Un grupo de investigadores de la Universidad de Kansas ha publicado recientemente un nuevo estudio centrado en esta temática. En él, describen un algoritmo capaz de detectar textos científicos redactados por ChatGPT con una precisión superior al 99%.

¿Cómo funciona?

En dicho estudio, el equipo seleccionó un conjunto de 64 artículos científicos redactados por autores humanos para entrenar el modelo.

Tras introducir estos datos en ChatGPT, generaron un conjunto de 128 artículos de IA, compuestos por un total de 1.276 párrafos que carecían de sentido científico. Los científicos utilizaron estos párrafos para construir su algoritmo de detección de ChatGPT.

Indicios para detectar un texto generado por IA. Durante este proceso, los investigadores pudieron identificar algunas claves que diferencian los textos humanos de los generados por ChatGPT.

Los escritores humanos tienden a redactar párrafos más extensos y con un vocabulario más amplio, además de utilizar palabras como "sin embargo", "pero" o "aunque" con mayor frecuencia. Además, ChatGPT no cita referencias específicas ni menciona el trabajo de otros científicos con tanta precisión.

Eficacia comprobada. Una vez creado el algoritmo, fue sometido a pruebas. Se presentaron 30 artículos reales y 60 artículos escritos por ChatGPT, lo que sumaba un total de 1.210 párrafos.

El algoritmo logró detectar el 100% de los artículos completos redactados por ChatGPT, aunque su precisión disminuyó ligeramente al analizar párrafos individuales, con un 91%.