La consistencia discursiva del texto generado por ChatGPT puede llevar a que se transmita como veraz algo que solo es verosímil (se percibe como verdad) o meramente coherente
La herramienta ChatGPT, creada por la empresa OpenAI, ha generado un gran interés en la conversación pública gracias a su impresionante capacidad de conversar con el usuario.
Millones de personas en todo el mundo han descubierto su potencial, lo que ha llevado a que Estados Unidos, China, varios países europeos y España hayan comenzado a estudiar sus posibles efectos indeseados.
La sospecha de que la IA generativa podría estar vulnerando la legislación sobre protección de datos ha llevado a la Agencia Española de Protección de Datos y al organismo que coordina las agencias europeas a iniciar investigaciones al respecto. Italia, por su parte, ha bloqueado el acceso a ChatGPT.
La verdad y las Fake News
Se ha planteado la preocupación de que la herramienta pueda estar nutriéndose de datos privados y de facturación de los usuarios y las empresas, incluyendo las conversaciones que cada ciudadano mantiene con el sistema para entrenar los algoritmos.
Además, se ha sugerido que ChatGPT podría estar inventando respuestas con trazas de verosimilitud, pero que no tienen fundamento.
Estas inquietudes son legítimas, ya que la herramienta tiene un impacto potencialmente significativo en múltiples ámbitos humanísticos, desde la educación hasta el periodismo o el entretenimiento. ChatGPT se nutre de internet en su totalidad, aunque debería excluir bancos de datos de acceso limitado o fuentes protegidas por derechos de autor, según la normativa europea.
La consistencia discursiva del texto generado por ChatGPT puede llevar a que se transmita como veraz algo que solo es verosímil (se percibe como verdad) o meramente coherente.
La capacidad de ChatGPT para afinar respuestas que resulten persuasivas para el usuario, de acuerdo con su propia expectativa de respuesta entrenada por el algoritmo, es un problema, ya que no hay una respuesta única para la mayoría de las preguntas que nos hacemos.
El comisario Thierry Breton ha recomendado que se informe al usuario de que la respuesta está generada por inteligencia artificial.
Sin embargo, es necesario ir más allá y reconocer que nadie puede garantizar la exactitud de la respuesta ofrecida.
Para rentabilizar este invento prodigioso, será necesario analizar su funcionamiento con información fiable y supervisar de forma independiente los riesgos asociados a su uso.
De esta manera, se podrán maximizar sus beneficios mientras se minimizan los efectos nocivos de su manipulación.
© Copyright Impresora y Editorial S.A. de C.V. Todos los derechos reservados