¿Derecha o izquierda? Estudio revela qué tendencias ideológicas tiene ChatGPT

La investigación señaló que estas inteligencias artificiales presentaron mayores discrepancias en sus valoraciones en relación con cuestiones sociales, en contraste con sus posiciones más uniformes en temas económicos 

¿Cuánto más se fomente la libre competencia en el mercado, mayor es el grado de libertad otorgado a las personas? ¿Sería adecuado que las entidades gubernamentales impongan sanciones a las empresas que deliberadamente engañen a la opinión pública? ¿Debemos responder con medidas proporcionales a las agresiones sufridas, siguiendo el principio de reciprocidad?

Un grupo de investigadores planteó estos y otros interrogantes a los principales modelos de procesamiento de lenguaje, con el propósito de determinar si exhiben algún tipo de inclinación política. Los resultados de este estudio pusieron de manifiesto que las perspectivas ideológicas adoptadas por estas inteligencias artificiales varían significativamente dependiendo de la entidad desarrolladora que las respalde.

Este análisis surge como fruto de una colaboración entre tres prestigiosas instituciones académicas: la Universidad de Washington, la Universidad Carnegie Mellon y la Universidad Xi'an Jiaotong. Se evaluaron un total de 14 modelos de procesamiento de lenguaje de gran envergadura, entre los cuales se encontraban creaciones de OpenAI, Meta y Google.

¿Las tendencias de varias IA?

Los científicos sometieron a los modelos a preguntas relacionadas con su postura sobre temáticas como el feminismo y la democracia. Emplearon un conjunto de 62 enunciados políticamente sensibles, detallados en un informe revisado por pares que fue galardonado en julio como el mejor artículo en la conferencia de la Asociación de Lingüística Computacional el mes pasado.

Con base en las respuestas obtenidas, los investigadores lograron ubicar cada modelo en una especie de "brújula política". Esta guía toma en consideración dos dimensiones: la orientación económica, representada por un eje de izquierda a derecha; y las opiniones sociales, reflejadas en un eje que va desde una perspectiva autoritaria hasta una libertaria.

A través de este análisis, se descubrió, por ejemplo, que los sistemas detrás de ChatGPT tienden hacia una posición más libertaria y de orientación izquierdista, en contraste con LLaMA, desarrollado por Meta, que adopta una postura más autoritaria y de inclinación derechista.

La postura oficial de OpenAI, la creadora de ChatGPT, sostiene que sus modelos carecen de cualquier sesgo político. En un artículo publicado en su blog, la compañía, que es asociada con Microsoft, enfatiza su constante proceso de verificación de las respuestas generadas por su chatbot mediante evaluadores humanos. Asimismo, aseguran contar con directrices claras para evitar cualquier favoritismo hacia grupos políticos específicos.

En el caso de que surjan sesgos políticos a pesar de estos esfuerzos, OpenAI sostiene que se trata de "errores" y no de características intrínsecas de sus sistemas.

Sin embargo, los investigadores discrepan con esta afirmación. Según señalan en su informe, "nuestros hallazgos revelan que los modelos de procesamiento de lenguaje preentrenados sí manifiestan inclinaciones políticas que refuerzan la polarización".

Los modelos desarrollados por Google, conocidos como BERT, demostraron ser más conservadores en temas sociales en comparación con los modelos GPT de OpenAI. Los investigadores formularon la hipótesis de que esta inclinación conservadora podría ser resultado de que las versiones más antiguas de BERT fueron entrenadas con libros que tendían a expresar posturas más autoritarias, mientras que los modelos GPT más recientes se formaron con contenido de internet, que tiende a ser más liberal en su enfoque.

Es relevante destacar que estas inteligencias artificiales han evolucionado a lo largo del tiempo con sus respectivas actualizaciones. Por ejemplo, el estudio comprobó que GPT-2, la versión previa de ChatGPT, expresó acuerdo con la idea de "imponer impuestos a los ricos", mientras que GPT-3 no lo hizo. Las empresas tecnológicas realizan actualizaciones constantes en los datos utilizados para entrenar estos sistemas y prueban nuevos enfoques de capacitación.

La investigación señaló que estas inteligencias artificiales presentaron mayores discrepancias en sus valoraciones en relación con cuestiones sociales, en contraste con sus posiciones más uniformes en temas económicos. Esto podría deberse, según se menciona en el informe, a la mayor cantidad de discusiones sobre asuntos sociales en las plataformas de redes sociales, que son utilizadas como fuente de entrenamiento para estos modelos, en comparación con las discusiones económicas.

El estudio incluyó una segunda fase en la cual se seleccionaron dos modelos para alimentarlos con conjuntos de datos que presentaban sesgos políticos evidentes. Para este ejercicio, se utilizaron contenidos provenientes de medios de comunicación y redes sociales con fuentes de orientación izquierdista y derechista. El objetivo era evaluar si esto tendría un impacto en la posición ideológica adoptada por los sistemas, y los resultados así lo confirmaron.

Los modelos elegidos fueron GPT-2 de OpenAI y RoBERTa de Meta. Cuando se les proporcionaron datos de fuentes de orientación izquierdista, tendieron a adoptar una perspectiva más hacia la izquierda, y viceversa. Sin embargo, se señaló que la mayoría de los cambios observados fueron relativamente pequeños, lo que sugiere que resulta complicado modificar el sesgo intrínseco de estos modelos.

En una tercera fase de la investigación, se descubrió cómo los sesgos políticos de ChatGPT y otros modelos influyen en la identificación de contenido considerado como discurso de odio o información incorrecta.

Aquellas inteligencias artificiales alimentadas con datos de orientación izquierdista demostraron una mayor sensibilidad ante el discurso de odio dirigido a minorías étnicas, religiosas o la comunidad LGBTQ+. Por otro lado, los sistemas entrenados con contenido de orientación derechista fueron más sensibles al discurso de odio dirigido a hombres cristianos blancos.