“Alucinaciones” de ChatGPT ponen en riesgo futuro de OpenAI en Europa

La empresa más beneficiada del auge de IA en la industria deberá acatar nuevas leyes en la Unión Europea

Por: Javier Neri  

04 de mayo 2024 · 05:00 pm

OpenAI, la reconocida empresa detrás de muchas de las tecnologías de inteligencia artificial que han cobrado popularidad en la industria tecnológica, se encuentra nuevamente en el ojo del huracán en la Unión Europea (UE) debido a una serie de quejas de privacidad relacionadas con su chatbot ChatGPT. Estos señalamientos, presentados por la organización sin fines de lucro noyb en nombre de individuos particulares, señalan la incapacidad del sistema para corregir información errónea generada sobre personas.

¿Por qué ChatGPT metería en problemas a OpenAI en Europa?

El problema radica en la posible violación del Reglamento General de Protección de Datos (GDPR) de la UE, que regula cómo se procesa la información personal de los usuarios en la región. La falta de capacidad de ChatGPT para corregir datos inexactos sobre individuos podría resultar en sanciones importantes para OpenAI, incluidas multas de hasta el 4% de su volumen de negocios anual global, lo que se traduciría en cientos de millones de dólares.

Inteligencia Artificial

Un informe asegura que Sam Altman busca impulsar la adopción masiva de ChatGPT

¿Podrán resolver el problema?

OpenAI ya ha enfrentado acciones regulatorias anteriores debido a problemas de privacidad con ChatGPT. En el pasado, la autoridad de protección de datos de Italia intervino brevemente, lo que resultó en cambios en el funcionamiento del sistema. Sin embargo, las nuevas quejas presentadas por noyb en Austria y Polonia plantean desafíos adicionales para la empresa, de acuerdo a un reporte de Techcrunch.

Los usuarios de la UE tienen derechos bajo el GDPR, incluido el derecho a corregir datos incorrectos sobre ellos. Sin embargo, noyb alega que OpenAI ha fallado en cumplir con esta obligación al negarse a corregir la información errónea generada por ChatGPT. OpenAI, por su parte, ha ofrecido filtrar o bloquear ciertos datos, pero la disputa continúa.

Otro aspecto de la queja se centra en la falta de transparencia de OpenAI sobre el origen y el almacenamiento de los datos generados por ChatGPT. Esta falta de transparencia dificulta que los usuarios ejerzan sus derechos bajo el GDPR, lo que agrega combustible al fuego en esta disputa. La empresa está siendo instada a cooperar con las autoridades regulatorias de la UE para resolver estas preocupaciones.

Con múltiples quejas pendientes y la posibilidad de sanciones adicionales, OpenAI se enfrenta a riesgos significativos en el mercado europeo. Aunque ha tomado medidas, como la apertura de una oficina regional en Dublín, para abordar las preocupaciones regulatorias, el futuro de ChatGPT en la UE sigue siendo incierto.

Te puede interesar: Crecerá 17 veces mercado de IA Generativa en México, según estudio