La inteligencia artificial y los derechos humanos

Ya se ha documentado en ocasiones anteriores cómo la IA ha reproducido sesgos discriminatorios contra grupos específicos de población.

A escasos días de que Sam Altman, el CEO de Open AI y el nuevo líder mediático en el ámbito tecnológico, advirtiera sobre los peligros de una Inteligencia Artificial sin regulación.

Al mismo tiempo, expertos en esta tecnología emitieron una carta abierta solicitando la "mitigación del riesgo de extinción" que representa la Inteligencia Artificial para la humanidad, Amnistía Internacional se movilizó junto a diversas organizaciones para exigir que el Reglamento Europeo de Inteligencia Artificial se convierta en una norma que proteja adecuadamente los derechos humanos.

Entre las múltiples demandas, se requiere que la IA cuente con mecanismos de supervisión que permitan su evaluación, especialmente enfocada en la detección de posibles sesgos discriminatorios para poder corregirlos de manera inmediata.

Además, se solicita asegurar mecanismos de rendición de cuentas para las víctimas de dichas discriminaciones, así como garantizar el derecho a la reparación.

Los problemas de la IA

Ya se ha documentado en ocasiones anteriores cómo la IA ha reproducido sesgos discriminatorios contra grupos específicos de población. Por ejemplo, en el año 2020 se denunció el uso sesgado de modelos algorítmicos en los Países Bajos para evaluar el riesgo de que ciertas personas cometieran delitos, lo que resultó en la vigilancia masiva y discriminatoria de habitantes de la ciudad neerlandesa de Raermond, procedentes de Europa Oriental, estableciendo un claro sesgo racista que asociaba el país de origen con la delincuencia.

Un año después, se volvió a alertar sobre este tema en un informe titulado "Máquinas xenófobas: Discriminación a través del uso no regulado de algoritmos en el escándalo de los beneficios del cuidado infantil neerlandés".

En este informe, se dijo que el uso de perfiles raciales en el diseño del sistema algorítmico utilizado en los Países Bajos para determinar si las solicitudes de subvención dirigidas al cuidado infantil eran consideradas incorrectas y potencialmente fraudulentas.