Inteligencia artificial y el Plan Ángel de Marcelo Ebrad

En términos de innovación, está claro que las entidades públicas de todo el mundo están adoptando cada vez más la IA y los sistemas de toma de decisiones algorítmicas para ofrecer servicios públicos o ejercer sus poderes de aplicación de la ley.

Durante la semana, Marcelo Ebrard, uno de los candidatos más notables para la presidencia de México, propuso la implementación de modelos de inteligencia artificial (IA) como una nueva estrategia para abordar la seguridad pública en el país.

Esta iniciativa se conoce como "Plan Ángel". De todas las ideas presentadas, me llamaron la atención dos enfoques principales: el reconocimiento facial y el reconocimiento morfológico de las personas.

En otras palabras, la IA podría monitorear en tiempo real nuestros rostros y tomar decisiones predictivas sobre el potencial delictivo de una persona considerando características como altura, peso, sexo, comportamiento o raza. Esto me parece más cercano a la escuela criminalística del siglo XIX liderada por Cesare Lombroso que a una idea del siglo XXI. Quisiera hablar sobre este tema hoy.

México y el uso de la IA

Como he mencionado en las últimas semanas, la IA, que alguna vez fue considerada una fantasía de ciencia ficción y una visión futurista, ahora está entrelazada con nuestra vida diaria de formas que apenas estamos comenzando a comprender.

Sin embargo, creo que el "Plan Ángel", tal como se ha presentado, genera más preguntas que respuestas, especialmente en un ámbito tan delicado como la seguridad pública y los derechos humanos.

En términos de innovación, está claro que las entidades públicas de todo el mundo están adoptando cada vez más la IA y los sistemas de toma de decisiones algorítmicas para ofrecer servicios públicos o ejercer sus poderes de aplicación de la ley.

La razón detrás de la implementación de estos sistemas por parte del sector público es similar a la del sector privado: aumentar la eficiencia y la velocidad de las transacciones, y reducir los costos.

Sin embargo, las entidades públicas están principalmente destinadas a satisfacer las necesidades de los miembros de la sociedad y proteger su seguridad, derechos fundamentales y bienestar.

En la actualidad, los sistemas de IA se implementan en el sector público en diferentes niveles administrativos sin una adecuada debida diligencia, supervisión o transparencia. Esto ha resultado en una creciente confusión entre proveedores privados y actores públicos, y una difuminación de las líneas de responsabilidad y rendición de cuentas.

Sin embargo, dada la falta de legislación en México, antes de pensar en el "qué", debemos considerar el "cómo". En primer lugar, esto conduce a la necesidad urgente de establecer directrices específicas de adquisición de IA para proteger los derechos fundamentales y el debido proceso. Estas directrices son necesarias debido a las nuevas complejidades y riesgos introducidos por los sistemas de IA, así como las capacidades institucionales que afectan el proceso de toma de decisiones.

Por ejemplo, en la idea reciente de utilizar IA en México como una herramienta para combatir el delito, identifico al menos tres desafíos en términos de responsabilidad: 1) diferentes niveles administrativos, es decir, federación, estados y municipios; 2) múltiples actores involucrados en el diseño, desarrollo y uso de los sistemas de IA; y 3) la creciente complejidad y opacidad de los sistemas de IA y de Big Data.

Estos desafíos seguramente dificultarán la identificación de quién es responsable cuando algo sale mal con un sistema de IA. Además, la complejidad de los sistemas de IA puede hacer que incluso los actores públicos que los implementan no comprendan completamente su funcionamiento.

Además, los sistemas de IA utilizados en labores de seguridad pueden amplificar o profundizar las desigualdades y los sesgos existentes en la sociedad. Esto puede suceder de varias maneras:

Codificación de valores: Los sistemas de IA reflejan los valores de quienes los crean. Si estos valores no consideran una diversidad de perspectivas y experiencias, pueden favorecer a un grupo sobre otros. En otras palabras, pueden identificar a una persona sospechosa solo porque "parece que va a robar".