El Viejo Continente ha dado un paso más para regular el uso de las tecnologías biométricas de vigilancia masiva impulsadas por la inteligencia artificial (IA). Como es el caso de los sistemas de reconocimiento facial. «Los operadores humanos siempre deben tomar las decisiones finales», han recalcado los eurodiputados, debido al riesgo de sesgo algorítmico. Algo que defendemos desde Grupo Vettonia: la intervención humana, a la hora de adoptar decisiones finales, apoyada por la alta tecnología.
El Parlamento Europeo ha respaldado la primera propuesta de legislación sobre la utilización de la IA en el espacio de los 28. Una iniciativa presentada el pasado mes de abril por las dos agencias de privacidad de la Unión Europea: el Comité Europeo de Protección de Datos (EDPB) y el Supervisor Europeo de Protección de Datos (EDPS).
Este proyecto de ley incluía la prohibición del uso de la vigilancia biométrica remota en lugares públicos. Algo que los eurodiputados no solo la han apoyado, sino que han ido más allá. Al proponer medidas más estrictas para salvaguardar los derechos fundamentales de los ciudadanos.
En una resolución adoptada por 377 votos a favor, 248 en contra y 62 abstenciones, los eurodiputados advierten del riesgo de sesgo algorítmico que implica las aplicaciones de la IA. Y enfatizan la necesidad de incorporar supervisión humana y controles jurídicos para evitar la discriminación,. En especial, cuando la IA se utiliza en los controles fronterizos.
Supervisión humana
«Los operadores humanos siempre deben tomar las decisiones finales», han recalcado los eurodiputados. Agregando que los sujetos monitoreados por sistemas impulsados por IA deben poder apelar sus decisiones.
La resolución, por el momento no vinculante, denuncia que «los sistemas de identificación basados en inteligencia artificial ya identifican erróneamente a grupos étnicos minoritarios, personas LGBTI, personas mayores y mujeres en tasas más altas». Lo que considera «particularmente preocupante en el contexto de la aplicación de la ley y el poder judicial».
Para «garantizar el respeto de los derechos fundamentales al utilizar estas tecnologías», los eurodiputados señalan que los algoritmos deben ser «transparentes, rastreables y suficientemente documentados». Y apuntan que, siempre que sea posible, «las autoridades públicas deberían utilizar programas de código abierto para ser más transparentes».
Con el fin de velar por el respeto a la privacidad y la dignidad humana, los eurodiputados piden una «prohibición permanente del reconocimiento automático de personas en los espacios públicos». Alegando que los ciudadanos «solo deben ser monitoreados cuando sean sospechosos de un delito».
Reconocimiento facial automático
El Parlamento Europeo también ha solicitado que se prohíba el uso de bases de datos privadas de reconocimiento facial. Como el sistema Clearview AI que utilizan algunas fuerzas policiales europeas. Asimismo, reclama la prohibición de la vigilancia policial predictiva basada en datos de comportamiento y de los sistemas de puntuación social, «que intentan evaluar la confiabilidad de los ciudadanos en función de su comportamiento o personalidad».
Finalmente, los eurodiputados han mostrado su preocupación por el uso de datos biométricos para identificar a las personas de forma remota. El texto cita como ejemplo el proyecto iBorderCtrl, «un sistema inteligente de detección de mentiras para la entrada de viajeros a la UE» que consideran debería dejar de utilizarse.
