Laboratorio de Datos y Sociedad (DATYSOC) alerta sobre usos policíacos del «reconocimiento facial»

El artículo 181 del mencionado proyecto de Ley, habilita la creación de dicha base de datos que estaría a cargo de la Secretaría del Ministerio del Interior, con declarados fines de atender problemas vinculados a la seguridad pública.

Tal y como ha sido expresado por el Laboratorio de Datos y Sociedad (DATYSOC), “para la construcción de esta base, se prevé migrar a la Secretaría del Ministerio del Interior la base de datos que actualmente se encuentra a cargo de la Dirección Nacional de Identificación Civil encargada de emitir la cédula de identidad”.

La base de datos ya existentes, refiere DATYSOC, “incluye: la totalidad de las imágenes faciales de las personas mayores de edad de las que lleva registro, los nombres y apellidos de sus titulares, sexo, fecha de nacimiento, nacionalidad, número de cédula de identidad, fecha de expedición y fecha de expiración de esta última (artículo 182 del Proyecto Ley de Presupuesto Nacional 2020-2024)”.

Aprobados el pasado 13 de octubre, por la cámara de Diputados, estos dos artículos no motivaron mayores debates.

En este sentido DATYSOC ha resaltado que en la propuesta “hay muchos aspectos sin definir como por ejemplo los usos que tendrá la base o el marco de garantías para su uso”, así como la inexistencia de una definición clara y sin ambigüedades del concepto de “seguridad pública”, que tal y como ha sido presentado “es amplio y poco define los límites de las autoridades públicas para hacer uso de datos personales”.

Para DATYSOC, “la legislación debería garantizar la transparencia en cómo se va a usar la base, establecer los procedimientos y los mecanismos de supervisión adecuados para preservar la privacidad de las personas y otros derechos fundamentales como la libertad de expresión”.

En la actualidad, recuerda la organización, existen en el Ministerio del Interior “un sistema de 8433 cámaras distribuidas en los 19 departamentos del país, además de los sistemas de vigilancia privada”, datos estos que permiten “pensar que el uso que el Ministerio pretende dar a esta base de identificación facial es la de vigilancia automatizada mediante algoritmos de reconocimiento facial, tecnología disponible y ofrecida por varias empresas comerciales”.

Para el Laboratorio de Datos Sociales, “no es casual que este mismo Proyecto Ley de Presupuesto agregue la definición de “datos biométricos” (artículo 79) a la Ley de Protección de Datos Personales”.

Desde hace varios días, DATYSOC, viene realizando una serie de intervenciones en medios de prensa con el objetivo de introducir un debate sobre estas cuestiones que se centre en la peligrosidad y los efectos negativos, que este tipo de resoluciones puede acarrear en la vida de los ciudadanos.

Los investigadores, han reiterado la existencia de abundante evidencia empírica y legislativa, sobre los problemas que tales sistemas de reconocimiento facial acarrean.

En este sentido destacan que “la mayoría de los sistemas de reconocimiento facial comerciales tienen sesgos importantes y demuestran ser tecnologías aún inmaduras. La tecnología de reconocimiento facial sesgada es particularmente problemática para usos relacionados con seguridad pública porque los errores podrían dar lugar a acusaciones falsas y arrestos injustificados”.

Los estudios realizados en investigaciones desarrolladas, sobre todo en los Estados Unidos e Inglaterra, indican que “la tasa de precisión para la identificación de rostros femeninos y de piel más oscura suele ser mucho más baja que la de los rostros masculinos blancos. La precisión también es baja en diferentes franjas de edad, principalmente en niños y adultos mayores. En Londres, 8 ensayos llevados a cabo entre 2016 y 2018 dieron como resultado una tasa del 96% de falsos positivos en su sistema metropolitano de reconocimiento facial, siendo especialmente relevante el problema de la detención de niños afrodescendientes falsamente detectados como presuntos criminales”, destacan los investigadores de DATYSOC.

Esta elevada tasa de “falsos positivos puede deberse a varios factores (…) que los datos de entrenamiento de los algoritmos deben tomar de forma muy precisa los aspectos de paridad demográfica y deben ser entrenados con sets de datos contextualizados a la realidad en la que operará el software, y que para evitar errores no basta con un algoritmo eficiente; la base de datos de identificación facial debe gestionarse con altos niveles de eficiencia técnica, ya que cualquier error podría desencadenar una prohibición de libertad injustificada”.

En atención a ello se preguntan: “¿Se tomarán en Uruguay estas previsiones? ¿Con qué datos serán entrenados los algoritmos? ¿qué medidas de seguridad aplicarán a la base de datos cuando se comience a utilizar para la “seguridad pública”?”.

Los riesgos en el uso de estas tecnologías, han sido ilustrados, no sólo con referencias a investigaciones sobre la temática, sino, con ejemplos concretos, como lo sucedido en Argentina, en abril de 2019, cuando el gobierno de la ciudad de Buenos Aires introdujo el Sistema de Reconocimiento Facial de Prófugos (SRFP).

En dicha oportunidad se aplicó el “software UltraIP ofrecido por la empresa DANAIDE SA que analiza los videos de las cámaras situadas en los trenes, el subte o lugares cercanos señalando posibles coincidencias de rostros con personas incluidas en una base denominada Consulta Nacional de Rebeldías y Capturas – CONARC (Registro Nacional de Fugitivos y Arrestos). Como la base del CONARC no incluye fotos de los presuntos delincuentes, las fotos de referencia se extraen del registro de población del país”.

De acuerdo a DATYSOC, “desde que el sistema está funcionando no se ha creado un protocolo policial de gestión para este tipo de arrestos y se han denunciado numerosos arrestos erróneos y detenciones (por varios días) de personas mal identificadas”, algo que ha desatado denuncias por parte de organizaciones como la ADC (Asociación por los Derechos Civiles) y Human Rights Watch quienes han alertado “sobre varias desprolijidades en el manejo del “Registro Nacional de Fugitivos y Arrestos”(…) datos faltantes en la base, errores de tipeo y otros errores que desembocan en la confusión de identidad, además de la inexplicable inclusión de 166 niños en la base de prófugos”.

Para DATYSOC, no hay dudas “la vigilancia facial es peligrosa cuando funciona y cuando no” y es justamente esta peligrosidad la que torna incomprensible la introducción de estos artículos en la ley de Presupuesto.

A diferencia de lo que viene sucediendo en nuestro país, recuerda DATYSOC, “en otros países los parlamentarios proponen o incluso aprueban leyes prohibiendo el uso de reconocimiento facial por parte del gobierno para vigilar a sus ciudadanos”.

Leyes que incluyen, incluso, “la prohibición del uso de otras tecnologías biométricas como el reconocimiento de voz, el reconocimiento de la marcha y el reconocimiento de otras características físicas inmutables”.

El Laboratorio recuerda que este tipo de tecnología “puede ser utilizada para encontrar y arrestar manifestantes u organizadores de protestas o puede usarse para rastrear a personas a distancia sin su conocimiento, entre otros usos preocupantes”, algo que ya ha sido denunciado en la “campaña regional reconocimientofacial.info” donde se “presentan contundentes argumentos para oponerse al reconocimiento facial”.

“Vivir en una sociedad vigilada afecta la privacidad de las personas y también afecta la libertad de expresión, de movimiento y de reunión, de formas aún no sospechadas. ¿Cómo afectará la identificación facial el comportamiento de los uruguayos? ¿Se han realizado análisis de impacto sobre las posibles consecuencias sociales del uso de la biometría en el espacio público? ¿Es necesario y proporcional? Estas son algunas de las preguntas que deberíamos hacernos considerando que los nuevos usos pueden tener un gran impacto en derechos fundamentales” resaltan los investigadores, quienes agregan:

“Entendemos que, al menos, deberíamos contar con la oportunidad de llevar adelante un debate público sobre este tema. Si luego de un debate social y parlamentario adecuado, se decide la pertinencia de la existencia de una base de identificación facial y su uso, será fundamental contar con protocolos, medidas de auditoría, transparencia y políticas estrictas contra el abuso”.

Para DATYSOC, “resulta inoportuna la inclusión de este tema en el marco de un proyecto de ley que por sus plazos de tramitación no permite una adecuada discusión parlamentaria. Si este debate no sucede antes de que se apruebe el proyecto de ley y si se aprueban estos artículos 181 y 182 sin más trámite, son muy bajas las posibilidades de incidir en el tema ya que el Ministerio del Interior se ha negado sistemáticamente a responder las solicitudes de acceso a la información pública referidas a temas de seguridad”, algo que ya ha sucedido, señalan, “con las solicitudes de acceso a la información pública sobre la herramienta de interceptación de comunicaciones El Guardián o sobre el software usado entre 2013 y 2017 como apoyo al despliegue de recursos de patrullaje PredPol”.

En atención a todo lo descrito, DATYSOC propone que el Parlamento retire los artículos 181 y 182 de la ley de presupuesto y que el tema “reconocimiento facial” reciba el debate que la sociedad uruguaya merece.