El debate sobre el uso del reconocimiento facial en la videovigilancia en Europa

Madrid

Esta semana en en Hoy por Hoy A Coruña, el experto en derecho digital Víctor Salgado nos ha hablado de la polémica con el sistema de reconocimiento facial diseñada para que las fuerzas policiales puedan identificar a los criminales. Un sistema al que la UE busca poner coto.

Según detallan en The New York Times (NYT), la base de datos de Clearview AI tiene más de 3.000 millones de fotografías de personas, recogidas de redes sociales como YouTube, Facebook o Venmo, donde se encontraban de forma pública, y millones de imágenes más procedentes de otras webs.

Esta base de datos ayuda a las fuerzas policiales a identificar "perpetradores y víctimas" de algún crimen, como defiende la compañía. Precisamente en su página web, destacan el papel que ha tenido en el seguimiento de "pedófilos, terroristas y traficantes sexuales" y en los trabajos para "exonerar a los inocentes e identificar a las víctimas de delitos, incluido el abuso sexual infantil y el fraude financiero".

Entre los clientes de esta aplicación se encuentran más de 600 agencias de seguridad de Estados Unidos, y un "puñado" de empresas con fines de seguridad, según datos de la compañía aportados al medio citado.

Parte de su éxito radica en lo simple de su uso: con solo hacer una fotografía de una persona y subirla al programa, se puede acceder a las imágenes compartidas por esa persona de forma pública y enlaces a las plataformas donde se encuentran publicadas.

Únete al canal de WhatsApp de la SER

Pero las capacidades de esta tecnologia podrían extenderse a la calle, a eventos multitudinarios, ya que en su código -analizado por NYT-, recoge lenguaje de programación que permite su emparejamiento con gafas de realidad aumentada.

El medio, incluso, recoge un ejemplo de su uso que permitió identificar al autor de un asesinato en 20 minutos. Gracias a la grabación de un testigo que pasaba en el momento y que grabó el altercado, la Policía pudo identificar al culpable por su conexión con un vídeo que anteriormente se había subido a Internet en el que también se le había etiquetado con su nombre.

El caso es llamativo porque la Policía no tenía registros gubernamentales de esa persona, como apuntan en NYT, al no tener carnet de conducir ni haber sido arrestado de adulto.

Tecnología controvertida

Los programas de reconocimiento facial se basan en una base de datos y un algoritmo (inteligencia artificial) entrenado con las imágenes que contiene la base y que ayuda a identificar a las personas. No obstante, este sistema acusa una serie de sesgos, ya que, para 'aprender', el algoritmo depende de los ejemplos con los que ha sido entrenado, no solo en calidad sino también en variedad.

Estos sesgos plantean problemas a la hora de identificar a personas de razas no caucásicas. El algoritmo también presenta mayores fallos en el caso de la las mujeres, como denunció el Instituto Nacional de Estándares y Tecnología de Estados Unidos en una investigación.

Se trata de una práctica que, si bien muchos defienden que es legal, al tratarse de imágenes compartidas de forma pública y por tanto al alcance cualquiera en Internet, también se ha planteado que pueda chocar con regulaciones sobre la protección de datos, puesto que los usuarios no suelen ser conscientes este uso para sus imágenes.

Regular para evitar riesgos

El reconocimiento supone un problema para la privacidad y la seguridad de las personas que no escapa a los legisladores. En el marco europeo, la Comisión Europea, en un borrador, plantea la posibilidad de prohibir el uso de la tecnología de reconocimiento facial en lugares públicos por un periodo de hasta cinco años con el fin de avanzar en el desarrollo de soluciones que mitiguen los riesgos que supone.

Entre los requerimientos que recoge, se propone la implementación de normas específicas que vinculen a las autoridades públicas, independientemente de que esta tecnología sea usada por actores públicos o privados. Las normas "regularían en más detalle la tecnología de reconocimiento facial en espacios públicos", complementando las provisiones del RGPD.

Organizaciones como la Unión Estadounidense por las Libertades Civiles denuncian el potencial abuso de esta herramienta por parte de las autoridades, ya que les otorga un "poder sin precedentes" para rastrear a la gente en su día a día. Otros, no obstante, rechazan la prohibición, por no permitir usar las ventajas que trae la tecnología.