Las dos caras del reconocimiento facial

Ricardo Navarro

Para quienes trabajamos en inteligencia artificial, el uso ético de la tecnología es un deber fundamental para seguir cada día adelante. Y quienes no lo hacen, no sólo arriesgan valores fundamentales de las personas, sino también ponen en jaque a toda nuestra industria.

Recientemente vimos en la prensa chilena cómo se aseguraba que la tecnología de reconocimiento facial fallaba al tratar de identificar personas en un concurrido mall del sector oriente de Santiago. El rastreo era aleatorio a las masas que ahí ingresaban y el resultado fue una “alta tasa de falsos positivos”.

Es importante diferenciar dos tipos de usos fundamentales en materia de reconocimiento facial. Está el “Uno a Uno”, donde la tecnología se ocupa, con el consentimiento de la persona, de verificar su identidad y darle acceso a servicios, lugares, hacer pagos, pedir un crédito, etc. Por otra parte, hay quienes erróneamente han ido más allá, recurriendo al “Uno a N”, donde se utilizan cámaras u otros sistemas de captación de imagen para identificar personas en grupos masivos y sin su consentimiento.

¿Por qué falló esto último? Porque el reconocimiento facial no está diseñado para hacer esto como en una película de espías con superpoderes. La fantasía panóptica de quienes quieren controlar así a las personas para identificarlas, segregarlas o perseguirlas, no sólo es anti-ética, sino que además se funda en un mal uso del sistema, que obviamente falla puesto que no puede captar íntegramente las formas de una persona, provocando que se mal identifique y por ende, haya confusiones y culpas por actos ilegítimos a personas que nunca los cometieron.

En 2018 Microsoft elevó esta alerta luego de la polémica generada por el posible uso de reconocimiento facial “Uno a N” por el Servicio de Inmigración y Control de Aduanas de Estados Unidos (ICE, por sus siglas en inglés). En la oportunidad, emplazaron al Congreso de ese país a generar nuevas leyes que restringieran el uso y desarrollo de esta tecnología. En nuestra opinión, así como creemos en el buen uso tecnológico, tampoco creemos en amarres legales para su desarrollo. Lo que debe primar es un fuerte control y auto control ético, tanto en desarrolladores como en quienes la aplican, de modo que sea la propia comunidad la que pueda emplazar las malas prácticas.

El reconocimiento facial es hoy, por lejos, la tecnología más certera en todo el mundo para verificar la identidad de las personas, pero para que esto se cumpla debe ser siempre autorizado por el individuo. De lo contrario, aumentan las fallas, se vulneran libertades y se deslegitima el trabajo de quienes desarrollamos inteligencia artificial para el servicio de la gente.