Transparencia algorítmica

GLORIA DE LA FUENTE, MARÍA PAZ HERMOSILLA Y ROMINA GARRIDO

Los sistemas de decisiones algorítmicas como la inteligencia artificial ya están entre nosotros y comienzan a asumir un rol cada vez más relevante en la vida de las personas. Se están utilizando para optimizar programas sociales, atender a la ciudadanía, prevenir el delito o fraudes fiscales y aumentar la cobertura de exámenes médicos. Pero, ¿comprendemos su funcionamiento? ¿Cuán transparentes son? ¿Cómo evitamos la vulneración de derechos, normativas o principios éticos?

En el mundo existen precedentes sobre regulaciones a las que está sometida la transparencia algorítmica en la administración pública con el fin de promover la rendición de cuentas y prevenir situaciones indeseadas como invasiones a la privacidad, mal uso de datos o discriminación. Podemos identificar al menos tres modelos: la existencia de obligaciones legales, obligaciones administrativas y un modelo de alcance voluntario.

En el primer caso, podemos citar a Francia, que tiene un marco legal que exige algoritmos abiertos y que indica lo que se debe transparentar cuando se usan estos sistemas para tomar decisiones que afectan la vida de las personas. En el segundo caso, Canadá tiene una directiva que fija requisitos sobre cómo se pueden utilizar los algoritmos en la administración pública con obligaciones de registro. Finalmente, en Nueva Zelandia el enfoque se basa en un compromiso voluntario de las agencias públicas, mediante la suscripción de una carta de compromisos respecto de su uso.

¿Cómo funciona esto en Chile? Actualmente, no tenemos implementado ninguno de los modelos mencionados ni tampoco existen obligaciones explícitas de transparencia de los sistemas algorítmicos. Al respecto, el laboratorio de innovación pública de la Universidad Adolfo Ibáñez, GobLab y el Consejo para la Transparencia elaboraron un primer catastro de estos sistemas existentes en organismos públicos. Cientos de organismos sujetos a la fiscalización del Consejo participaron voluntariamente en un primer esfuerzo para abordar esta temática y evaluar mínimos de información disponible, el cual revela una serie de hallazgos y desafíos que deben comenzar a abordarse.

El estudio mostró dificultades en la comprensión del concepto de sistemas de toma de decisiones automatizadas, lo que llevó a que un número importante fuera excluido. Del total de lo informado por las entidades, un 80% no tenía información disponible en su sitio institucional sobre aspectos mínimos tales como su justificación o propósito, normas legales que habilitan su uso, datos utilizados, rol del sistema en la toma de decisión, entre otros. En la medida en que estos sistemas comienzan a asumir un rol cada vez más relevante y diverso para resolver problemas públicos, la transparencia algorítmica se erige como un componente esencial, que permite hacer efectivo el control social, la responsabilidad y rendición de cuentas en el ejercicio de la función pública y el uso responsable de datos personales, piezas esenciales para el funcionamiento democrático.