María Paz Hermosilla, directora de GobLab UAI.: “Hay poca información de cómo se implementan los algoritmos en el Estado, en la mitad de los casos no sabemos cómo se financian”

En 2017 nació GobLab UAI bajo el alero de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI), el que busca contribuir a mejorar el diseño y gestión de las políticas públicas con ciencia de datos. A fines de 2021 lanzaron su Repositorio de Algoritmos Públicos, el que centraliza la información de sistemas de soporte o toma de decisiones automatizadas en el Estado.

La plataforma, que busca dar visibilidad y transparencia al uso de estos sistemas e incentivar a las entidades públicas a innovar y fomentar la apertura de datos, presenta hoy el Informe Anual del Repositorio de Algoritmos Públicos.

La directora de GobLab UAI, María Paz Hermosilla, adelantó algunas de las principales conclusiones de este tercer informe a DF y afirmó que “no hay suficiente transparencia sobre estos sistemas”.

Añadió que “hay poca información respecto de cómo se implementan estos algoritmos en el Estado. Mucha gente piensa que va a encontrar el código de los algoritmos, pero casi no hay acceso a ellos. Además, en la mitad de los casos no sabemos cómo se financian, entonces la opacidad se sigue manteniendo”, advirtió.

La periodista y máster en Administración Pública, señaló que esta nueva publicación analiza el conjunto de sistemas disponibles en el repositorio, que superó los 100 casos de uso de algoritmos en organismos del Estado.

Entre los principales hallazgos, el reporte destacó que en 2023 se incorporaron 26 nuevos algoritmos públicos a los 75 ya disponibles en el repositorio, sumando 101. Hermosilla señaló que “sabemos que hay más algoritmos de los recopilados en la plataforma”, pero mientras no haya obligatoriedad de informarlos, “no tenemos cómo estimar el total”, dijo.

Los sistemas recopilados son ordenados por nombre, institución pública, objetivo de desarrollo sostenible y alcance territorial y entre los últimos que ingresaron abarcan sectores como salud, orden público y seguridad, protección social, servicios públicos generales, asuntos económicos, educación y protección del medio ambiente.

Para determinar cuáles son los sectores del Estado que concentran el mayor número de algoritmos para la toma de decisiones, el reporte se basó en la Clasificación Funcional de Erogaciones (CFEG) de la Dirección de Presupuestos (Dipres), el que categoriza cada sector según su gasto.

En el nivel uno, de mayor gasto, el informe reveló que salud y asuntos económicos representan entre ambos el 47,5% del total de algoritmos usados en el Estado, siguiendo la tendencia de las versiones previas, 50% en 2022 y 49% en 2023.

En la actual edición, ingresaron iniciativas como Telesalud, un -sistema de priorización remota de atención en Centros de Salud Familiar (Cesfam) del Ministerio de Salud, y el algoritmo de predicción de producción de salmones de la Superintendencia del Medio Ambiente (SMA), para labores de fiscalización.

Hermosilla señaló que también se consolidó el orden público y seguridad como el sector de mayor alza desde el primer reporte hasta ahora.

Un ejemplo en este ámbito es la iniciativa Patrullaje municipal apoyado con inteligencia artificial, de la Subsecretaría de Prevención del Delito, el que ingresó al repositorio en 2023.

Datos personales

El informe señala que el 45,5% de los sistemas automatizados utilizan datos personales. Según Hermosilla, esto supone una alerta ante la demora del proyecto de ley de Protección de Datos Personales -actualmente en comisión mixta en tercer trámite constitucional-. “Pero hay una buena noticia, pues el miércoles se aprobó el artículo ocho bis del proyecto, que viene con cláusulas de transparencia de las decisiones automatizadas que afecten significativamente los derechos de las personas”, dijo.

En ese contexto, precisó que, de aprobarse la ley, en los casos que usen datos personales va a ser obligatorio “que las personas sepan que esta es una decisión automatizada y que se les explique la lógica. Así van a tener derecho a oponerse y pedir que sea una revisión humana”, añadió Hermosilla.

El reporte también reveló que de los casos recopilados, el 42,6% de los organismos públicos declararon que su algoritmo utiliza inteligencia artificial.

Por otro lado, la tasa de algoritmos públicos con fuente de financiamiento conocida se mantiene en 51,5%, en tanto en un 31,7% se ignora y en un 18, 8% está catalogado como desarrollo propio, es decir, sin recursos de terceros ni postulación a fondos. De estos, tampoco se conoce el monto de recursos asociados.

Consultada por el análisis de posibles sesgos y errores en los algoritmos, Hermosilla señaló que GobLab UAI no tiene acceso a las bases de datos que entrenan los modelos ni recursos.

“Se tendrían que pedir por Transparencia tanto bases de datos como códigos de sistema, y habría que pagarle a profesionales que son tanto de ciencia de datos como de la disciplina propia de cada servicio público para analizarlos”, comentó la experta.