Composición del consejo asesor en ley de IA genera críticas por alta representación del Estado

El proyecto de ley que busca regular los sistemas de Inteligencia Artificial (IA), que ingresó el Gobierno en mayo de este año, está en plena discusión en la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación de la Cámara de Diputados.

Si bien la propuesta ha sido valorada positivamente por los expertos e invitados que han asistido a la comisión, han surgido críticas en torno a la composición del Consejo Asesor Técnico de Inteligencia Artificial, el que según algunos, tendría una sobre representación del sector público.

El proyecto, en su artículo 14 sobre Gobernanza, propone la creación de esta instancia consultiva y permanente que asesorará al ministro de Ciencia, Tecnología, Conocimiento e Innovación (CTCI) en temas relacionados con el desarrollo, promoción y mejoramiento continuo de los sistemas de IA en el país.

Este consejo estará presidido por el ministro (a) de Ciencia e incluirá a representantes de cinco ministerios, tres agencias públicas gubernamentales, tres académicos, dos representantes de la industria tecnológica y dos de organizaciones de la sociedad civil. En total, 16 integrantes, nueve de ellos, del sector público.

Entre sus principales tareas, está la elaboración de una propuesta de listado de sistemas de IA de alto riesgo y de riesgo limitado, para la creación del reglamento de la ley. Los integrantes tendrán un mandato de dos años y no recibirán remuneración por sus funciones.

Principales reparos

Las críticas han surgido, principalmente, de los expertos y representantes de la industria que han sido invitados a la comisión durante el proceso.

Por ejemplo, en la comisión de este miércoles, el profesor de Derecho Privado de la Universidad Católica, Carlos Amunátegui, señaló que la mayoría son designados por los ministerios, lo que es “un poco desequilibrado”. También criticó la presencia de las organizaciones de la sociedad civil porque “no se auditan y no sabemos qué hay detrás de ellas”.

En la misma comisión, el gerente de Asuntos Gubernamentales y Políticas Públicas para el Cono Sur de Salesforce, Marcelo Guajardo, recomendó que el consejo cuente con herramientas y directrices para “promover la participación y la retroalimentación de la industria” y duplicar la representación de los desarrolladores de sistemas de IA.

El gerente y director ejecutivo del Centro Nacional de Inteligencia Artificial (Cenia), Rodrigo Durán, quien también participó en la comisión durante julio, calificó la propuesta como “sólida” y “más robusta” que otras en la región, pero expresó su preocupación por la composición del consejo asesor.

Afirmó que el consejo propuesto está “excesivamente cargado a la burocracia pública”, lo que conlleva dos riesgos: la posible definición de estándares inapropiados y la influencia de lobistas de empresas tecnológicas sobre integrantes sin experticia en IA.

Durán dijo que “no tiene mucho sentido” que solo se consideren tres representantes de la academia y sugirió que el consejo “debiese tener una composición mucho más plural” con representantes de diversas poblaciones.

También señaló que el Cenia propuso dividir el consejo en dos: uno con un enfoque técnico-político para identificar y definir aplicaciones de riesgo y otro más pequeño y técnico, encargado de establecer estándares y métricas para evaluar la explicabilidad, transparencia y precisión de las aplicaciones.

Por su parte, Carla Illanes, counsel de Protección de Datos y Ciberseguridad de DLA Piper Chile y cochair de una mesa de IA del Senado, valoró la creación del consejo asesor, pero señaló tres riesgos asociados a su composición: falta de diversidad y representación inclusiva, predominio gubernamental y posibles sesgos y conflictos de interés.

Advirtió que el predominio de funcionarios públicos, podría “limitar la independencia del consejo y la diversidad de perspectivas” y aumentar el riesgo de sesgos y conflictos de interés debido a la “falta de mecanismos claros para garantizar la transparencia en la selección de los miembros y en la toma de decisiones”.

También propuso incluir representantes de otras partes interesadas “como consumidores, trabajadores o comunidades vulnerables”.

Illanes hizo un llamado a nivelar la cantidad de personas, definir el perfil técnico de los integrantes, abordar la inclusión y reducir la frecuencia de actualización de los listados de sistemas de IA de alto riesgo a menos de dos años.

¿Qué dice el Gobierno?

Consultados por DF respecto a los reparos de los expertos, desde el Ministerio de CTCI señalaron que la intención fue integrar a representantes de “todos los sectores” que interactúan con los sistemas de IA, sin sobre representar al sector público.

“Pero hay que considerar que el proyecto de ley se enfoca en el uso ético de la IA, por lo tanto, el consejo asesor no requiere solo de la mirada técnica, sino también de la función pública, que debe velar por el correcto uso de la IA en todos los sectores”, explicaron.

Además, mencionaron que están “muy abiertos” a considerar propuestas para mejorar la composición del consejo.