En un encuentro encabezado por el rector de la Universidad Adolfo Ibáñez (UAI), Harald Beyer, y Francisco Leturia, presidente del Consejo para la Transparencia (CPLT), Francisco Leturia, y con la presencia de la decana de la Escuela de Gobierno UAI, Diana Krüger, se anunció el convenio para que ambas instituciones colaboren en la elaboración de una Instrucción General (IG) de transparencia algorítmica, herramienta jurídicamente vinculante que significará un importante avance en el uso responsable de inteligencia artificial (IA) por parte del sector público chileno.
Así, por primera vez en América Latina, una entidad encargada de garantizar el derecho a acceder a información pública entregará lineamientos a organismos del Estado para transparentar los sistemas automatizados, algoritmos o IA que están utilizando, y que impactan directamente en servicios prestados a la ciudadanía.
De esta forma se posibilita, por ejemplo, que los usuarios conozcan información relevante sobre el funcionamiento de este tipo de instrumentos y la incidencia en la toma de decisiones: si se están comunicando con una persona o un chat automatizado o si al postular a algún beneficio, subsidio o beneficio en una entidad pública, el proceso es apoyado por un modelo de decisión algorítmico.
Durante la actividad el rector Harald Beyer señaló que “en la Universidad Adolfo Ibáñez nos motiva poner al servicio del país nuestra capacidad de investigación aplicada”. Por ello, -agregó-, “apoyar al Consejo para la Transparencia en esta Instrucción General es una experiencia extraordinariamente interesante, y esperamos que a través del objetivo que compartimos, de aumentar los niveles de transparencia, esto sea un trabajo realmente exitoso y se pueda multiplicar más allá de este convenio”.
“Está todo manejado por algoritmos y va a seguir estándolo”, dijo por su parte el presidente del CPLT, Francisco Leturia, quien además destacó que “no puede haber inteligencia artificial, gobierno abierto o toma de decisiones automatizadas si no podemos fiscalizar cómo están hechos los algoritmos”. En este contexto, ejemplificó que “cuando a nosotros nos piden datos como cuántos estudiantes se han becado por tal o cual condición, sería mucho más fácil, más transparente, más simple decirle a la gente: mire, este es el algoritmo”.
Con la implementación de esta instrucción una cifra cercana a las 870 entidades públicas que están bajo la supervisión del CPLT en materia de acceso a la información, deberán informar proactivamente en sus páginas web -sin necesidad de que haya solicitudes de por medio- ciertos aspectos de las tecnologías que están usando. Si bien el tipo de información a publicar se está definiendo aún a través de un proceso participativo, ésta podría incluir especificaciones sobre el modelo y su proveedor, de dónde vienen los datos, y cómo se puede consultar o reclamar, entre otros.
En abril pasado se inició la primera etapa de esta iniciativa conjunta con la creación de tres mesas de trabajo en las que participaron funcionarios (as) de 22 instituciones públicas. Y, próximamente, se comenzará a desarrollar un piloto con dos organizaciones para revisar la aplicabilidad de la instrucción. Finalmente se realizará una consulta pública del borrador, con miras a su publicación en diciembre de este año.
Este trabajo del CPLT y la UAI, a través del proyecto Algoritmos Éticos que es liderado en la universidad por el GobLab UAI, -laboratorio de innovación pública de la Escuela de Gobierno- permitirá así incorporar estándares de transparencia en la implementación, adquisición o desarrollo de sistemas de decisiones en base a algoritmos en el sector público, contribuyendo con ello a que dichas soluciones cuenten con legitimidad y confianza por parte de la ciudadanía.