¿Cómo operan las decisiones automatizadas en la asignación de un bono? ¿Qué sistema se usa para la clasificación socioeconómica para el Registro Social de Hogares o en el Sistema de Admisión Escolar? Estas son algunas de las preguntas en que están trabajando el Consejo para la Transparencia (CPLT) y la Universidad Adolfo Ibáñez (UAI) para el desarrollo de una Instrucción General de Transparencia Algorítmica, cuya propuesta está siendo piloteada con algoritmos de cuatro organismos públicos. Estos son: la Superintendencia de Salud, el Instituto de Previsión Social, la Subsecretaría de Evaluación Social y la Superintendencia de Insolvencia y Reemprendimiento
La iniciativa es impulsada por el proyecto Algoritmos Éticos, Responsables y Transparentes que cuenta con apoyo del BID Lab y que en la UAI es impulsado por el GobLab, laboratorio de innovación pública de la Escuela de Gobierno.
Con datos e insumos que se obtendrán a través de distintas instancias de participación, entre ellos talleres a cargo de la UAI, se desarrollará la primera Instrucción General sobre Transparencia Algorítmica por parte del CPLT. Una herramienta que busca transparentar la operación de algoritmos en procesos decisionales por parte del sector público. Por ejemplo, calcular el valor de la cuota de un bono, la clasificación socioeconómica para el Registro Social de Hogares o el Sistema de Admisión Escolar.
Desde el CPLT y la UAI destacaron la relevancia de la fase actual como insumo para la construcción del documento, en que participan sistemas automatizados que se usan actualmente en procesos de toma de decisión que llevan adelante estas instituciones públicas en el ámbito de sus funciones. Varios de ellos asociados a prestaciones de uso masivo o políticas públicas y, por ello, con gran impacto ciudadano. Entre ellos destacan: el sistema que permite calcular el valor de la cuota del bono por hijo nacido vivo, del Instituto de Previsión Social; y el algoritmo de cálculo de la Calificación Socioeconómica del Ministerio de Desarrollo Social y Familia.
La iniciativa contempla dar acceso a información sobre las formas en las que operan estos sistemas de manera de conocer, en lenguaje claro, su funcionamiento y otros aspectos relevantes de estas herramientas. En palabras del presidente del CPLT, Francisco Leturia, estos sistemas “deciden sobre aspectos fundamentales de la vida de las personas, la entrega o no de un subsidio puede depender, en mayor o menor medida, del resultado o del insumo que provea un algoritmo”. Al respecto agregó que “el rol del Consejo para la Transparencia es velar por el derecho de cualquier persona que lo necesite pueda acceder a información que está en poder de instituciones públicas, lo que incluye transparentar en base a qué antecedentes y cómo toman las decisiones en el sector público, incluso cuando utilicen sistemas de decisiones automatizadas o semiautomatizadas los cuales muchas veces pueden resultar opacos, desconocidos o complejos para una mayoría”.
Por su parte, María Paz Hermosilla, directora del GobLab, laboratorio de innovación pública de la Escuela de Gobierno UAI, comentó sobre el tema que en un estudio previo se observó que “el 80% de los sistemas algorítmicos que está usando el Estado no ofrecen información sobre su funcionamiento, origen de los datos o sobre otros aspectos. Entonces la motivación que está detrás del trabajo con el Consejo tiene que ver con la necesidad del Estado de rendir cuentas y respetar los derechos de las personas”.
¿En qué consiste el piloto?
Las instituciones participantes en el piloto publicaron en el Portal Transparencia información sobre una serie de sistemas de decisiones automatizadas que usan para prestar servicios a la ciudadanía. Su objetivo es, por una parte, generar aprendizajes al interior de las organizaciones y detectar las potenciales dificultades que tuvieron para recolectar y disponibilizar la información. Por otro, que usuarios revisen lo publicado y evalúen su utilidad, pertinencia y si es o no fácilmente comprensible, a través de talleres que desarrollarán la UAI y el CPLT.
Se trata de un primer paso para elevar los estándares de transparencia en el uso de esta clase de sistemas por parte del Estado, contribuyendo con ello a que las soluciones tecnológicas cuenten con legitimidad y confianza. Esta es una de las fases que contempló el Consejo en este proceso mediante el que elaborará la primera regulación en la materia elaborando la Instrucción General sobre Transparencia Algorítmica. Dicho documento, inédito en América Latina, busca garantizar mayores niveles de transparencia respecto de, por ejemplo, su efectiva existencia y funcionamiento. Otro de los objetivos del trabajo es que las personas no especializadas en estos temas tengan información disponible y en lenguaje claro sobre estas tecnologías o herramientas, acercando la transparencia a las personas.
Proceso abierto a la ciudadanía
Desde el CPLT y la UAI subrayaron el carácter participativo del proceso que culmina con la Instrucción General y también informaron sobre algunos de los hitos abiertos a la sociedad civil y a la ciudadanía. Por ejemplo, previo a esta fase se desarrollaron mesas de trabajo con más de 20 instituciones públicas y en los próximos días se invitará a diversas organizaciones de la sociedad civil a talleres para presentarles algunos avances. Asimismo, esperan, antes de cerrar el 2022, someter a consulta pública abierta la propuesta de contenidos.