Del 3 al 6 de junio de 2024, el GobLab participó en la conferencia ACM Facct 2024, una de las más prestigiosas del mundo en materia de ética de la inteligencia artificial (IA). Este evento contó con la presentación de cuatro ponencias destacadas por integrantes del proyecto Algoritmos Éticos.
Entre los ponentes estuvieron Marco Bravo, estudiante del doctorado en Procesos e Instituciones Políticas de la Escuela de Gobierno; María Paz Hermosilla, directora del GobLab; y Romina Garrido, subdirectora del centro. Cada uno aportó su experiencia y conocimientos en áreas críticas relacionadas con la IA.
Las ponencias abordaron la confianza en los sistemas de IA, la transparencia de los algoritmos y la auditoría del uso de la IA en el sector público.
Marco Bravo, ayudante de investigación del Proyecto, expuso en el Coloquio Doctoral de la conferencia sobre la investigación que está realizando en conjunto con el profesor de la Facultad de Artes Liberales, Cristián Rettig, respecto del examen del concepto de confianza desde la perspectiva filosófica aplicada a la inteligencia artificial. En su presentación, exploró la comprensión del concepto de confianza en la literatura filosófica, tanto en la relación entre individuos como en el ámbito de las instituciones públicas, para posteriormente examinar las implicaciones de este concepto cuando se aplica a entidades que implementan algoritmos. Subrayó la complejidad inherente al concepto de confianza, que abarca dimensiones racionales, afectivas y morales. Asimismo, enfatizó la necesidad de que las decisiones algorítmicas se tomen con un compromiso palpable hacia la transparencia y la responsabilidad, elementos clave para sostener la confianza pública en general.
María Paz Hermosilla, directora del proyecto, participó en un panel con académicos de Colombia, Perú y México sobre el aporte a la de los repositorios de algoritmos públicos, los cuales están ganando protagonismo entre los gobiernos como un instrumento de transparencia. Su ponencia discutió los desafíos de construir estos repositorios, sus fortalezas y debilidades, sus usos y usuarios, los costos de mantenimiento y sus potenciales contribuciones a la transparencia y otros objetivos, como la rendición de cuentas y la explicabilidad. La plataforma administrada por el GobLab, que incluye 101 casos de algoritmos implementados por organismos públicos en Chile, sirvió como caso de estudio principal.
Por su parte, Romina Garrido, investigadora del proyecto Algoritmos Éticos, presentó en dos paneles liderados por organizaciones de la sociedad civil como la Fundación Derechos Digitales y la ONG de investigación periodística Lighthouse Reports. Enfatizó los principales hallazgos del Informe Anual 2024 del GobLab sobre el uso de decisiones automatizadas en el sector público chileno. La presentación abordó la metodología empleada para la recopilación y análisis de datos, la evolución y el crecimiento de la plataforma de algoritmos públicos, y los retos enfrentados, tales como la calidad de la información y el financiamiento. Garrido destacó cómo esta plataforma ha sistematizado y clasificado los algoritmos públicos en Chile, proporcionando una visión integral y actualizada de su implementación y uso, y la importancia de gracias al apoyo de ANID se hayan integrado herramientas para apoyar a la administración pública a integrar estándares éticos en los sistemas automatizados.
La participación del GobLab en ACM Facct 2024 subrayó su compromiso con la promoción de prácticas éticas y responsables en el desarrollo y aplicación de la inteligencia artificial, enriqueciendo el diálogo y fomentando un mayor entendimiento de los desafíos y oportunidades en esta área.
El proyecto Algoritmos Éticos cuenta con financiamiento de ANID a través del Concurso IDeA I+D 2023 (ID23I1035). Conoce más en https://algoritmospublicos.cl/herramientas