La transformación digital de las organizaciones y la utilización de inteligencia artificial y sistemas automatizados tienen como principal desafío el tratamiento ético de los datos y su uso responsable, para resguardar los derechos de las personas y evitar sesgos, discriminación, falta de transparencia y la violación de la privacidad, entre otros potenciales problemas.
Este reto es el tema central que aborda el curso “Implementación de aspectos éticos en proyectos de ciencia datos e inteligencia artificial”, una nueva instancia formativa de seis semanas dictada a través del proyecto Algoritmos Éticos, Responsables y Transparentes y que cursan 33 funcionarios públicos pertenecientes a las instituciones públicas socias del proyecto.
“Tenemos la misión de generar un cambio en la forma en que los servicios del Estado utilizan los algoritmos que interactúan con la ciudadanía. En este curso, los alumnos podrán comprender los desafíos éticos del uso de datos y el marco regulatorio pero, sobre todo, cómo utilizar las herramientas, guías, estándares y la normativa que hemos desarrollado, en conjunto con sus propias organizaciones, para incorporar requisitos éticos en la formulación, adquisición, diseño y puesta en marcha de sistemas automatizados en el sector público”, comenta al respecto Romina Garrido, subdirectora del Goblab, laboratorio de innovación pública de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI), profesora del curso y coordinadora de pilotos del proyecto Algoritmos Éticos.
Durante la capacitación los estudiantes conocerán las herramientas técnicas y de gestión para proyectos de ciencia de datos e inteligencia artificial que contienen las bases tipo realizadas junto a ChileCompra y que ya están aprobadas por la Contraloría. Además se les enseñarán metodologías de evaluación de impacto en protección de datos, herramientas para el análisis de sesgo, descripciones de modelos y auditoría algorítmica.
El curso está compuesto por dos programas. En las primeras tres sesiones, se aprenderán metodologías de gestión, mediante el análisis de casos reales para tratar aspectos normativos, estratégicos y de gestión de datos; y en la segunda parte se aplicarán técnicas para medir sesgos, tales como herramientas de medición de equidad estadística y análisis de transparencia mediante mecanismos contrafactuales, entre otras, al momento de construir el código y modelos de los sistemas.
El programa de capacitación es clave para formular y ejecutar las guías, herramientas, estándares y normativa que estamos desarrollando con apoyo de BID Lab -el laboratorio de innovación del Grupo BID- y que durante este 2023 ya están entrando en plena vigencia.
El proyecto Algoritmos Éticos, Responsables y Transparentes es una iniciativa ejecutada por la Universidad Adolfo Ibáñez donde participan la Escuela de Gobierno -a través del GobLab- y las Facultades de Ingeniería y Ciencias y de Artes Liberales de la UAI, financiado por el BID Lab (laboratorio de innovación del Banco Interamericano de Desarrollo), que busca instalar capacidades y estándares para incorporar consideraciones éticas en la compra y utilización de inteligencia artificial y algoritmos de decisión automatizada en agencias estatales, y en la formulación y desarrollo de estas soluciones por parte de los proveedores tecnológicos.