El año 2020, la Universidad Adolfo Ibáñez (UAI) comenzó el proyecto Algoritmos Éticos, Responsables y Transparentes, una colaboración multi-actor que reúne a socios del Estado y el mundo privado gracias al financiamiento y apoyo de BID Lab -el laboratorio de innovación del Grupo BID- y que celebró sus primeros tres años con un seminario orientado a tomadores de decisión y líderes de todos los sectores involucrados en este desafío de implementar lgoritmos, sistemas de decisión automatizados (SDA) e inteligencia artificial (IA) para mejorar los servicios a las personas y solucionar problemas.
La apertura contó con las palabras de la ministra de Ciencia, Aisén Etcheverry, quien destacó que “esta iniciativa ha logrado remover y movilizar a muchas instituciones para mejorar la calidad de los servicios que entregamos a las personas usando los datos y la inteligencia artificial, con los resguardos necesarios. Esta discusión es prioritaria para el gobierno y estamos trabajando para coordinar este debate entre los países en desarrollo, desde Chile”.
Por su parte, el rector de la UAI, Harald Beyer, señaló que el objetivo del proyecto Algoritmos Éticos “ha sido investigar y generar metodologías, herramientas y productos que impacten el desarrollo, implementación y uso de los algoritmos, los sistemas de decisión automatizada y la inteligencia artificial. Esto es muy relevante para nosotros como Universidad Adolfo Ibáñez, porque hemos aprendido que la colaboración es clave para empujar los cambios y concretarlos”.
Durante el seminario presentaron sus resultados, producto y pilotos, altos representantes de los organismos socios: José Inostroza, jefe de la División de Gobierno Digital; Verónica Valle, directora de ChileCompra; Patricio Coronado, director nacional del IPS; David Ibaceta, director general del Consejo para la Transparencia; María Isabel Romero, jefa del Departamento de Modernización de Procesos de Fonasa; Cristóbal Valdivieso, subdirector(s) de Gestión y Desarrollo de Personas del Servicio Civil; y Juan Orlandi, gerente general de Magical, aceleradora de startups.
Tres de los logros presentados fueron las Bases Tipo para la adquisición de ciencia de datos e IA con requisitos éticos en el Estado, la guía Formulación ética de proyectos de ciencia de datos y la herramienta de inversión responsable fAIr Venture.
Florencia Attademo-Hirt, gerenta general del Cono Sur y representante del BID en Chile, expresó su satisfacción por los logros expuestos e indicó que “luego de estos tres años, la experiencia en Chile, pionera en la región, entrega herramientas, procesos y prácticas concretas que, además de generar condiciones habilitantes para una mayor profundización y expansión en el país, son absolutamente replicables hacia el resto de América Latina”.
Finalmente, María Paz Hermosilla, directora del GobLab el laboratorio de innovación pública de la Escuela de Gobierno de la UAI -organismo que ha liderado la ejecución de este proyecto- agradeció la presencia y el trabajo de cada uno de los participantes y anunció una segunda etapa del proyecto: “este año nos adjudicamos un fondo Idea I+D de la Agencia Nacional de Investigación y Desarrollo (ANID) que nos permitirá extender la ejecución de este proyecto hasta 2025; en particular, con este apoyo vamos a construir un repositorio de herramientas abiertas y en español con el sello del proyecto Algoritmos Éticos, es decir, que se hayan probado en sistemas reales”.
El seminario contó además con dos exponentes internacionales, quienes trajeron experiencias sobre la temática desde Europa, el continente más avanzado en este tipo de regulación. El periodista británico Daniel Howden, director general y fundador de Lighthouse Reports, explicó cómo a través de una auditoría algorítmica pudo develar un caso de discriminación en un servicio público de Rotterdam, una historia que invitó a reflexionar sobre el rol que deben cumplir los distintos actores al diseñar, implementar y fiscalizar el uso de la inteligencia artificial en la provisión de servicios a la ciudadanía.
Por otro lado, Raphaële Xenidis, profesora adjunta de Derecho Europeo de Sciences Po, analizó las diferentes formas en que los países europeos están abordando el problema del sesgo algorítmico y cómo aprovechar la legislación y los conceptos contra la discriminación ya existentes para abordar esta problemática.
Respecto de lo expuesto durante la jornada, Daniel Howden expresó que “ha sido muy interesante ver lo que está pasando en Chile y cómo este debate sobre IA y ética se está dando en distintos contextos”. Raphaele Xendis en tanto relevó “el nivel de experiencia práctica y las soluciones prácticas que han sido probadas (en Chile), lo que es particularmente enriquecedor”.