arrow-right host location public time type

¿Por qué son necesarios los algoritmos éticos?

15 de Diciembre 2020 Noticias

Aplicar modelos y estándares que permitan la gestión ética de datos y el desarrollo  de algoritmos éticos en los servicios públicos y privados, es el objetivo del convenio que firmó la UAI con el Banco Interamericano de Desarrollo (BID).

El acuerdo permitirá la ejecución de un proyecto que cuenta con financiamiento del BID Lab y que estará a cargo del equipo del GobLab, laboratorio de innovación pública de la Escuela de Gobierno UAI, con apoyo de investigadores de la Facultad de Ingeniería y Ciencias y la Facultad de Artes Liberales. La iniciativa, además, es en alianza con ChileCompra, la División de Gobierno Digital del Ministerio Secretaría General de la Presidencia y el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación. Además, contará con la experiencia de Magical, una aceleradora de negocios especializada en startups digitales.

Durante los tres años de ejecución, el equipo de la UAI  trabajará en dos frentes. En el mundo privado: con cursos y talleres para empresas de tecnología que proveen servicios de datos e inteligencia artificial al Estado. En el sector público: fomentando que su sistema de compras considere este asunto dentro de sus estándares y requisitos.

“La ciencia de datos y la inteligencia artificial, bien utilizadas, son claves para diseñar mejores soluciones para la ciudadanía. Así, se puede asegurar una mejor provisión de servicios públicos y una mayor transparencia y eficiencia en el uso de los recursos públicos”, señaló el rector de la UAI Harald Beyer. Destacó además que “la UAI ha adquirido una enorme experiencia al respecto y en este proyecto traspasará toda su experiencia y conocimiento para asegurar que las instituciones participantes puedan realizar una gestión ética de los datos”.

Respecto al debate sobre la gestión de los datos, a nivel mundial se han documentado múltiples casos de algoritmos que pueden introducir o perpetuar sesgos y, con ello, causar discriminación, invadir la privacidad o inducir mecanismos de asignación y decisión poco transparentes y claros. Todo ello atenta contra la efectividad del uso de las nuevas tecnologías y  contra el impacto social esperado de su uso.

“Desde el Grupo BID estamos convencidos de que favorecer el trabajo colaborativo entre los sectores público y privado, la sociedad civil y la academia para incidir en la promoción del uso responsable y ético de la tecnología, no solo puede acelerar el impacto social y calidad de vida de las personas -especialmente de las más vulnerables-, sino también promover el crecimiento económico en nuestros países”, sostuvo Yolanda Martínez, representante del BID en Chile.

Por su parte el decano de la Facultad de Ingeniería, Carlos Jerez, quien también participó en la ceremonia de firma de convenio agregó que “la colaboración interdisciplinaria que este proyecto implica, refleja el espíritu que nos motiva: disponer de las ciencias y la tecnologías al servicio de la sociedad”.

Colaboración directa con el sector público

El proyecto adjudicado a la UAI va en línea con la Política Nacional de Inteligencia Artificial que prepara el Gobierno de Chile y que actualmente se encuentra en etapa de consulta pública. Por eso es que parte central de la ejecución de la iniciativa será un piloto de implementación de estándares de ética de datos en dos organismos públicos, de manera tal que los desarrolladores – especialmente startups y pymes– adquieran experiencia práctica en crear y vender sistemas tecnológicos éticos al Estado.“La ética de datos es un desafío fundamental en el diseño e implementación de políticas públicas hoy”, comentó María Paz Hermosilla, directora del GobLab UAI que liderará el proyecto.

En la implementación de este piloto, ChileCompra, será una institución clave. Al respecto, el subsecretario de Hacienda, Alejandro Weber, resaltó que “la gestión centralizada de compras públicas en Chile a través de ChileCompra, ofrece una oportunidad única para iniciar una mejora continua en las prácticas relativas a la adquisición de tecnología haciendo uso de la ciencia de datos”, para mejorar el diseño e implementación de políticas públicas.

El proyecto UAI – BID para el desarrollo de algoritmos responsables es parte de la iniciativa fAIr LAC lanzada por el Grupo BID en 2019, que busca promover la aplicación ética y responsable de la inteligencia artificial en la región, ayudando al sector público y privado a mejorar la provisión de servicios sociales y el desarrollo de empresas de impacto social.

Noticias más leídas

Redes Sociales

Instagram