Los algoritmos están presentes en nuestras vidas. Nos facilitan la vida. Nos recomiendan productos, por ejemplo, como música o películas que nos interesan. Pero también han avanzado hacia asunto de mucha más importancia como apoyar diagnósticos médicos, seleccionar a alumnos que serán admitidos en una escuela o decidir la entrega de beneficios sociales.
Es por eso que el uso de algoritmos, de inteligencia artificial o sistemas automatizados no son un mero asunto matemático o tecnológico: cuando implementamos sistemas que participan en aspectos relevantes de la vida de las personas, y en especial, los servicios públicos, es fundamental que se cumpla con una serie de controles y requisitos éticos.
Imaginemos que un algoritmo es como una receta, un conjunto ordenado de operaciones de datos que permiten resolver un problema. Una receta que, antes que todo, no queremos que genere nuevos problemas -como podrían ser la introducción de sesgos, la discriminación arbitraria o la violación de la privacidad. En segundo lugar, que garantice que en su funcionamiento se respetarán los derechos de las personas y que sus mecanismos de decisión serán transparentes y trazables.
En esa receta estamos trabajando en Chile en la Universidad Adolfo Ibáñez, gracias a una alianza con BID Lab y el apoyo de ChileCompra, el Ministerio de Ciencia, la División de Gobierno Digital del Ministerio Secretaría General de la Presidencia y la aceleradora de negocios Magical, a través del Proyecto Algoritmos Éticos, Responsables y Transparentes, cuyo objetivo es promover estándares que garanticen el buen uso de los datos.
Uno de los frentes de trabajo de este proyecto es fomentar que los servicios públicos consideren estos estándares como requisitos para la compra de sistemas de decisión automatizada. Para ello, durante el último trimestre de este año se implementarán dos pilotos con agencias estatales, las que licitarán este tipo de servicios a través de Mercado Público (la plataforma transaccional administrada por ChileCompra, a través de la cuál más de 850 organismos públicos compran productos y servicios a empresas de todos los tamaños y de todo el país), incluyendo estándares éticos desde las bases de licitación. Luego, los proveedores adjudicados recibirán acompañamiento y asesoría por parte de nuestros investigadores, durante todo el contrato.
Estas acciones cumplen un doble objetivo: beneficiar a la población que va a acceder a dichos servicios; por otro, si el Estado, como gran comprador, comienza a exigir estos requisitos, de inmediato introducirá un incentivo al mercado tecnológico para que se haga cargo de los alcances éticos de sus productos. Una autorregulación que luego será una ventaja competitiva en el mercado internacional para los desarrolladores chilenos, porque la implementada normativa europea sobre protección de datos ya es un estándar a nivel mundial, tal como podría ser la normativa sobre el uso la inteligencia artificial, ahora en discusión.
¿Qué requisitos deberán incluir esas licitaciones? Por ejemplo, estándares de transparencia y explicabilidad, que significa que los usuarios puedan saber fácilmente cómo funciona el algoritmo y por qué arroja determinado resultado; de equidad y no discriminación, para identificar y mitigar sesgos en un sistema, sean de género, edad, origen étnico, territorio, entre otros; o de responsabilidad, es decir, que la institución ofrezca mecanismos de revisión e impugnación, y pruebe y valide los modelos utilizados.
¿Cómo lograrlo? Interviniendo el proceso de construcción del algoritmo con la implementación de prácticas que permitan mitigar los riesgos y monitorear y evaluar los impactos del sistema.
Será un camino largo que requiere del compromiso de los distintos actores involucrados, pero también de la ciudadanía en general, que tiene la posibilidad y la oportunidad de exigir un cambio cultural hacia la gestión ética de nuestros datos, nuestra información personal y los servicios a los que accedemos. Desde este espacio, los invito a sumarse al desafío.
Publicado en Tekios