Chile se transformó en el primer país de América Latina en contar con requisitos de ética de datos para la adquisición de sistemas automatizados. Así lo incluyen las Bases Tipo de Licitación que apoyará la gestión de los compradores públicos en la compra de soluciones tecnológicas, considerándose hitos de transparencia, privacidad, no discriminación y explicabilidad, entre otros.

Este avance inédito fue posible gracias al acompañamiento del proyecto Algoritmos Éticos, Responsables y Transparentes que ejecuta la Universidad Adolfo Ibáñez (UAI) con el apoyo de BID Lab –el laboratorio de innovación del Grupo BID –, del que ChileCompra es socio.

“En ChileCompra siempre hemos estado preocupados de la modernización e innovación tecnológica. Ahora quisimos abrir un espacio poco conocido para la Administración Pública, como es la ética de los datos, porque entendemos que ésta es una vía muy eficiente para beneficiar directamente a la ciudadanía y facilitar que las empresas del rubro adquieran estas competencias y prácticas a través de sus ventas de servicios al Estado”, explicó Dora Ruíz, directora(s) de ChileCompra. “Además de estas Bases Tipo”, señaló, “estamos por lanzar una Directiva de Compras que explica y da consejos de cómo utilizar la ética de datos en la adquisición de servicios tecnológicos por parte del Estado”.

“Este trabajo va a ayudar a todas las entidades públicas chilenas que están regidas por la Ley de Compras a adquirir algoritmos, inteligencia artificial, proyectos de ciencia de datos y sistemas automatizados en general, de manera responsable”, señaló Romina Garrido, coordinadora de pilotos del proyecto Algoritmos Éticos y subdirectora del GobLab de la Escuela de Gobierno de la UAI.

Cabe recordar que la utilización de Bases Tipo permite a los compradores del Estado ahorrar tiempo y recursos en licitaciones públicas, ya que solo se requiere completar los anexos, manteniendo la toma de razón ya otorgada por la Contraloría General de la República para el formato estandarizado.

Requisitos éticos para la compra de ciencia de datos e inteligencia artificial

Las Bases Tipo solicitan, entre otros, que los proveedores utilicen modelos con métricas de equidad estadística, que propongan medidas adicionales de protección de datos y que, según la naturaleza de la contratación, se realice un análisis de sesgos, por mencionar algunos requisitos éticos contenidos en esta normativa.

Durante el 2023, ChileCompra y la Universidad Adolfo Ibáñez realizarán talleres y distintas instancias de difusión y capacitación tanto para compradores del Estado como para desarrolladores tecnológicos, con el objetivo de apoyar la implementación de las Bases Tipo y promover su uso. “Estas buenas prácticas de compras éticas ya están probadas. En el marco del proyecto Algoritmos Éticos, en 2022, se realizaron dos licitaciones piloto que incluyeron estos requisitos, una con FONASA y otra con la Defensoría Penal Pública, dos organismos que también son socios del proyecto y que fueron clave para lograr este avance”, comentó Romina Garrido.

Descarga el pdf de la Base Tipo de ciencia de datos e inteligencia artificial (con toma de razón de la Contraloría).

Descarga el word de la Base Tipo de ciencia de datos e inteligencia artificial (editable).

Aquí encontrarás más información sobre el proyecto Algoritmos Éticos, Responsables y Transparentes.