El creciente uso de la inteligencia artificial (IA) en la administración pública ha demostrado tener enormes beneficios. Agilizar procesos burocráticos, reducir costos administrativos, procesar grandes volúmenes de datos y ofrecer servicios mejor adaptados a las necesidades de los ciudadanos, son algunos de ellos. Ejemplos de lo anterior, son los proyectos de modelos de Machine Learning para la fiscalización de establecimientos educacionales de la Superintendencia de Educación y las torres endoscópicas con IA del Hospital Barros Luco.

El primero, fue diseñado para mejorar la efectividad de la fiscalización examinando una muestra, entre más de 18 mil establecimientos preescolares y escolares del país, para identificar aquellos más propensos al incumplimiento. Según la institución su efectividad, en comparación con otros criterios de fiscalización, fue del 61% en el Programa de Recursos de la Subvención Escolar Preferencial.

El segundo, revela el enorme aporte de la IA a la salud pública. Recientemente, el Hospital Barros Luco adquirió tres torres endoscópicas asistidas con IA para identificar casos de cáncer intestinal con mayor precisión y de manera automatizada. Según los estudios disponibles, la tasa de verdaderos positivos por lesión es del 100%.

Sin embargo, estos avances plantean, también, importantes desafíos y riesgos éticos. La posibilidad de sesgos y discriminación es uno de ellos. Los algoritmos pueden perpetuar o incluso exacerbar sesgos preexistentes si no se diseñan y monitorean adecuadamente. La transparencia sobre cómo y por qué se toman ciertas decisiones es crucial para garantizar que los procesos sean justos y responsables, reforzando la legitimidad de las instituciones, consolidando la confianza pública y robusteciendo la democracia.

Otro aspecto crítico es la privacidad. La recopilación y el procesamiento de grandes cantidades de datos personales plantea riesgos significativos. Es fundamental que las instituciones públicas implementen medidas robustas para salvaguardar estos datos y garantizar que se utilicen de manera ética y responsable.

Chile ha avanzado en la creación de un marco regulatorio que aspire a contribuir a la implementación de principios éticos en el uso de IA. Desde la academia también se han desarrollado proyectos en esta línea. Espacios como la plataforma de Algoritmos Públicos, desarrollada por el GobLab de la Universidad Adolfo Ibáñez, alojan un detallado repositorio con más de 100 algoritmos utilizados por organizaciones estatales y ofrece herramientas concretas para la implementación ética de estos sistemas. Estos esfuerzos subrayan la importancia del vínculo entre datos, transparencia, confianza y democracia. El desafío está abierto.

Publicada en La Segunda.