¿Por qué la gestión ética es clave para el desarrollo sostenible de la inteligencia artificial? ¿En qué está la legislación sobre el uso de datos? ¿Cómo podemos adelantarnos a ella desde el mercado y crear así ventaja competitiva? Estas fueron algunas de las preguntas que guiaron el conversatorio “Ética e inteligencia artificial: Ventaja competitiva internacional para desarrolladores tecnológicos”, que se realizó en el Centro de Innovación de Negocios (CIN) de Viña del Mar, en el marco del proyecto Algoritmos Éticos, Responsables y Transparentes, que ejecuta la Universidad Adolfo Ibáñez (UAI), a través del GobLab UAI, laboratorio de innovación pública de la Escuela de Gobierno, en alianza con la aceleradora de negocios digitales, Magical, y con apoyo de BID Lab, laboratorio de innovación del Grupo BID.
El encuentro contó con las exposiciones de Romina Garrido, subdirectora del GobLab UAI y abogada experta en protección de datos, y Milan Didjara, CEO de Eniax y presidente de la Asociación de Empresas de Algoritmos Éticos. Posteriormente se realizó un panel al que se sumaron Juan Eduardo Orlandi, gerente general de Magical, y Walter Rosenthal, gerente de Quintil Valley, que estuvo moderado por Iván Vera, fundador y presidente de Innspiral, Magical y Turingo. Precisamente Vera hizo hincapié en los avances legales que se están observando en la materia, en todo el mundo. “Particularmente en Europa están muy estrictos en cuanto a la protección de los datos y la información personal, por lo que las startups que están pensando en crecer y llegar al viejo continente deben partir ‘sanitos’ en vez de ir reaccionando y saneando sus procesos en el camino”, indicó.
Tema con el que coincidió Romina Garrido, quien agregó que “el Reglamento Europeo se ha transformado en un estándar de facto a nivel mundial. En efecto, explicó la abogada – quien ha expuesto en varias ocasiones ante el Congreso durante la discusión del Proyecto de Ley de Datos Personales-, Chile está adoptando dicho reglamento como base y siguiendo su misma lógica de Derechos Fundamentales”.
“Si bien el dato personal es un activo transferible, la persona no pierde la titularidad ni el derecho a la protección de ese dato; entonces las empresas son custodios de esos datos y, por tanto, responsables de su buen uso y de su correcto tratamiento”, concluyó Romina Garrido.
Por su parte, Milan Djidara de Eniax, empresa que presta servicios de agendamiento de horas médicas y otros productos basados en datos para centros de salud, comentó sobre el desafío que ha significado trabajar con información personal y sensible. “Si bien nuestro negocio es B2B, hay que trabajar pensando en que el cliente es el usuario final y que los datos son suyos”, planteó desde el punto de vista de la ética de datos.
El empresario contó además cómo se dieron cuenta de que su algoritmo contenía sesgos socioeconómicos. “Durante nuestro primer año tuvimos buenos resultados, hasta que empezamos a prestar servicios a un centro médico fuera de la zona oriente de Santiago. Allí el ausentismo de los pacientes partió alto y siguió subiendo, que es exactamente lo contrario de lo que lográbamos en otras partes, así que tuvimos que reconstruir el modelo y armar otro que fuera más amplio”. Con este aprendizaje Eniax no solo logró corregir los sesgos y mejorar el servicio, sino que también generaron un modelo más amplio que luego les permitió salir de Chile e implementarlo en otros idiomas.
El conversatorio también abordó con los riesgos y las oportunidades que genera el tratamiento ético los datos y la implementación de estándares de responsabilidad, transparencia, explicabilidad y privacidad, entre otros, en el diseño, implementación y operación de sistemas automatizados, algoritmos e inteligencia artificial.
Conoce más sobre el proyecto Algoritmos Éticos, Responsables y Transparentes