El uso de la Inteligencia Artificial (IA) avanza a pasos agigantados y forma parte de nuevas áreas de nuestro día a día, por lo que nos estamos refiriendo a algo que pasa aquí y ahora y que afecta un sinnúmero de aspectos de la vida de los seres humanos, incluyendo el empleo. Desde los motores de búsqueda en Internet, pasando por los asistentes virtuales Siri o Alexa, los sistemas de recomendación de películas o series, los chatbot que utilizan muchas empresas para atender a sus clientes y público en general, las aplicaciones para modificar imágenes (Photoshop), sistemas de traducción automática o de reconocimiento de voz de nuestros celulares, entre tantos otros.
1. Garantías
La semana pasada, la ministra de Trabajo y Economía Social de España, Yolanda Díaz, defendió en la ciudad de Bruselas una digitalización que contribuya a la justicia social. La jerarca española ha “expuesto además una serie de propuestas para construir desde Europa un modelo que garantice la justicia social y digital como realizar auditorías algorítmicas obligatorias, con las que poder identificar y corregir sesgos discriminatorios; el derecho a la formación digital, de modo que todos los trabajadores tengan acceso a las herramientas y pueden adaptarse a los cambios tecnológicos, la creación de un indicador de riesgo de automatización, que permita identificar a los trabajadores más vulnerables y asegurar su protección o la participación sindical en el diseño y la evaluación de los algoritmos, a fin de que se estén aseguradas y reflejadas las necesidades y derechos de las personas trabajadoras, entre otras. (…) La medida europea “contiene un refuerzo de la gestión algorítmica y la transparencia y control humano de los sistemas automatizados de supervisión y toma de decisiones mediante algoritmos”, sostuvo la ministra.
2. ADS
De acuerdo con el académico chileno Matías Aránguiz Villagrán, “un sistema automatizado de toma o soporte de decisiones (ADS, por las siglas en inglés de Automated Decision Support) es un sistema computacional que puede, para un determinado conjunto de objetivos definidos por seres humanos, hacer predicciones y recomendaciones o tomar decisiones que inciden en entornos reales o virtuales. Estos sistemas están diseñados para operar con diversos grados de autonomía.
Durante los últimos años, los ADS han crecido exponencialmente en número y ámbitos de aplicación. En la actualidad, cada vez interactuamos con una mayor cantidad de ADS, a menudo sin que nos percatemos de ello. Sin embargo, la falta de conciencia acerca de su uso no reduce los riesgos sociales, en caso de que estos sistemas estén mal diseñados o se hayan creado sin tomar las precauciones necesarias”.
3. Sesgo
Para IBM, “el sesgo de IA, también llamado sesgo de machine learning o sesgo de algoritmo, se refiere a la aparición de resultados sesgados debido a sesgos humanos que distorsionan los datos de entrenamiento originales o el algoritmo de IA, lo que conduce a resultados distorsionados y potencialmente perjudiciales. (…) Como prueba de generación de imágenes, Bloomberg solicitó la creación de más de 5.000 imágenes de IA y descubrió que “el mundo, según la empresa contratada para ello, está dirigido por hombres blancos como directores generales”. Las mujeres rara vez son médicas, abogadas o juezas. Los hombres de piel oscura cometen delitos, mientras que las mujeres de piel oscura voltean hamburguesas”. Así de grave puede ser el mundo de la IA. Por ello se hacen necesarias las auditorías algorítmicas.
4. Auditoría algorítmica
“Según la norma ISO 19.011 sobre “Directrices para la auditoría de sistemas de gestión”, una auditoría debe ser un proceso sistemático, independiente y documentado con el cual se busca recolectar evidencias y evaluarlas para determinar el grado en que se cumplen ciertos criterios previamente determinados.” (…) La auditoría algorítmica en particular “es un estudio que busca evaluar un ADS y su proceso de desarrollo, incluyendo el diseño y los datos utilizados para entrenar el sistema. Asimismo, se evalúan los impactos en materia de precisión, justicia algorítmica, sesgos, discriminación, privacidad y seguridad, entre otros. Las auditorías algorítmicas se pueden realizar a manera de medición frente a ciertos estándares (auditorías de rendimiento), o bien como un análisis de cumplimiento de normas particulares (auditorías de cumplimiento) con el propósito de producir recomendaciones en materia de métricas específicas”.
5. Reflexiones
La irrupción de la IA en un gran número de actividades humanas supone un desafío para la forma en la cual deberán conciliarse los avances tecnológicos con el derecho de quienes trabajan. Es allí donde las auditorías algorítmicas cobran una vital importancia para garantizar que no existan sesgos que se traduzcan en acciones discriminatorias contra los trabajadores, protegiendo al mismo tiempo sus fuentes de empleo.
Dr. Rodrigo Deleón
DELEÓN ABOGADOS – 33 Orientales 989 – Paysandú – Celular: (099) 10-33-13 – E-mail: rdeleon1370@gmail.com
→ Leer más