Imagine que es un asesor laboral. Está sentado frente a su cliente, un individuo desempleado.
Después de ubicarlos en el sistema, aparece el siguiente texto en la pantalla de la computadora; 'mayor riesgo de desempleo a largo plazo'.
Dichas evaluaciones se realizan mediante un algoritmo que, a través de datos sobre el género, la edad, la residencia, la educación, los ingresos, la etnia, el historial de enfermedades, etc. del ciudadano, arroja una estimación de cuánto tiempo la persona, en comparación con otras personascon antecedentes similares, se espera que permanezca en el sistema y reciba beneficios.
¿Pero es razonable caracterizar a los ciudadanos individuales sobre la base de lo que han logrado aquellos con antecedentes similares en sus búsquedas de trabajo? Según un nuevo estudio de la Universidad de Copenhague, no.
"Debe comprender que las personas son humanas. Envejecemos, enfermamos y experimentamos tragedias y triunfos. Por lo tanto, en lugar de tratar de predecir los riesgos para las personas, deberíamos considerar la implementación de cursos mejorados y más transparentes en el ámbito del centro de trabajo.", dice Naja Holten Møller, profesora asistente del Departamento de Ciencias de la Computación y una de las investigadoras detrás del estudio.
Junto con dos colegas del mismo departamento, el profesor Thomas Hildebrandt y la profesora Irina Shklovski, Møller ha explorado posibles alternativas al uso de algoritmos que predicen la preparación laboral para las personas desempleadas, así como los aspectos éticos que pueden surgir.
"Estudiamos cómo desarrollar algoritmos de manera ética y responsable, donde los objetivos determinados para el algoritmo también tienen sentido para los consultores laborales. Aquí, es crucial encontrar un equilibrio, donde la situación actual del individuo desempleado es evaluada porun consultor laboral, mientras que al mismo tiempo, uno aprende de trayectorias similares usando un algoritmo ", dice Naja Holten Møller.
Los consultores laborales deben ayudar a crear el algoritmo
El uso de algoritmos de búsqueda de empleo no es un escenario bien pensado. Sin embargo, la Agencia Danesa para el Mercado Laboral y la Contratación ya ha implementado este tipo de algoritmo para predecir el riesgo de desempleo de larga duración entre la ciudadanía, a pesar de las críticasde varios expertos en derecho de datos.
"Los algoritmos utilizados en la esfera pública no deben dañar a los ciudadanos, obviamente. Al desafiar el escenario y la suposición misma de que el objetivo de una persona desempleada en un centro de empleo es siempre conseguir un trabajo, estamos mejor equipados para comprender los desafíos éticos. El desempleo puede tener muchas causas. Por lo tanto, el estudio muestra que una rápida aclaración de los plazos para los ciudadanos más vulnerables puede ser un mejor objetivo. Al hacerlo, podemos evitar el despliegue de algoritmos que causan un gran daño ", explica Naja Holten.Møller.
Los consultores laborales encuestados en el estudio expresaron su preocupación sobre cómo la evaluación del algoritmo afectaría su propio juicio, específicamente en relación con los ciudadanos vulnerables.
"Debe establecerse un marco en el que los consultores laborales puedan tener una influencia real en los objetivos subyacentes que guían el algoritmo. Lograr esto es difícil y llevará tiempo, pero es fundamental para el resultado. Al mismo tiempo, debe serTenga en cuenta que los algoritmos que ayudan a tomar decisiones pueden alterar en gran medida el trabajo de los asesores laborales. Por lo tanto, un enfoque ético implica considerar sus consejos ", explica Naja Holten Møller.
Debemos considerar los aspectos éticos
Si bien los algoritmos pueden ser útiles para proporcionar una idea de, por ejemplo, cuánto tiempo un ciudadano individual puede esperar estar desempleado, esto no significa que sea éticamente justificable utilizar tales predicciones en los centros de trabajo, señala Naja Holten Møller.
"Existe el sueño de que el algoritmo puede identificar patrones que otros ignoran. Quizás pueda parecer que, para aquellos que han experimentado una tragedia personal, lo mejor es un camino particular a través del sistema. Por ejemplo, el algoritmo podría determinarque por haber estado desempleado debido a una enfermedad o un divorcio, su capacidad para evitar el desempleo de larga duración depende de tal o cual cosa ", dice, concluyendo :
"Pero, ¿qué haremos con esta información? ¿Se puede implementar de manera sensata para tomar mejores decisiones? Los consultores laborales a menudo pueden evaluar por sí mismos si es probable que una persona esté desempleada durante un período prolongado de tiempo.Estas evaluaciones están moldeadas por reuniones en persona, profesionalismo y experiencia, y es aquí, dentro de estas reuniones, donde se puede generar mejor un desarrollo ético de nuevos sistemas para el público ".
Fuente de la historia :
Materiales proporcionado por Universidad de Copenhague . Nota: el contenido se puede editar por estilo y longitud.
Referencia de la revista :
cite esta página :