A pesar de la creciente preocupación por la intrusión de algoritmos en la vida diaria, las personas pueden estar más dispuestas a confiar en un programa de computadora que en sus compañeros humanos, especialmente si una tarea se vuelve demasiado desafiante, según una nueva investigación de científicos de datos de la Universidad de Georgia.
Desde elegir la siguiente canción en su lista de reproducción hasta elegir el tamaño correcto de pantalones, las personas confían más en los consejos de los algoritmos para ayudar a tomar decisiones cotidianas y agilizar sus vidas.
"Los algoritmos son capaces de realizar una gran cantidad de tareas, y la cantidad de tareas que pueden hacer se expande prácticamente todos los días", dijo Eric Bogert, estudiante de doctorado en el Departamento de Negocios de Terry College of Business.Sistemas de información de gestión. "Parece que hay una tendencia a apoyarse más en algoritmos a medida que una tarea se vuelve más difícil y ese efecto es más fuerte que la tendencia a depender de los consejos de otras personas".
Bogert trabajó con el profesor de sistemas de información de gestión Rick Watson y el profesor asistente Aaron Schecter en el artículo, "Los seres humanos dependen más de los algoritmos que de la influencia social a medida que una tarea se vuelve más difícil", que se publicó el 13 de abril en Nature's. Informes científicos diario.
Su estudio, que involucró a 1.500 personas que evaluaron fotografías, es parte de un trabajo más amplio que analiza cómo y cuándo las personas trabajan con algoritmos para procesar información y tomar decisiones.
Para este estudio, el equipo pidió a los voluntarios que contaran la cantidad de personas en una fotografía de una multitud y proporcionó sugerencias que fueron generadas por un grupo de otras personas y sugerencias generadas por un algoritmo.
A medida que se expandió el número de personas en la fotografía, contar se volvió más difícil y las personas eran más propensas a seguir la sugerencia generada por un algoritmo en lugar de contarse a sí mismos o seguir la "sabiduría de la multitud", dijo Schecter.
Schecter explicó que la elección de contar como la tarea de prueba fue importante porque la cantidad de personas en la foto hace que la tarea sea objetivamente más difícil a medida que aumenta. También es el tipo de tarea en la que los legos esperan que las computadoras sean buenas.
"Esta es una tarea en la que la gente percibe que una computadora será buena, aunque podría estar más sujeta a sesgos que a contar objetos", dijo Schecter. "Uno de los problemas comunes con la IA es cuando se usa para otorgarcrédito o aprobar a alguien para préstamos. Si bien es una decisión subjetiva, hay muchos números allí, como ingresos y puntaje de crédito, por lo que las personas sienten que este es un buen trabajo para un algoritmo. Pero sabemos que la dependencia conducea prácticas discriminatorias en muchos casos por factores sociales que no se tienen en cuenta ".
Los algoritmos de reconocimiento facial y contratación también han sido objeto de escrutinio en los últimos años porque su uso ha revelado prejuicios culturales en la forma en que se construyeron, lo que puede causar inexactitudes al hacer coincidir rostros con identidades o buscar candidatos calificados para el trabajo, dijo Schecter.
Es posible que esos sesgos no estén presentes en una tarea simple como contar, pero su presencia en otros algoritmos confiables es una razón por la que es importante comprender cómo las personas confían en los algoritmos al tomar decisiones, agregó.
Este estudio fue parte del programa de investigación más amplio de Schecter sobre la colaboración humano-máquina, que está financiado por una subvención de $ 300,000 de la Oficina de Investigación del Ejército de EE. UU..
"El objetivo final es observar a los grupos de humanos y máquinas que toman decisiones y encontrar cómo podemos hacer que confíen entre sí y cómo eso cambia su comportamiento", dijo Schecter. "Debido a que hay muy poca investigación en ese entorno,estamos comenzando con los fundamentos ".
Schecter, Watson y Bogert están estudiando actualmente cómo las personas confían en los algoritmos cuando hacen juicios creativos y juicios morales, como escribir pasajes descriptivos y fijar la fianza de los prisioneros.
Fuente de la historia :
Materiales proporcionado por Universidad de Georgia . Original escrito por J. Merritt Melancon. Nota: el contenido se puede editar por estilo y longitud.
Referencia de la revista :
cite esta página :