Los ingenieros de Inteligencia Artificial deberían obtener ideas y experiencia de una amplia gama de disciplinas de ciencias sociales, incluidas aquellas que adoptan métodos cualitativos, para reducir el daño potencial de sus creaciones y servir mejor a la sociedad en su conjunto, concluyeron un par de investigadoresen un análisis que aparece en la revista Inteligencia de la máquina de la naturaleza .
"Cada vez hay más pruebas de que la IA puede exacerbar la desigualdad, perpetuar la discriminación e infligir daño", escribe Mona Sloane, investigadora del Instituto de Conocimiento Público de la Universidad de Nueva York, y Emanuel Moss, candidato a doctorado en la Universidad de la Ciudad de NuevaYork ". Para lograr una tecnología socialmente justa, debemos incluir la noción más amplia posible de las ciencias sociales, una que incluya disciplinas que hayan desarrollado métodos para lidiar con la inmensidad del mundo social y que nos ayude a comprender cómo y por qué los daños de la IA emergen como partede un sistema tecno-social grande, complejo y emergente "
Los autores describen las razones por las cuales los enfoques de las ciencias sociales y sus muchos métodos cualitativos pueden mejorar ampliamente el valor de la IA al tiempo que evitan las dificultades documentadas. Los estudios han demostrado que los motores de búsqueda pueden discriminar a las mujeres de color, mientras que muchos analistas han planteado preguntas sobre cómolos autos sin conductor tomarán decisiones socialmente aceptables en situaciones de choque por ejemplo, evitar a los humanos en lugar de hidrantes.
Sloane, también miembro adjunto de la facultad de la Facultad de Ingeniería Tandon de la Universidad de Nueva York, y Moss reconocen que los ingenieros de IA actualmente buscan inculcar "alineación de valores", la idea de que las máquinas deben actuar de acuerdo con los valores humanos, en sus creaciones, pero agregue que "es excepcionalmente difícil definir y codificar algo tan fluido y contextual como 'valores humanos' en una máquina"
Para abordar esta deficiencia, los autores ofrecen un plan para la inclusión de las ciencias sociales en la IA a través de una serie de recomendaciones :
"A medida que avanzamos entrelazando elementos sociales, culturales y tecnológicos de nuestras vidas, debemos integrar diferentes tipos de conocimiento en el desarrollo tecnológico", concluyen Sloane y Moss. "Un futuro más socialmente justo y democrático para la IA en la sociedadno puede calcularse o diseñarse simplemente; debe vivirse, narrarse y extraerse de profundos entendimientos sobre la sociedad ".
Fuente de la historia :
Materiales proporcionado por Universidad de Nueva York . Nota: El contenido puede ser editado por estilo y longitud.
Referencia del diario :
Cite esta página :