Un accidente de uno de los autos sin conductor de Uber Technologies, Inc. a principios de este año resultó en la primera muerte de peatones asociada con la tecnología sin conductor. El incidente destacó los desafíos que enfrentan las compañías de tecnología para desarrollar software que pueda detectar adecuadamentey responder a los peligros en la carretera y alrededores inmediatos. El vehículo podría haberse detenido por completo en tres segundos, pero no empleó el frenado de emergencia hasta 1.3 segundos antes del impacto. Si el frenado de emergencia hubiera sido la acción predeterminada tomada inmediatamente después de la detección de la carretera¿peligro?
Un nuevo estudio, "¿Cómo deben conducir los automóviles autónomos? Una preferencia por los incumplimientos en los juicios morales bajo riesgo e incertidumbre", publicado en Análisis de riesgos: una revista internacional abordó este desafío preguntando al público cuál creía que sería el comportamiento moral y éticamente más sólido para un vehículo autónomo AV ante una colisión inminente. Incluso un AV que funcione perfectamente no podrá evitar cada colisión y, en algunos casos,situaciones, cada opción resultará en algún tipo de bloqueo.
El equipo de investigación, compuesto por Björn Meder, Nadine Fleischhut y Nina-Carolin Krumnau del Instituto Max Planck para el Desarrollo Humano y Michael R. Waldmann de la Universidad de Gotinga, abordaron esta pregunta pidiendo a los participantes que eligieran entre quedarse en sucarril y frenado, o desviarse, donde cada acción podría conducir a una colisión con otro usuario de la carretera en distintos grados de incertidumbre.
El hallazgo clave de este estudio es que las personas generalmente prefieren que el automóvil permanezca en su carril y realice una parada de emergencia. Esto respalda la idea de que las personas consideran que la opción de estadía es un incumplimiento razonable, ya que se ajusta a las reglas generales de conducción yproporciona un mejor grado de controlabilidad, incluso si no minimiza la pérdida esperada. Emplear esta acción como una simple regla por defecto requiere menos procesamiento de información y a menudo conducirá a mejores resultados. Los investigadores también descubrieron que incluso si permanecer en el carril resultaba enun accidente, las personas tenían menos probabilidades de alterar su evaluación moral de la acción tomada en retrospectiva, mientras que un mal resultado influyó en gran medida en un análisis retrospectivo de una decisión de desviarse del carril.
En su primer experimento, a los participantes se les presentó un escenario en el que un AV tenía que realizar una de dos maniobras: permanecer en el carril o desviarse. Permanecer en el carril pone en peligro a un peatón en la calle mientras que desviarse pone a un transeúnte enla acera está en riesgo. La probabilidad de colisionar con el peatón y el espectador fue variada, creando diferentes escenarios con riesgos específicos o desconocidos. Los datos se recopilaron de 872 personas en línea a través de la plataforma Amazon Mechanical Turk AMT. Los participantes recibieron una descripción por escrito.de un escenario de tráfico en el que un automóvil viaja por una carretera cuando de repente aparece un peatón en su camino. El automóvil puede permanecer en el carril y realizar una parada de emergencia, en cuyo caso podría chocar con el peatón, o el automóvil puedegire a la derecha y realice una parada de emergencia, en cuyo caso podría chocar con un transeúnte en la acera.
La probabilidad de colisionar con el peatón en la calle era del 20%, 50% u 80%. En la "condición de riesgo", la probabilidad de colisionar con el espectador era del 50%. En la condición de "incertidumbre", la probabilidad eradesconocido porque los sistemas del automóvil no pudieron hacer la estimación. Los resultados mostraron una preferencia general por permanecer en el carril con más del 85 por ciento de los sujetos que optaron por permanecer en el carril. Cuando se desconocía la probabilidad de colisionar con el espectador, aproximadamente 70el porcentaje de sujetos todavía prefería permanecer en el carril. Cuando la probabilidad de colisionar con el peatón era del 20% y la probabilidad de colisionar con el espectador era del 50%, nadie optó por desviarse. Incluso cuando la probabilidad de ambas colisiones era del 50%,quedarse se consideró más aceptable que desviarse.
El segundo experimento examinó cómo las personas evalúan moralmente el comportamiento AV en retrospectiva cuando se produce una colisión. Desde una perspectiva política, los AV deben actuar de una manera que la sociedad considere aceptable incluso si se producen colisiones. Los investigadores reclutaron una vez más a 766 sujetos a través del AMTplataforma. Se preguntó a los participantes cómo debería funcionar un AV en una situación específica y evaluar la aceptabilidad moral de permanecer y desviarse. Los resultados mostraron que si el automóvil permanecía en su carril, el resultado de la situación colisión o no colisión conotro usuario de la carretera no afectó los juicios de los participantes sobre cómo debería comportarse un AV. Sin embargo, si el automóvil se desvió, el resultado fue muy persuasivo en retrospectiva. Si no se produjo una colisión, aproximadamente el 40 por ciento prefirió desviarse, pero menos del 20 por ciento sostuvoesa preferencia cuando ocurrió una colisión. Por lo tanto, incluso cuando ocurrió una colisión, se consideró más aceptable permanecer en el carril.
"Nuestra investigación destaca la importancia de obtener una mejor comprensión de cómo las personas piensan sobre el comportamiento de los vehículos autónomos bajo diferentes grados de incertidumbre", afirma Meder. "Los hallazgos ayudarán a informar la formulación de políticas y la discusión pública de las implicaciones éticas deavances tecnológicos que transformarán la sociedad en una variedad de formas "
En general, existe una preferencia general por permanecer en el carril y es una opción predeterminada moralmente aceptable en situaciones de tráfico crítico, incluso si no minimiza la pérdida esperada. Este simple incumplimiento no requiere que los sistemas de AV recopilen información sobre alternativasacciones o probabilidades. A pesar de estos hallazgos, los formuladores de políticas se enfrentan al desafío de desarrollar políticas que sean moralmente sólidas pero que también apelen al deseo del público en general de autoconservación. Estudios previos Bonnefon, Shariff y Rahwan, 2016, Science tienendemostró que los sujetos mostrarán una preferencia por los AV que sacrificarían a sus propios pasajeros para minimizar el número total de víctimas, pero querían que sus propios AV pusieran una prima en la seguridad de los pasajeros. Entonces, mientras este estudio demuestra una aceptabilidad general para una acción predeterminadaPara minimizar las pérdidas potenciales, los propietarios de AV preferirían acciones destinadas a salvar a los pasajeros del vehículo.
Fuente de la historia :
Materiales proporcionado por Sociedad para el Análisis de Riesgos . Nota: El contenido puede ser editado por estilo y longitud.
Referencia del diario :
Cita esta página :