Los sistemas autónomos, como los automóviles sin conductor, realizan tareas que anteriormente solo podían ser realizadas por humanos. En una nueva Sistemas inteligentes IEEE Artículo de opinión de expertos, los expertos en ética de inteligencia artificial de la Universidad Carnegie Mellon, David Danks y Alex John London, argumentan que las normas de seguridad actuales no planean estos sistemas y, por lo tanto, están mal equipados para garantizar que los sistemas autónomos funcionen de manera segura y confiable.
"Actualmente, garantizamos la seguridad en las carreteras al regular el rendimiento de los diversos sistemas mecánicos de los vehículos y al otorgar licencias a los conductores", dijo London, profesor de filosofía y director del Centro de Ética y Política del Dietrich College of Humanities and SocialCiencias: "Cuando los automóviles conducen por sí mismos, no tenemos un sistema comparable para evaluar la seguridad y la confiabilidad de sus sistemas de conducción autónomos".
Danks y London señalan el reciente intento del Departamento de Transporte de desarrollar normas de seguridad para automóviles sin conductor como un ejemplo de pautas tradicionales que no prueban y monitorean adecuadamente las capacidades novedosas de los sistemas autónomos. En cambio, sugieren crear un sistema dinámico por etapasque se asemeja al proceso de regulación y aprobación de medicamentos y dispositivos médicos, incluido un sistema robusto para el monitoreo posterior a la aprobación.
"Los autos autónomos y los sistemas autónomos se están extendiendo rápidamente por todas las partes de la sociedad, pero su uso exitoso depende de si podemos confiar en ellos y comprenderlos", dijo Danks, profesor de filosofía y psicología de LL Thurstone y jefe del departamentode Filosofía. "Nosotros, como sociedad, necesitamos encontrar nuevas formas de monitorear y guiar el desarrollo e implementación de estos sistemas autónomos".
El proceso por fases que Danks y London proponen comenzaría con "ensayos preclínicos" o pruebas en entornos simulados, como los automóviles sin conductor que navegan por paisajes y climas variados. Esto proporcionaría información sobre cómo el sistema autónomo toma decisiones en unamplia gama de contextos, para que podamos entender cómo podrían actuar en futuras situaciones nuevas.
El rendimiento aceptable permitiría que el sistema pase a estudios "in-humanos" a través de una introducción limitada en entornos del mundo real con "copilotos" humanos capacitados. Las pruebas exitosas en estos entornos específicos conducirían a un monitoreo, permiso-pruebas basadas y una mayor relajación de las restricciones a medida que se cumplían los objetivos de rendimiento.
Danks y London proponen que este sistema regulador se modele y gestione de manera similar a cómo la Administración de Alimentos y Medicamentos regula el proceso de aprobación de medicamentos.
"Los vehículos autónomos tienen el potencial de salvar vidas y aumentar la productividad económica. Pero estos beneficios no se realizarán a menos que el público tenga la seguridad creíble de que tales sistemas son seguros y confiables", dijo London.
Fuente de la historia :
Materiales proporcionado por Universidad Carnegie Mellon . Original escrito por Shilo Rea. Nota: El contenido puede ser editado por estilo y longitud.
Cita esta página :