Un nuevo artículo publicado en Comunicaciones AI proporciona una visión integral del desarrollo de un marco ético, un código de conducta y metodologías de diseño basadas en valores para investigadores de IA y desarrolladores de aplicaciones en Europa. La "Declaración de Barcelona para el desarrollo y uso adecuados de la inteligencia artificial en Europa" fuelanzado en la primavera de 2017 en el evento B-Debate en Barcelona, para estimular una mayor discusión entre los responsables políticos, líderes de la industria, investigadores y desarrolladores de aplicaciones sobre las oportunidades y los riesgos de la IA en el entorno actual de la "fiebre del oro".
Además de documentar la Declaración de Barcelona completa, el documento examina la justificación detrás de esto, se enfoca en cuestiones de seguridad, confiabilidad y ética y evalúa el progreso en sus recomendaciones clave. Patrocinado por Biocat y l'Obra Social la Caixa, con apoyoICREA, el Institut de Biologia Evolutiva y el Institut d'Investigacio en Intelligencia Artificial, B-Debate reunieron a los mejores expertos de Europa para debatir estrategias para abordar los riesgos y beneficios de la IA. El evento fue único debido a la participación de desarrolladores europeos yinvestigadores en un discurso que anteriormente había estado dominado por científicos sociales, expertos legales y consultoras de negocios de los Estados Unidos y el Reino Unido. La Declaración de Barcelona fue firmada por la mayoría de los participantes y está disponible para su firma y discusión en la web.
"Dado el interés generalizado en la IA y el afán de desarrollar aplicaciones que afecten a las personas en su vida diaria, es importante que la comunidad de investigación y desarrollo de aplicaciones participe en debates abiertos para evitar expectativas poco realistas, consecuencias no deseadas y usos que causan resultados negativosefectos secundarios o sufrimiento humano ", dijo Luc Steels, PhD, Profesor de Investigación ICREA, Institución Catalana de Investigación y Estudios Avanzados ICREA - IBE UPF / CSIC, Barcelona, quien con su co-investigador Ramón López de Mantaras, PhD, Profesor investigador del Consejo Nacional de Investigación de España CSIC y Director del Instituto de Investigación en Inteligencia Artificial IIIA - CSIC, Bellaterra, Barcelona, organizó el evento de Barcelona.
Si bien la mayor parte de la actividad de IA se realiza en los EE. UU. Y China, las acciones recientes de la Comisión Europea y los gobiernos nacionales indican que la investigación y el desarrollo están aumentando en Europa, un crecimiento que el discurso en torno a la Declaración está ayudando a configurar. Un desarrollo prometedor fue elasignación reciente dentro del programa marco europeo H2020 para la creación de un ecosistema y una plataforma para estimular la investigación europea sobre IA, como se estipula en la Declaración. El documento renueva su llamamiento a las agencias y empresas de financiación europeas para que inviertan en el desarrollo de IA a escalaeso es adecuado para el desafío, y de tal manera que todas las regiones y ciudadanos europeos puedan beneficiarse.
El debate B, la Declaración de Barcelona y un cuerpo de literatura en rápido crecimiento están planteando preguntas apremiantes que continúan resonando: ¿La IA está lista para un despliegue a gran escala? La IA ahora se usa principalmente con fines comerciales, pero también podemos usarlapara el bien común? ¿Qué aplicaciones deberíamos fomentar? ¿Cómo pueden abordarse los efectos negativos en el despliegue de la IA? ¿Cuáles son los avances técnicos recientes en la IA y cómo afectan las aplicaciones? ¿Cuál debería ser el papel de la IA en las redes sociales?Cuáles son las mejores prácticas para el desarrollo y despliegue de IA?
"Si bien los avances rápidos de IA se anticipan con entusiasmo, es necesario y justificable cierta ansiedad sobre el progreso", comentaron Steels y López de Mantaras. "El temor común de que el despliegue de IA se salga de control puede parecer descabellado, pero existeya son consecuencias no deseadas que requieren una remediación urgente. Por ejemplo, los algoritmos integrados en la web y las redes sociales tienen un impacto en quién habla con quién, cómo se selecciona y presenta la información, y cómo los hechos / falsedades se propagan y compiten en el espacio público.y podría ayudar a apoyar la formación de consenso en lugar de destruirla. Los sistemas de IA deberían dejar muy en claro que son artificiales en lugar de humanos. Engañar a los humanos nunca debería ser un objetivo de la IA ".
También se están explorando preguntas sobre la confiabilidad y la responsabilidad de los sistemas de inteligencia artificial basados en un aprendizaje profundo que involucra un comportamiento regido por reglas por ejemplo, toma de decisiones financieras, gestión de recursos humanos o aplicación de la ley. Los prejuicios integrados pueden evitar que los solicitantes de empleo calificados pasen la evaluacióno dar lugar a decisiones de libertad condicional injustas. Los sistemas de IA autónomos plantean diferentes preocupaciones. ¿Tenemos que poner límites a las armas autónomas? ¿Quién es responsable cuando algo va mal con un auto sin conductor?
"La Declaración de Barcelona ha establecido un marco de gobernanza para integrar las mejores prácticas de manera proactiva, como parte del proceso de diseño. Creemos que la IA puede ser una fuerza para el bien de la sociedad, pero que existe un peligro suficiente para que sea prematuro e inapropiadoo el uso malicioso para garantizar la necesidad de crear conciencia sobre las limitaciones de la IA y de la acción colectiva para garantizar que la IA se use realmente para el bien común de manera segura, confiable y responsable ", explicaron Steels y López de Mantaras.
Aunque el panorama de la IA en Europa está cambiando rápidamente a través de todas estas discusiones y actividades, los investigadores concluyen que las cuestiones planteadas en la Declaración siguen siendo muy relevantes y renuevan las recomendaciones en varias áreas prioritarias :
Fuente de la historia :
Materiales proporcionados por IOS Press . Nota: El contenido puede ser editado por estilo y longitud.
Referencia del diario :
Cita esta página :