Cada vez que sube una foto o un video a una plataforma de redes sociales, sus sistemas de reconocimiento facial aprenden un poco más sobre usted. Estos algoritmos ingieren datos sobre quién es usted, su ubicación y las personas que conoce, y están mejorando constantemente.
A medida que crecen las preocupaciones sobre la privacidad y la seguridad de los datos en las redes sociales, los investigadores de U of T Engineering dirigidos por el profesor Parham Aarabi y el estudiante graduado Avishek Bose han creado un algoritmo para interrumpir dinámicamente los sistemas de reconocimiento facial.
"La privacidad personal es un problema real a medida que el reconocimiento facial se vuelve mejor y mejor", dice Aarabi. "Esta es una forma en la que los sistemas beneficiosos de reconocimiento anti-facial pueden combatir esa capacidad".
Su solución aprovecha una técnica de aprendizaje profundo llamada entrenamiento contradictorio, que enfrenta dos algoritmos de inteligencia artificial entre sí. Aarabi y Bose diseñaron un conjunto de dos redes neuronales: la primera para identificar rostros y la segunda para interrumpir el reconocimiento facialtarea del primero. Los dos están constantemente luchando y aprendiendo el uno del otro, estableciendo una carrera armamentista de IA en curso.
El resultado es un filtro similar a Instagram que se puede aplicar a las fotos para proteger la privacidad. Su algoritmo altera píxeles muy específicos en la imagen, haciendo cambios que son casi imperceptibles para el ojo humano.
"La IA disruptiva puede 'atacar' lo que está buscando la red neuronal para la detección de rostros", dice Bose. "Si la IA de detección está buscando la esquina de los ojos, por ejemplo, ajusta la esquina de los ojosasí que son menos notables. Crea perturbaciones muy sutiles en la foto, pero para el detector son lo suficientemente importantes como para engañar al sistema ".
Aarabi y Bose probaron su sistema en el conjunto de datos de caras de 300 W, un conjunto estándar de la industria de más de 600 caras que incluye una amplia gama de etnias, condiciones de iluminación y entornos. Mostraron que su sistema podía reducir la proporción de caras queoriginalmente eran detectables desde casi el 100 por ciento hasta el 0,5 por ciento.
"La clave aquí era entrenar las dos redes neuronales entre sí, una creando un sistema de detección facial cada vez más robusto y la otra creando una herramienta cada vez más fuerte para desactivar la detección facial", dice Bose, el autor principal delEl estudio del equipo se publicará y presentará en el Taller Internacional IEEE 2018 sobre Procesamiento de Señal Multimedia a finales de este verano.
Además de deshabilitar el reconocimiento facial, la nueva tecnología también interrumpe la búsqueda basada en imágenes, la identificación de características, la estimación de la emoción y el origen étnico, y todos los demás atributos basados en la cara que podrían extraerse automáticamente.
A continuación, el equipo espera que el filtro de privacidad esté disponible públicamente, ya sea a través de una aplicación o un sitio web.
"Hace diez años, estos algoritmos tendrían que estar definidos por el ser humano, pero ahora las redes neuronales aprenden por sí mismas; no es necesario que les suministren nada excepto datos de entrenamiento", dice Aarabi. "Al final pueden hacer algo realmentecosas increíbles. Es un momento fascinante en el campo, hay un enorme potencial "
Fuente de la historia :
Materiales proporcionado por Facultad de Ciencias Aplicadas e Ingeniería de la Universidad de Toronto . Nota: El contenido puede ser editado por estilo y longitud.
Cita esta página :