Un nuevo tipo de red neuronal hecha con memristors puede mejorar dramáticamente la eficiencia de las máquinas de enseñanza para pensar como humanos.
La red, llamada sistema informático de reserva, podría predecir palabras antes de que se pronunciaran durante la conversación y ayudar a predecir resultados futuros basados en el presente.
El equipo de investigación que creó el sistema informático de yacimientos, dirigido por Wei Lu, profesor de ingeniería eléctrica y ciencias de la computación en la Universidad de Michigan, recientemente publicó su trabajo en Comunicaciones de la naturaleza .
Los sistemas informáticos de yacimientos, que mejoran la capacidad de una red neuronal típica y reducen el tiempo de entrenamiento requerido, se han creado en el pasado con componentes ópticos más grandes. Sin embargo, el grupo UM creó su sistema utilizando memristors, que requieren menos espacio y puedense integra más fácilmente en la electrónica existente basada en silicio.
Los memristors son un tipo especial de dispositivo resistivo que puede realizar tanto lógica como almacenar datos. Esto contrasta con los sistemas informáticos típicos, donde los procesadores realizan la lógica por separado de los módulos de memoria. En este estudio, el equipo de Lu utilizó un memristor especial que memoriza eventos solo enla historia cercana
Inspiradas en cerebros, las redes neuronales están compuestas de neuronas, o nodos, y sinapsis, las conexiones entre nodos.
Para entrenar una red neuronal para una tarea, una red neuronal toma un gran conjunto de preguntas y las respuestas a esas preguntas. En este proceso de lo que se llama aprendizaje supervisado, las conexiones entre los nodos se ponderan más o menos para minimizarcantidad de error al lograr la respuesta correcta.
Una vez entrenada, una red neuronal se puede probar sin saber la respuesta. Por ejemplo, un sistema puede procesar una nueva foto e identificar correctamente un rostro humano, porque ha aprendido las características de los rostros humanos de otras fotos en su conjunto de entrenamiento.
"Muchas veces, lleva días o meses entrenar una red", dijo Lu. "Es muy costoso".
El reconocimiento de imagen también es un problema relativamente simple, ya que no requiere ninguna información aparte de una imagen estática. Las tareas más complejas, como el reconocimiento de voz, pueden depender en gran medida del contexto y requieren redes neuronales para tener conocimiento de lo que acaba deocurrió, o lo que se acaba de decir.
"Al transcribir un discurso a texto o al traducir idiomas, el significado de una palabra e incluso la pronunciación diferirán según las sílabas anteriores", dijo Lu.
Esto requiere una red neuronal recurrente, que incorpora bucles dentro de la red que le dan a la red un efecto de memoria. Sin embargo, entrenar estas redes neuronales recurrentes es especialmente costoso, dijo Lu.
Sin embargo, los sistemas informáticos de reservorios construidos con memristors pueden omitir la mayor parte del costoso proceso de capacitación y aún así proporcionar a la red la capacidad de recordar. Esto se debe a que el componente más crítico del sistema, el reservorio, no requiere capacitación.
Cuando se ingresa un conjunto de datos en el depósito, el depósito identifica características importantes de los datos relacionadas con el tiempo y lo entrega en un formato más simple a una segunda red. Esta segunda red solo necesita capacitación como redes neuronales más simples,cambiar los pesos de las características y salidas que la primera red pasó hasta que alcance un nivel aceptable de error.
"La belleza de la informática de yacimientos es que, mientras la diseñamos, no tenemos que entrenarla", dijo Lu.
El equipo probó el concepto de computación del reservorio utilizando una prueba de reconocimiento de escritura a mano, un punto de referencia común entre las redes neuronales. Los números se dividieron en filas de píxeles y se introdujeron en la computadora con voltajes como el código Morse, con cero voltios para un píxel oscuroy un poco más de un voltio para un píxel blanco.
Usando solo 88 memristores como nodos para identificar versiones escritas a mano de números, en comparación con una red convencional que requeriría miles de nodos para la tarea, el depósito alcanzó una precisión del 91 por ciento.
Los sistemas informáticos de yacimientos son especialmente expertos en el manejo de datos que varían con el tiempo, como un flujo de datos o palabras, o una función que depende de resultados anteriores.
Para demostrar esto, el equipo probó una función compleja que dependía de múltiples resultados pasados, lo cual es común en los campos de ingeniería. El sistema de computación del depósito pudo modelar la función compleja con un error mínimo.
Lu planea explorar dos caminos futuros con esta investigación: reconocimiento de voz y análisis predictivo.
"Podemos hacer predicciones sobre el lenguaje hablado natural, por lo que ni siquiera tiene que decir la palabra completa", dijo Lu. "Realmente podríamos predecir lo que planea decir a continuación".
En el análisis predictivo, Lu espera usar el sistema para captar señales con ruido, como estática de estaciones de radio lejanas, y producir un flujo de datos más limpio.
"También podría predecir y generar una señal de salida incluso si la entrada se detiene", dijo.
Fuente de la historia :
Materiales proporcionado por Universidad de Michigan . Nota: El contenido puede ser editado por estilo y longitud.
Referencia del diario :
Cita esta página :