IRIN clase 140509

Redes Neuronales Artiﬁciales: introducción y
aplicaciones
Introducción a la Robótica INteligente
Universidad Politécnica de Madrid
Eduardo Matallanas de Ávila
Estudiante de Doctorado
TEAT - ETSIT - UPM
www.robolabo.etsit.upm.es/personal.php
e-mail: eduardo.matallanas@upm.es
09 de Mayo de 2014

Redes Neuronales Artiﬁciales Aplicaciones Redes Neuronales Biológicas Conclusiones
Contents
1 Redes Neuronales Artiﬁciales
2 Aplicaciones
Genéricas
Energía: Un ejemplo concreto
3 Redes Neuronales Biológicas
4 Conclusiones
Eduardo Matallanas Redes Neuronales 2/67

Contents
2 Aplicaciones
4 Conclusiones

Características
Inspirada en el sistema nervioso.
Procesa la información de manera paralela y distribuida.
Operaciones en tiempo real para grandes cantidades de
datos.
Están formadas por unidades de proceso de la
información denominadas neuronas.
Adquiere conocimiento del entorno a través de un proceso
de aprendizaje.
Las conexiones interneuronales, pesos sinápticos,
almacenan la información.
Sistemas distribuido con altas capacidades de
computación.

Por qué usar ANN
Las redes neuronales son muy utilizadas por sus
propiedades.
Carácter no lineal.
Adaptabilidad.
Generalización.
Tolerancia a fallos.
Descomposición de tareas.
Escalabilidad.
También cuentan con desventajas.
Complejidad en el diseño de la arquitectura.
Gran cantidad de parámetros para ajustar.
Diﬁcultad para entrenar las redes.

Revisión histórica
1936 −→ Alan Turing comienza a estudiar el cerebro humano.
1943 −→ McCulloch y Pitts, primeros modelos de neurona.
1949 −→ Hebb publica la "regla de Hebb" para el aprendizaje.
1958 −→ Rosemblatt desarrolla el perceptrón simple.
1960 −→ Widrow y Hoff desarrollan ADALINE (ADAptative
LINear Elements).
1960-1980 −→ se frena la investigación, al probar la debilidad
del perceptrón, Minsky y Papert.
Años 80 −→ aparecen redes de Hopﬁeld y el algoritmo
backpropagation.
Actualidad −→ uso en gran variedad de aplicaciones y áreas
de conocimiento.
Recientemente aparecen modelos computacionales más
similares a como el cerebro procesa la información
(Neurociencia).

Neurona
La neurona es la unidad de proceso más pequeña que
compone las redes neuronales.
Está formada por:
Las entradas (xij ), símil biológico dentritas.
Procesado de la información, símil biológico soma.
La salida (yi ), símil biológico axón.
Neurona Biológica Neurona Artiﬁcial

Tipos de Redes Neuronales (I)
Gran variedad de tipos.
Se usan diferentes parámetros para su clasiﬁcación.
1- Según la operación:
Neuronas Lineales
Neuronas No Lineales, típicamente se usa la función
sigmoidal.
x
ϕ(x)
x
ϕ(x)
x
ϕ(x)
Lineal Sinusoidal Sigmoidal

Tipos de Redes Neuronales (II)
2- Según la arquitectura.
Monocapa, una única capa de neuronas.
Multicapa, más de una capa de neuronas.
N3
N2
N1
Capa de
salida
Capa de
entrada
x3
x2
x1 y1
y2
y3 N3
N2
N1
Capa
oculta
N5
N4
Capa de
salida
Capa de
entrada
x3
x2
x1
y1
y2
Monocapa Multicapa

Tipos de Redes Neuronales (III)
3- Según la dirección del ﬂujo de información.
Feedforward, la información va en una única dirección
desde la entrada a la salida.
Feedback, la información se realimenta dentro de la red
neuronal.
N3
N2
N1
Capa
oculta
N5
N4
Capa de
salida
Capa de
entrada
x3
x2
x1
y1
y2
N1 N2
w12w21
w11 w22
y1 y2
x1 x2θ1 θ2
N1 N2
Feedforward Feedback

Tipos de Redes Neuronales (IV)
Existen muchos criterios distintos de clasiﬁcación.
Grado de conexión, total o parcialmente conectadas.
Tiempo, continuo o discreto.
Aprendizaje, supervisado o no supervisado.
etcétera.
Gran diversidad de redes neuronales.
Diﬁculta su diseño.

Diseño de Redes Neuronales
No existe ningún criterio especíﬁco.
Arquitectura muy relacionada con la aplicación.
Algunos consejos generales:
Función de activación más usada: sigmoide → no
linealidad.
Arquitecturas más usadas: Perceptrón Multicapa y Redes
Recurrentes.
Generalmente arquitectura piramidal.
Utilizar de 1 a 3 capas ocultas.
Capa: no
neuronas ≤ no
de entradas.
Probar diferentes combinaciones de capas y neuronas
hasta obtener mejor resultado.
Elegir el entrenamiento cuidosa y adecuadamente.

Perceptrón Multicapa (I)
Es una de las arquitecturas más usadas.
Total o parcialmente conectada.
Consiste en tres o más o capas con funciones de
activación no lineales.
Capa de entrada: se introduce la información, no suele
haber procesamiento.
Capas ocultas: procesa la información introducida.
Capas de salida: se obtiene la respuesta del sistema.
N3
N2
N1
Capa
oculta
N5
N4
Capa de
salida
Capa de
entrada
x3
x2
x1
y1
y2

Perceptrón Multicapa (II)
Permiten representar estadísticos de mayor orden.
Utilizadas en diversas aplicaciones por su fácil
implementación:
Resolución de problemas no lineales.
Compresión de datos.
Clasiﬁcación de patrones.
Robótica.
etc.

Redes Neuronales Recurrentes (I)
Más cerca a la representación
del cerebro.
Son utilizadas por sus
propiedades dinámicas.
La información es realimentada
de nuevo en la red.
Aparece un comportamiento
temporal dinámico.
No existe una estructura ﬁja.
El estado interno es almacenado
para su uso en k + 1.
Presentan una memoria interna.
NN
N2
N1
z−1
z−1
z−1
yN [k + 1]
y[k]
θ
x[k]

Redes Neuronales Recurrentes (II)
Existen muchas implementaciones de estas redes.
Se utilizan en diversas aplicaciones:
Predicción de series temporales.
Machine learning.
Robótica.
Computational Neuroscience (CPG).
etc.

Entrenamiento de Redes Neuronales
Consiste en buscar los parámetros libres de la red.
Existen diversos tipos de entrenamientos, tales como:
Sintonización manual, tamaños de red pequeños.
Algoritmos de aprendizaje, son los más utilizados,
algoritmos de búsqueda local.
Algoritmos genéticos, son algoritmos de búsqueda
global.
etc.

Algoritmos de aprendizaje (I): Tipos
Actualizan los pesos de la red en función del error
cometido.
Existen 4 tipos en función de como cuantiﬁcar el error:
Supervisado, el error se cuantiﬁca en base a un objetivo
que actualiza el estado interno de la red.
No supervisado o autoorganizado, estima una función
densidad de probabilidad con reglas mediante las que
agrupa su salidas.
Híbrido, es una combinación de los dos anteriores, se
utiliza una función de mejora.
Reforzado, el error es un índice global del rendimiento de
la red, no esta basado en un objetivo.
Los algoritmos de aprendizaje más utilizado son
supervisados.
Backpropagation es un algoritmo de descenso del
gradiente, se ejecuta en dos fases.

Algoritmos de aprendizaje (II): Clasificación
Modelos de redes neuronales artificiales
Supervisado No supervisado
Realimentados Unidireccionales
BSB Perceptrón
Fuzzy Cog. Map Adalina/Madalina
BP through time Perceptrón Multicapa
Back Propagation (BP)
Time-delay NN
CMAC
Correlación en cascada
Máquina de Boltzman
LVQ
GRNN
Support Vector Machine
Realimentados Unidireccionales
ART LAM y OLAM
Hopfield Mapas de Kohonen
BAM Neocognitrón
Redes PCA
Híbrido Reforzado
RBF Premio-castigo asociativo
Contrapropagación Crítico adaptativo

Algoritmos de aprendizaje (III): Esquema

Problemas durante el entrenamiento
Underfitting: el error del entrenamiento y de prueba son
altos.
Causas: red simple, insuficiente aprendizaje.
Overfitting: el error de entrenamiento es bajo y de prueba
es alto.
Causas: red compleja, no hay suficientes datos para el
entrenamiento.
Mínimos locales: el entrenamiento alcanza un error
mínimo que no es absoluto.
Solución: reinicializar los pesos, utilizar algoritmos de
búsqueda global (genético)

Algoritmo Genético (I): Deﬁniciones
Bioinspirados en procesos evolutivos.
Los algoritmos genéticos son algoritmos de búsqueda
probabilística u optimización que transforman
iterativamente un conjunto de objetos matemáticos
llamado población, cada uno con un valor de coste
(ﬁtness) asociado, en una nueva población de
descendientes usando operaciones genéticas naturales.
Cada población está formada por un conjunto de
individuos, que a su vez están compuestos de una cadena
de caracteres o cromosoma.
A cada carácter del cromosoma se le denomina gen.

Algoritmo Genético (II): Características
Los algoritmos genéticos se caracterizan por:
Trabajar con una codificación del conjunto de parámetros
en una cadena de caracteres de longitud finita sobre un
alfabeto finito (cromosoma).
Utilizar una población de individuos, de esta forma se tiene
una visión del conjunto y no de un sólo punto. Se realiza
una búsqueda en paralelo.
Usar una función objetiva (fitness) o información del coste
asociado a cada individuo y prescindir de cualquier otro
conocimiento; concentrándose en la búsqueda de mejores
individuos.
Usar reglas probabilísticas para las transiciones entre
generaciones.

Algoritmo Genético (II): Operadores
genéticos
Los operadores genéticos para construir el algoritmo genético
más utilizados son:
Reproducción: consiste en copiar a los mejores
individuos, según su coste asociado, de la generación
anterior a la generación siguiente.
Crossover (reproducción sexual): se escoge a dos
individuos de la nueva generación y se cruzan ambos
individuos a partir de un punto del cromosoma.
Mutación: cada gen muta con una probabilidad baja.

Contents
2 Aplicaciones
4 Conclusiones

Contents
2 Aplicaciones
Genéricas

Aplicaciones
Existen multitud de aplicaciones
en las que se usan redes
neuronales.
Clasiﬁcación.
Asociación.
Predicciones.
Control.
Aproximación.
Optimización.
etc.
En general se pueden aplicar a
cualquier problema.
Uso en problemas difíciles de
describir y complejos de resolver.
Hay que disponer de una gran
cantidad de datos.

Clasificación (I)
Extracción de características.
Identificación de diferentes grupos.
Se establecen clases para identificar cada uno de los
grupos.
Ejemplos:

Clasiﬁcación (II)
Función lógica no lineal Clasiﬁcación de un conjunto

Clasiﬁcación (III)
MLP
Espacio clasiﬁcado Representación en el espacio neuronal

Ejemplos clasiﬁcación
Inspección Visual Biometría
Reconocimiento de caracteres Reconocimiento de voz

Problemas de asociación
Tratamiento de voz
NETalk: genera
gonemas a partir de
textos escritos.
Reconocimiento de
palabras en texto.
Tratamiento de imágenes
Tratamiento de ruido.
Restitución.
Compresión de
información.

Predicción
Consiste en anticipar el valor de una determinada serie
temporal.
Se utilizan datos pasados.
Mayor cantidad de datos más preciso es el modelo.
Algunos ejemplos:
Demográﬁca, tiempo atmosférico, ﬁnanzas, energía, etc.

Control
Desarrollo de sistemas de
control.
Utilizados en:
Manipulación de piezas.
Cinemática Inversa y análisis
de Esfuerzos.
Navegación autónoma.
Planeación de trayectorias.
Visión artiﬁcial.
Movimiento de robots.

Optimización
Una red neuronal puede aproximar una función lineal o no
lineal cualquiera.
Los pesos almacenan la información para parecerse a la
función.
MLP: es un aproximador universal de funciones.
En optimización se utilizan para encontrar la mejor
solución.
El camino óptimo entre las diferentes opciones posibles.

Contents
2 Aplicaciones
Genéricas

Problema de la energía (I)

Problema de la energía (II)
Características de la red
eléctrica:
Sistema muy grande
Centralizado
Robusto
Poco eﬁciente −→ muchas
pérdidas
Debe satisfacer la demanda de
manera instantánea.
Poca capacidad de
almacenamiento de energía en el
sistema

Solución
La solución adoptada:
Generación distribuida, origen renovable.
Gestión de la Demanda Eléctrica Local.
Magicbox
Capacidad de controlar los electrodomésticos.
Predicción del recurso energético disponible.

Controlador Neuronal (I): Objetivos
El objetivo del controlador es:
Maximizar el autoconsumo de la energía generada
localmente.
Planiﬁcación de las tareas en el intervalo del usuario.
Coordinación de las tareas planiﬁcadas para que no se
solapen.

Controlador Neuronal (II): Arquitectura

Planificador (I): Características
Posiciona las tareas sobre el
eje temporal maximizando el
autoconsumo.
Las entradas son:
Intervalo de ejecución de la
tarea.
Perfil fotovoltaico de
potencia predicha.
Formado por tantas redes
neuronales como tareas a
planificar.
Naturaleza distribuida.

Planiﬁcador (II): Ejemplo

Planiﬁcador (III): Arquitectura Neuronal
Estructura estática
Cada una de las redes neuronales
estará formada por:
26 neuronas en la capa de
entrada.
13 neuronas en la capa oculta.
1 neurona en la capa de salida.

Planiﬁcador (IV): Algoritmo Genético
El cromosoma contiene ganancias, pesos y sesgos de la
red neuronal (391 genes).
El algoritmo se compone de:
10.000 generaciones.
100 individuos por generación.
Operadores genéticos básicos.
Función de ﬁtness: compara el tiempo de salida de la red
con el tiempo de máxima generación en el intervalo dado.

Planificador (V): Evolución
Se ha realizado una evolución con:
142 perfiles fotovoltaicos.
Restricciones temporales de 4 horas desplazados 2 horas a lo largo del
día.
Intervalo de restricción único.
La evolución por tramos:
No
perfiles Intervalo temporal Mejor coste Generaciones
10 4 horas 0,9091740680 2189
30 4 horas 0,9172684079 996
50 4 horas 0,9027720441 287
90 4 horas 0,8171219180 2189
142 4 horas 0,7026183810 847
142 24 horas 0,9060620785 700

Planificador (VI): Evolución
10 perfiles / 4 horas 30 perfiles / 4 horas 50 perfiles / 4 horas
90 perfiles / 4 horas 142 perfiles / 4 horas 142 perfiles / 24 horas

Planiﬁcador (VII): Resultado de la Evolución
tplan ≃ tmax |tplan − tmax | < 1 hora |tplan − tmax | > 1 hora
Intervalo de 4 horas 96% 3% 1%
Intervalo único 90% 6% 4%

Coordinador (I): Características
Reparte los tiempos
planiﬁcados sobre el eje
temporal para que no solapen
las tareas.
Las entradas al coordinador
se agrupan por pares y son:
Tiempo planiﬁcado.
Duración de la tarea.
Una única red neuronal.
Naturaleza distribuida.

Coordinador (III): Arquitectura Neuronal
Estructura modular.
El número de neuronas de cada
capa depende del número de
tareas.
La red neuronal está formada por:
2 · n neuronas en la capa de
entrada.
n + 1 neuronas en la capa oculta.
n neuronas en la capa de salida.
Se ha ﬁjado el número de tareas a
7.
La modularidad se ha mantenido
con interruptores entre capas.

Coordinador (IV): Algoritmo Genético
Utilizado para la sintonización de la red neuronal.
El cromosoma contiene ganancias, pesos y sesgos de la
red neuronal (197 genes).
El algoritmo se compone de:
10.000 generaciones.
100 individuos por generación.
Operadores genéticos básicos.
Función de ﬁtness:
La separación entre las tareas coordinadas.
La relación entre la entrada y la salida.

Coordinador (V): Evolución
La evolución consiste en evaluar cada uno de los
individuos asignándoles un coste.
Trata de maximizar con respecto a la función de coste.
Se ha realizado una evolución con:
7 tareas.
Tiempo de planiﬁcación varía desde las 10 a.m. a 8 p.m. de
hora en hora.
Duración de cada una de las tareas.
La evolución ha utilizado todas las generaciones
obteniendo un mejor coste de 0,3774463950.

Coordinador (VI): Resultado de la Evolución
En caso de que las tareas no solapen:
Resuelto en el 92 de las situaciones.
En un 3.5 se desvía menos de 10 minutos del intervalo de
restricción del usuario.
En un 1.5 se desvía más de 30 minutos.
En el 3 se produce un solapamiento inferior a 10 minutos.
En caso de no estar solapadas:
En un 95 de los casos se mantienen los tiempos de
entrada.
En un 5 varía el tiempo en menos de 15 minutos.

Coordinador (VII): Resultado de la Evolución
Caso 1: Entrada Caso 1: Salida
Caso 2: Entrada Caso 2: Salida

Resultados (I): Postevaluación
Para la postevaluación del sistema completo se han
utilizado:
El resto de perfiles fotovoltaicos del año (223 perfiles).
Vector de entradas de 3 tareas con 11 intervalos
temporales de 4 horas cada uno.
Los resultados son:
tplan ≃ tmax |tplan − tmax | < 1 hora |tplan − tmax | > 1 hora
Planificación 87 10% 3%
Correcto tu < 10 min tu > 30 min
Coordinación 89 7% 4%
Planificación correcta / Planificación incorrecta /
Coordinación correcta Coordinación incorrecta
Sistema completo 85 15%

Resultados (II): Ejemplo
Datos de entrada por parte del usuario:
Límite de tiempos lavadora 12:00h - 16:00h
Parámetros de lavado Temperatura: 90◦
C, Revoluciones: 1200 rpm
Límite de tiempos secadora 10:00h -19:00h
Parámetros de secado Secado rápido, Revoluciones: 1200 rpm
Límite de tiempos lavavajillas 8:00h - 20:00h
Parámetros de lavado Lavado rápido

Resultados (III): Caso Peor
Entrada Planiﬁcación
Coordinación

Resultados (IV): Caso Mejor
Entrada Planiﬁcación
Coordinación

Contents
2 Aplicaciones
4 Conclusiones

Neurociencia
Ciencia que estudia el sistema
nervioso.
Campo multidisciplinar: biología,
psicología, química, ingeniería,
etc.
Estudian los campos:
Molecular
Celular
Sistemas y circuitos neuronales
Comportamiento
Cognitiva
Carrera por simular el cerebro.

SPAUN
Semantic Pointer Architecture Uniﬁed Network.
Primer sistema de gran escala del cerebro.
2.5 millones de neuronas.
Neuronas tipo Leaky integrate-and-ﬁre (LIF)
Realiza 8 tareas:
reconoce, dibuja, aprende por refuerzo, cuenta, memoriza,
responde preguntas, crea variables y razona
Todas las tareas se ejecutan a la vez.

NEF (I)
Neural Engineering Framework.
Teoría en la que está
implementado SPAUN.
Provee funciones de alto nivel
para usar redes de neuronas LIF.
General, uniﬁcado y cuantitativo.
Basado en tres principios:
Representación
Transformación
Dinámica
Software: Nengo (Python + Java)

NEF (II)
Representación:
Un tren de impulsos neuronales es codiﬁcado en un espacio vectorial.
Transformación:
Se pueden aplicar diferentes funciones sobre el espacio vectorial.
Dinámica:
Los vectores neuronales son variables de estado de un sistema dinámico.
Modelo más realista desde el punto de vista biológico.

Contents
2 Aplicaciones
4 Conclusiones

Conclusiones
Repaso histórico de las RNA.
Tipos de RNA más usados.
Algoritmos de entrenamiento utilizados y cómo utilizarlos.
Aplicaciones generales para las que se utilizan.
Aplicación concreta de MLP y algoritmo genético.
Nuevas tendencias en redes neuronales.
NEF y SPAUN como nuevos horizontes de estudio de
redes neuronales.

Dudas o preguntas

Muchas gracias
Eduardo Matallanas de Ávila
eduardo.matallanas@upm.es
http://www.robolabo.etsit.upm.es/∼matallanas/

IRIN clase 140509

Recomendados

Recomendados

Más contenido relacionado

La actualidad más candente

La actualidad más candente (20)

Destacado

Destacado (20)

Similar a IRIN clase 140509

Similar a IRIN clase 140509 (20)

Último

Último (20)

IRIN clase 140509