Este documento describe las redes neuronales artificiales, incluyendo su estructura, funcionamiento y mecanismos de aprendizaje. Explica que las RNA imitan a las redes neuronales biológicas mediante el uso de capas y que aprenden ajustando los pesos sinápticos a medida que procesan conjuntos de datos.

1. Unidad 1 Repaso de Redes Neuronales Artificiales

2. Es un arreglo masivo de elementos de procesamiento simple llamados neuronas, los cuales poseen un alto grado de interconectividad entre sus elementos, en los que la información puede fluir en cascada o en retroceso. Estos arreglos están inspirados en la naturaleza biológica de las neuronas. ¿ Que Es Una RNA?

3. Red Neuronal Artificial Las redes neuronales artificiales son redes interconectadas masivamente en paralelo y con organización jerárquica, las cuales intentan interactuar con los objetos del mundo real del mismo modo que lo hace el sistema nervioso biológico. Teuvo Kohonen.

4. Estructura Típica De Una Neurona Biológica

5. Una Neurona Biológica Consta De: a). Un Cuerpo Celular, (de 5 a 10 µm de diámetro) b). Una rama principal, el Axón, c). Varias ramas más cortas, las Dendritas.

6. Existen 2 tipos de sinapsis: a). Las sinapsis excitadoras.- Cuyos neurotransmisores provocan disminuciones de potenciales en la membrana de la célula postsináptica, facilitando la generación de impulsos a mayor velocidad.

7. b). Las sinapsis inhibidoras.- Cuyos neurotransmisores tienden a estabilizar el potencial de la membrana, dificultando la emisión de impulsos.

8. La suma de los efectos excitadores e inhibidores determina si la célula será o no estimulada; Es decir, si emitirá o no un tren de pulsos, así como su velocidad.

9. Similitud directa entre actividad sináptica y la analogía con las RNA 1. Las señales que llegan a la sinapsis son las entradas a la neurona. 2. Dichas señales son ponderadas (atenuadas o modificadas) a través de un parámetro, denominado PESO , asociado a la sinapsis correspondiente.

10. 3. Las señales pueden excitar a la neurona (sinapsis con peso positivo) o inhibirla (peso negativo). 4. El efecto es la suma de las entradas ponderadas.

11. 5. Si la suma es igual o mayor que el umbral de la neurona, entonces la neurona se activa. 6. Cada neurona se activa o no se activa.

12. ¿Como se relaciona una RNA con un sistema neuronal Biológico? Las redes neuronales tratan de imitar a los sistemas neuronales. Esto se realiza a través del uso de capas . Las capas son niveles diferentes dentro de una red neuronal donde la información entra , se procesa , y sale .

13. Capas en una RNA.

14. Para realizar esto se requieren por lo menos tres capas. La primera capa se conoce como capa de entrada . Esta capa es la que recibe la información en el sistema.

15. Dicha información es procesada y finalmente entregada por la capa de salida. Entonces la capa de salida se puede considerar como la respuesta. Entre la capa de entrada y la capa de salida se encuentran n capas ocultas.

16. Niveles o capas de neuronas

17. Un modelo matemático simple de la neurona biológica es el propuesto por McCulloch y Pitts (en 1943).

18. En este modelo, el i-esimo (ith) elemento de procesamiento calcula una suma de ponderaciones (pesos) de sus entradas, y La salida será y i = 1 (se dispara) ó y i = 0 (si no se dispara) siempre y cuando la suma de las entradas ponderadas (pesos) este por arriba o por debajo de un cierto umbral  i .

19. Donde la función de activación a(f) es una función escalón unitaria:

20. Por lo anterior, el primer trabajo en tratar al cerebro como un organismo computacional fue el trabajo de McCulloch y Pitts (M-P). La teoría de M-P se basa en cinco suposiciones: 1.- La actividad de una neurona es un proceso TODO-NADA .

21. Lo cual indica que las neuronas son binarias (on-off). 2.- Es preciso que un número fijo de sinapsis (>1) sea excitado, dentro de un cierto período de adición para que se excite una neurona. 3.- El único retraso significativo dentro del sistema nervioso es el retardo sináptico.

22. 4.- La activación de cualquier sinapsis inhibitoria impide por completo la excitación de la neurona en ese momento. 5.- La estructura de la red de interconexiones no cambia con el transcurso del tiempo.

23. w ij representa la fuerza de la sinapsis ( conocida como la conexión o eslabón ) que conecta a la neurona j ( fuente ) a la neurona i ( destino ). Una ponderación positiva corresponde a una excitación sináptica. Una ponderación negativa corresponde a una inhibición sináptica. Si w ij = 0, no hay conexión entre las dos neuronas.

24. ¿Como trabaja una RNA? Primeramente, todos los datos son procesados de acuerdo a un PESO asociado. Como resultado, un valor de salida es calculado. Los pesos usados son asignados en base a la importancia y a la contribución en el proceso.

25. La red neuronal es programada con niveles de umbral para cada uno de los cálculos que se realizan en la capa oculta. Si el valor de salida está por arriba del umbral, entonces la salida es llevada a la próxima capa a través de una neurona. Este proceso se repite hasta que se alcanza la salida deseada.

26. ¿Cómo aprende la red neuronal? El sistema aprende al correr conjuntos de datos a través de la red. Debido a que conjuntos de datos están corriendo a través del sistema, el sistema puede ajustar los pesos al comparar sus resultados parciales con el resultado final.

27. Después de que se corrieron un gran número de muestras, un peso aleatoriamente seleccionado se puede ajustar y/o sintonizar para representar el peso exacto. Al aprender como se repiten patrones y secuencias, entonces la red podrá realizar predicciones exactas cuando datos con resultados desconocidos sean procesados.

28. Modelado de Redes Neuronales Artificiales

29. Notación y modelo de una neurona La representación de una neurona artificial, así como las funciones de transferencia que se visualizarán en este objetivo son tomadas del modelo de simulación de RNA presentado en el programa de MATLAB.

30. Neurona de una entrada y Funciones de transferencia Entrada neurona con umbral w n a p b = 1

31. Funciones de transferencia Esta función se utiliza en el Perceptron para crear neuronas las cuales toman decisiones de clasificación. Cuando este tipo de función ( hardlim ) toma en cuenta un cierto umbral su salida se incrementará de 0 a 1 cuando p exceda un valor dado por -b/w .

32. Funciones de transferencia Este tipo de funciones se usan como aproximadores lineales ( Neural Linear ).

33. Funciones de transferencia Comúnmente esta función se utiliza en las redes de retropropagación (backpropagation). El umbral puede ser constante o puede cambiar como en el caso de la ponderación con una regla apropiada de aprendizaje. El umbral se puede ajustar durante el entrenamiento.

34. Neurona de Múltiples Entradas

35. Notación usada en diagramas de múltiples entradas En la figura se presenta un diagrama de una neurona con R entradas

36. A RQUITECTURAS DE RNA Red neuronal con una Capa de neuronas Dos o más neuronas pueden ser combinadas en una capa. Una red puede contener una o más capas. A continuación se presenta una red con una capa que contiene R entradas y S neuronas:

37. Cada elemento del vector de entrada p esta conectado a cada neurona a través de la matriz de ponderaciones W. (R  S).

38. Los elementos del vector de entrada entran a la red a través de la matriz de ponderaciones W como se expresa a continuación:

39. p es un vector de entrada de longitud R , W es una matriz SxR y, a y b son vectores de longitud S . Una capa neuronal incluye la matriz de ponderaciones, las operaciones de multiplicación, el vector de umbral b, el sumador, y la función de transferencia.

40. Arquitectura De Redes Neuronales Los parámetros fundamentales de la red son: Número de capas Número de neuronas por capa Grado de conectividad Tipo de conexiones entre neuronas

41. Red neuronal de Múltiples Capas

42. Red neuronal con varias capa de neuronas (forma condensada)

43. Redes Monocapa: l 1 l n l 2 Las redes monocapa se utilizan típicamente en en tareas relacionadas en lo que se conoce como autoasociación: por ejemplo, para regenerar informaciones de entrada que se presentan a la red incompletas o distorsionadas . P/ejemplo Hopfield, BSB, Learnig Matrix

44. Redes Multicapa: Redes con conexiones hacia delante (feedforward) Este tipo de redes son especialmente útiles en aplicaciones de reconocimiento o clasificación de patrones. En este tipo de redes, todas las señales neuronales se propagan hacia adelante a través de las capas de la red. No existen conexiones hacia atrás y normal- mente tampoco autorrecurrentes, ni laterales.

45. Redes con conexiones hacia adelante y hacia atrás (feedforward / feedback): En este tipo de redes circula información tanto hacia adelante como hacia atrás durante el funcionamiento de la red. Para que esto sea posible, existen conexiones feedforward y conexiones feedback entre las neuronas. P/ ejemplo: ART, BAM, CABAM.

46. Redes Con Conexiones Hacia Adelante Y Hacia Atrás (feedforward / Feedback) También existen algunas que tienen conexiones laterales entre neuronas de la misma capa. Estas conexiones se diseñan como excitadores (con peso positivo) o inhibidoras (con peso negativo), estableciendose una competencia entre las neuronas correspondientes.

47. Red neuronal de tipo feedforward .

48. Red neuronal de tipo feedforward .

49. Conexiones con propagación hacia atrás en RNA

50. Red neuronal de tipo recurrente

51. ... La retroalimentación de la salida a la entrada le permite a la red recurrente exhibir un comportamiento temporal. Por lo anterior, la salida de la red recurrente puede presentar un comportamiento oscilatorio o converger.

52. ... Comúnmente, la red recurrente sé alimenta con un vector de entrada inicial. Y una vez inicializada, en cada ciclo, las salidas de la red son usadas como entradas. Ejemplos de este tipo de red son: las redes Elman y las redes de Hopfield.

53. MECANISMOS DE APRENDIZAJE (ajuste de pesos de interconexión) En los modelos de RNA, la creación de una nueva conexión implica que el peso de la misma pasa a tener un valor distinto de cero. De la misma forma, una conexión se destruye cuando su peso pasa a ser cero.

54. ¿Qué son las reglas de aprendizaje en RNA? La regla de aprendizaje de una red son criterios que se siguen para cambiar el valor asignado a las conexiones (o sea cómo se modifican los valores de los pesos). Existen dos tipos de reglas de aprendizaje: 1) El aprendizaje supervisado, y 2) El aprendizaje no supervisado.

55. Clasificación de RNA según el aprendizaje que observan Redes neuronales que utilizan OFF LINE .- (desconexión de la red) Cuando el aprendizaje es OFF LINE se distingue entre una fase de aprendizaje y una fase de operación , existiendo un conjunto de datos de entrenamiento y un conjunto de datos de prueba que serán utilizados en la correspondiente fase.

56. ... En las redes con aprendizaje OFF LINE, los PESOS de las conexiones permanecen fijos después de que termina la etapa de entrenamiento de la red. Debido a que las redes de tipo OFF LINE presentan un carácter estático, estos sistemas no presentan problemas de estabilidad en su funcionamiento.

57. ... Redes con aprendizaje ON LINE .- en estas redes no se distingue entre la fase de entrenamiento y de operación, de tal forma que los PESOS varían dinámicamente siempre que se presente una nueva información al sistema . En las redes ON LINE debido al carácter dinámico de la misma, es importante el estudio de la estabilidad de la red.

58. Redes con aprendizaje supervisado Tipos de aprendizajes supervisados: Aprendizaje por corrección de error. Aprendizaje por refuerzo. Aprendizaje estocástico.

59. El Aprendizaje Por Corrección De Error Este aprendizaje consiste en ajustar los pesos de las conexiones de la red en función de la diferencia entre los valores deseados y los obtenidos en la salida de la red. Ejemplos: La regla de aprendizaje del Perceptron; regla delta o regla del mínimo error cuadrado o regla de Widrow-Hoff, ADALINE y MADALINE.

60. Aprendizaje Por Reforzamiento

61. Aprendizaje por Reforzamiento Se basa en la idea de no disponer de un ejemplo completo del comportamiento deseado, es decir, la función del supervisor se reduce a indicar mediante una señal de refuerzo si la salida de la red se ajusta a la deseada (éxito=1, fracaso=-1) y en función de ello se ajustan los pesos basándose en un mecanismo de probabilidades.

62. Algoritmos de Aprendizaje por Refuerzo Algoritmo Lineal con Recompensa y penalización (Linear Reward - Penalty), Narendra /Thathacher. Algoritmo Asociativo con recompensa y penalización (Barto / Anandan). Adaptive Heuristic Critic (Barto, Sutton, Anderson).

63. El aprendizaje estocástico Consiste básicamente en realizar cambios aleatorios en los valores de los pesos de las conexiones de la red y evaluar su efecto a partir del objetivo deseado y de las distribuciones de probabilidad Ejemplo: la red Maquina de Cauchy

64. Ejemplos de algoritmos de Aprendizaje Estocástico Maquina de Boltzmann (Hinton, Ackley, Sejnowky). Temple Simulado (Simulated Anneling). Maquina de Cauchy (Szu)

65. Redes con aprendizaje no supervisado Tipos de algoritmos de aprendizaje no supervisado: Aprendizaje Hebbiano. Aprendizaje competitivo y cooperativo.

66. El aprendizaje Hebbiano Se basa en el siguiente postulado: "Cuando un axón de una celda A está suficientemente cerca como para conseguir excitar una celda B y repetida o persistentemente toma parte en su activación, algún proceso de crecimiento o cambio metabólico tiene lugar en una o ambas celdas, de tal forma que la eficiencia de A , cuando la celda a activar es B , aumenta”.

67. ... Ejemplos: Red de Hopfield; Red Additive Grossberg; Red Shunting Grossberg; Red feedforward/feedback de 2 capas = Bidirectional Associative memory, BAM

68. Aprendizaje competitivo y cooperativo En este aprendizaje las neuronas compiten ( y cooperan ) unas con otras con el fin de llevar a cabo una tarea dada. El objetivo de este aprendizaje es categorizar (agrupar) los datos que se introducen en la red.

69. ... Ejemplo: Cuantización del Vector de Aprendizaje o LVQ, Aplicado a redes feedforward de dos capas.

70. ... Dentro del aprendizaje competitivo existe la teoría de la resonancia adaptativa, utilizada en la red feedforward/feedback de dos capas conocida como ART (1 trabaja con información binaria y 2 trabaja con información analógica).

71. Ejemplos De Redes Con Aprendizaje Competitivo Y Cooperativo . LVQ (Learning vector quantization) Kohonen. Cognitron y Neocognitron (Fukushima). SOM (Kohonen). ART (Carpenter y Grossberg).

72. Ejemplos de Redes con Aprendizaje Competitivo y Cooperativo LVQ ART

73. La salida de la red se calcula mediante: Modelo y Arquitectura de un Perceptron

74. Red Perceptron

75. La matriz de pesos de la red es:

76. Se definirá un vector compuesto de los elementos de la i th fila de W :

77. Ahora se puede particionar la matriz de pesos:

78. Esto permitirá escribir el i th elemento del vector de salida de la red como:

79. Recordando que la función de transferencia hardlim se define como: a n=Wp+b n

80. Unificación de la regla de aprendizaje

81. El umbral es un peso con una entrada de 1.

82. Perceptron de Múltiples-Neuronas Para actualizar la ith fila de la matriz de pesos: En forma de Matriz:

83. Capacidad de la regla de aprendizaje del Perceptron La regla del Perceptron siempre convergirá a los pesos que cumplan con la clasificación deseada, asumiendo que tales pesos existan. NOTA: Recordar que la longitud del vector de pesos no es importante, lo único importante es su dirección.

84. Limitaciones del Perceptron Frontera de decisión lineal Problemas linealmente No separables

85. UNIDAD VI Redes de propagación hacia delante y aprendizaje supervisado RED ADALINE Adaline simple. Algoritmo LMS .

86. Introducción A finales de los 50’s bernard widrow empezaba a trabajar en redes neuronales, en el tiempo en el que frank rosenblatt desarrollo la regla de aprendizaje del perceptron.

87. En 1960 Widrow y su asesorado Marcian Hoff, presentaron la red ADALINE (adaptive linear neuron), y una regla de aprendizaje la cual denominaron algoritmo LMS (least mean square). Introducción

88. La red ADALINE es muy similar al perceptron, excepto que su función de transferencia es linear, en vez de escalón. Tanto el ADALINE como el Perceptrón sufren de la misma limitación: solo pueden resolver problemas linealmente separables. Introducción

89. El algoritmo LMS es más poderoso que la regla de aprendizaje del Perceptrón. La regla del Perceptrón garantiza la convergencia a una solución que categoriza correctamente el patrón de entrenamiento, pero la red resultante puede ser sensible al ruido ya que frecuentemente el modelo cae cerca de la frontera de decisión. Diferencias Entre La Regla Del Perceptron Y El Algoritmo LMS

90. Diferencias entre . . . El algoritmo LMS minimiza el error medio cuadrático, y por consiguiente trata de mover la frontera de decisión tan lejos como sea posible del modelo de entrenamiento. El algoritmo LMS ha encontrado muchos más usos que la regla de aprendizaje del Perceptrón. En esencia en el área del procesamiento digital de señales.

91. Diferencias entre . . . PERCEPTRON ADALINE Función de Transferencia ESCALON LINEAL Resolución de problemas Linealmente Separables Linealmente Separables Comportamiento con respecto al RUIDO Sensible al Ruido Minimiza el Ruido Algoritmo de aprendizaje Regla de aprendizaje Del Perceptron LMS

92. Red ADALINE a p u r e l i n W p b +   W p b + = = a i p u r e l i n n i   p u r e l i n w T i p b i +   w T i p b i + = = =  w i w i 1  w i 2  w i R  =

93. ADALINE de dos entradas a p u r e l i n n   p u r e l i n w T 1 p b +   w T 1 p b + = = = a w T 1 p b + w 1 1  p 1 w 1 2  p 2 b + + = =

94. Mínimo Error Cuadrático p 1 t 1 { , } p 2 t 2 { , }  p Q t Q { , }    Conjunto Entrenamiento: p q t q Entrada: Objetivo: x w 1 b = z p 1 = a w T 1 p b + = a x T z = F x   E e 2   = E t a –   2   E t x T z –   2   = = Notación: Mean Square Error: Donde: E es un valor esperado

95. Ecuaciones Importantes en el Algoritmo LMS W k 1 +   W k   2  e k   p T k   + = b k 1 +   b k   2  e k   + = En forma de Matriz: Donde:  es el parámetro de aprendizaje máximo w i k 1 +   w i k   2  e i k   p k   + = b i k 1 +   b i k   2  e i k   + =

96. Condiciones para la Estabilidad e i g I 2  R –     1 2   i – 1  = Resumiendo, las condiciones de estabilidad son:  i 0  Ya que , 1 2   i – 1  .  1   i para toda i  0  1  m a x    (donde  i es un eigenvalor de R ) 1 2   i – 1 – 

97. Modelo de una neurona lineal en MATLAB p(1) p(2) p(3) p(R) W(1,1) W(1,R) 1 b n a  a = purelin(w*p+b) a = w*p+b 0 0 1 -1 a a b/w b/w p n a = purelin(n)

98. Regla de Aprendizaje en ADALINE · ADALINE utiliza un aprendizaje OFF LINE con supervisión. · Este aprendizaje es la llamada Regla de Widrow-Hoff ( Regla Delta o Regla del Mínimo Error Cuadrático Medio LMS Least Mean Square)

99. Regla de Widrow-Hoff Consiste en hallar el vector de pesos W deseado, único, que deberá asociar cada vector de entrada con su correspondiente valor de salida correcto o deseado. La regla minimiza el error cuadrático medio definido como: donde: es la función de error R R R a t       p R R R p 1 2 2 1  

100. Esta función de error está definida en el espacio de pesos multidimensional para un conjunto de entradas, y la regla de Widrow-Hoff busca el punto de este espacio donde se encuentra el mínimo global. Con función de activación lineal Con función de activación sigmoidal

101. Se utiliza el método de gradiente decreciente para saber en qué dirección se encuentra el mínimo global de dicha superficie. Las modificaciones que se realizan a los pesos son proporcionales al gradiente decreciente de la función de error, por lo que cada nuevo punto calculado está más próximo al punto mínimo.             j R j w lr w 2 

102. a) ADALINE b) PERCEPTRÓN

103. La regla de Widrow-Hoff es implementada realizando cambios a los pesos en la dirección opuesta en la que el error está incrementando y absorbiendo la constante -2 en lr . En forma de matriz: Transformando a la expresión del bias (considerando que el bias son pesos con entradas de 1): ) ( ) ( ) , ( j p j e lr j i W     T Ep lr W    E lr b   

104. Algoritmo de aprendizaje en ADALINE 1. Se aplica un vector o patrón de entrada P R en las entradas del ADALINE. 2. Se obtiene la salida lineal a R = WP R y se calcula la diferencia con respecto a la salida deseada: E R =T R -a R 3. Se actualizan los pesos: W( t+1 ) = W(t) + lrE R P R 4. Se repiten los pasos 1 al 3 con todos los vectores de entrada. 5. Si el error cuadrático medio es un valor reducido aceptable, termina el proceso de aprendizaje, sino, se repite otra vez desde el paso 1 con todos los patrones.

105. ENTRENAMIENTO ADALINE Ya se explicó la regla de aprendizaje usada para las redes neuronales Adaline, conocida como de Widrow-Hoff, que se aplica sobre un patrón de entrada determinado El entrenamiento de la red consiste en la aplicación consecutiva de la regla de aprendizaje para un patrón completo de entrenamiento

106. ENTRENAMIENTO ADALINE El entrenamiento comprende la aplicación de la regla de Widrow-Hoff (determinación de las diferencias en los pesos), actualización de los pesos y determinación del error. Este proceso se realiza por medio de la aplicación de la entrada a la red, para un patrón completo de entrenamiento, o un vector de entrada

107. ENTRENAMIENTO ADALINE Sin embargo, si se procede por medio de las funciones anteriores, es necesario realizar un número de repeticiones suficiente para hacer que el error calculado sea igual a cero a través de la aplicación de la regla W-H para un patrón completo de entrenamiento

108. Ejercicio:  1 1.0  2 0.0  3 2.0 =  =  = R E p p T   1 2 - - - p 1 p 1 T 1 2 - - - p 2 p 2 T + = = R 1 2 - - - 1 – 1 1 – 1 – 1 1 – 1 2 - - - 1 1 1 – 1 1 1 – + 1 0 0 0 1 1 – 0 1 – 1 = =  1  m a x - - - - - - - - - - - -  1 2.0 - - - - - - - 0.5 = = p 1 1 – 1 1 – t 1  1 – = =           p 2 1 1 1 – t 2  1 = =           Plátano Manzana

109. Iteración: 1 e 0   t 0   a 0   t 1 a 0   1 – 0 1 – = – = – = – = W 1   W 0   2  e 0   p T 0   + = W 1   0 0 0 2 0.2   1 –   1 – 1 1 – T 0.4 0.4 – 0.4 = + = a 0   W 0   p 0   W 0   p 1 0 0 0 1 – 1 1 – 0 = = = = Plátano

110. Iteración: 2 Manzana a 1   W 1   p 1   W 1   p 2 0.4 0.4 – 0.4 1 1 1 – 0.4 – = = = = e 1   t 1   a 1   t 2 a 1   1 0.4 –   1.4 = – = – = – = W 2   0.4 0.4 – 0.4 2 0.2   1.4   1 1 1 – T 0.96 0.16 0.16 – = + =

111. Iteración: 3 e 2   t 2   a 2   t 1 a 2   1 – 0.64 –   0.36 – = – = – = – = W 3   W 2   2  e 2   p T 2   + 1.1040 0.0160 0.0160 – = = W    1 0 0 = a 2   W 2   p 2   W 2   p 1 0.96 0.16 0.16 – 1 – 1 1 – 0.64 – = = = =