El documento describe la arquitectura y funcionamiento del neocognitrón, una red neuronal concebida para el reconocimiento de caracteres escritos a mano. El neocognitrón tiene una estructura jerárquica compuesta de capas S y C. Las capas S buscan características visuales básicas mientras que las capas C combinan dichas características. El aprendizaje se realiza mediante ajuste de pesos sin supervisión entre representantes de cada capa. La red resuelve ambigüedades mediante inhibición lateral y reconoce múltiples
4. Introducción El neocognitrón tiene una estructura jerárquica del neocognitrón. El neocognitrón es un buen ejemplo de la forma en que unos resultados neurobiológicos se pueden emplear para desarrollar una nueva arquitectura de red.
5.
6.
7.
8. Procesamiento de la capa S Para las capas más profundas, en las cuales una célula recibe conexiones de entrada procedentes de todos los planos de la capa C anterior se utiliza la siguiente fórmula: en donde la función está dada por U S l ( k l , n ) = r l · 1 + r l 1 + r l b l ( k l ) · V C l ( n ) a l ( k l -1 , v , k l ) · U C l -1 ( k l -1 , n + v ) k l -1 =1 K l -1 v A l 1 + - 1 [ ] ( x ) = x x 0 0 x < 0 {
9. Procesamiento de la capa S k l = k -ésimo plano del nivel l . n = posición de la célula dentro del plano. v = posición relativa de una célula dentro de la capa anterior que se encuentre en el campo receptivo de n . U C l -1 ( k l -1 , n + v ) = Entradas excitatorias. a l ( k l -1 , v , k l ) = Pesos de las entradas excitatorias. V C l ( n ) = Entrada inhibitoria. b l ( k l ) = Peso de la entrada inhibitoria. r l Parámetro de selectividad, 0 r l . Si r l es grande, es más selectiva. Si r l es pequeño, es menos selectiva.
10. Procesamiento de la capa S La salida de los nodos inhibitorios está dada por: donde c l ( v ) es el peso de la conexión que procede de una célula situada en la posición v del campo receptivo de la célula V C , dado por: C( l ) es una constante de normalización: V C l ( n ) = c l ( v ) · U 2 C l -1 ( k l -1 , n + v ) k l -1 =1 K l -1 v A l c l ( v ) = C( l ) 1 a l r ’(v) C( l ) = k l -1 =1 K l -1 v A l a l r ’(v)
11.
12.
13.
14.
15.
16.
17.
18.
19. INHIBICION Y REALIMENTACIÓN AL NEOCOGNITRON El primero error consiste en resolver la ambigüedad para que la red tome una decisión clara. La segunda consiste en hacer que la red reconozca e identifique las dos tramas que están presentes en la retina. Se puede conseguir que la red se decida por una de las dos tramas añadiendo una inhibición lateral entre células vecinas de la capa. Si cada célula inhibe a otras células, entonces las pequeñas diferencias de respuesta se irán amplificando con el paso del tiempo, consiguiendo una célula ganadora.
20. El segundo problema se puede resolver añadiendo vías de realimentación a la red, junto con otros dispositivos, tales como controles de ganancia en las células y condiciones de umbral variables. Se envían señales hacia atrás, en dirección a la retina, a través de otros planos de células, durante el proceso de propagación hacia delante, sólo permanecen activas algunas células c y algunas células s controlando las vías de realimentación de tal manera que las señales de realimentación retrocedan por el mismo camino a través de la red, en dirección a la retina. INHIBICION Y REALIMENTACIÓN AL NEOCOGNITRON
21. INHIBICION Y REALIMENTACIÓN AL NEOCOGNITRON Para hacer que la red reconozca la segunda trama que esta presente en la retina, lo único que se necesita es interrumpir momentáneamente las señales de realimentación. Esta acción da lugar a que disminuya la ganancia de todas las células c activas, como si se fatigasen. Como resultado, pueden responder otras células que estuviesen inactivas anteriormente, y se establecerá una segunda resonancia allí donde sea identificada la segunda trama en la última capa de la red.