Estudio de la función de activación sigmoide

1. Página 1
UNIVERSIDAD DE FUERZAS ARMADAS “ESPE”
DEPARTAMENTO DE ELÉCTRICA Y ELECTRÓNICA
ASIGNATURA: CONTROL INTELIGENTE
Actividad No6. Estudio de la función de activación sigmoide
Fecha: Lunes, 21 de Abril del 2014.
Nombre alumno: Evelyn Gabriela Lema Vinueza.
NRC: 2055.
1. Demuestre que la derivada de la función de activación sigmoide f’(x)=αf(x)(1-f(x))
2. Considere una neurona con una sola entrada con función de activación sigmoide α=1. Grafique la
función out/in para los siguientes casos: a) w0=0; w1=1; b) w0=0; w1=-1; c ) w0=0; w1 valores
desde -1 a 2 en pasos de 1.
-5 -4 -3 -2 -1 0 1 2 3 4 5
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
EJE X
EJEY
w1=1
(
(
(
(
(
(
(
(
( ( ) ( )
Utilizando un cambio de variable en que:
Derivando parcialmente este último término en función de “h”:
Utilizando estas expresiones, tenemos:
Separando esta expresión, tenemos:
Por lo tanto se cumple que:
(
( ( ( )

2. Página 2
3. Considere una neurona con una sola entrada con función de activación sigmoide α=1. Grafique la
función out/in para los siguientes casos: a) w1=1; w0=-3, 0, 4 b) w1=0.3; w0 = -3, 0, 4. Encuentre
los puntos de frontera para las tres curvas en cada caso (el punto de frontera es aquel valor de in
tal que w0+w1*in=0)
-5 -4 -3 -2 -1 0 1 2 3 4 5
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
EJE X
EJEY
w1=-1
-5 -4 -3 -2 -1 0 1 2 3 4 5
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
EJE X
EJEY
w0=4
w0=0
w0=-3
Punto de frontera
 Para es:
 Para es:
 Para es:

3. Página 3
4. Resuma los efectos combinados que produce el ajuste de los pesos w0 y w1 durante el
aprendizaje
5. Demuestre que la red neuronal de tres neuronas con los pesos indicados en el libro de
referencia reproducen la función de pulso cuadrado.
Los efectos combinados que produce el ajuste de los pesos w0 y w1 se resumen en las siguientes
conclusiones:
Durante el aprendizaje al ajustar el peso w1 se controla la pendiente, si es un valor positivo la pendiente
será positiva caso contrario si es negativo la pendiente también lo será y en el caso que w1 es igual a cero
la pendiente es igual a cero.
En cambio al ajustar el peso w0 este controlara la posición horizontal es decir los puntos de frontera si
toma valores negativos el punto de frontera se desplazara a la derecha y si toma valores positivos por el
contrario a la izquierda y si es igual a cero el punto de frontera estará en el origen.
Básicamente w0 y w1 alteraran la posición y la forma, respectivamente, de la función logística con
respecto a las entradas, y el aprendizaje consiste en encontrar los correctos pesos w0 y w1
apropiadamente de forma incremental.
En conclusión se resume que el efecto global de w1 está dado por su magnitud (la pendiente de la curva)
y su signo (dirección de la pendiente); mientras que el efecto de ajustar w0 durante el aprendizaje es para
controlar la posición horizontal de la curva.
-15 -10 -5 0 5 10 15
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
EJE Y
EJEY
w0=4
w0=0
w0=-3
Punto de frontera
 Para es:
 Para es:
 Para es:
Se tiene la siguiente función de pulso cuadrado:

4. Página 4
La red neuronal de tres neuronas con los pesos indicados en el libro es decir:
Figura 2
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1
0.25
0.3
0.35
0.4
0.45
0.5
0.55
0.6
0.65
0.7
0.75
Eje X
t a01=20.8
 a02=47.6
 a11=-69
 a12=-68
 b0=0.25
 b1=-0.5
 b2=0.5
Al ejecutarse este código se obtuvo como
resultado la siguiente figura 1:
Figura 1
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1
0.25
0.3
0.35
0.4
0.45
0.5
0.55
0.6
0.65
0.7
0.75
x
t
Se puede constatar que una red neuronal de tres neuronas con los pesos indicados puede reproducir a la función de
pulso cuadrado anteriormente dada como se puede ver en la figura 1, para obtención de la función pulso cuadrado
se ha utilizado la función de activación sigmoide en este caso usando la función harlimn se asemeja más dicha
función en este caso figura 2.

5. Página 5
2. Código del Programa:
in=-5:.05:5;
in0=1;
%Pesos
w0=0;
w1=1;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out)
xlabel('EJE X') ;
ylabel('EJE Y') ;
in=-5:.05:5;
in0=1;
%Pesos
w0=0;
w1=-1;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out)
xlabel('EJE X') ;
ylabel('EJE Y') ;
in=-5:.05:5;
in0=1;
w0=0;
w1=-1;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out)
hold on
w1=0;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out)
w1=1;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out)
w1=2;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out)
hold off
3.Código del Programa:
in=-5:.05:5;
in0=1;
w0=-3;
w1=1;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out)
hold on
w0=0;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out)
w0=4;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out)
hold off
in=-15:.05:15;
in0=1;
w0=-3;
w1=0.3;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out)
xlabel('EJE X') ;
-5 -4 -3 -2 -1 0 1 2 3 4 5
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
EJE X
EJEY
w1=1
-5 -4 -3 -2 -1 0 1 2 3 4 5
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
EJE X
EJEY
w1=-1
-5 -4 -3 -2 -1 0 1 2 3 4 5
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
EJE X
EJEY
w0=4
w0=0
w0=-3

6. Página 6
xlabel('EJE Y') ;
hold on
w0=0;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out)
w0=4;
x=in*w1+in0*w0;
out=1./(1+exp(-x));
plot(in,out)
hold off
5. Código del Programa: x=0:0.01:1;
a01=20.8;
a02=47.6;
a11=-69;
a12=-68;
b0=0.25;
b1=-0.5;
b2=0.5;
net1=a11*x+a01;
net2=a02+a12*x;
out1= 1./(1+exp(-net1));
out2= 1./(1+exp(-net2));
net=b0+b1*out1+b2*out2;
out= 1./(1+exp(-net));
plot(x,net)
Yo Evelyn Gabriela Lema Vinueza afirmo que esta actividad es de mi autoría y establezco que
para la elaboración de la misma he seguido los lineamientos del Código de Ética de la
Universidad de las Fuerzas Armadas ESPE
-15 -10 -5 0 5 10 15
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
EJE Y
EJEY
w0=4
w0=0
w0=-3
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1
0.25
0.3
0.35
0.4
0.45
0.5
0.55
0.6
0.65
0.7
0.75
x
t