El documento describe el método del gradiente (ascenso y descenso máximos) para la optimización de funciones. El método genera vectores de dirección basados en el gradiente de la función objetivo y encuentra el punto óptimo iterativamente moviéndose en la dirección del gradiente. Se provee un ejemplo numérico para ilustrar los pasos del método para minimizar una función de dos variables.

1. TecNM/Instituto Tecnológico de Cd. Madero
MÉTODOS INDIRECTOS
MÉTODO DEL GRADIENTE
(ASCENSO Y DESCENSO MÁXIMOS)
Dr. David Macias Ferrer
Centro de Investigación en Petroquímica
Augustin Louis
Cauchy
(1789 - 1857)

2. MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS
Direcciones de Búsqueda, basada en la relación:  s xk k
f 
1. Para la minimización sk se elige de tal forma que sea igual al negativo del gradiente (f(xk))
2. Para la maximización sk se elige de tal forma que sea igual al gradiente (f(xk))
3. Es recomendable normalizar el vector de dirección sk esto es:
... (6.8)
La relación recurrente es de la forma: 1
x x sk k k k

 
El escalar k puede estar
determinado por:
 
   
x s
s H x s
T k k
Opt k
Tk k k
f
 

   ... (6.5)
La optimización de :  x sk k
f 
 
 
x
s
x
k
k
k
f
f

 


3. Vector Inicial x0
Optimizar f(xk +  sk ), para encontrar k
Generar el vector xk+1
Encontrar el vector de dirección sk
Vector Óptimo xopt
Evaluar la Función Objetivo en xopt, es decir f(xopt )
Solución Óptima f(xopt )
 
 
x
s
x
k
k
k
f
f



|f(xk)|<
1
x x sk k k k

 
MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS
k = k + 1
Sí
No

4. EJEMPLO
Encuentre el vector x que minimice la función      
2 2
1 2 1 2, 2 1 2f x x x x   
Si:  0
2 4x
T

MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS)

5. EJEMPLO
Encuentre el vector x que minimice la función      
2 2
1 2 1 2, 2 1 2f x x x x   
Si:  0
2 4x
T

MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS)

6. EJEMPLO
Encuentre el vector x que minimice la función      
2 2
1 2 1 2, 2 1 2f x x x x   
Si:  0
2 4x
T

Para el punto inicial x0:    0
4 4
T
f x 
Entonces calculando el vector s normalizado tendremos:
 
 
x
s
x
f
f



0
2 2
4
0.7074
0.7074 4
s
 
 
     
 
Por lo tanto:
Aplicando la relación recurrente para k = 0:
1 0 0 0
x x s 
De aquí que:
1
1
1
2
2 0.707
4 0.707
x
x


 
 
Luego entonces:
2 0.707
4 0.707
x 
   
    
   
MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS)

7. CONTINUACIÓN
Optimizando f():
       
2 2 2
2 2 0.707 1 4 0.707 2 6 5.65 1.5f             
Derivando respecto de : 3 5.65
df
d


 
3 5.65 0  Si f’() = 0 entonces:
Sustituyendo en la relación recurrente:
1 0 0 0
x x s 
De aquí que: 0
1.8856 
Luego entonces:
1 2 0.707
1.8856
4 0.707
x
   
    
   
1 0.6666
2.6666
x
 
  
 
MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS)

8. Nótese que:    1 1
0.6666 1.8856x xf f   
Repitiendo este procedimiento 10 veces tenemos los siguientes resultados :
k  x1 x2 f(xk) |f(xk)|
0 1.885618 2.000000 4.000000 6.000000 5.656854
1 0.628539 0.666667 2.666667 0.666667 1.885618
2 0.209513 1.111111 2.222222 0.074074 0.628539
3 0.069838 0.962963 2.074074 0.008230 0.209513
4 0.023279 1.012346 2.024691 0.000914 0.069838
5 0.007760 0.995885 2.008230 0.000102 0.023279
6 0.002587 1.001372 2.002743 0.000011 0.007760
7 0.000862 0.999543 2.000914 0.000001 0.002587
8 0.000287 1.000152 2.000305 0.000000 0.000862
9 0.000096 0.999949 2.000102 0.000000 0.000287
10 0.000032 1.000017 2.000034 0.000000 0.000096
RESÚMEN
MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS)

9. Por lo tanto el vector óptimo que corresponde al extremo mínimo es:
1
2
xopt  
  
 
     
2 2
1 2 1 2, 2 1 2f x x x x   
RESÚMEN
MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS)

10. MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS)

11. MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS)

12. MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS)

13. MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS)

14. MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS)

15. MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS)

16. MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS)

17. MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS)

18. MÉTODO DEL GRADIENTE (ASECENSO Y DESCENSO MÁXIMOS)
BIBLIOGRAFÍA
T.F. Edgar, D.M. Himmelblau, L.S. Lasdon, “Optimization of Chemical Processes”, 2nd
Edition, New York, USA, McGraw Hill Inc., 2001