Métodos Indirectos en Optimización

1. TecNM/Instituto Tecnológico de Cd. Madero
MÉTODOS INDIRECTOS
MÉTODO DE DIRECCIONES CONJUGADAS
(MICHAEL POWELL)
Dr. David Macias Ferrer
Centro de Investigación en Petroquímica
Michael James
David Powell
(1936-2015)

2. MÉTODO DE DIRECCIONES CONJUGADAS DE POWELL
Direcciones de Búsqueda, basada en la relación:     0 0 1s Q s
Ti j
i j n    
1. Los vectores de dirección si y sj son llamadas direcciones conjugadas (pseudo-ortogonales)
2. La matriz Q será igual a la matriz Hessiana H
3. Para una función cuadrática, Q = H será una matriz definida positiva (negativa) y simétrica
4. Para una función no cuadrática, se puede crear una sucesión s0 , s1 ,…, sn-1 de direcciones
linealmente independientes que serían conjugadas si cumplen con (6.1)
5. Si se establece si y Q, sj queda perfectamente definida
... (6.1)
La relación recurrente es de la forma: 1
x x sk k k k

 
El escalar k está determinado por:
 
   
x s
s H x s
T k k
Opt k
Tk k k
f
 

   ... (6.5)

3. Vectores Iniciales x0 y s0, para k = 0
Calcular Tf(x0), H(x0) para encontrar 0
Generar el vector x1
Encontrar el nuevo vector de dirección s1
Calcular Tf(x1), H(x1) para encontrar 1
Vector Óptimo xopt
Evaluar la Función Objetivo en xopt, es decir f(xopt )
Solución Óptima f(xopt )
MÉTODO DE DIRECCIONES CONJUGADAS DE POWELL
 
   
0 0
0
0 0 0
x s
s H x s
T
T
f


 
1 0 0 0
x x s 
   0 1
0s H s
T

Generar el vector x1 2 1 1 1
x x s 
 
   
1 1
1
1 1 1
x s
s H x s
T
T
f


 

4. EJEMPLO
Minimizar la función   2 2
1 2 1 2, 2 3f x x x x   Si:    0 0
1 1 4 2x s
T T
y   
MÉTODO DE DIRECCIONES CONJUGADAS

5. EJEMPLO
Minimizar la función   2 2
1 2 1 2, 2 3f x x x x   Si:    0 0
1 1 4 2x s
T T
y   
MÉTODO DE DIRECCIONES CONJUGADAS

6. EJEMPLO
La Hessiana es:  
4 0
0 2
H x
 
  
 
Resolviendo la Ec. (6.2) para 1 1 1
1 2s
T
s s   
Como s1
1 no es único, se puede elegir s1
1 = 1, esto es:
 0
4 2s
T
  De este modo
  
1
1
1
2
4 0
1 4 2 0
0 2
s
s
  
   
   
es una dirección conjugada de:
  1
2
1
16 4 0
s
 
   
 
 0
4 2Q H s
T
    y para:
 1
1 4s
T
 
Minimizar la función   2 2
1 2 1 2, 2 3f x x x x   Si:    0 0
1 1 4 2x s
T T
y   
MÉTODO DE DIRECCIONES CONJUGADAS

7. CONTINUACIÓN
La Ec. (6.5) se puede utilizar para calcular analíticamente la longitud total del paso de
progresión  ya que ƒ (x) es una función cuadrática:
 
 
0
4
4 2
2 20
4 0 4 72
4 2
0 2 2

 
   
   
        
Sustituyendo en la relación recurrente:
1 0 0 0
x x s 
De aquí que: 0
0.2777 
Luego entonces:
1 1 4
0.2777
1 2
x
   
    
   
1 0.1111
0.4444
x
 
  
 
El gradiente es:   1
2
4
2
x
x
f
x
 
   
 
 0 4
2
xf
 
   
 
Por lo tanto, para x0:
MÉTODO DE DIRECCIONES CONJUGADAS

8. CONTINUACIÓN
Usando una vez más la Ec. (6.5) se determina 1:
 
 
1
1
0.4444 0.8888
4
4 0 1
1 4
0 2 4

 
    
   
       
Sustituyendo en la relación recurrente:
2 1 1 1
x x s 
De aquí que: 1
0.1111 
Luego entonces:
2 0.1111 1
0.1111
0.4444 4
x
   
    
   
2 0
0
x
 
  
 
 1
1 4s
T
 Para la etapa siguiente k = 1, la dirección de búsqueda es:
 1 0.4444
0.8888
xf
 
   
 
Por lo tanto, para x1:
MÉTODO DE DIRECCIONES CONJUGADAS

9. Nótese que:    2 2
3 0x xf f    
En 2 etapas tenemos los siguientes resultados :
k  x1 x2 f(xk) |f(xk)|
0 0.277777 1.000000 1.000000 0.000000 4.472136
1 0.111111 -0.111111 0.444444 -2.777822 0.993708
2 ----- 0.000000 0.000000 -3.000000 0.000000
RESÚMEN
MÉTODO DE DIRECCIONES CONJUGADAS

10. REPRESENTACIÓN GRÁFICA DE LA SUCESIÓN DE VECTORES
MÉTODO DE DIRECCIONES CONJUGADAS

11. REPRESENTACIÓN GRÁFICA DE LA SUCESIÓN DE VECTORES
MÉTODO DE DIRECCIONES CONJUGADAS

12. Por lo tanto el vector óptimo que corresponde al extremo mínimo es:
0
0
xopt  
  
 
Extremo Mínimo Local
Punto Óptimo
de la Función
  2 2
1 2 1 2, 2 3f x x x x  
RESÚMEN
MÉTODO DE DIRECCIONES CONJUGADAS

13. BIBLIOGRAFÍA
T.F. Edgar, D.M. Himmelblau, L.S. Lasdon, “Optimization of Chemical Processes”, 2nd
Edition, New York, USA, McGraw Hill Inc., 2001