Métodos Indirectos en Optimización

1. TecNM/Instituto Tecnológico de Cd. Madero
MÉTODOS INDIRECTOS
MÉTODO DE FLETCHER
(APROXIMACIÓN DE LA INVERSA DE H)
Dr. David Macias Ferrer
Centro de Investigación en Petroquímica
Roger Fletcher
(1939-2016)

2. MÉTODO DE FLETCHER
Direcciones de Búsqueda, basada en la relación:  
1
ˆs H xk k k
f

    
Donde es una aproximación de la inversa de H, para abreviar:
 1
x x η xk k k k k
f
  
Para k = 0:1
ˆHk

 
 
1
ˆη Hk k

   
 
 
 
 
 
 
 
 
 
 
1
x g η η g x x x g η g x x
η η I
x g x g x g x g x g
T T T T Tk k k k k k k k k k k k k
k k
T T T T Tk k k k k k k k k k

         
     
         
La relación recurrente es
de la forma:
0
η I
Para
k 0:
Donde:    1
g x xk k k
f f
   
El escalar k puede
determinarse por :
 
 
min1
2 x
x s
k
k
T k k
f f
f
 
   

Un Criterio de convergencia adecuado
que puede ser aplicado desde el
comienzo es:
 xk
f  

3. Vector Inicial x0
Encontrar k
Generar el vector xk+1
Encontrar el vector de dirección sk
Vector Óptimo xopt
Evaluar la Función Objetivo en xopt, es decir f(xopt )
Solución Óptima f(xopt )
 
1
ˆs H xk k k
f

    
|f(xk)|<
 1
x x η xk k k k k
f
  
k = k + 1
Sí
No
Actualizar k+1
MÉTODO DE FLETCHER
 
 
min1
2 x
x s
k
k
T k k
f f
f
 
   


4. EJEMPLO
Encuentre el vector x que minimice la función      
2 2
1 2 1 2, 2 1 1f x x x x   
Si:  0
2 2x
T

MÉTODO DE FLETCHER

5. EJEMPLO
Encuentre el vector x que minimice la función      
2 2
1 2 1 2, 2 1 1f x x x x   
Si:  0
2 2x
T

MÉTODO DE FLETCHER

6. EJEMPLO
Para la dirección s0, se aplica la relación:  0 0 0
s η xf   donde: 0
η I
De aquí que:
0 4
2
s
 
  
 
Luego entonces:0 1 0 4
0 1 2
s
  
   
  
Encuentre el vector x que minimice la función      
2 2
1 2 1 2, 2 1 1f x x x x   
Si:  0
2 2x
T

El gradiente es:  
 
 
1
2
4 1
2 1
x
x
f
x
  
   
 
 0 4
2
xf
 
   
 
Por lo tanto, para x0:
Se aplicará la relación:
 
 
min1
2 x
x s
k
k
T k k
f f
f
 
   

Si k = 0:
 
 
0
min1
0 0
2 x
x sT
f f
f

   

Para ello:      
2 20
min2 2 1 2 1 3 0xf f      
MÉTODO DE FLETCHER

7. CONTINUACIÓN
Por lo tanto para 1:
 
 
1
2 3 0 6
4 20
4 2
2


  
 
 
 
     0 1 0
x x xf f f  y
Sustituyendo en la relación recurrente: 1 0 1 0
x x s 
Luego entonces:
1 2 4
0.3
2 2
x
   
    
   
1 0.8
1.4
x
 
  
 
 
 
0
4
0 0
10
x
x xT
f
f



 
Ahora se aplicará la prueba:
Donde: 0 4
2
s
 
  
 
De aquí que: 1
0.3 
Donde: 0 1 0
x x x  
MÉTODO DE FLETCHER

8. Por lo tanto podemos actualizar  para k = 1, a través de la ecuación de Fletcher:
 
 
 
 
 
 
 
 
 
 
0 0 0 0 0 0 0 0 0 0 0 0 0
1 0
0 0 0 0 0 0 0 0 0 0
x g η η g x x x g η g x x
η η I
x g x g x g x g x g
T T T T T
T T T T T
         
     
         
De aquí que si:      
2 21
2 0.8 1 1.4 1 0.24xf     
0 0.8 2 1.2
1.4 2 0.6
x
     
        
     
Por otro lado, para x1: 0
2.76xf  Entonces:
 
42.76 2.76
0.46 10
1.2 6
4 2
0.6
 
  
  
 
 
Luego:
MÉTODO DE FLETCHER
CONTINUACIÓN

9. Para ello x1 es:    
 
 
0 1 0
4 0.8 1 4 0.8 4 4.8
2 1.4 1 2 0.8 2 1.2
g x xf f
           
                 
         
 
 
 
 
0 0 0
0 0
1.2 1 0
4.8 1.2
0.8889 0.22220.6 0 1
4.8 0.4444 0.1111
1.2 0.6
1.2
x g η
x g
T
T
   
                      
 
Para calcular 1 , lo haremos por partes:
 
 
 
 
0 0 0
0 0
1 0 4.8
1.2 0.6
0.8889 0.44440 1 1.2
4.8 0.2222 0.1111
1.2 0.6
1.2
η g x
x g
T
T
  
                    
 
MÉTODO DE FLETCHER
CONTINUACIÓN

10. CONTINUACIÓN
Finalmente:
 
 
 
 
 
 
0 0 0 0 0
0 0 0 0
1 0 4.8
4.8 1.2
0.2222 0.1111 0.8394 0.41970 1 1.2
4.8 0.1111 0.0555 0.4197 0.2096
1.2 0.6
1.2
g η g x x
x g x g
T T
T T
  
                                
 
1 1 0 0.8889 0.2222 0.8889 0.4444 0.2222 0.1111 0.8394 0.4197
0 1 0.4444 0.1111 0.2222 0.1111 0.1111 0.0555 0.4197 0.2096
η
         
             
         
 
 
 
 
0 0
0 0
1.2
1.2 0.6
1 0 0.2222 0.11110.6
4.8 0 1 0.1111 0.0555
1.2 0.6
1.2
x x
I
x g
T
T
 
                       
 
1 0.2838 0.1358
0.1358 1.0429
η
 
  
 
MÉTODO DE FLETCHER

11. CONTINUACIÓN
La nueva dirección s1 es:
 1 1 1 0.2838 0.1358 0.8 0.3357
0.1358 1.0429 0.8 0.9429
s η xf
     
         
     
Sustituyendo en la relación recurrente: 1 0 1 0
x x s 
Luego entonces:
2 20.8 0.3357
1.4 0.9429
x 
   
    
   
2
2
2
0.8 0.3357
1.4 0.9429
x


 
  
 
Donde: 1 0.3357
0.9429
s
 
  
 
Se aplicará la relación:
 
 
min1
2 x
x s
k
k
T k k
f f
f
 
   

Si k = 1:
 
 
1
min2
1 1
2 x
x sT
f f
f

   

Para ello:      
2 21
min2 0.8 1 1.4 1 0.24 0xf f      
MÉTODO DE FLETCHER

12. CONTINUACIÓN
Sustituyendo el valor de 2: ó:
 
 
2
1
2
2
0.8 0.4692 0.3357
1.4 0.4692 0.9429
x
x
 
 
 
 
 
2
4 0.9575 1 0.17
2 0.9576 1 0.0848
xf
    
     
   
El gradiente para x2 es:
     1 2 1
x x xf f f  y
 
 
1
4
1 1
10
x
x xT
f
f



 
Ahora se aplicará la prueba:
Donde: 1 2 1
x x x  
Por lo tanto para 2:
 
 
2
2 0.24 0 0.48
0.3357 1.02288
0.8 0.8
0.9429


  
 
  
 
De aquí que: 2
0.4692 
2 0.9575
0.9576
x
 
  
 
MÉTODO DE FLETCHER

13. De aquí que si:      
2 22
2 0.9575 1 0.9576 1 0.00541xf     
1 0.9575 0.8 0.1575
0.9576 1.4 0.4424
x
     
        
     
Para x1: 1
0.2346xf  Entonces:
 
40.2346 0.2346
0.488 10
0.1575 0.4799
0.8 0.8
0.4424
 
  
 
  
 
Luego:
Ahora se aplicará la prueba:    1 1 1 1 1
x g g η g
T T
    
   1 2 1 0.17 0.8 0.63
0.0848 0.8 0.8848
g x xf f
      
           
      
MÉTODO DE FLETCHER
CONTINUACIÓN

14. CONTINUACIÓN
 
 
   
 
1 1 1 1 1 1
2 1
1 1 1 1 1
x x η g g η
η η
x g g η g
T T T
T T
   
  
   
Luego entonces se actualizará 2 a través de la ecuación de Davidon-Fletcher-Powell:
 
 
 
 
1 1
1 1
0.1575 0.0248 0.0697
0.1575 0.4424
0.0505 0.14200.4424 0.0697 0.1957
0.63 0.1420 0.39880.4907
0.1575 0.4424
0.8848
x x
x g
T
T
   
               
       
 
Sustituyendo en la desigualdad anterior:
 
 
 
 
1 1 1
1 1
0.63 0.2838 0.1358 0.63
0.1575 0.4424 0.63 0.0848
0.0848 0.1358 1.0429 0.0848
0.491 1.0843
g η g
x g
T T 
 
    
      
      

Para calcular 2 , lo haremos por partes:
MÉTODO DE FLETCHER

15. CONTINUACIÓN
2 0.2838 0.1358 0.0505 0.1420 0.08272 0.279
0.1358 1.0429 0.1420 0.3988 0.279 0.94103
η
       
       
       
Por lo tanto:
2 0.2516 0.0012
0.0012 0.5007
η
 
  
 
Por otro lado:
   
 
1 1 1 1
1 1 1
0.2838 0.1358 0.63 0.63 0.2838 0.1358
0.1358 1.0429 0.8848 0.8848 0.1358 1.0429
0.63 0.2838 0.1358 0.63
0.8848 0.1358 1.0429 0.8848
0.089371 0.
η g g η
g η g
T
T T
T T
      
               
     
    
      


301434
0.08272 0.2790.301434 1.016692
0.279 0.941031.0804
 
        
 
Luego entonces 2 es:
MÉTODO DE FLETCHER

16. CONTINUACIÓN
La nueva dirección s2 es:
 2 2 2 0.2516 0.0012 0.17 0.04287
0.0012 0.5007 0.0848 0.04266
s η xf
    
         
    
Sustituyendo en la relación recurrente: 3 2 3 2
x x s 
Luego entonces:
3 30.9575 0.04287
0.9576 0.04266
x 
   
    
   
3
3
3
0.9575 0.04287
0.9576 0.04266
x


 
  
 
Donde: 2 0.04287
0.04266
s
 
  
 
Se aplicará la relación:
 
 
min1
2 x
x s
k
k
T k k
f f
f
 
   

Si k = 2:
 
 
2
min3
2 2
2 x
x sT
f f
f

   

Para ello:      
2 22
min2 0.9575 1 09576 1 0.00541 0xf f      
MÉTODO DE FLETCHER

17. CONTINUACIÓN
Sustituyendo el valor de 2: ó:
 
 
3
1
3
2
0.9575 0.9927 0.04287
0.9576 0.9927 0.04266
x
x
 
 
 
 
 
3
4 1.00006 1 0.00024
2 0.99995 1 0.0001
xf
    
     
   
El gradiente para x3 es:
 3
0.00026xf   Como:
Por lo tanto para 3:
 
 
3
2 0.00541 0 0.01082
0.04287 0.01090
0.17 0.0848
0.04266


  
 
   
 
De aquí que:
3
0.9927 
3 1.00006
0.99995
x
 
  
 
El vector óptimo es:
1
1
xopt  
  
 
MÉTODO DE FLETCHER

18. Nótese que las dos matrices  posteriores a 0 permanecieron definidas positivas:
k  x1 x2 f(xk) |f(xk)|
0 ---- 2.0000 2.0000 3.0000 4.4721
1 0.3000 0.8000 1.4000 0.2400 1.1313
2 0.4692 0.9575 0.9576 0.0054 0.1899
3 0.9927 1.0000 0.9999 9.7E-09 2.6E-04
En 3 etapas tenemos los siguientes resultados :
2 0.2516 0.0012
0.0012 0.5007
η
 
  
 
1 0.2838 0.1358
0.1358 1.0429
η
 
  
 
MÉTODO DE FLETCHER
RESÚMEN

19. RESÚMEN
Por lo tanto el vector óptimo que corresponde al extremo mínimo es:
1
1
xopt  
  
 
Extremo Mínimo Local
Punto Óptimo
de la Función
     
2 2
1 2 1 2, 2 1 1f x x x x   
MÉTODO DE FLETCHER

20. BIBLIOGRAFÍA
T.F. Edgar, D.M. Himmelblau, L.S. Lasdon, “Optimization of Chemical Processes”, 2nd
Edition, New York, USA, McGraw Hill Inc., 2001