Modelo de regressão linear: aspectos teóricos e computacionais
Otimização convexa e cvx
1. Seminário Introdução à Otimização Convexa Resolução de problemas utilizando CVX Guilherme Varela Barbosa Rodrigo Carneiro Brandão Rodrigo de Oliveira Matos
2.
3. Breve Histórico de Otimização 1939-1945: A otimização teve início durante a 2 a Guerra Mundial. 1947: Início do interesse das indústrias na utilização das técnicas desenvolvidas na área militar, para auxiliar no planejamento e controle da produção. 1949: George B. Dantzig apresenta o Método Simplex para resolver problemas de otimização linear (equações e (ou) inequações lineares).
4.
5. Otimização Harrel et al. (2000) define otimização como o processo de tentar diferentes combinações de valores para variáveis que podem ser controladas (variáveis independentes), buscando a combinação de valores que leva à saída mais desejada. De acordo com Torga (2007), a procura pela solução ótima pode ser conduzida manualmente ou automatizada com algoritmos especialmente designados para procurar a solução ótima sem executar a avaliação de todas as soluções possíveis.
6.
7.
8. Programação Linear 20 15 10 5 5 10 x y Figura 1: Gráfico da função y = 2x Exemplo: Função y = 2x , y = f(x) , x = Valores de 0 a 10 2 * X = Y 2 * 0 = 0 2 * 1 = 2 2 * 2 = 4 2 * 3 = 6 2 * 4 = 8 2 * 5 = 10 2 * 6 = 12 2 * 7 = 14 2 * 8 = 16 2 * 9 = 18 2 * 10 = 20
9.
10. Programação Não-Linear Figura 2: Gráfico da função y = X 2 Exemplo: Função y = x 2 , y = f(x) , x = Valores de 0 a 10 X 2 = Y 0 2 = 0 1 2 = 1 2 2 = 4 3 2 = 9 4 2 = 16 5 2 = 25 6 2 = 36 7 2 = 49 8 2 = 64 9 2 = 81 10 2 = 100
11. De acordo com Winston (2001), para determinar se o problema de PNL possui solução ótima ou não, é necessário definir a função de concavidade e convexidade . Programação Não-Linear
12.
13.
14. São exemplos de funções convexas: Figura 5: Função convexa Figura 6: Função convexa
15.
16. São exemplos de funções côncavas: Figura 9: Função côncava Figura 10: Função côncava
17.
18. Conjunto Convexo Um conjunto é convexo se, dados dois pontos X 1 e X 2 do conjunto, o segmento que os une também pertence ao conjunto. S = { x | x = x 1 + ( 1 – ) x 2 , 0 1 } Figura 11: Conjunto Convexo Figura 12: Conjunto Não Convexo Fonte: H. Hindi – A Tutorial on Convex Optimization
23. Segundo D.P. Bertrekas (1999) Se : Sujeito a fi (x) (convexas) hi (x) (afins) Os três primeiros problemas são eliminados Mesmo assim : A baixa taxa de convergência permanece como problema.
24. De acordo com A. Nemirovskii (1994) , até o final dos anos 80 e 90, foi descoberto na antiga União Soviética e Estados Unidos que: Se: fi (x) (além de convexas) fosse baseada no método de pontos interiores , o problema de baixa taxa de convergência seria evitado .
27. Otimização Quase Convexa Figura 13: Função quase convexa Fonte: H. Hindi – A Tutorial on Convex Optimization
28. Figura 14: Função quase-convexa entre x e y Fonte: H. Hindi – A Tutorial on Convex Optimization . Otimização Quase Convexa
29.
30.
31. Problemas de Otimização Convexa (Forma Padrão) O problema encontra-se na forma padrão A inequação de restrição não é convexa Não. A equação de restrição não é afim
33. A interpretação geométrica para esse fato é apresentado na figura abaixo: Figura 15: Interpretação geométrica para problema convexo Fonte: S.P. Boyd Convex Optimization A região realizável é mostrada na parte escura. Algumas curvas de nível da função objetivo são mostradas nas linhas pontilhadas. O ponto mostrado é ótimo. Figura 16: Poliedro – Região Realizável Fonte: S.P. Boyd Convex Optimization
34.
35.
36.
37.
38. Método de Newton para Problemas de Minimização com Restrições de Igualdade.
62. Ilustração do problema Figura 18 – A figura apresenta um arranjo linear de N antenas isotrópicas e uma onda harmônica plana incidindo de uma direção Fonte: S.P. Boyd Convex Optimization
63. Ilustração do problema Figura 19 – A figura A apresenta o diagrama de irradiação para um arranjo de antenas cuja diretividade não é particularizada. Fonte: S. Boyd, H. Lebret , Antenna Array Pattern Synthesis via Convex Optimization
64.
65. Ilustração do problema Figura 21: Diagrama de Irradiação para arranjo otimizado Fonte: S. Boyd, H. Lebret , Antenna Array Pattern Synthesis via Convex Optimization A figura 21 apresenta o diagrama de irradiação do arranjo após o processo de otimização e o vetor peso w.
66.
67.
68. Agradecimentos Agradecemos ao Prof. Dr. Dayan Adionel Guimarães (Inatel) pelo apoio e material disponibilizado; Ao Prof. Dr. Takaaki Ohishi (Unicamp) pela valiosa orientação e atenção; Ao Prof. Dr. Paulo Augusto Valente Ferreira (Unicamp) pela valiosa orientação e atenção.
69.
70. Referências Bibliográficas D.P. Bertrekas. Nolinear Programming . Athena Scientific,1999 HARREL, Charles R.; GHOSH, Biman K.; BOWDEN, Royce. Simulation Using ProModel . New York, McGraw-Hill, 2000. O.M Bucci, D. D’Elia, G. Mazzarella, and G. Panatiello, “Antenna pattern synthesis: A new approach,”Proc.IEEE, vol.82,pp.358-357, Mar. 1996. S.P. Boyd and L. Vandenberghe. Convex Optimization, Cambridge University Press, 2003. In press. Material avaible at www.stanford.edu/~boyd
71. TORGA, Bruno Lopes Mendes. Modelagem, Simulação e Otimização em Sistemas Puxados de Manufatura . Dissertação (Mestrado em Engenharia de Produção). UNIFEI. Itajubá-MG. 2007. WINSTON, Wayne; ALBRIGHT, S. Christian. Practical Management Science . 2nd, Duxbury Thomson Learning, 2001. Y. Nesterov and A. Nemirovskii. Interior-Point Polynomial Methods in Convex Programming . Society for Industrial and Applied Mathematics, 1994.