Monografia pericles miranda_v1 (28-07-10)

MOPSO-CDR com Especiação
Aluno: Péricles Barbosa Cunha de Miranda
Orientador: Prof. Dr. Carmelo J. A. Bastos Filho
ESCOLA POLITÉCNICA DE
PERNAMBUCO

Roteiro
• Objetivos
• Conceitos Fundamentais
• Algoritmo Proposto
• Experimentos
• Resultados
• Considerações finais
• Referências
Trabalho de Conclusão de Curso
Péricles Miranda
2

Objetivos
• Desenvolvimento de uma melhoria no
algoritmo MOPSO-CDR;
• Melhorar a convergência das soluções quanto
ao seu espalhamento e espaçamento;
• Reduzir o tempo de convergência das
soluções.
Péricles Miranda
3

Conceitos Fundamentais
• PSO;
• Otimização Multi-Objetivos;
• Aplicação de PSO em MOP.
Péricles Miranda
4

Inteligência de Enxames e PSO
• Algoritmo de Busca e Otimização Bio-
Inspirado;
• Kennedy e Eberhart (1995)
• Simula a interação entre indivíduos (pássaros)
que buscam a solução de único objetivo;
Péricles Miranda
5

• Pássaro → Partícula;
• Bando → Enxame;
• Local do Alimento → Possível solução.
Péricles Miranda
6

Como melhoram?
Péricles Miranda
7

Como melhoram?
Péricles Miranda
8
Componente cognitivo

Como melhoram?
Péricles Miranda
9
Componente cognitivo
Componente Social

Como melhoram?
Péricles Miranda
10

Como interagem?
Péricles Miranda
11

Péricles Miranda
12
Inicializar enxame:
Posição e Velocidade
Atualizar posição da
partícula i usando equações
(1) e (2)
Calcular fitness da partícula i Atualizar pbest e gbest
Atualizou enxame?Não
Total de iterações?
Sim
Não
Fim do algoritmo
Sim

Otimização Multi-Objetivos
Péricles Miranda
13
• Solucionar vários objetivos;
• Dominância;
• Pareto Front.

Quando uma partícula é considerada melhor
que outra?
Dominância
Péricles Miranda
14

que outra?
Péricles Miranda
15
Soluções dominadas

que outra?
Péricles Miranda
16

O que é Pareto Front?
Péricles Miranda
17
Soluções do Pareto Front

Qual o objetivo da MOO?
• Maximizar o número de elementos no Pareto;
• Minimizar a distância do Pareto produzido
para o do problema (Ótimo);
• Maximizar a uniformidade e distribuição das
soluções.
Péricles Miranda
18

O Pareto está convergindo?
• Métricas de Cálculo de Desempenho
– Hypervolume
– Spacing
– Maximum Spread
– Coverage
Péricles Miranda
19

Hypervolume?
Péricles Miranda
20

Spacing?
Péricles Miranda
21

Maximum Spread?
Péricles Miranda
22

Coverage?
Péricles Miranda
23

Aplicação de PSO em MOP
• Mudança na escolha dos líderes cognitivo e
social;
• Arquivo Externo.
Péricles Miranda
24

O que é Arquivo Externo?
• Repositório de soluções não dominadas;
• Histórico de toda a simulação;
• Pareto Front resultante.
Péricles Miranda
25

Como atualiza-se o líder social? Elimina-se comunicação.
Péricles Miranda
26
Arquivo ExternoEnxame
Líder social
Partículas não dominadas

Como atualiza-se o líder cognitivo?
O pbest só é atualizado se o fitness da Posição
Atual DOMINA o fitness do pbest.
Péricles Miranda
27

Como funciona?
Péricles Miranda
28
Início:
Incializa enxame
Incializa líderes no Arquivo Externo
Qualifica líderes
g = 0
Enquanto g < gMax:
Para cada partícula:
Seleciona líder social usando AE
Atualiza Posição e Velocidade
Calcula Fitness
Atualiza pbest
Atualiza líderes do Arquivo Externo
Qualifica líderes
g++
Reportar Resultados
Fim

Quais as técnicas propostas?
• CSS-MOPSO (Chiu, Sun em 2007)
• MOPSO (Coello, Pulido, Lechuga em 2004)
• MOPSO-CDLS (Tsou, Chang em 2007)
• m-DNPSO (Hu, Eberhart, Chi em 2006)
• MOPSO-CDR (Santana, Pontes e Bastos em 2008)
Péricles Miranda
29

MOPSO-CDR
• Fundamentado no MOPSO;
• Incorpora Crowding Distance e Roleta na
seleção dos líderes cognitivo e social.
Péricles Miranda
30

MOPSO-CDR
O que é Crowding Distance?
Péricles Miranda
31

MOPSO-CDR
Como atualiza-se o líder social?
• Ordena-se as soluções do Arquivo externo por
CD;
• Partículas com maior CD tem mais chances de
serem selecionadas e sugeridas como gBest.
Péricles Miranda
32

MOPSO-CDR
Como atualiza-se o líder cognitivo?
• Se posição domina, pBest atualizado;
• Se incomparáveis:
– Solução do AE mais próxima da Posição;
– Solução do AE mais próxima do pBest;
– A de maior CD define quem será escolhido.
Péricles Miranda
33

MOPSO-CDR
Como funciona?
Péricles Miranda
34
Início:
Incializa enxame
Qualifica líderes usando CDR
Enquanto condição de parada não alcançada:
Aplica Turbulência
Seleciona líder social (usando CDR)
Atualiza Velocidade e Posição
Calcula Fitness
Atualiza pbest (torneio binário)
Reportar Resultados
Fim

Algoritmo Proposto
Péricles Miranda
36
• Baseado no MOPSO-CDR;
• Sub-Enxames;
• Gerenciador de Arquivo Externo;
• Executor ou Tomador de Decisões.

Algoritmo Proposto
Péricles Miranda
37
Qual a função do Gerenciador?
• Aplica métricas de Spacing e Spreading;
• Analisa o comportamento do Pareto;
• Gera feedback para o Executor.

Algoritmo Proposto
Péricles Miranda
38
Qual a função do Executor?
• Analisa o feedback do Gerenciador;
• Toma decisões para melhorar desempenho do
Pareto;
• Decisões relacionadas à forma como a seleção
dos líderes será realizada;
• Algoritmo adota dois estados.

Algoritmo Proposto
Péricles Miranda
39

Algoritmo Proposto
Péricles Miranda
40
Básico Especiação

Algoritmo Proposto
Péricles Miranda
41
Como o limiar é calculado?
• Com o passar das iterações, o valor da
aplicação da métrica é guardado;
• Calcula-se o desvio padrão desses valores;
• 0,1%

Algoritmo Proposto
Péricles Miranda
42
Como funciona o estado Básico?
• Mantém o funcionamento normal do MOPSO-
CDR;
• O Gerenciador aplica Maximum Spreading no AE;
• Executor verifica se limiar foi alcançado.

Algoritmo Proposto
Péricles Miranda
43
Como funciona o estado de Especiação?
• Divide enxame em sub-enxames
– Cada sub-enxame com uma responsabilidade;
• O Gerenciador aplica Spacing no AE;
• Executor verifica se limiar foi alcançado.

Algoritmo Proposto
Péricles Miranda
44
Como funciona o estado de Especiação?
Soluciona objetivo F1
Soluciona objetivo F2
MOPSO-CDR

Algoritmo Proposto
Péricles Miranda
45
E a seleção do líder social?
Arquivo Externo
Enxame
Líder socialMOPSO-CDR

Algoritmo Proposto
Péricles Miranda
46
E a seleção do líder cognitivo?
Partícula
Se fitness da posição for incomparável em
relação ao do pbest, analisa-se qual fitness é
menor em relação ao objetivo do sub-enxame.

Algoritmo Proposto
Péricles Miranda
47
Como funciona?
Início:
Incializa enxame
Utiliza estado Básico
Enquanto condição de parada não alcançada:
Aplica Turbulência
Seleciona líder social (de acordo com estado)
Atualiza Velocidade e Posição
Calcula Fitness
Atualiza pbest (de acordo com estado)
Analisa pareto usando métrica
Atualiza estado
Reportar Resultados
Fim

Experimentos
• 6 técnicas comparadas;
• 4 métricas aplicadas;
• 5 funções de teste utilizadas
– ZDT1, ZDT2, ZDT3, ZDT4 e ZDT6;
• Variação do número de chamadas
– 200,000 e 100,000.
Péricles Miranda
49

Experimentos
• Comparação entre todas as técnicas para cada
função de teste;
• Comparação entre MOPSO-CDRS e MOPSO-
CDR, para cada função de teste, com número
de chamadas reduzido;
• Comparação entre MOPSO-CDRS e MOPSO-
CDR quanto ao tempo de execução.
Péricles Miranda
50

Resultados
Comparação entre técnicas (200,000 chamadas)
• ZDT1
Péricles Miranda
52
Algoritmo Hypervolume Spacing Max. Spread Cover CDRS,* Cover *, CDRS
MOPSO 0.36 (0.002) 0.0046 (5E-4) 1.425 (0.005) 1.0 (0.0) 0.0 (0.0)
m-DNOPSO 0.713 (0.053) 0.0457 (0.014) 1.54 (0.065) 1.0 (0.0) 0.0 (0.0)
MOPSO CDLS 0.39 (0.003) 0.0042 (6E-4) 1.44 (0.005) 1.0 (0.0) 0.0 (0.0)
CSS MOPSO 0.34 (0.002) 0.0023 (1E-4) 1.42 (0.002) 0.99 (0.003) 0.0 (0.0)
MOPSO CDR 0.33 (3E-5) 0.0033 (2E-4) 1.41 (0.0) 0.88 (0.0034) 0.03 (0.023)
MOPSO CDRS 0.31 (2E-5) 0.0027 (1E-4) 1.38 (0.0)

Resultados
• ZDT2
Péricles Miranda
53
MOPSO 0.69 (0.001) 0.006 (0.001) 1.396 (0.015) 1.0 (0.0) 0.0 (0.0)
m-DNOPSO 0.94 (0.06) 0.054 (0.017) 1.29 (0.037) 1.0 (0.0) 0.0 (0.0)
MOPSO CDLS 0.716 (0.003) 0.006 (0.001) 1.39 (0.004) 1.0 (0.0) 0.0 (0.0)
CSS MOPSO 0.674 (0.001) 0.0035 (7E-4) 1.41 (8E-4) 0.978 (0.021) 0.0 (0.0)
MOPSO CDR 0.66 (3E-5) 0.0033 (2E-4) 1.41 (0.0) 0.72 (0.036) 0.195 (0.023)
MOPSO CDRS 0.656 (3E-5) 0.0029 (2E-5) 1.41 (0.0)

Resultados
• ZDT3
Péricles Miranda
54
MOPSO 0.950 (0.004) 0.005 (4E-4) 1.976 (0.008) 1.0 (0.0) 0.0 (0.0)
m-DNOPSO 1.296 (0.088) 0.045 (0.016) 2.068 (0.146) 1.0 (0.0) 0.0 (0.0)
MOPSO CDLS 1.006 (0.009) 0.006 (9E-4) 1.988 (0.015) 1.0 (0.0) 0.0 (0.0)
CSS MOPSO 0.953 (0.008) 0.003 (7E-4) 1.983 (0.006) 0.999 (8E-4) 0.0 (0.0)
MOPSO CDR 0.920 (1E-4) 0.0033 (2E-4) 1.967 (2E-5) 0.69 (0.0056) 0.22 (0.034)
MOPSO CDRS 0.94 (6E-5) 0.0025 (0.0) 1.95 (9E-5)

Resultados
• ZDT4
Péricles Miranda
55
MOPSO 0.631 (0.526) 0.006 (0.0014) 1.54 (0.18) 0.68 (0.210) 0.2 (0.18)
m-DNOPSO 2.157 (0.935) 0.04 (0.037) 1.94 (0.29) 1.0 (0.0) 0.0 (0.0)
MOPSO CDLS 4.82 (0.2.174) 0.005 (9E-4) 2.7 (0.46) 1.0 (0.0) 0.0 (0.0)
CSS MOPSO 5.38 (0.008) 0.005 (0.0012) 2.8 (0.525) 0.999 (8E-4) 0.0 (0.0)
MOPSO CDR 0.57 (0.26) 0.0033 (3E-4) 1.52 (0.109) 0.90 (3E-4) 0.015 (2E-3)
MOPSO CDRS 0.56 (0.012) 0.0025 (2E-4) 1.38 (2E-4)

Resultados
• ZDT6
Péricles Miranda
56
MOPSO 1.261 (0.386) 0.129 (0.122) 3.180 (1.4) 0.48 (0.102) 0.32 (0.0034)
m-DNOPSO 1.279 (0.506) 0.126 (0.108) 3.203 (1.732) 1.0 (0.0) 0.0 (0.0)
MOPSO CDLS 1.717 (0.519) 0.186 (145) 4.632 (1.816) 0.89 (2E-3) 0.09 (2E-4)
CSS MOPSO 2.051 (0.697) 0.234 (0.153) 5.571 (2.046) 0.417 (0.004) 0.002 (2E-3)
MOPSO CDR 1.670 (0.3) 0.088 (0.056) 4.636 (1.053) 0.88 (0.0034) 0.03 (0.023)
MOPSO CDRS 1.345 (0.46) 0.078 (2E-3) 3.233 (0.034)

Resultados
Comparação com o MOPSO-CDR (100,000 chamadas)
Péricles Miranda
57
• ZDT1
• ZDT2
• ZDT3
MOPSO CDR 0.36 (0.002) 0.0035 (0.002) 1.43 (0.001) 0.135 (0.0034) 0.005 (0.023)
MOPSO CDRS 0.36 (0.002) 0.0029 (0.002) 1.41 (0.001)
MOPSO CDR 0.76 (0.001) 0.0043 (0.007) 1.43 (0.005) 0.145 (0.0032) 0.0 (0.0)
MOPSO CDRS 0.72 (0.0023) 0.0042 (0.02) 1.42 (0.02)
MOPSO CDR 0.93 (0.008) 0.0036 (0.032) 1.97 (0.019) 0.745 (0.001) 0.01 (0.034)
MOPSO CDRS 0.912 (0.034) 0.0027 (1E-4) 1.96 (0.004)

Resultados
Comparação com o MOPSO-CDR (100,000 chamadas)
Péricles Miranda
58
• ZDT4
• ZDT6
MOPSO CDR 4.88 (2.61) 0.74 (0.56) 16.49 (8.79) 1.0 (0.0) 0.0 (0.0)
MOPSO CDRS 2.23 (1.32) 0.08 (0.05) 11.44 (5.39)
MOPSO CDR 2.05 (0.2) 0.17 (0.071) 6.03 (1.34) 0.67 (0.56) 0.12 (0.78)
MOPSO CDRS 1.8 (0.16) 0.189 (0.0017) 5.89 (0.59)

Resultados
Comparação com o MOPSO-CDR (Tempo de Execução)
Péricles Miranda
59
Algoritmo ZDT1 ZDT2 ZDT3 ZDT4 ZDT6
MOPSO CDR 37.681 35.566 42.683 2.372 4.381
MOPSO CDRS 112.250 107.887 117.475 30.969 33.053

• Alternativa eficaz, apresentando melhor
desempenho do Pareto comparado às demais
técnicas (200,000 chamadas);
• Superioridade do MOPSO-CDRS em relação ao
MOPSO-CDR com 100,000 chamadas;
• Pareto converge mais rapidamente para
problemas mais difíceis.
Péricles Miranda
60
Conclusões

• Estudo de um valor ótimo para o limiar ou
implementar uma proposta de limiar variável;
• Estudar a influência de outras métricas no
desempenho do arquivo externo, de modo a
introduzi-las para análise no gerenciador;
• Substituir o MOPSO-CDR por outra técnica, bem
fundamentada na literatura, para verificar sua
interferência no desempenho do pareto;
• Incorporar ainda mais objetivos.
Péricles Miranda
61
Trabalhos Futuros

Referências
1. NEDJA, N.; DOS SANTOS COELHO, L.; DE MACEDO DE MOURELLE, L. Studies in Computational Intelligence. Rio
de Janeiro: Springer, v. 261, 2009. Multi-Objective Swarm Intelligent Systems.
2.KENNEDY, J.; EBERHART, R. Particle Swarm Optimization, 4, 1995. 1942-1948.
3. REYES-SERRA, M.; COELLO, C. A. C. Multi-Objective Particle Swarm Optimizers: A Survey of the State-of-the-
Art, 2002. 34-54. Electrical Engineering Department, Computer Science Section.
4. REYNOLDS, C. W. Flocks, Herds And Schools: A Distributed Behavioral, 1987. 25-34. Computer Graphics.
5. MILLONAS, M. M. Swarms, Phase Transitions and Collective Intelligence. 3. ed. Chicago: Artifial Life, 1994.
6. EBERHART, R.; KENNEDY, J. A New Optimizer Using Particle Swarm Theory, 1995. 39-43.
7. CLERC, M.; KENNEDY, J. The Particle Swarm - Explosion, Stability, and Convergence in a Multidimensional
Complex Space, v. 6, p. 58-73, 2002. IEEE Transactions on Evolutionary Computation.
8. EBERHART., Y. S. A. R. C. A Modified Particle Swarm Optimiser, Maio 1998. International Conference of
Evolutionary Computation.
9. ZITZLER, E. Evolutionary Algorithms for Multiobjective Optimization: Methods and Applications. ETH Zurich.
Switzerland. 1999.
10. ZITZLER, E.; THIELE, L. Multiobjective Evolutionary Algorithms: A Comparative Case Study and The Strength
Pareto Approach, 1999. 257-271. IEEE Transactions on Evolutionary Computation.
11. ZITZLER, E.; THIELE, L. Multiobjective Optimization Using Evolutionary Algorithms - A Comparative Case
Study, 1998. 292-271. Conference on Parallel Problem Solving from Nature.
12. SANTANA, R. A.; PONTES, M. R.; BASTOS-FILHO, C. J. A. A Multiple Objective Particle Swarm Optimization
Approach Using Crowding Distance And Roulette Wheel. Department of Computing Systems, UPE.
Péricles Miranda
62

Referências
13. COELLO, C. A. C.; VAN VELDHUIZEN, D. A.; LAMONT, G. B. Evolutionary Algorithms for Solving Multi-Objetive
Problems, New York, Maio 2002. Kluwer Academic Publishers.
14. CHIU, S. Y. et al. Cross-Searching Strategy for Multi-Objective Particle Swarm Optimization. Congress on
Evolutionary Computation. 3135-3141. IEEE.
15. COELLO, C. A. C.; PULIDO, G. T.; LECHUGA, M. S. Handling Multiple Objectives With Particle Swarm
Opimization, Junho 2004. IEEE Transactions Evolutionary Computation.
16. TSOU, C.; CHANG, S.; LAI, P. Using Crowding Distance to Improve Multi-Objective PSO with Local Search. In:
TIWARI, F. T. S. C. A. M. K. Swarm Intelligence, Focus on Ant and Particle Swarm Optimization. Vienna, Austria:
I-Tech Education and Publishing, 2007. p. 77-86.
17. RAQUEL, C. R.; NAVAL JR., P. C. An Effective Use of Crowding Distance in Multi-Objective Particle Swarm
Optimization. Proceedings of the 2005 Conference on Genetic and Evolutionary Computation, New York,
USA, 2005. 257-264. GECCO'05.
18. HU, X.; EBERHART, R.; SHI, Y. Particle Swarm With Extended Memory For Multi-Objective Opitmization. In
Swarm Intellingence Symposium, 2003. 193-197. SIS'03.
19. COELLO, C. A. C.; LAMONT, G. B.; VAN VELDHUIZEN, D. A. Evolutionary Algorithms for Solving Multi-Objective
Problems. Genetic and Evolutionary Computation, New York, 2007.
20. DEB, K. Multi-objective genetic algorithms: Problem Difficulties and Construction of Test Problems, 1999. 205-
230.
Péricles Miranda
63

Referências
21. COELLO, C. A. C.; LAMONT, G. B. An Introduction to Multi-Objective Evolutionary Algorithms And Their
Application, 1999. 14-26.
22. KONAK, A.; COIT, D. W.; SMITH, A. E. Multi-Objective Optimization Using Genetic Algorithms: A Tutorial.
Reliability Engineering and System Safety, p. 13-29, 2006. Information Sciences and Technology, Penn State
Berks, USA.
Péricles Miranda
64

Monografia pericles miranda_v1 (28-07-10)

Recomendados

Recomendados

Más contenido relacionado

Similar a Monografia pericles miranda_v1 (28-07-10)

Similar a Monografia pericles miranda_v1 (28-07-10) (20)

Más de Péricles Miranda

Más de Péricles Miranda (7)

Monografia pericles miranda_v1 (28-07-10)

Notas del editor