Maeb2015 presentation

Algoritmo memético basado en
regiones con archivo externo
para optimización multimodal
Benjamin Lacroix1 Daniel Molina2 Francisco Herrera1
(1) Universidad de Granada (2) Universidad de Cádiz
http://sci2s.ugr.es

Introducción Regiones Propuesta:RMAwA Experimentos Conclusiones
Resumen
1 Introducción
2 Concepto de Regiones
3 AM basado en regiones con archivo externo, RMAwA
4 Estudio Experimental
5 Conclusiones

Índice
1 Introducción
2 Concepto de Regiones
3 AM basado en regiones con archivo externo, RMAwA
4 Estudio Experimental
5 Conclusiones

Problema de Optimización Multimodal
Problema de Optimización
General f (x∗
) ≤ f (x) ∀x ∈ Domain
Real Domain ⊆ D x∗
= [x1, x2, · · · , xD]
Distintos objetivos
Un óptimo Encontrar una única solución óptima.
Multimodal Tantos óptimos como sea posible.

Diferencias de la optimización multimodal

Elementos comunes
Explotar soluciones.
Evitar óptimos locales.

Elementos comunes
Explotar soluciones.
Evitar óptimos locales.
Diferencias
1 No centrarse en región.
2 Identicar óptimos.
3 Guardarlos aparte.

Algoritmo Evolutivo para Optimización Multimodal
1. No centrarse en región
2. Identicar los óptimos
3. Almacenar aparte los óptimos

Mantener distancia mínima entre soluciones.

Técnicas de nichos

Técnicas de nichos
Deniendo valores umbrales de error.

Técnicas de nichos
Pueden ser mayor que la población.

Técnicas de nichos
Pueden ser mayor que la población.
Condicionar mucho la búsqueda.

Algoritmos Meméticos
Componentes
Algoritmo Poblacional responsable de la Búsqueda Global.
Método de Mejora Local que consigue precisión.
+

AMs y Diversidad

Concepto de Regiones para Nichos
Regiones
Dividen el espacio de búsqueda en hipercubos, regiones.
Se acepta sólo una solución (mejor) por región.
Nichos usando distancia Nichos usando regiones

Ventajas de las regiones
Simples.

Ventajas de las regiones
Simples.
Fáciles de dividir

AM Basado en Regiones con archivo externo
Características generales
Aplica un Algoritmo Genético para explorar.
Aplica el CMA-ES para explotar.
Características novedosas
Aplica técnica de nichos basada en regiones dinámicas.
Usa un archivo para almacenar óptimos y regiones.
Identica regiones no explorables.

AM Basado en Regiones con archivo externo
Características generales
Aplica un Algoritmo Genético para explorar.
Aplica el CMA-ES para explotar.
Características novedosas
Aplica técnica de nichos basada en regiones dinámicas.
Usa un archivo para almacenar óptimos y regiones.
Identica regiones no explorables.
¾Cúales regiones no explora más?
Aquel cuya solución no mejora por la BL.

Algoritmo RMAwA
Algoritmo: Pseudo-código de RMAwA
Inicializa población aleatoriamente de forma uniforme.
mientras MaxFEs no se alcance hacer
Aplica el AE durante iEA evaluaciones
sbest ← mejor individuo de la población
Aplica la BL sobre sbest
si se debe incrementar el número de regiones entonces
NDi = mu · NDi−1
Actualiza los índices de la memoria

Funcionamiento del RMAwA

Archivo
2.1 0.3
4.5 3.8
0.5 0.1
0.3 1.1
1.4 1.6
1 1
0 1 2 0
0 0 1 3 4 3
List Index
1.2 3.9 1 3
sn
rn
Solution to be inserted in
the archive
1.2 3.9
Archive
Almacena
Soluciones.
Regiones.

Archivo
Permite
Recuperar rápidamente las regiones ocupadas.
Almacena óptimos encontrados.
Almacena regiones a no visitar (no mejoradas por la BL).
Uso de la memoria
Detectar soluciones en misma región, mantiene la mejor.
Si encuentra óptimo marca región como no explorable, y
lo borra de la población.
Impide crear soluciones en regiones no explorables.

Algoritmo Poblacional
Algoritmo Genético Estacionario
Cruce BLX − α.
Mutación BGA.
Selección NAM, con NNAM = 3.
Reemplaza la Peor.
Modicaciones
Evita soluciones en regiones con óptimo.
Si cae en región ocupada, mantiene sólo la mejor.

Algoritmo Poblacional
Algoritmo: Pseudo-código del AE en RMAwA
i ← 0
mientras i iEA hacer
Selecciona dos padres
repetir
Crea una solución sn mediante cruce y mutación
Calcula la región rn en donde pertenece sn
hasta que ri se deba explorar
Evalúa sn, i = i + 1
Recupera de la población conjunto de soluciones Srn de la región rn
si Srn = ∅ entonces
Srn ← Srn ∪ sn
Borra peor individuo de Srn
en otro caso
Reeplaza el peor individuo sworst de la población si f (sworst) f (sn)

Aplicación de la BL
Aplicando la BL
Aplica sobre La mejor solución actual en la población.
Mientras mejore la solución (CMA-ES es rápido).
Al terminar marca regiones inicial y nal como exploradas
y elimina solución de la población.

Aplicando la BL
¾Por qué marca regiones como exploradas?
Para no explorar con el AG región explorada por la BL.

Aplicando la BL
¾Por qué marca regiones como exploradas?
Para no explorar con el AG región explorada por la BL.
¾Por qué marca soluciones inicial y nal?
Supone que la región inicial está en la base de atracción.

Marco experimental
Benchmark de optimización multimodal del CEC'2013
20 Combinaciones, 12 Funciones con distinta
dimensionalidad (1-20).
Distintos valores : 10−1, 10−2, . . . , 10−5.
Distintos número de óptimos:
Quince con menos de 10.
Tres entre 10 y 40: F6, F7, F10 con 18, 36 y 12.
Uno con 81 óptimos: F8.
Uno con más de 200: F9.
Medida de bondad: Ratio de óptimos
Para cada el ratio de óptimos
encontrado.
PR =
NR
i=1 NPFi
NKP·NR

Parámetros de aplicación
Aplicación de IRace
Automatic tuning.
Fácil de congurar.
Parámetros
Parámetro Rango Obtenido
iEA [100, 1000] 550
iLS [100, 1000] 150
ND0 [2, 10] 2
u [2, 5] 4
mu [1, 5] 1.7
NP [40, 120] 70
α [0,1, 0,9] 0.9

Comparativa Region-MA vs Euclidean-MA
¾Uso de regiones?
¾Mejora el uso de regiones vs cleaning con distancia euclídea?

Problema F1 F2 F3 F4 F5
Regiones 0.81 0.42 1.00 0.97 0.99
D. Euclídea 0.77 0.56 1.00 0.36 0.87
Regiones 0.00 0.70 0.06 0.22 0.94
D. Euclídea 0.00 0.05 0.06 0.01 0.13
Regiones 0.68 0.86 0.63 0.64 0.15
D. Euclídea 0.27 0.14 0.20 0.18 0.14
Regiones 0.36 0.16 0.17 0.13 0.13
D. Euclídea 0.19 0.13 0.17 0.13 0.13

Regiones 0.81 0.42 1.00 0.97 0.99
D. Euclídea 0.77 0.56 1.00 0.36 0.87
Regiones 0.00 0.70 0.06 0.22 0.94
D. Euclídea 0.00 0.05 0.06 0.01 0.13
Regiones 0.68 0.86 0.63 0.64 0.15
D. Euclídea 0.27 0.14 0.20 0.18 0.14
Regiones 0.36 0.16 0.17 0.13 0.13
D. Euclídea 0.19 0.13 0.17 0.13 0.13
Comparativa con Wilcoxon
R+ R-
Region-MA Euclídea-MA p-value
189 21 0.0008
Además, es de media 17% más rápido.

Regiones 0.81 0.42 1.00 0.97 0.99
D. Euclídea 0.77 0.56 1.00 0.36 0.87
Regiones 0.00 0.70 0.06 0.22 0.94
D. Euclídea 0.00 0.05 0.06 0.01 0.13
Regiones 0.68 0.86 0.63 0.64 0.15
D. Euclídea 0.27 0.14 0.20 0.18 0.14
Regiones 0.36 0.16 0.17 0.13 0.13
D. Euclídea 0.19 0.13 0.17 0.13 0.13
R+ R-
Region-MA Euclídea-MA p-value
189 21 0.0008
Además, es de media 17% más rápido.
Conclusión
El uso de regiones mejora los resultados.

Uso de archivo: RMAwA vs RMAwSA
¾Uso de archivos?
¾Mejora el uso de archivo los resultados?

RMAwA 1.00 1.00 1.00 1.00 1.00
RMAwSA 1.00 0.31 1.00 1.00 1.00
RMAwA 0.00 0.92 0.82 0.51 1.00
RMAwSA 0.00 0.66 0.91 0.34 0.98
RMAwA 1.00 1.00 0.99 0.81 0.70
RMAwSA 0.67 0.93 0.67 0.67 0.65
RMAwA 0.67 0.66 0.23 0.13 0.12
RMAwSA 0.67 0.32 0.18 0.12 0.12

RMAwA 1.00 1.00 1.00 1.00 1.00
RMAwSA 1.00 0.31 1.00 1.00 1.00
RMAwA 0.00 0.92 0.82 0.51 1.00
RMAwSA 0.00 0.66 0.91 0.34 0.98
RMAwA 1.00 1.00 0.99 0.81 0.70
RMAwSA 0.67 0.93 0.67 0.67 0.65
RMAwA 0.67 0.66 0.23 0.13 0.12
RMAwSA 0.67 0.32 0.18 0.12 0.12
RMAwA RMAwSA p-value
186.5 23.5 0.00132

RMAwA 1.00 1.00 1.00 1.00 1.00
RMAwSA 1.00 0.31 1.00 1.00 1.00
RMAwA 0.00 0.92 0.82 0.51 1.00
RMAwSA 0.00 0.66 0.91 0.34 0.98
RMAwA 1.00 1.00 0.99 0.81 0.70
RMAwSA 0.67 0.93 0.67 0.67 0.65
RMAwA 0.67 0.66 0.23 0.13 0.12
RMAwSA 0.67 0.32 0.18 0.12 0.12
RMAwA RMAwSA p-value
186.5 23.5 0.00132
Conclusión
El uso de archivo mejora los resultados.

Comparando con otros algoritmos
PNA-NSGA-II: Aplica optimización multimodal como un
problema bi-objetivo, usando diversidad.
dADE/nrand DE con mutación basada en vecindario y
una memoria dinámica.
DE/nrand DE con mutación basada en vecindario.
CrowdingDE DE con método de multitud (crowding) para
evitar convergencia prematura.
NCDE DE con mutación basada en vecindario y
mecanismo crowding.
r3pso PSO con topología de vecindario en anillo.

Resultados de la comparativa: tests de Wilcoxon
Ranking medio
Nivel Precisión 10−1 10−2 10−3 10−4 10−5
CrowdingDE 4.3 4.3 4.5 4.7 4.7
DE/nrand 5.1 4.2 4.1 3.6 3.4
r3pso 5.0 5.8 6.0 6.0 6.2
NCDE 4.0 4.4 4.3 4.4 4.5
PNA-NSGAII 3.4 3.7 3.8 4.1 3.9
dADE/nrand 3.0 3.0 3.0 3.0 3.1
RMAwA 3.3 2.7 2.3 2.2 2.2
Test de Wilcoxon
Nivel precisión 10−1 10−2 10−3 10−4 10−5
CrowdingDE 0.0935 0.0016 0.0001 0.0000 0.0001
DE/nrand 0.0039 0.0089 0.0077 0.0082 0.0108
r3pso 0.0004 0.0000 0.0000 0.0000 0.0000
NCDE 0.2273 0.0001 0.0001 0.0001 0.0001
PNA-NSGAII 0.9839 0.2549 0.0837 0.0484 0.0274
dADE/nrand 0.2862 0.4441 0.1279 0.0227 0.0323

Comparando globalmente
Comparando globalmente
RMAwA vs R+ R− p-value
CrowdingDE 4531 431.5 0
DE/nrand 4197.5 768 2e-9
r3pso 4844.5 115 0
NCDE 4502 462.5 0
PNA-NSGAII 3427 1535.5 0.0010
dADE/nrand 3288 1762 0.0087
Conclusiones
RMAwA es mejor que el resto.
Para = 10−4, 10−5 es estadísticamente mejor que todos.
La diferencia aumenta con nivel de precisión .

Conclusiones
Hemos presentado un AM para optimización multimodal
basado en regiones con memoria externa, RMAwA.
Niching con regiones es más eciente y ofrece mejores
resultados (especialmente dimensiones bajas).
El uso de archivo para marcar regiones exploradas permite
mejorar resultados.
RMAwA es estadísticamente mejor que los algoritmos
comparados.
Especialmente con mayor precisión.

¾Preguntas?

Maeb2015 presentation

Recomendados

Recomendados

Más contenido relacionado

Similar a Maeb2015 presentation

Similar a Maeb2015 presentation (20)

Último

Último (20)

Maeb2015 presentation