Presentacion del Trabajo Fin de Master Modelizacion e Investigacion Matemática, Estadistica y Computación. Implementación en Android de detector de elementos de la red eléctrica utilizando técnicas de Deep Learning.

1. UPV / EHU I
www.ehu.eus
Implementación en Android
de detector de elementos
de la red eléctrica utilizando
técnicas de Deep Learning
TFM Modelización e Investigación
Matemática, Estadística y Computación
Igor García Atutxa

2. UPV / EHU I
01
OBJETIVOS
UPV/EHU |

3. UPV / EHU I
OBJETIVOS
1. Analizar la idoneidad de técnicas de machine learning (aprendizaje automático),
especialmente la redes neuronales.
2. Búsqueda de los modelos más eficientes para nuestra aplicación.
3. Entrenar esos modelos a nuestros necesidades para lograr una gran efectividad en
la detección y clasificación de nuestros elementos.
4. Añadir en la aplicación corporativa la funcionalidad de reconocimiento de
imágenes.
4

4. UPV / EHU I
02 CONCEPTOS
TEÓRICOS. REDES
NEURONALES
Redes neuronales
UPV/EHU |

5. UPV / EHU I
Redes neuronales artificiales
• Algoritmo de machine learning. Actualmente, técnica mas popular para clasificación
de elementos en imágenes.
• Su nombre se debe a la similitud que tienen con el funcionamiento de las neuronas
del cerebro, las cuales están interconectadas.
• Unidad básica: neurona artificial
6

6. UPV / EHU I
Neurona artificial
• Entradas (terminaciones dendríticas). Tantas como atributos o características haya
que analizar de los datos, (X1, X2,…Xn).
• Peso (peso sináptico). Ponderación de las señales de entrada, (W1,W2,…Wn).
• Cuerpo neurona (potencial sináptico). Suma de todas las señales ponderadas con su
peso y sesgo (b), W*X + b.
• Salida (axón). Filtro o función de activación (f), que transforma dicha suma de
señales en una señal de salida (y = f(W*X + b)). Si el valor supera un umbral
preestablecido de activación la neurona se activa y se transmite la señal.
7

7. UPV / EHU I
Redes neuronales profundas
• Problemas prácticos de clasificación son modelos más complejos.
• Redes neuronales profundas. Constituidas por infinidad de capas ocultas
especializadas en distintas funciones.
• Redes feedforward. Flujo de datos: entrada →capas ocultas → salida
• Retropropagación. Cálculo error relativo de cada neurona.
8

8. UPV / EHU I
Entrenamiento redes neuronales
• Para conocer cual es la diferencia entre la salida esperada y la inferida se define una
función de error C(w, b, x, y’).
• El objetivo del entrenamiento es encontrar los valores de w y b que optimizan
(minimizan) esa función de coste C.
• En cada iteración se ajustan los pesos de las neuronas en función del error
obtenido.
• Técnica minimización del error. Algoritmo es el descenso del gradiente.
9

9. UPV / EHU I
Algoritmo descenso del gradiente
• Descenso del gradiente
• Descenso del gradiente estocástico (SGD)
10
ENTRENAMIENTO
MÁS RÁPIDO

10. UPV / EHU I
Redes neuronales convolucionales
• Redes para reconocimiento de imágenes → extracción de características +
clasificación redes neuronales convencionales
• Da solución a dos problemas de las redes neuronales convencionales:
• Uso de un número ingente de neuronas para cada pixel de la imagen.
• No importa la posición de cada pixel.
11

11. UPV / EHU I
Redes neuronales convolucionales
• Capa convolucional
• Mapas de activación. Ciertas características se vuelven más dominantes. Se
pueden distinguir bordes, desenfoques, nitidez…
• Se desliza por toda la imagen, realizando convoluciones para obtener mapas
bidimensionales.
12

12. UPV / EHU I
Redes neuronales convolucionales
• Capa pooling o reducción
• Tras capas convolucionales.
• Reducen la cantidad de parámetros.
• Produce cierta pérdida de información.
• Menor carga de cálculo próximas capas. Reducción sobreajuste.
13

13. UPV / EHU I
Detección = localización + clasificación
14
• YOLO
• Detector de una etapa.
• Predice N cuadros delimitadores y su clasificación para cada cuadrícula.
• No utiliza propuestas de región (RPN).
• Problema en detección de objetos pequeños.

14. UPV / EHU I
Detección = localización + clasificación
15
• SSD
• Detector de una etapa.
• Utiliza propuestas de región (RPN).
• Múltiples capas convolucionales, capaces de detectar objetos a varias
escalas.

15. UPV / EHU I
03
ARQUITECTURAS
REDES
NEURONALES
UPV/EHU

16. UPV / EHU I
Clasificación: InceptionV3
17

17. UPV / EHU I
Clasificación: MobileNetV2
18

18. UPV / EHU I
Detección: Tiny-YOLOv2
19

19. UPV / EHU I
Detección: MobileNet-SSD
20

20. UPV / EHU I
04 RESULTADOS
UPV/EHU |

21. UPV / EHU I
Clasificación
• InceptionV3 (95,05% de acierto, lenta)
• MobileNetV2 (93,07% de acierto, rápida)
22

22. UPV / EHU I
Detección
• Tiny-YOLOv2 (91,46%; 77,11% mAP, algo más rápido)
• MobileNet-SSD (92,38%; 78,34% mAP, algo más lento)
23

23. UPV / EHU I
05 CONCLUSIONES
Y FUTURAS
MEJORAS
UPV/EHU |

24. UPV / EHU I
Clasificación
• MobileNetV2.
• % acierto menor
• x2 velocidad en la inferencia
25
• InceptionV3.
• % acierto mayor
• /2 velocidad en la inferencia
MobileNetV2.
Sin mejoras temporales, respecto al sistema
anterior utilizado por la aplicación.

25. UPV / EHU I
Detección
• MobileNet-SSD.
• % acierto algo superior
• Sin diferencia en la velocidad
de inferencia
26
• Tiny-YOLOv2
• % acierto algo inferior
• Sin diferencia en la velocidad
de inferencia
MobileNet-SSD.
Mejora sustancial respecto al sistema anterior
utilizado por la aplicación.

26. UPV / EHU I
Aplicación Android
27
• Botón de clasificación/detección
• Interfaz clasificación. Probabilidad descendente de cada tipo de elemento.
• Interfaz detección. Localización y clasificación de tipo de elemento más probable.

27. UPV / EHU I
Conclusiones
28
• Validez de las técnicas de redes neuronales para reconocimiento de imágenes.
Habrá que estar pendiente de nuevos avances en este campo.
• Variedad de modelos efectivos y rápidos que se pueden emplear para el mapeado
de la red eléctrica por parte de los operarios.
• Buenos resultados en clasificación y detección con la base de datos de elementos
de la red eléctrica. Incorporación de nuevas imágenes de nuevos modelos o
nuevos tipos de elementos que se deseen incorporar.
• Añadida nueva funcionalidad de clasificación y detección de elementos.