10. Redes neuronales
Neurona articial
Elementos de la neurona articial
▷ Entradas xj (t)
▷ Pesos sinápticos wij
▷ Regla de propagación σ(wij , xj (t))
▷ Función de activación o de transferencia fi (ai (t − 1), hi (t))
▷ Función de salida Fi (ai (t))
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 10 / 45
11. Redes neuronales
Neurona articial: Funciones de activación
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 11 / 45
12. Redes neuronales
Neurona articial: Funciones de activación
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 12 / 45
13. Redes neuronales
Arquitectura de redes neuronales
Las neuronas se agrupan en capas.
Las conexiones pueden ser intracapa o extracapa.
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 13 / 45
14. Redes neuronales
Denición de red neuronal
Es un grafo con las siguientes propiedades:
▷ Cada nodo i tiene asociado un estado xi .
▷ Cada conexión de una pareja de nodos i, j tiene asociado un peso
wij ∈ R.
▷ Cada nodo i tiene asociado un umbral θi .
▷ Cada nodo i tiene asociada una función fi (xj , wij , θi ). Actualiza el estado
del nodo.
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 14 / 45
15. Redes neuronales
Número de neuronas por capa
Según Je Heaton:
▷ Número de neuronas ocultas entre neuronas de entrada y neuronas de
salida.
▷ Número de neuronas ocultas debe ser 2
3
de neuronas de entrada, más
neuronas de salida.
▷ Número de neuronas ocultas debe de ser menor o igual que el doble de
neuronas de entrada.
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 15 / 45
16. Redes neuronales
Tipos de redes neuronales
Atendiendo a la forma en la que las neuronas están asociadas:
▷ Redes monocapa
▷ Redes multicapa
▷ Redes recurrentes
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 16 / 45
17. Redes neuronales
Tipos de redes neuronales
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 17 / 45
18. Redes neuronales
Funciones de pérdida
En problemas de regresión las más habituales son las siguientes:
▷ Error cuadrático medio
MSE =
1
n
n
X
i=1
(y(i)
− ŷ(i)
)2
▷ Error absoluto medio
MAE =
1
n
n
X
i=1
|y(i)
− ŷ(i)
|
▷ Pérdida de Huber
(
1
n
Pn
i=1
(y(i) − ŷ(i))2
|y(i) − ŷ(i)| ≤ δ
1
n
Pn
i=1
δ |y(i) − ŷ(i)|
− 1
2
δ2
|y(i) − ŷ(i)| δ
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 18 / 45
19. Redes neuronales
Funciones de pérdida
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 19 / 45
20. Redes neuronales
Funciones de pérdida
En problemas de clasicación las más habituales son :
▷ Entropía cruzada binaria
−
1
n
n
X
i=1
y(i)
log ŷ(i)
+
1 − y(i)
log
1 − ŷ(i)
▷ Entropía cruzada categórica
−
1
n
n
X
i=1
m
X
j=1
yij log ŷ(ij)
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 20 / 45
21. Redes neuronales
Optimizadores
▷ SGD
Fijado un peso inicial w0, en cada iteración resulta:
wi+1 = wi − η∇mbf (wi)
• η : ratio de aprendizaje.
• ∇mbf (·) : gradiente estocástico sobre un subconjunto de datos elegidos
al azar (mini-batch).
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 21 / 45
22. Redes neuronales
Optimizadores
▷ Momentum
En cada iteración resulta:
wi+1 = wi − η∇f (wi) + α∆(wi)
• w: parámetro que minimiza f (w) ha ser estimado
• η : ratio de aprendizaje
• α : factor de momento, factor de decaimiento exponencial, por lo general
muy cercano a 1.
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 22 / 45
24. Redes neuronales
Optimizadores
▷ AdaGrad
La fórmula de la actualización resulta:
w
(t+1)
j = w
(t)
j −
η
p
Gj,j
gj
donde
Gj,j =
n
X
i=1
g2
i,j
• gi = ∇f (w) : gradiente en la iteración i-ésima.
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 24 / 45
25. Redes neuronales
Optimizadores
▷ RMSProp
La fórmula de actualización resulta:
wt+1 = wt −
η
p
v(w, t)
∇Li(w)
• γ : coeciente de olvido
• Li (·) : función de pérdida asociada a cada parámetro
• v(w, t) ← γv(w, t − 1) + (1 − γ)(∇Li (w))2
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 25 / 45
27. Redes neuronales
Optimizadores
▷ Adam
Dados parámetros w(t) y una función de pérdida L(t), la actualización del
parámetro de Adam viene dada por:
m
(t+1)
w ← β1m
(t)
w + (1 − β1)∇w L(t)
v
(t+1)
w ← β2v
(t)
w + (1 − β2)(∇w L(t)
)2
mw =
m
(t+1)
w
1 − βT
1
vw =
v
(t+1)
w
1 − βT
2
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 27 / 45
28. Redes neuronales
Optimizadores
▷ Adam
Así la actualización es de la forma:
w(t+1)
← w(t)
− η
mw
√
vw + ϵ
• ϵ: escalar positivo para evitar la división por cero
• β1, β2 : coecientes de olvido para los gradientes y sus segundos
momentos respectivamente.
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 28 / 45
29. Indice
1 Inteligencia articial: Machine learning
2 Redes neuronales
3 Aplicación de la IA en Fórmula 1
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 29 / 45
30. Aplicación de la IA en Fórmula 1
¾Por qué Fórmula 1?
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 30 / 45
31. Aplicación de la IA en Fórmula 1
¾Por qué Fórmula 1?
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 31 / 45
32. Aplicación de la IA en Fórmula 1
Red neuronal para el estudio del cambio de los neumáticos
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 32 / 45
33. Aplicación de la IA en Fórmula 1
Red neuronal para el estudio del cambio de los neumáticos
▷ Dataset
• 5 carreras: 2018 - 2022
• Split 80 - 20 entrenamiento-validación
• 6k observaciones
• Originalmente 27 variables → Realizar EDA con HeatMap para
discriminar
• 8 variables representativas : 'LapNumber', 'SpeedI1', 'SpeedI2',
'SpeedFL', 'SpeedST', 'TyreLife', 'Stint', 'Tiempo_en_segundos'
• 4 elecciones: 0 (no hacer nada), 1 (cambio a SOFT), 2 (cambio a
MEDIUM), 3 (cambio a HARD)
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 33 / 45
34. Aplicación de la IA en Fórmula 1
Red neuronal para el estudio del cambio de los neumáticos
▷ Arquitectura de la red
Red neuronal
Input Layer
(+6)
Output Layer
1
9
10 11
12
13
14
15
16
17
18
2
3
4 5
6
7
8
19
20
21
22
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 34 / 45
35. Aplicación de la IA en Fórmula 1
Red neuronal para el estudio del cambio de los neumáticos
▷ Resultados
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 35 / 45
36. Aplicación de la IA en Fórmula 1
Red neuronal para el estudio del cambio de los neumáticos
▷ Resultados
M =
0 0 0 0
0 269 395 0
0 71 440 0
0 1 34 0
• Acierto en cambio a neumático SOFT: 78.89 %.
• Acierto en cambio a neumático MEDIUM : 50.63 %.
• Neumático HARD no es óptimo.
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 36 / 45
37. Aplicación de la IA en Fórmula 1
Red neuronal para el estudio del cambio de los neumáticos
▷ Conclusiones
A la vista de los resultados de la red:
• Problemas discernir entre SOFT y MEDIUM.
• Mayores aciertos en elección de SOFT que de MEDIUM.
• Extrema igualdad ambos compuestos.
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 37 / 45
38. Aplicación de la IA en Fórmula 1
Red neuronal para el estudio del cambio de los neumáticos
▷ Resultados carreras
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 38 / 45
39. Aplicación de la IA en Fórmula 1
Red neuronal para el estudio del cambio de los neumáticos
▷ Resultados carreras
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 39 / 45
40. Aplicación de la IA en Fórmula 1
Red neuronal para el estudio del cambio de los neumáticos
▷ Resultados carreras
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 40 / 45
41. Aplicación de la IA en Fórmula 1
Red neuronal para el estudio del cambio de los neumáticos
▷ Resultados carreras
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 41 / 45
42. Aplicación de la IA en Fórmula 1
Red neuronal para el estudio del cambio de los neumáticos
▷ Resultados carreras
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 42 / 45
43. Aplicación de la IA en Fórmula 1
Red neuronal para el estudio del cambio de los neumáticos
▷ Posible estrategia
Posible estrategia de carrera:
• Comenzar con neumático SOFT
• Cambiar a neumático MEDIUM
• Volver a neumático SOFT
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 43 / 45
44. Aplicación de la IA en Fórmula 1
Red neuronal para el estudio del cambio de los neumáticos
▷ Mejoras futuras
• Obtener más carreras con el formato de API adecuado (errores en
carreras anteriores a 2018).
• Obtener un mejor dataset.
• Emplear información de los entrenamientos libres.
• Realizar simulaciones de carrera completas y compararlas con las
ocurridas en la realidad.
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 44 / 45
45. Aplicación de la IA en Fórmula 1
FIN
Alejandro Izquierdo Bonilla (U.Z.) ML: Redes neuronales en F1 Zaragoza 2023 45 / 45