Este documento discute cómo optimizar el rendimiento y el uso de memoria de la JVM antes de implementar una aplicación en producción. Cubre temas como realizar pruebas de carga, analizar registros de GC, ajustar el tamaño de heap y usar herramientas de monitoreo para diagnosticar problemas. También explica conceptos como recolección de basura generacional y las optimizaciones del compilador JIT.

1. JVM Tuning
Lo que debes saber antes de subir a producción
@edusanchezcon

2. JVM Tuning
Lo que debes saber antes de subir a producción
@edusanchezcon

3. Sobre mí
Eduardo Sánchez
@edusanchezcon
github.com/EduSanchezCon
Consultor tecnológico en

5. Qué vamos a ver
* Tests de carga
* Tuning de memoria
* Tuning de rendimiento

6. Suda en desarrollo
para no sangrar en producción

7. @edusanchezcon
Tests de carga
Hay que probar un uso similar a la que tendrá en producción
Carga proporcional
Funcionalidad coherente
Entorno parecido

8. @edusanchezcon
Tests de carga: Medir y Monitorizar
Medir para saber cuánto
Tiempo de respuesta
Operaciones / Tiempo
Tiempo total por lote
Monitorizar para saber por qué
Sistema: CPU, Memoria, Disco
JVM: Memoria (Heap), GCs
Logs, Sampling, Profilers

9. @edusanchezcon
Load Test
Uso similar al de producción
Tests de carga: Tipos

10. @edusanchezcon
Capacity Test
Degradación en función de la carga
Tests de carga: Tipos

11. @edusanchezcon
Stress Test
Comportamiento ante una carga por encima de sus capacidades
Tests de carga: Tipos

12. @edusanchezcon
Recovery Test
Recuperación tras un desastre (fallo de BD, llenado de disco…)
Tests de carga: Tipos

13. @edusanchezcon
Soak Test
Degradación en función del tiempo
Tests de carga: Tipos

14. @edusanchezcon
JMeter, LoadUI, WebLoad, Gatling
JVisualVM, JConsole, Java Mission Control, Java Flight Recorder
Tests de carga: Herramientas
Y mucho más: Grafana, JMX events, integración en CI…

15. Qué vamos a ver
* Tests de carga
* Performance Tuning
* Memory Tuning

16. JVM
Unboxing

17. @edusanchezcon
Process Memory
La memoria en la JVM

18. @edusanchezcon
Heap
Metaspace
Code
Cache
Thread
N
Thread
2
Thread
1
La memoria en la JVM

19. @edusanchezcon
Young Generation
Metaspace
Code
Cache
Old Generation
Eden survivor
1 2
compressed
class space
PC Register
JVM Stack
Native Stack
Thread
N
La memoria en la JVM

20. @edusanchezcon
La memoria en la JVM (JDK ≤ 7)
Young Generation
Thread
N
Old Generation
Eden survivor
1 2
PC Register
JVM Stack
Native Stack
PermGen
Code
Cache

21. @edusanchezcon
¿Cómo se gestiona la Memoria?
No se libera memoria explícitamente
El Garbage Collector libera lo que ya no se usa

22. @edusanchezcon
C
B
D
E
N
A J
H
I
F
G
M
K
L
Q
P
¿Cómo se detecta lo que ya no se usa?

23. @edusanchezcon
C
B
D
E
N
A J
H
I
F
G
M
K
L
Q
P
¿Cómo se detecta lo que ya no se usa?

24. @edusanchezcon
C
B
D
E
N
A J
H
I
F
G
M
K
L
Q
P
static
Thread
¿Cómo se detecta lo que ya no se usa?

25. @edusanchezcon
C
B
D
E
N
A
J
H
I
F
G
M
K
L
Q
P
GC Roots
Reachable Objects
Non Reachable Objects
¿Cómo se detecta lo que ya no se usa?

26. @edusanchezcon
C
B
D
E
A
J
H
I
F
G
KP
GC Roots
Reachable Objects
¿Cómo se detecta lo que ya no se usa?

27. Hipótesis generacional
Objetos, peces,
la mayoría mueren jovenes

28. @edusanchezcon
Old GenerationEden
Survivors
1 2
Generational Collection

29. @edusanchezcon
Old GenerationEden
Survivors
1 2
Generational Collection

30. @edusanchezcon
Old GenerationEden
Survivors
1 2
Generational Collection

31. @edusanchezcon
Old GenerationEden
Survivors
1 2
Generational Collection

32. @edusanchezcon
Old GenerationEden
Survivors
1 2
Generational Collection

33. @edusanchezcon
Old GenerationEden
Survivors
1 2
Generational Collection

34. @edusanchezcon
Old GenerationEden
Survivors
1 2
Generational Collection

35. @edusanchezcon
Old GenerationEden
Survivors
1 2
Generational Collection

36. @edusanchezcon
Old GenerationEden
Survivors
1 2
Generational Collection

38. @edusanchezcon
Serial GC
Parallel GC
G1 GC
Concurrent Mark & Sweep
Z GC
Epsilon GC
Garbage Collectors

39. @edusanchezcon
Heap: Problemas comunes
OutOfMemoryError: Java heap space|GC overhead limit exceeded
Dimensionamiento incorrecto de la memoria
Memory leak
No Referenced Referenced
Not Used Used
{
leak

40. @edusanchezcon
Heap: Diagnóstico
Heap Dumps
-XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=/path-to-hd
jcmd <pid> GC.heap_dump <path>
JVisualVM, JConsole, Java Mission Control
Sin Full GC previo: jcmd <pid> GC.heap_dump -all <path>
Análisis: Eclipse Memory Analyzer Tool

41. Ahí te hemos dejado el dump

42. @edusanchezcon
Monitorización continua del tamaño del Heap
Configuración de frameworks/librerías de terceros
Heap: Recomendaciones
-Xms = -Xmx

43. @edusanchezcon
-XX:+PrintGCDetails -XX:+PrintGCDateStamps -Xloggc:<file-path>
Java 9+ -xlog
Garbage Collector: GC Logs
SIEMPRE ACTIVADO EN PRODUCCIÓN

44. @edusanchezcon
Garbage Collector: GC Logs
2018-11-19T10:49:38.496-0100: 17.830:
[Full GC (Ergonomics)
[PSYoungGen: 256K->0K(43008K)]
[ParOldGen: 46473K->1524K(46592K)] 46729K->1524K(89600K),
[Metaspace: 5450K->5442K(1056768K)],
0.0075023 secs] [Times: user=0.03 sys=0.00, real=0.01 secs]

45. @edusanchezcon
2018-11-19T10:49:38.496-0100: 17.830:
[Full GC (Ergonomics)
[PSYoungGen: 256K->0K(43008K)]
[ParOldGen: 46473K->1524K(46592K)] 46729K->1524K(89600K),
[Metaspace: 5450K->5442K(1056768K)],
0.0075023 secs] [Times: user=0.03 sys=0.00, real=0.01 secs]
Timestamp absoluto del gc
Garbage Collector: GC Logs

46. @edusanchezcon
2018-11-19T10:49:38.496-0100: 17.830:
[Full GC (Ergonomics)
[PSYoungGen: 256K->0K(43008K)]
[ParOldGen: 46473K->1524K(46592K)] 46729K->1524K(89600K),
[Metaspace: 5450K->5442K(1056768K)],
0.0075023 secs] [Times: user=0.03 sys=0.00, real=0.01 secs]
Timestamp relativo al inicio de la JVM
Garbage Collector: GC Logs

47. @edusanchezcon
2018-11-19T10:49:38.496-0100: 17.830:
[Full GC (Ergonomics)
[PSYoungGen: 256K->0K(43008K)]
[ParOldGen: 46473K->1524K(46592K)] 46729K->1524K(89600K),
[Metaspace: 5450K->5442K(1056768K)],
0.0075023 secs] [Times: user=0.03 sys=0.00, real=0.01 secs]
Causa del GC
Garbage Collector: GC Logs

48. @edusanchezcon
2018-11-19T10:49:38.496-0100: 17.830:
[Full GC (Ergonomics)
[PSYoungGen: 256K->0K(43008K)]
[ParOldGen: 46473K->1524K(46592K)] 46729K->1524K(89600K),
[Metaspace: 5450K->5442K(1056768K)],
0.0075023 secs] [Times: user=0.03 sys=0.00, real=0.01 secs]
Región de memoria
Garbage Collector: GC Logs

49. @edusanchezcon
2018-11-19T10:49:38.496-0100: 17.830:
[Full GC (Ergonomics)
[PSYoungGen: 256K->0K(43008K)]
[ParOldGen: 46473K->1524K(46592K)] 46729K->1524K(89600K),
[Metaspace: 5450K->5442K(1056768K)],
0.0075023 secs] [Times: user=0.03 sys=0.00, real=0.01 secs]
Espacio antes y después del GC (capacidad de la región de memoria)
Garbage Collector: GC Logs

50. @edusanchezcon
2018-11-19T10:49:38.496-0100: 17.830:
[Full GC (Ergonomics)
[PSYoungGen: 256K->0K(43008K)]
[ParOldGen: 46473K->1524K(46592K)] 46729K->1524K(89600K),
[Metaspace: 5450K->5442K(1056768K)],
0.0075023 secs] [Times: user=0.03 sys=0.00, real=0.01 secs]
Espacio antes y después dell GC (capacidad total del Heap)
Garbage Collector: GC Logs

51. @edusanchezcon
2018-11-19T10:49:38.496-0100: 17.830:
[Full GC (Ergonomics)
[PSYoungGen: 256K->0K(43008K)]
[ParOldGen: 46473K->1524K(46592K)] 46729K->1524K(89600K),
[Metaspace: 5450K->5442K(1056768K)],
0.0075023 secs] [Times: user=0.03 sys=0.00, real=0.01 secs]
Tiempo real
Garbage Collector: GC Logs

52. @edusanchezcon
2018-11-19T10:49:38.496-0100: 17.830:
[Full GC (Ergonomics)
[PSYoungGen: 256K->0K(43008K)]
[ParOldGen: 46473K->1524K(46592K)] 46729K->1524K(89600K),
[Metaspace: 5450K->5442K(1056768K)],
0.0075023 secs] [Times: user=0.03 sys=0.00, real=0.01 secs]
Tiempo de CPU
Garbage Collector: GC Logs

53. Qué vamos a ver
* Tests de carga
* Memory Tuning
* Performance Tuning

54. “Premature optimization
is the root of all evil”
Donald Knuth

55. @edusanchezcon
Nuestro código vs lo que se ejecuta
Interprete
Bytecode
Compilador
Código máquina
optimizado

56. @edusanchezcon
Nuestro código vs lo que se ejecuta
Interprete
Bytecode
C1
Código máquina
C2
Código máquina
optimizado

57. @edusanchezcon
Optimizaciones del JIT Compiler
‣ Trivial inlining
‣ Call graph inlining
‣ Tail recursion elimination
‣ Virtual call guard optimizations
‣ Local data flow analyses and optimizations
‣ Register usage optimization
‣ Simplifications of Java idioms
‣ Code reordering, splitting, and removal
‣ Loop reduction and inversion
‣ Loop striding and loop-invariant code motion
‣ Loop unrolling and peeling
‣ Loop versioning and specialization
‣ Exception-directed optimization
‣ Switch analysis
‣ Global data flow analyses and optimizations
‣ Partial redundancy elimination
‣ Escape analysis
‣ GC and memory allocation optimizations
‣ Synchronization optimizations

58. @edusanchezcon
Ciclo de performance tuning
Determinar la carga máxima
Localizar el cuello de botella Solucionar el problema
Load Test
Sampler/Profiler

59. @edusanchezcon
Ejemplo práctico
-XX:+UnlockCommercialFeatures -XX:FlightRecorder

60. @edusanchezcon
Operaciones de Entrada / Salida
Cuellos de botella frecuentes
Ejecutar muchas veces lo mismo (de manera innecesaria)
Dimensionamiento ineficiente de pools de hilos

61. Wanna go faster?
No GCs
Native Memory
Specialized Collections
CharSequence

63. ? @edusanchezcon