Node.js ma wiele zalet - jest szybki, asynchroniczny, łatwy do nauczenia. Ma też jedną wadę - jest jednowątkowy, co w dobie wielordzeniowych procesorów jest marnowaniem mocy obliczeniowej. Tę wadę jednak przekuć można w olbrzymią zaletę, gdyż dzięki temu niejako wymuszamy myślenie o skalowaniu naszej aplikacji w przyszłości. W tej prezentacji pokażę na przykładach usług w Node.js możliwości skalowania aplikacji zarówno w ramach tej samej maszyny jak dystrybucji obciążenia/obliczeń na wiele maszyn.

1. JESTEM TOMEK
… i lubię dzielić się wiedzą :)

2. “premature optimization
is the root of all evil”
~Donald Knuth .

4. TWÓJ
FRAMEWORK
JEST SZYBKI
WIĘKSZOŚĆ PROBLEMÓW TO
BAZA DANYCH / OPERACJE IO

5. CO TAK
NAPRAWDĘ JEST
CELEM
SKALOWANIA
Tylko liczba potencjalnych req/s?

6. ● Obsługa większej ilości użytkowników
● Relacja kosztów do skali
● Odporność na awarie sprzętowe
● Odporność na awarie sieciowe
● Odporność na ataki hakerskie
● Aktualizacje aplikacji bez downtime
● Zachowanie łatwego utrzymania
aplikacji

7. SKALOWANIE
INFRASTRUKTUR
Y
Wertykalnie, horyzontalnie,
dekompozycja

8. SKALOWANIE WERTYKALNE

9. SKALOWANIE WERTYKALNE
● Downtime
● SPOF
● Skalowanie z limitem
● Koszty wydajniejszych maszyn
.... a chmura?
● … też downtime :)
● Koszty
● Bez architektury też skalowanie z limitem

10. SKALOWANIE HORYZONTALNE
HAPROXY

11. SKALOWANIE HORYZONTALNE
PLUSY
MINUSY
● Likwidacja SPOF
● Aktualizacja bez downtime
● Relatywnie proste i szybkie do
wykonania
● Na początku nie wymaga zmiany kodu
● Stateful apps
● Sesje
● Pliki lokalne
● Utrzymanie aplikacji

12. DEKOMPOZYCJA
app0 db0

13. DEKOMPOZYCJA
HAPROXY

14. KONKLUZJA
BEZ ARCHITEKTURY
APLIKACJI NIE MA
DOBREGO SKALOWANIA

15. SKALOWANIE
APLIKACJI
NODE.JS
Zobaczmy jak to zrobić :)

16. SKALOWANIE W
NODE.JS
● Asynchroniczność Twoim
przyjacielem!
● Promise’y dobrze się skalują
● Architektura oparta na
zdarzeniach
● Jednowątkowość
● Low MEM/CPU footprint
● Redis Pub/Sub, RabbitMQ, ...

17. CLUSTER
.JS

18. // cluster.js
const cluster = require('cluster');
const os = require('os');
if (cluster.isMaster) {
const cpus = os.cpus().length;
console.log(`Forking for ${cpus} CPUs`);
for (let i = 0; i<cpus; i++) {
cluster.fork();
}
} else {
require('./server');
}
CLUSTER.JS NODE MODULE

19. Object.values(cluster.workers).forEach(worker => {
worker.send(`Hello, worker ${worker.id}`);
});
CLUSTER.JS NODE MODULE
process.on('message', msg => {
console.log(`Message from master: ${msg}`);
});
cluster.on('exit', (worker, code, signal) => {
if (code !== 0 && !worker.exitedAfterDisconnect) {
console.log(`Worker ${worker.id} crashed. ` +
'Starting a new worker...');
cluster.fork();
}
});

20. const http = require('http');
const pid = process.pid;
http.createServer((req, res) => {
for (let i=0; i<1e7; i++); // fake job done
res.end(`Request handled by process ${pid}`);
}).listen(8080, () => {
console.log(`Started process ${pid}`);
});
CLUSTER.JS
node server.js node cluster.js
55 req/s 216 req/s
Test na Intel Core i5: ab -c200 -t10 http://localhost:8080/

21. CLUSTER.JS
● Prosty… na początku :)
● Brak zarządzania workerami
● Słaba wydajność
● APP WORKER
● Natywne wsparcie
● Aktualizacje workerów
● Skalowanie w obrębie maszyny

22. PM2

23. PM2
pm2 start server.js -i max
pm2 reload all
pm2 monit/ls

24. PM2
https://keymetrics.io

25. const http = require('http');
const pid = process.pid;
http.createServer((req, res) => {
for (let i=0; i<1e7; i++); // fake job done
res.end(`Request handled by process ${pid}`);
}).listen(8080, () => {
console.log(`Started process ${pid}`);
});
PM2
node server.js pm2 start server.js -i MAX
54 req/s 244 req/s
Test na Intel Core i5: ab -c200 -t10 http://localhost:8080/

26. PM2
● Sprawdzony przez społeczność
● Zarządza workerami
● Wydajność
● Aktualizacje workerów
● Integracja z narzędziami do
monitoringu
● Skalowanie na wiele maszyn

27. JEŚLI NIE
WORKERY TO
MIKROUSŁUGI

28. COTE.J
S“An auto-discovery mesh network framework for building fault-
tolerant and scalable applications”

29. const cote = require('cote');
const timeService = new cote.Responder({name: 'Time Service'});
timeService.on('time', (request, callback) => {
callback(new Date());
});
COTE.JS
const cote = require('cote');
const client = new cote.Requester({name: 'Client'});
client.send({type: 'time'}, (time) => {
console.log(time);
});
time-service.js
client.js

30. COTE.JS
● Zeroconf + dużo magii
● Działa na wielu maszynach
● COTE + PM2 = 💜
● Monitoring
● Wymaga obsługi IP
broadcast/multicast
● Chaos przy developerce
● Docker-friendly

31. … I CO DALEJ? :)
JAK ZAPEWNIĆ SOBIE
SPOKOJNY SEN

32. … I CO DALEJ? :)
● Każdy element infrastruktury może
zawieść (i zawiedzie :) )
● Skalowanie powinno być liniowe
● Znaj swój limit!

33. CO Z
INFRASTRUKTURĄ?

34. PYTANIA? ;-)
Możecie mnie znaleźć tutaj:
http://banasiak.pro

35. FRONTEND
BACKEND
FRONTEND MESSAGE BUS
REACT REACT REACT JS OLD JS/HTML
WebSocket connection
BACKEND GATEWAY
SERVICE 1 SERVICE 2 SERVICE 3
MESSAGE BROKER
AUTHORIZATIO
N
ROLE&ACCESSE
S
USERS
SERVICE 4 SERVICE 5