Число запросов на показ рекламы и число рекламных кампаний постоянно растет. Начиная с 2013 года, мы наблюдаем рост этих показателей в десятки раз. Так как нагрузка на нашу систему пропорциональна произведению этих чисел, такой рост создает для нас множество сложных и интересных задач. Некоторые из этих задач, про которые расскажем: - Как из тысяч рекламных материалов выбрать наиболее релевантный для пользователя и делать это 100 000 раз в секунду? - Как реализовать таргетирование рекламных кампаний так, чтобы общая производительность почти не зависела от общего количества этих кампаний? - Как эффективно запрашивать данные из внешних сервисов, когда таких запросов надо делать миллионы раз в секунду? - Как оставаться в рамках 50 мс на ответ даже в моменты пиковой нагрузки, в разы превышающей нормальную? - Как измерять и мониторить нагруженность в разрезе по потокам и автоматически реагировать на перегрузки? - Как сразу видеть эффект от оптимизации или негативное влияние новой функциональности на нагрузку?

1. Как 100 000 раз в секунду выбирать
правильный рекламный материал?
Programmatic-платформа Exebid.DCA изнутри
Павел Бейзман
Data-Centric Alliance
Архитектор высоконагруженных систем

2. Что такое programmatic-платформа?
Exebid.DCA DSP

3. Что такое programmatic-платформа?
Exebid.DCA DSP
Рекламодатели

4. Что такое programmatic-платформа?
Биржа
Биржа
Биржа
Exebid.DCA DSP
Рекламодатели

5. Что такое programmatic-платформа?
Биржа
Биржа
Биржа
Exebid.DCA DSP
Рекламодатели
Data management
platform

6. Что такое programmatic-платформа?
Predictions
Биржа
Биржа
Биржа
Exebid.DCA DSP
Рекламодатели
Data management
platform

7. Что такое programmatic-платформа?
• 100 000 запросов в секунду

8. Что такое programmatic-платформа?
• 100 000 запросов в секунду
• 10 000 рекламных материалов

9. Что такое programmatic-платформа?
• 100 000 запросов в секунду
• 10 000 рекламных материалов
• Рост неравномерный

10. Что такое programmatic-платформа?
• 100 000 запросов в секунду
• 10 000 рекламных материалов
• Рост неравномерный
• 50 мc на ответ

11. Таргетинги

12. Таргетинги: наивная реализация
● Проверяем по очереди каждую кампанию и каждый
таргетинг

13. Таргетинги: наивная реализация
● Проверяем по очереди каждую кампанию и каждый
таргетинг
● Линейная зависимость от количества кампаний

14. Таргетинги: наивная реализация
● Проверяем по очереди каждую кампанию и каждый
таргетинг
● Линейная зависимость от количества кампаний
● Деградация производительности

15. Таргетинги: оптимизированная реализация
● Множество кампаний - битовая маска

16. Таргетинги: оптимизированная реализация
● Множество кампаний - битовая маска
Пример:

18. Пример: белый список доменов

19. Пример: белый список доменов

20. Пример: белый список доменов

21. Пример: белый список доменов

22. Пример: белый список доменов
Result:

23. Таргетинг на подстроку в URL
● Хеш-таблицы не подойдут

24. Таргетинг на подстроку в URL
● Хеш-таблицы не подойдут
● Алгоритм Ахо-Корасик

25. Алгоритм Ахо-Корасик
● Дано: произвольный набор строк

26. Алгоритм Ахо-Корасик
● Дано: произвольный набор строк
● Требуется: быстро находить в текстах все вхождения строк
из набора

27. cat
zcat
phone
photo

28. cat
zcat
phone
photo

29. Подсчет вероятности клика
● Для каждого баннера делаем запрос к предиктору

30. Подсчет вероятности клика
● Для каждого баннера делаем запрос к предиктору

31. Три группы параметров:
● Параметры сайта или приложения
Запросы к предиктору

32. Три группы параметров:
● Параметры сайта или приложения
● Параметры пользователя
Запросы к предиктору

33. Три группы параметров:
● Параметры сайта или приложения
● Параметры пользователя
● Параметры рекламного материала
Запросы к предиктору

34. ● Vowpal Wabbit: текстовый формат
Запросы к предиктору
|c windows |d 269557783 |e windows-7 |f between |g p-33662 |h s-34629
|l 2017370-1502020 |o 14 |a 373470 |b ethernet |i 0 |j null |k desktop
|m 2017370-1485997 |n 4 |p 0 |q lc:0.0092 li:1.13 lm:0.07 |r 1671
|s 2484 |t 8408 |u 12491 |v 300x250

35. ● Параметры пользователя и сайта генерим один раз
Запросы к предиктору

36. ● Параметры пользователя и сайта генерим один раз
● Оптимизация перевода из числа в строку
Запросы к предиктору

37. ● Параметры пользователя и сайта генерим один раз
● Оптимизация перевода из числа в строку
Запросы к предиктору

38. Смотрим на данные
Остальные 0 - 10000

39. Конвертация числа в строку
ns

40. Конвертация числа в строку
ns

41. Запросы к предиктору: обработка ответов
void process_responses() {
while (!stopped()) {
wait_for_data();
process_data();
}
}

42. Запросы к предиктору: обработка ответов
void process_responses() {
while (!stopped()) {
sleep(milliseconds(1));
process_data();
}
}

43. Перегрузка

44. Считаем загруженность потока
void process_responses() {
while (!stopped()) {
Time before_sleep = now();
sleep(milliseconds(1));
totalSleepTime_ += now() - before_sleep;
process_data();
}
}

45. Считаем загруженность потока
void process_responses() {
while (!stopped()) {
Time before_sleep = now();
sleep(milliseconds(1));
totalSleepTime_ += now() - before_sleep;
process_data();
}
}

46. Загруженность потоков
Predictor
Router
Aerospike

47. Загруженность потока
● Выше 95% - опасность

48. Загруженность потока
● Выше 95% - опасность
● Режем часть трафика

49. Загруженность потока
● Выше 95% - опасность
● Режем часть трафика
● Гарантированно отвечаем за 50 мс

50. Выводы
● Полезно знать алгоритмы

51. Выводы
● Полезно знать алгоритмы ( http://e-maxx.ru/ )

52. Выводы
● Полезно знать алгоритмы ( http://e-maxx.ru/ )
● Используйте особенности своих данных

53. Выводы
● Полезно знать алгоритмы ( http://e-maxx.ru/ )
● Используйте особенности своих данных
● Latency vs throughput: найдите баланс

54. Выводы
● Полезно знать алгоритмы ( http://e-maxx.ru/ )
● Используйте особенности своих данных
● Latency vs throughput: найдите баланс
● Мониторинг внутренностей системы полезен

55. Выводы
● Полезно знать алгоритмы ( http://e-maxx.ru/ )
● Используйте особенности своих данных
● Latency vs throughput: найдите баланс
● Мониторинг внутренностей системы полезен
● Не допускайте перегрузок

56. Спасибо!
Павел Бейзман
Data-Centric Alliance
p.beizman@datacentric.ru
Skype: pavel.b.beyzman
Вопросы?