Talk juc jeeconf

Что нового в j.u.c
(JSR 166e)
Дмитрий Чуйко
dmitry.chuyko@oracle.com

Outline
Введение
Что нового
Atomics
Locks
Accumulators
Collections
Slide 2/57. Copyright c○ 2013, Oracle and/or its affiliates. All rights reserved.

The following is intended to outline our general
product direction. It is intended for information
purposes only, and may not be incorporated into any
contract. It is not a commitment to deliver any
material, code, or functionality, and should not be
relied upon in making purchasing decisions. The
development, release, and timing of any features or
functionality described for Oracle’s products remains
at the sole discretion of Oracle.

Введение

Введение: Ситуация
Всем нужны масштабируемость, надёжность,
производительность
The Free Lunch Is Over, Herb Sutter, 2005
Многопоточность может возникать из-за
условий задачи
Многопроцессорность/многоядерность везде

История: Цели
Параллелизация за кулисами
Загрузка процессора полезной работой
Хорошие алгоритмы

История: Java Concurrency Timeline
JDK 1.0
  JMM
  synchronizied
  Thread
1996 1997 2004
JDK 1.2
  Collections
JDK 5
  JMM
  java.util.concurrent
JSRs
  JSR 133
  JSR 166
Doug Lea
 Concurrency
package
1998 2006
JDK 6
  Deques,
JSRs
  JSR 166x
2011
JDK 7
  ForkJoinPool,
JSRs
  JSR 166y
JDK 8
  java.util.concurrent
JSRs
  JSR 166e

История: Состав
Java Concurrency Utilities
Executors
Synchronizers Collections
Atomics Locks Nano time

История: Фундамент
Runtime
LockSupport
Unsafe
JVM
Intrinsics
OS
pthreads mutex
Hardware
CAS

История: Атомарные переменные
@since 1.5
Обёртки примитивов, ссылок, управление
полями
– Compare-And-Set
– Атомарная арифметика

История: Синхронизация
@since 1.5
Semaphores, mutexes, barriers, latches,
exchangers
– Удобство синхронизации
Locks
– Производительность
– Модель памяти. Эффект эквивалентен
synchronized
– Гибкость

История: Concurrent Collections
@since 1.5
ArrayBlockingQueue, PriorityBlockingQueue,
LinkedBlockingQueue, SynchronousQueue,
DelayQueue
ConcurrentHashMap
CopyOnWriteArrayList
CopyOnWriteArraySet

История: Concurrent Collections
@since 1.6, @since 1.7
LinkedBlockingDeque, LinkedTransferQueue
ConcurrentSkipListMap
ConcurrentSkipListSet

История: Task Scheduling
@since 1.5, @since 1.7
Executor’ы
– Выполнение асинхронных задач
– Политики выполнения

Что нового

Что нового: JC Utilities
Executors
ForkJoinPool (updated, CountedCompleter)
Collections Accumulators
ConcurrentHashMap (v8) LongAccumulator DoubleAccumulator
LongAdder DoubleAdder
LongAdderTable
Locks Atomics Synchronizers
StampedLock AtomicDoubleArray CompletableFuture
AtomicDouble

Atomics

Atomics: Чего не хватает
Для каких примитивных типов нет
Atomic-типов?
В каких числах чаще всего считаем?
Возникают массивы атомарных данных

Atomics: AtomicDouble
@since 1.8
Брат-близнец AtomicLong
Number, Serializable
compareAndSet(double expect, double update)
addAndGet(double delta)
Равенство битов значений
– doubleToRawLongBits()

Atomics: AtomicDoubleArray
@since 1.8
Брат-близнец AtomicLongArray
Serializable
compareAndSet(int i, double exp, double upd)
addAndGet(int i, double delta)
Равенство битов значений
– doubleToRawLongBits()

Atomics: Performance
Приводимые результаты
– Intel R○ Xeon R○ E5-2680 (2x8x2, 2.7 GHz)
– Linux x64 (RHEL 5.5, kernel 2.6.32)
– JDK 7 (1.7.0_11)
– OpenJDK JMH 1.0

Тест производительности
– Размер массива 2, 621, 440
– Читатели делают get()
– Писатели делают compareAndSet()
– Произвольный равномерный доступ

0
200
400
25 50 75
% of writers
Readthroughput,ops/usec
Benchmark
AtomicDouble[]
AtomicDoubleArray
T=32
0
100
200
300
25 50 75 100
% of writers
Writethroughput,ops/usec
Benchmark
AtomicDouble[]
AtomicDoubleArray
T=32

Locks

Locks: Чего бы хотелось
Блокировка на чтение, на запись
Чтение без блокировки
Upgrade/downgrade (RL↔WL)
Простота использования
И чтобы быстро работало

Locks: ReentrantReadWriteLock
@since 1.5
Lock, блокировка на чтение, на запись
Повторная входимость (reentrancy)
Пробная блокировка, таймауты,
прерываемость

@since 1.5
Lock, блокировка на чтение, на запись
Повторная входимость (reentrancy)
Пробная блокировка, таймауты,
прерываемость
Conditions
Fair/unfair
Serializable. . .
Memory effects

readLock() на чтение, writeLock() на
запись
Попробуйте написать оптимистичное чтение,
гарантировать memory effects
Downgrade WL→RL: захват RL под WL
Внутри работает с ThreadLocal

Locks: StampedLock
@since 1.8
Пример из javadoc

Locks: StampedLock
Point
class Point {
private double x, y;
private final StampedLock sl = new StampedLock ();
...

Locks: StampedLock
Optimistic Read
double distanceFromOrigin () { // A read -only method
long stamp = sl. tryOptimisticRead ();
double currentX = x;
double currentY = y;
if (!sl.validate(stamp )) {
stamp = sl.readLock ();
try {
currentX = x;
currentY = y;
} finally {
sl.unlockRead(stamp );
}
}
return Math.sqrt(currentX * currentX + currentY * currentY );
}

Locks: StampedLock
Upgrade
void moveIfAtOrigin (double newX , double newY) { // upgrade
long stamp = sl.readLock (); // Could start with optimistic
try {
while (x == 0.0 && y == 0.0) {
long ws = sl. tryConvertToWriteLock (stamp );
if (ws != 0L) {
stamp = ws;
x = newX;
y = newY;
break;
}
else {
sl.unlockRead(stamp );
stamp = sl.writeLock ();
}
}
} finally {
sl.unlock(stamp );
}
}

Locks: StampedLock
Оптимистичное чтение
Если проверки неудачные, можно захватить
блокировку
– Обычно удачные

Locks: StampedLock
Оптимистичное чтение
Если проверки неудачные, можно захватить
блокировку
– Обычно удачные
Выигрыш
– Мало записей ⇒ в разы
– Нет записей ⇒ на порядки
– Вне блокировки проверенное состояние может
стать неактуальным

Locks: StampedLock
Повышение уровня блокировки
– Может не быть выигрыша, если не
ограничивать запись
– Валидное состояние

Locks: StampedLock
Повышение уровня блокировки
– Может не быть выигрыша, если не
ограничивать запись
– Валидное состояние
В штатном варианте может быть в разы
быстрее RRWL
– Не гарантировано!
– При этом потребляет меньше ресурсов
– Можно передавать метку

Accumulators

Accumulators: Задача
Инкрементируем счётчик в разных нитях
Нити подбирают работу и имеют доступ к
общему контексту
void call () { // N threads
...
invocations.increment ();
}
...
long getCount () {
return invocations .get ();
}
Что использовать для invocations?

Accumulators: Простое решение
AtomicLong invocations = new AtomicLong (0L); // context
...
...
invocations. getAndIncrement ();
}
...
long getCount () { // cumulative value
}

Accumulators: AtomicLong
Sharing
Spin loop + CAS, много

Accumulators: LongAdder
Защита от коллизий за счёт структуры и
алгоритма
– PaddedAtomicLong[runtime.availableProcessors()]
Простой API
Number

Accumulators: Решение
LongAdder invocations = new LongAdder (); // context
...
...
invocations.increment ();
}
...
return invocations .sum ();
}

Accumulators: DoubleAdder
Аналогичен LongAdder, только для double
Большая часть логики одинаковая

Accumulators: Atomic Update
// AtomicLong , JDK 7
public final long addAndGet(long delta) {
for (;;) {
long current = get ();
long next = current + delta;
if ( compareAndSet (current , next ))
return next;
}
}
Хотим заменить ’+’ функцией

Accumulators: Произвольные
коммутативные операции
LongAccumulator
LongAccumulator invocations =
new LongAccumulator (Long ::sum , 0L); // context
...
...
invocations.accumulate (1);
}
...
}
DoubleAccumulator

Accumulators: Atomics
AtomicXXX
– updateAndGet(current -> current + 1)
– getAndAccumulate(delta, (current, delta) -> current+delta)

Accumulators: LongMaxUpdater
LongAccumulator(Long::max, Long.MIN_VALUE)
– accumulate(nextLocalLongMax)

Accumulators: LongMaxUpdater
10
100
1000
0 20 40 60
Threads
Throughput,ops/usec(logscale)
Benchmark Unshared CAS LongMaxUpdater AtomicLong long+Lock

Accumulators: Подводные камни
Local, ThreadLocal – эффективнее, если
можно применить
get(), reset() под нагрузкой просаживают
производительность
– Обход всех ячеек
Границы эффекта
– Система до насыщения
– Итерации менее 1 мкс

Collections

ConcurrentHashMap: CHMv7
Lock striping
– Concurrency level
– Сегмент - ReentrantLock
get() без блокировки
Защита от алгоритмических атак
– Другой хэш для String

Lock striping
– Concurrency level не используется, подстройка
структуры в процессе работы
– Node (bucket): synchronized или StampedLock

Lock striping
get() без блокировки или под блокировкой
на чтение

Lock striping
get() без блокировки или под блокировкой
на чтение
Защита от алгоритмических атак
– Сбалансированное дерево для Comparable -
performance

ConcurrentHashMap: v8 vs v7
– put()
– Integer-like ключи
– Нормальное распределение
– 2, 621, 440 элементов
– concurrencyLevel == 32 (optimal)

ConcurrentHashMap:
Масштабируемость
1
10
0 20 40 60
Threads
Throughput,ops/usec(logscale)
Benchmark CHMv8 CHMv7 HashMap+ReentrantLock

ConcurrentHashMap: Часть JDK 8
Часть методов появилась в других мапах
через default-реализации в Map
– putIfAbsent(), computeIfAbsent() атомарны в CHM

Добавились новые методы и возможности
– map.merge(key, valueSuffix, String::concat)
– chm.values().parallelStream()

Добавились новые методы и возможности
– map.merge(key, valueSuffix, String::concat)
– chm.values().parallelStream()
Можно использовать лямбды и method
reference
– int2IntMap.computeIfAbsent(100, (k)->k/3)
– stream.map(theMap::get)

LongAdderTable: Задача
Регистрировать распределение объектов
– Моделирование
– Профилирование
...
invocations.increment("call");
}
...
long getCount(String name) { // cumulative value
return invocations .sum(name );
}

LongAdderTable: Решение
Естественная комбинация
– new ConcurrentHashMap<K, LongAdder>()
Простой API
Serializable

LongAdderTable: API
install(K key)
increment(K key)
add(K key)
sum(K key)
и другие

Заключение: Книги
Java Concurrency in Practice
Brian Goetz, Tim Peierls, Joshua Bloch, Joseph
Bowbeer, David Holmes, Doug Lea
Concurrent Programming in Java: Design
Principles and Patterns
Doug Lea

Заключение: Ресурсы
Concurrency JSR-166 Interest Site
http://g.oswego.edu/dl/concurrency-interest/
JDK 8
http://jdk8.java.net/
Project Lambda
http://openjdk.java.net/projects/lambda/
JMH
http://openjdk.java.net/projects/code-tools/jmh/

Низкоуровневые API: Мотивация
JMM абстрактна, железо конкретно
Есть полезные трюки
Не используйте низкоуровневые API
напрямую

Низкоуровневые API: Unsafe
Не часть языка
– Обход JMM
– sun.misc
Unsafe API в Hotspot
– Аккуратный
– Абстрактный
– Достаточный
Не используйте Unsafe напрямую, это unsafe

Низкоуровневые API: Unsafe
Новая механика
– storeFence()
– loadFence()
– fullFence()
– Использование в реализации Locks

Низкоуровневые API: StampedLock
Listing 1: Optimistic Read
/* volatile long state */
...
long stamp = sl. tryOptimisticRead (); /* s = state */
double currentX = x;
double currentY = y;
if (!sl.validate(stamp )) { /* unsafe.loadFence () */
...
stamp = sl.writeLock (); /* CAS(state , next) */
x = newX;
y = newY;
sl.unlock(stamp );

Talk juc jeeconf

Recomendados

Recomendados

Más contenido relacionado

Similar a Talk juc jeeconf

Similar a Talk juc jeeconf (11)

Talk juc jeeconf