Polyglot on the JVM with Graal (Japanese)

Copyright © 2017, Oracle and/or its affiliates. All rights reserved. |
Polyglot on the JVM with Graal
Akihiro Nishikawa
May 20, 2017
JJUG CCC 2017 Spring

Safe Harbor Statement
The following is intended to outline our general product direction. It is intended for
information purposes only, and may not be incorporated into any contract. It is not a
commitment to deliver any material, code, or functionality, and should not be relied upon
in making purchasing decisions. The development, release, and timing of any features or
functionality described for Oracle’s products remains at the sole discretion of Oracle.
2

Program Agenda
3
What’s Graal? What’s Graal VM?
Polyglot in Graal VM
How to use
Appendix
1
2
3
4

What’s Graal? What’s Graal VM?
4

GraalとGraal VM
• speculative optimizationを得意とする、Javaで記述されたJITコンパイラ
– HotSpotベース
– 種々の言語の実行パフォーマンス向上を目指して設計
– JVMCI (Java-Level JVM Compiler Interface、 JEP 243) 準拠
– Java 9には実験的機能として搭載
5
Graal

GraalとGraal VM
• GraalやTruffle、その他の言語がバンドルされたJVM
6
Graal VM

Copyright © 2017, Oracle and/or its affiliates. All rights reserved. | 7
GraalとGraal VM
C++
Java
HotSpot
Compiler Interface
Client Server
HotSpot
JVMCI
Graal
HotSpot VM Graal VM
Compiler
Interface
Client

Polyglot in Graal VM
8

The One VM Concept
High performance polyglot virtual machine
9

The Ruby Logo is Copyright (c) 2006, Yukihiro Matsumoto. It is licensed under the terms of the Creative Commons Attribution-ShareAlike 2.5 agreement
JS Logo Copyright (c) 2011 Christopher Williams <chris@iterativedesigns.com>, MIT licence
You can distribute the R logo under the terms of the Creative Commons Attribution-ShareAlike 4.0 International license (CC-BY-SA 4.0) or (at your option) the GNU General Public License version 2 (GPL-2).

Impl Impl Impl Impl
11
VM VM VM VM

VM
Impl Impl Impl Impl
12

• JavaScript
– ECMAScript2016のスコアはV8より良好
– パフォーマンスもV8と同等
– node.jsのフルサポート
• R
– 統計解析向けのプログラミング言語及
びその開発実行環境
13
• Ruby
– JRubyのフォーク
– 5〜10倍ほど高性能
• C、C++、Fortran
– LLVM（Sulong）を使ってNative
Languageをサポート
Graal VM Polyglot

Graal VM Polyglot
C
HotSpot
JVMCI
Graal
Truffle
LLVM
(Sulong)
RRubyJavaScript
Java

Truffle
• Graalコンパイラと一緒に使うことで、Truffleインタプリタは自動的にJITコン
パイルされ、通常のJavaのパフォーマンスを出すことができる
• 実行時に自己最適化を実行する抽象構文木（AST）インタープリタを構築
するための基本的な基盤ならびにツール（TruffleDSL）を提供
15
シンプルなインタプリタとして言語を実装するためのフレームワーク

ネイティブモジュールを含めて互換性を担保
Graal.jsのアーキテクチャ
C++JavaScript Java
nodeモジュール（Javaスクリプトのみ）
node標準ライブラリ
V8 API
Thread pool
(libeio)
Event loop
(libev)
DNS
(c-ares)
crypto
(OpenSSL)
Graal.js JavaScript Engine
Adapter V8 API
to Graal.js (via JNI)
Native
extensions
node bindings (socket, http, …)
nodeモジュール
（Native
extension)

FastR
• Goal: RのためのTruffleスタックのメリットを認識すること
– CやC++といったNative Languageを使わなくても優れたパフォーマンス
– データの重いアプリケーションと並列アプリケーション向けに設計
– CRAN / Bioconductorリポジトリのサポート
• GNU Rの「段階的な改善」ではない
– Truffleベースの新しい実行エンジン
– GNU Rの置換エンジンとして設計
• 最新のGNU Rインタプリタよりも高速（2〜10倍）
17
https://github.com/graalvm/fastr

JavaScript in Graal VM
18

標準への対応
19
ECMAScript 2015 (ES6)
(16298 tests/16417 tests)
テストが通らなかった大部分はUnicode正規表現
93.4%
ECMAScript 2016 (ES7)
累乗演算子やArray.prototype.includes()にも対応
テストが通らなかった部分は、ブロックレベル関数定義や、
スプレッド演算子での特殊な条件でのテストなど
99.3%

Copyright © 2017, Oracle and/or its affiliates. All rights reserved. | Oracle Confidential – Internal
Octaneベンチマークの結果
0
0.2
0.4
0.6
0.8
1
1.2
1.4
V8 (5.4.500.6)
Graal.js
20

Ruby in Graal VM
21

言語とコアライブラリの標準への対応
22
Ruby言語
JRuby は 94%
96%
Rubyコアライブラリ
JRuby は 95%
99%

ベンチマークの結果
0
5
10
15
20
25
30
35
40
45
GraalVM
JRuby+invokedynamic
Ruby
23
Rubyを基準としたパフォーマンスの比較（大きいほど高パフォーマンス）
このテストは、Alocationや
BigIntegerのパフォーマンス
によって制約を受ける

“But, it’s easy to
optimize that kind
of code!”
24

単純なローカル変数
ベクトル化してない
単純な浮動小数点の計算
基本的なループ
演算子以外使っていない
（メソッド呼び出しがない）
数値型もしくはBoolean型しか使っていない

“Real Ruby is much
more complex!”
26

ループを使わずにSmalltalk
スタイルのブロックを利用
ループの境界条件は単純
な値ではなくオブジェクト
インスタンス変数
メソッドに隠れた
ロジック
配列の利用

コアライブラリを使って計算中間オブジェクト
別の配列を使って、配列の配
列にハッシュをマップし、変換
してハッシュに戻す
r, g, bのハッシュとして内
部ループのPixcelを表現
ローカル変数を使わず、
メソッド呼び出しのみ

メタプログラミング送信動的に作成されるシンボル
実際のロジックメソッドの
動的メソッド呼び出し

Chunky PNG kernels
0.01
0.1
1
10
100
1000
GraalVM
JRuby+invokedynamic
Ruby
30
Rubyを基準として比較
これらのベンチマークは、
GraalVMが完全に最適化

PSD.rb kernels
0.1
1
10
100
1000
GraalVM JRuby+invokedynamic Ruby
31
Rubyを基準として比較

Polyglot
32

REST
public internet
REST
private intranet
33

REST
public internet
34

REST
public internet
35

How we do polyglot in Graal VM
36

Ruby
Truffle::Interop.eval('application/language', source)
value = Truffle::Interop.import(name)
Truffle::Interop.export(name)
37

JavaScript
Interop.eval('application/language', source)
value = Interop.import(name)
Interop.export(name)
// Returns 20
Interop.eval('application/javascript', '14 + 6')
38

JavaScript in Ruby
puts Truffle::Interop.eval('application/javascript',
'14 + 6')
39
This returns 20
JavaScript Ruby

JavaScript in Ruby
Truffle::Interop.eval('application/javascript',
"function add(a,b) {
return a + b;
}
Interop.export('add',
add.bind(this));")
add = Truffle::Interop.import('add')
puts add.call(14,2)
40
Uses function defined in JavaScript from Ruby
JavaScript
Ruby

Ruby
JavaScript
41

Ruby
JS
42

Performance
43

Clamp
ウォームアップ後、
秒単位での
Iterationをレポート
乱数入力があると
最適化が効かない

Ruby
0
1000000
2000000
3000000
4000000
5000000
6000000
7000000
8000000
9000000
10000000
GraalVM JRuby+invokedynamic Ruby
Operations Per Second
45

JavaScript (V8)
JavaScriptに書き換
え、 V8と組み合わ
せてみた

Ruby + JavaScript (V8)
0
50000
100000
150000
200000
250000
300000
350000
Ruby (just Ruby) Ruby (Ruby + JS with V8)
47

V8からRhinoへ変更

JRuby + JavaScript (Rhino)
0
100000
200000
300000
400000
500000
600000
JRuby+indy (just Ruby) JRuby+indy (Ruby + JS with Rhino)
49

Nashornで試す

JRuby + JavaScript (Nashorn)
0
100000
200000
300000
400000
500000
600000
JRuby+indy (just Ruby) JRuby+indy (Ruby + JS with
Rhino)
JRuby+indy (Ruby + JS with
Nashorn)
51

Graal VM

Ruby + JavaScript (Graal VM)
0
1000000
2000000
3000000
4000000
5000000
6000000
7000000
8000000
9000000
10000000
GraalVM (just Ruby) GraalVM (Ruby + JS) JRuby+invokedynamic Ruby
53

0
1000000
2000000
3000000
4000000
5000000
6000000
7000000
8000000
9000000
10000000
GraalVM
(just Ruby)
GraalVM
(Ruby + JS)
JRuby+indy
(just Ruby)
JRuby+indy
(Ruby + JS
with Rhino)
JRuby+indy
(Ruby + JS
with
Nashorn)
Ruby (just
Ruby)
Ruby (Ruby
+ JS with
V8)
54

1
10
100
1000
10000
100000
1000000
10000000
GraalVM
(just Ruby)
GraalVM
(Ruby + JS)
JRuby+indy
(just Ruby)
JRuby+indy
(Ruby + JS
with Rhino)
JRuby+indy
(Ruby + JS
with
Nashorn)
Ruby (just
Ruby)
Ruby (Ruby
+ JS with
V8)
55

How Graal achieves this
56

Hotspot
JIT
57

Hotspot
JIT
Graal
Truffle
58

Basics of Truffle and Graal
59

Basic Concepts
• プログラムの表現を共通化
• 意味を失わないようにそのままに
• 表現の最適化も共通化
60

x + y * z
+
x *
y z
load_local x
load_local y
load_local z
call *
call +
pushq %rbp
movq %rsp, %rbp
movq %rdi, -8(%rbp)
movq %rsi, -16(%rbp)
movq %rdx, -24(%rbp)
movq -16(%rbp), %rax
movl %eax, %edx
movq -24(%rbp), %rax
imull %edx, %eax
movq -8(%rbp), %rdx
addl %edx, %eax
popq %rbp
ret
61

U
U U
U
U
Node Rewriting
for Profiling Feedback
AST Interpreter
Uninitialized Nodes
Node Transitions
S
U
I
D
G
Uninitialized Integer
Generic
DoubleString
T. Würthinger, C. Wimmer, A. Wöß, L. Stadler, G. Duboscq, C. Humer, G. Richards, D. Simon,
and M. Wolczko. One VM to rule them all. In Proceedings of Onward!, 2013.
62

U
U U
U
U I
I I
G
G
Node Rewriting
for Profiling Feedback
AST Interpreter
Rewritten Nodes
AST Interpreter
Uninitialized Nodes
Node Transitions
S
U
I
D
G
Generic
DoubleString
63

I
I I
G
G I
I I
G
G
Rewriting
ng Feedback
AST Interpreter
Rewritten Nodes
Compilation using
Partial Evaluation
Compiled Code
I
D
Generic
Double
64

I
I I
G
G I
I I
G
G
Deoptimization
to AST Interpreter
D
I
Node Rewriting to Update
Profiling Feedback
65

I
I
G
G D
I D
G
G D
I D
G
G
Node Rewriting to Update
Profiling Feedback
Recompilation using
Partial Evaluation
66

呼び出していたら…

高頻度で呼び出している場合…

異言語で作成していても
高頻度で呼び出している場合…

Looking at how effective this is
73

How to use Graal VM
81

• 含まれているもの
– JVM (RE と DK)
– Java
– JavaScript
– Ruby
– R
– その他は将来追加予定
• バイナリをtarballとして提供
• macOS用もしくはLinux用
82
Graal VM – everything in one package today

Java 8のGraal VMとは異なり、素のJVMを利用
Java 9では、JVMCIを使って連携
Hotspot
Graal
Truffle
JS others…Ruby
Java
C++
JVMCI
(JVM Compiler Interface)

Java 8のGraal VMとは異なり、素のJVMを利用
Java 9では、JVMCIを使って連携
Hotspot
Graal
Truffle
JS others…Ruby
Mavenなどを
利用
Java 9

Appendix
85

http://www.oracle.com/technetwork/oracle-labs/program-languages
“Graal OTN”で検索

https://github.com/graalvm
“GitHub GraalVM”で検索

Acknowledgements
Oracle
Danilo Ansaloni
Stefan Anzinger
Cosmin Basca
Daniele Bonetta
Matthias Brantner
Petr Chalupa
Jürgen Christ
Laurent Daynès
Gilles Duboscq
Martin Entlicher
Brandon Fish
Bastian Hossbach
Christian Humer
Mick Jordan
Vojin Jovanovic
Peter Kessler
David Leopoldseder
Kevin Menard
Jakub Podlešák
Aleksandar Prokopec
Tom Rodriguez
Oracle (continued)
Roland Schatz
Chris Seaton
Doug Simon
Štěpán Šindelář
Zbyněk Šlajchrt
Lukas Stadler
Codrut Stancu
Jan Štola
Jaroslav Tulach
Michael Van De Vanter
Adam Welc
Christian Wimmer
Christian Wirth
Paul Wögerer
Mario Wolczko
Andreas Wöß
Thomas Würthinger
JKU Linz
Prof. Hanspeter Mössenböck
Benoit Daloze
Josef Eisl
Thomas Feichtinger
Matthias Grimmer
Christian Häubl
Josef Haider
Christian Huber
Stefan Marr
Manuel Rigger
Stefan Rumzucker
Bernhard Urban
University of Edinburgh
Christophe Dubach
Juan José Fumero Alfonso
Ranjeet Singh
Toomas Remmelg
LaBRI
Floréal Morandat
University of California, Irvine
Prof. Michael Franz
Gulfem Savrun Yeniceri
Wei Zhang
Purdue University
Prof. Jan Vitek
Tomas Kalibera
Petr Maj
Lei Zhao
T. U. Dortmund
Prof. Peter Marwedel
Helena Kotthaus
Ingo Korb
University of California, Davis
Prof. Duncan Temple Lang
Nicholas Ulle
University of Lugano, Switzerland
Prof. Walter Binder
Sun Haiyang
Yudi Zheng
Oracle Interns
Brian Belleville
Miguel Garcia
Shams Imam
Alexey Karyakin
Stephen Kell
Andreas Kunft
Volker Lanting
Gero Leinemann
Julian Lettner
Joe Nash
David Piorkowski
Gregor Richards
Robert Seilbeck
Rifat Shariyar
Alumni
Erik Eckstein
Michael Haupt
Christos Kotselidis
Hyunjin Lee
David Leibs
Chris Thalinger
Till Westmann

Safe Harbor Statement
The preceding is intended to outline our general product direction. It is intended for
information purposes only, and may not be incorporated into any contract. It is not a
commitment to deliver any material, code, or functionality, and should not be relied upon
in making purchasing decisions. The development, release, and timing of any features or
functionality described for Oracle’s products remains at the sole discretion of Oracle.
89

Polyglot on the JVM with Graal (Japanese)

Polyglot on the JVM with Graal (Japanese)

Recomendados

Recomendados

Más contenido relacionado

La actualidad más candente

La actualidad más candente (20)

Destacado

Destacado (20)

Similar a Polyglot on the JVM with Graal (Japanese)

Similar a Polyglot on the JVM with Graal (Japanese) (20)

Más de Logico

Más de Logico (12)

Último

Último (20)

Polyglot on the JVM with Graal (Japanese)