2018/11/29 Deep Learning JP: http://deeplearning.jp/hacks/

1. Takuya MATSUDATE
2018/11/29 @ DLHacks

2. Outline
● 選んだきっかけ
● 背景
● AllenNLP
● 即実行可能なタスク
● 実行例
● 所感
2

3. 選んだきっかけ
TwitterでAllenNLPが激推
しされてたけど、日本語
で紹介された記事はない
3

4. 背景 (PyTorchで実装中に思うこと)
4
● TensorflowにはKerasがあるけど、PyTorchには？
● もう少し簡単に書く方法はないのだろうか
○ 早く構築して試したい

5. AllenNLP
- NLP特化の深層学習ライブラリ
- より抽象的な記述が可能
- Allen Institute for Artificial Intelligenceが構築とメンテナンス
- High Qualityなモデル実装を提供
- 企業に左右されない独立した組織 (For Long-term growthと謳っている)
5
https://allennlp.org/

6. (参考)インストール
6
Python >= 3.6.1, Dockerイメージやソースからのインストールも可能

7. 実行例1 Predictだけ
トレーニング済みのAllenNLP謹製モデルであれば、即実行可能
7
https://allennlp.org/models

8. 即実行可能なタスク
8
https://allennlp.org/models
いくつかのタスクについては、その紹介と使用したモデル、
学習＆検証用のデータセットが公開されている

9. 実行例2 Jsonnetからのパラメータ指定
AllenNLPはJsonnet形式でパラメータを指定し実行可能
9
simple_tagger.json
Jsonnetでモデルを書いたら、そのままCLIで読み込ませて実行できる

10. 実装例
10
AllenNLPをPythonライブラリとして使用してモデルを構成できる
AllenNLP自体がPyTorchで構築されているため、かゆいところはPyTorchで
かける
https://allennlp.org/tutorials

11. 所感
11
● いろいろ楽できそう
○ PyTorchの高レベルAPI、ただしNLP専用
○ 「Embeddingだけ」「data_loadだけ」など、一部使うだけでも便利そう
● AI2がちゃんと(?)テスト＆メンテしているので、品質には一定の安心感がある
○ Kerasとかでもそういうのがあるのだろうか
○ 個人や研究者によるDevelopment communityがどれだけ品質担保できるのか

12. Links
● AllenNLPプロジェクト
○ https://allennlp.org/
● モデル一覧とそれぞれのデモ
○ http://demo.allennlp.org/machine-comprehension
● AllenNLP Github
○ https://github.com/allenai/allennlp
● AllenNLP開発チームのメンバーによるコーディング思想についてのスライド
○ https://github.com/allenai/writing-code-for-nlp-research-
emnlp2018/blob/master/writing_code_for_nlp_research.pdf
12