5. グラフとは
Scarselli, Franco, et al. "The graph neural network model." IEEE Transactions on Neural Networks 20.1 (2008): 61-80.
https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=4700287
グラフ構造データの例 SNS,辞書,構造式,画像?など,ノードとのつながり
6. Graph Convolutional Network
Schlichtkrull, Michael, et al. "Modeling relational data with graph convolutional networks." European Semantic Web Conference. Springer, Cham, 2018.
https://arxiv.org/pdf/1703.06103.pdf
参考:https://qiita.com/tktktks10/items/98d21133cf3e121676c3
:ノード における 番⽬の中間層
:Relation(関係)の集合
:関係 におけるノードiの隣接ノードの集合
線形結合→活性化関数へ
h(l+1)
i
i l + 1
R
N r
7. CapusuleNet
畳み込み層 畳み込みカプセル層 (l) DigitCaps (l+1)
畳み込み層: 入力画像から256次元の特徴抽出
畳み込みカプセル層: 32 8次元
DigitCaps層: 16次元 10個(クラス)のベクトル
CNN
CapsNet
・CNNをベースとし、カプセル構造を持ったCapsNetを提案
- 特徴をスカラー→ベクトルで表現
- 各特徴ベクトル(カプセル)同⼠を繋ぐ
- 画像内に存在するエンティティの特性を表現する
・ポーズ(位置,サイズ,⽅向)・幾何形状・速度
・反射特性・⾊合い・テクスチャ
Sabour, Sara, Nicholas Frosst, and Geoffrey E. Hinton. "Dynamic routing between capsules." Advances in neural information processing systems. 2017.
紹介スライド:https://www.slideshare.net/harmonylab/dynamic-routing-between-capsules-86065078
12. Capsule Graph Neural Network
Block1
GNN(GCN)を適⽤し、異なる受容フィールド
を持つローカル頂点の特徴を抽出し、Primary
Capsulesを構築
:レイヤー のノード特徴量
i :チャンネルの座標
:チャンネル数
:学習する重み⾏列
:⾮線形活性化関数
:情報変換⾏列
:グラフGの次数⾏列
:グラフGの隣接⾏列
Zl
l
j
d
Wl
f
T
D
A
GCNを利⽤したPrimary Capsuleの計算式
⼊⼒グラフのノード特徴量の計算
正規化ラプラシアン⾏列?