文献紹介：An Empirical Study on the Effect of Negation words on Sentiment

文献紹介 2014/09/09
長岡技術科学大学
自然言語処理研究室
岡田正平

文献情報
XiaodanZhu, HongyuGuo, SaifMohammad and Svetlana Kiritchenko
An Empirical Study on the Effect of Negation Words on Sentiment
In Proceedings of the 52nd ACL, pp 304-313.
2014.
2014/9/9 文献紹介 2

概要
•
感情解析における否定語の振舞いに関する定量的な調査
–
否定語：no, not 等
•
これまで用いられてきたヒューリスティクス
–
否定語の効果は修飾する句の極性のみに依存する

否定語の振舞いを充分に扱えていない
•
否定語や修飾する句に依存させることで性能改善
2014/9/9 文献紹介 3

背景
•
感情解析において否定語が与える影響の理解は不可欠
•
単純な仮説
–
否定語は修飾するテキストの極性を反転させる
(Polanyi and Zaenen, 2004; Kennedy and Inkpen, 2006)
–
sentiment value を一定値シフトさせる
shifting hypothesis (Taboadaet al., 2011)
2014/9/9 文献紹介 5

背景
•
Stanford Sentiment Treebank (Socheret al., 2013)
–
構文木中の全phrase にsentiment score を人手でアノテーション
–
感情解析における初の完全なラベル付き構文木
–
11,855文，215,154 unique phrases
–
http://nlp.stanford.edu/sentiment
2014/9/9 文献紹介 6

背景
Stanford Sentiment Treebank における否定語の振舞い
横軸：被修飾句(argument)の sentiment value
縦軸：否定語+被修飾句 (negated phrase) の sentiment value
2014/9/9 文献紹介 7

背景
•
極性の反転は，振舞いの一部のみしか捉えていない
–
reversing hypothesisは不十分
•
被修飾句自体は同じsentiment value をとっても否定語を伴うことで異なるsentiment value
–
shifting hypothesis でも不十分
2014/9/9 文献紹介 8

背景
•
この論文では...
–
既存のヒューリスティクスの性能評価
–
既存のヒューリスティクスの拡張・評価
–
state-of-the-artな手法の性能評価
–
state-of-the-artな手法の拡張・評価
2014/9/9 文献紹介 9

Negation models
•
푤: argument
•
푤푛: negator
•
푠(푤): argument のsentiment score
•
푠(푤푛,푤): negated phrase のsentiment score

Models based on heuristics
•
Non-lexicalized assumptions and modeling
–
Reversing hypothesis
–
Shifting hypothesis
•
Basic shifting
•
Polarity-based shifting
•
Simple lexicalized assumption
–
Negator-based shifting
–
Combined shifting
2014/9/9 文献紹介 12

•
Non-lexicalized assumptions
–
–
Shifting hypothesis
•
Basic shifting
•
•
–
–
Combined shifting
2014/9/9 文献紹介 13

Non-lexicalized assumption
•
既存の手法のモデル
푠푤푛,푤≝푓(푠푤)
•
argument のsentiment score のみに依存するモデル
2014/9/9 文献紹介 14

•
푓푠푤=−푠(푤)
•
Shifting hypothesis
–
Basic shifting
푓푠푤=푠푤−푠푠푠푠푠푤∗퐶
–
푓푠푤=푠푤−푠푠푠푠푠푤∗퐶(푠푠푠푠푠푤)
2014/9/9 文献紹介 15

•
푓푠푤=−푠(푤)
•
Shifting hypothesis
–
Basic shifting
푓푠푤=푠푤−푠푠푠푠푠푤∗퐶
–
푓푠푤=푠푤−푠푠푠푠푠푤∗퐶(푠푠푠푠푠푤)
2014/9/9 文献紹介 16

•
Non-lexicalized assumptions and modeling
–
–
Shifting hypothesis
•
Basic shifting
•
•
–
–
Combined shifting
2014/9/9 文献紹介 17

•
non-lexicalized model を拡張
푠푤푛,푤≝푓(푤푛,푠푤)
•
nagatorにも依存するモデル
2014/9/9 文献紹介 18

•
Nagator-based shifting
푓푤푛,푠푤=푠푤−푠푠푠푠푠푤∗퐶(푤푛)
•
Combined shifting
푓푤푛,푠푤=푠푤−푠푠푠푠푠푤∗퐶(푤푛,푠푠푠푠푠푤)
•
パラメータ数は増加するが過学習を起こさずに性能向上
2014/9/9 文献紹介 19

Semantics-enriched modeling
•
argument 自身に依存するモデル
푠푤푛,푤≝푓푤푛,푠푤,푟푤
•
푟(푤): argument 푤の何かしらの表現
2014/9/9 文献紹介 20

•
푟(푤)をどう実装するか？
–
recursive neural tensor network (RNTN)
•
Socheret al. (2013), state-of-the-artな性能を達成
•
푤푛と푟(푤)のみを利用
–
prior sentiment-enriched tensor network (PSTN)
•
提案手法
•
푤푛,푠푤,푟(푤)を利用
2014/9/9 文献紹介 21

2014/9/9 文献紹介 22

•
RNTN
–
各ノードは푑次ベクトル
–
各ベクトルは2つの子ノードから非線形関数によって求められる 푝2=tanh ( 푎 푝1 푇 푉1:푑푎 푝1+푊 푎 푝1)
2014/9/9 文献紹介 23

•
PSTN
–
各ベクトルは2つの子ノードと，右側の子ノード(=argument) の感情から求められる 푝2=tanh ( 푎 푝1 푇 푉1:푑푎 푝1+푊 푎 푝1 + 푎 푝1 푠푠푠 푇 푉푠푠푛1:푑푎 푝1 푠푠푠+푊푠푠푠푎 푝1 푠푠푠)
2014/9/9 文献紹介 24

•
푝1 푠푠푠には様々な形で感情の値をとることができる
–
PSTNの面白いところ
•
本論文の目的は否定語の振舞いを調査すること
–
푝1 푠푠푠には人手で付けられたタグを用いる
2014/9/9 文献紹介 25

実験| set-up
•
Stanford Sentiment Treebank中の否定語+被修飾句全2,261 組がデータ点
•
頻出する否定語と，助動詞+否定語の組み合わせが対象
–
同じ否定語は正規化するe.g.) isn’t, is not → is_not
•
評価には平均絶対値誤差
푀푀푀= 1 푁 ෍푠̂푤푛,푤−푠(푤푛,푤) 푤푛,푤
2014/9/9 文献紹介 27

実験| 結果
2014/9/9 文献紹介 28

考察
•
各否定語のsentiment value の遷移量（boxは95%信頼区間）
•
nagator-based shifting の有効性
•
否定語とdinimisher(図中の白いboxのもの) の境界は曖昧
2014/9/9 文献紹介 30

考察
•
argument の極性による否定語の振舞いの違い
•
polarity-based shifting の有効性
2014/9/9 文献紹介 31

References
•
Livia Polanyi and Annie Zaenen.Contextual valence shifters. In Exploring Attitude and Affect in Text: Theories and Applications (AAAI Spring Symposium Series).2004.
•
Alistair Kennedy and Diana Inkpen.Sentiment classification of movie reviews using contextual valence shifters. Computational Intelligence, 22(2):110-125. 2006.

References
•
MaiteTaboada, Julian Brooke, Milan Tofiloski, Kimberly Vol, and Manfred Stede. Lexicon-based methods for sentiment analysis. Computational Linguistics, 37(2):267- 307. 2011.
•
Richard Socher, Alex Perelygin, Jean Y. Wu, Jason Chuang, Christopher D. Manning, Andrew Y. Ng, and Christopher Potts. Recursive deep modwlsfor semantic compositionality over a sentiment treebank. In Proc. of EMNLP’13. 2013.
2014/9/9 文献紹介 34

文献紹介：An Empirical Study on the Effect of Negation words on Sentiment

Recomendados

Recomendados

Más contenido relacionado

Destacado

Destacado (20)

Más de Shohei Okada

Más de Shohei Okada (20)

文献紹介：An Empirical Study on the Effect of Negation words on Sentiment