Se ha denunciado esta presentación.
Utilizamos tu perfil de LinkedIn y tus datos de actividad para personalizar los anuncios y mostrarte publicidad más relevante. Puedes cambiar tus preferencias de publicidad en cualquier momento.

Neural Network Language Model For Chinese Pinyin Input Method Engine

268 visualizaciones

Publicado el

Neural Network Language Model for Chinese Pinyin Input Method Engine,Shien-Yuan Chen, Rui Wang, Hai Zhao, 29th Pacific Asia Conference on Language, Information and Computation pages 455 – 461, Shanghai, China, 10.30-11.1, 2015

Publicado en: Software
  • You can try to use this service ⇒ www.WritePaper.info ⇐ I have used it several times in college and was absolutely satisfied with the result.
       Responder 
    ¿Estás seguro?    No
    Tu mensaje aparecerá aquí
  • (Unlimited)....ACCESS WEBSITE Over for All Ebooks ................ accessibility Books Library allowing access to top content, including thousands of title from favorite author, plus the ability to read or download a huge selection of books for your pc or smartphone within minutes ......................................................................................................................... DOWNLOAD FULL PDF EBOOK here { https://urlzs.com/UABbn } ......................................................................................................................... Download Full EPUB Ebook here { https://urlzs.com/UABbn } ......................................................................................................................... Download Full PDF EBOOK here { https://urlzs.com/UABbn }
       Responder 
    ¿Estás seguro?    No
    Tu mensaje aparecerá aquí
  • ..............ACCESS that WEBSITE Over for All Ebooks ................ ......................................................................................................................... DOWNLOAD FULL PDF EBOOK here { http://bit.ly/2m6jJ5M } ......................................................................................................................... Download Full EPUB Ebook here { http://bit.ly/2m6jJ5M } .........................................................................................................................
       Responder 
    ¿Estás seguro?    No
    Tu mensaje aparecerá aquí
  • If you want to download or read this book, copy link or url below in the New tab ......................................................................................................................... DOWNLOAD FULL PDF EBOOK here { http://bit.ly/2m77EgH } ......................................................................................................................... Download EPUB Ebook here { http://bit.ly/2m77EgH } .........................................................................................................................
       Responder 
    ¿Estás seguro?    No
    Tu mensaje aparecerá aquí
  • Download or read that Ebooks here ... ......................................................................................................................... DOWNLOAD FULL PDF EBOOK here { http://bit.ly/2m77EgH } ......................................................................................................................... Download EPUB Ebook here { http://bit.ly/2m77EgH } ......................................................................................................................... Download Doc Ebook here { http://bit.ly/2m77EgH } ......................................................................................................................... .........................................................................................................................
       Responder 
    ¿Estás seguro?    No
    Tu mensaje aparecerá aquí

Neural Network Language Model For Chinese Pinyin Input Method Engine

  1. 1. Neural Network Language Model for Chinese Pinyin Input Method Engine 長岡技術科学大学 自然言語処理研究室 修士1年 西山 浩気 Shien-Yuan Chen, Rui Wang, Hai Zhao, 29th Pacific Asia Conference on Language, Information and Computation pages 455 – 461, Shanghai, China, 10.30-11.1, 2015
  2. 2. 1. 概要 2  NNLMを用いた IMEの構築 back-off n-gram言語モデルに変換する ことで高性能なIMEを構築 従来のn-gramを用いた手法に比べ、 高い予測性能を獲得
  3. 3.  IME (Input Method Editor)  キーボード入力を出力したい言語に変換  多くの中国語のIMEが Pinyin(中国語の発音表現)を採用  500種類のPinyinから約6,000種類の中国語に 変換する必要がある 2. はじめに 3 IME
  4. 4.  Pinyinから中国語に変換する際に曖昧性  先行研究 (IME)  Back-off N-gram language model (BNLMs) [Chen and Goodman, 1996; 1999; Stolcke, 2002a] ✓ Pinyin IME で広く利用  Neural Network Language model (NNLMs) [Bengio et al., 2003; Schwenk, 2007; Le at al.,2010] ✓ IMEとして利用するには 出力に時間がかかりすぎる 2. はじめに 4
  5. 5.  先行研究 (NNLMs 高速化)  [Arisoy et al., 2014][Vaswani et al.,2013] [Devlin et al., 2014]  音声認識, 機械翻訳 タスク 2. はじめに 5  BNLMs と NNLMs を組み合わせる  N-gramの確率をNNLMsで再計算  再計算された確率を使って、 n-gramモデルでIMEを構築する
  6. 6.  モデルの計算過程 1. Pinyin分割  ルールベースのPinyin分割[Goh et al., 2005] 2. 候補となる単語を取得  Pinyinの音節に対応する単語を辞書から取得 3. 候補文の生成 2.1 Pinyin IME モデル 6
  7. 7.  モデルの計算過程 3. 候補文の生成  言語モデル[Chen and Lee, 2000; Zhao et al., 2013] を用いて、確率が最大となる文を生成  Vitabiアルゴリズムで最も尤もらしい経路を選択 2.1 Pinyin IME モデル 7
  8. 8.  モデルの計算過程 3. 候補文の生成  言語モデル[Chen and Lee, 2000; Zhao et al., 2013] を用いて、確率が最大となる文を生成 2.1 Pinyin IME モデル 8
  9. 9. 2.1 Pinyin IME モデル 9
  10. 10. 2.2 Back-off n-gram 言語モデル 10
  11. 11. 2.3 NNLM-enhanced BNLM 提案手法 13  NNLMの欠点  言語モデルの計算コストが大きい  NNLMの出力 (再計算された確率) で, BNLMの確率を上書きする 確率の計算を事前にNNLMで行う 実装はBNLMなので高速
  12. 12. 3.1 実験設定 実験 14  中国語コーパス[Yang et al., 2012]  人民日報から抽出  単語ごとにpinyinが付与, 単語分割済み  中国語-pinyin 辞書[Wang et al., 2013a; Wang et al,. 2014]  914,728語
  13. 13. 3.2 実行時間の比較 実験 15  実行時間を各モデル3回ずつ計測 ✓ NNLMがBNLMに比べ100倍近く遅い ✓ 提案手法ではBNLMと同程度の実行速度
  14. 14. 3.3 Perplexityの比較 実験 16  モデルの複雑さを提案手法とBaselineで比較  Baseline : Trigram言語モデル (Kneser-Ney smoothing)  提案手法の方がPerplexityは低い
  15. 15. 3.4 Pinyin IMEにおいてのパフォーマンス 実験 17  IMEとして利用する際の正解率を評価 ✓ 第一候補文の正解率 (HRF) ✓ 上位10候補文での正解率 (HRF10) ✓ 第一候補文に含まれる単語の正解率(CA) 提案手法により IMEとしての性能が向上
  16. 16. 3.4 Pinyin IMEにおいてのパフォーマンス 実験 18  テストセット  Pinyinが10~30文字の割合が高い  提案手法では10文字以上のPinyinに対し、 従来手法に比べて精度が高い テストセット中のPinyin文字数の分布
  17. 17. 4. まとめ 19  Pinyin IMEの性能向上に向けた取り組み  従来は Ngram言語モデル  NNLMを用いた性能向上  NNLMは出力に時間がかかりIMEに向かない  Ngramの確率をNNLMで学習させる ✓ 実行時間は従来と同程度 ✓ IMEとしての性能が向上

×