SlideShare una empresa de Scribd logo
1 de 54
Descargar para leer sin conexión
DIY Chinese
Segmentation
ML/DM Monday
2013/04/08
Rues (rueshyna)
中文
中文
詞性 (pos)
中文
詞性 (pos)
           NER
中文
詞性 (pos)
           NER
剖析樹(parsed tree)
不討論




 X
    中文
詞性 (pos)
           NER
剖析樹(parsed tree)
中文 vs 英文
  議題?
the cardinals met in private


 to home in on candidates
the cardinals met in private


 to home in on candidates
cardinal
the cardinals met in private


 to home in on candidates
cardinal meet
the cardinals met in private


 to home in on candidates
cardinal meet
the cardinals met in private


 to home in on candidates
               candidate
今天天氣真好
今天 天氣 真 好
今天 天氣 真 好
今天 天氣 真 好
今天 天氣 真 好
今天 天氣 真 好
今天天氣真好
美味的早餐
美味的 早餐

美味 的 早餐
美味的 早餐

營養美味的早餐

  ?
美味 的 早餐

營養 美味 的 早餐
美味 的 早餐

營養 美味 的 早餐
美味 的 早餐

營養 美味 的 早餐
nutrition? nutritious?
中文斷詞   異
美國學校
美國 學校
美國學校
美國 學校
美國學校
       美 國學 校
美國 學校
美國學校
       美 國學 校


養生魚片
美國 學校
美國學校
       美 國學 校

       養生 魚片
養生魚片
       養 生魚片
X
       美國 學校
美國學校
       美 國學 校

       養生 魚片
養生魚片
       養 生魚片
X
       美國 學校
美國學校
       美 國學 校

       養生 魚片
養生魚片
       養 生魚片

  4/25 Taipei.py
DIY
收集詞彙
是
做辭典   年
      今年
      中華
      民國
      中華民國
      ........
今年是中華民國102年

         原句
今年 是 中華民國 102 年

          理想斷詞結果
今年是
中華民國
 102年
今年是
中華 民國
 102年
長詞優先
Supervised Learning
• Python loso (Plurk)
• LingPipe
• MMSEG(Tsai)
• Stanford Word Segmenter
 • Sample Chinese - trained module
 • Translation Chinese - DIY module
• ...
繁體中文   簡體中文
繁體中文   簡體中文

麵包     面包
Unsupervised Learning
• Pattree
 •   Lee-Feng Chien, "PAT-Tree-Based Adaptive Keyphrase
     Extraction for Intelligent Chinese Information Retrieval,"
     Information Processing and Management, volume 35,
     number 4, pages 501-521, 1999, Elsevier Press
Online Service
• CKIP中文斷詞與剖析系統
Supervised
 Learning
Unsupervised
               Learning
Supervised
 Learning
Unsupervised
                Learning
Supervised
 Learning




             辭典
Unsupervised
                Learning
Supervised
 Learning




             辭典
Thanks!!

Más contenido relacionado

Similar a DIY Chinese Segmentation

例谈图式理论在小学英语词汇教学中的运用
例谈图式理论在小学英语词汇教学中的运用例谈图式理论在小学英语词汇教学中的运用
例谈图式理论在小学英语词汇教学中的运用dgsky
 
101.05.30 班級經營-追分國小-詹翔霖教授
101.05.30 班級經營-追分國小-詹翔霖教授101.05.30 班級經營-追分國小-詹翔霖教授
101.05.30 班級經營-追分國小-詹翔霖教授文化大學
 
2012佛州暑期教師研習@主題教學
2012佛州暑期教師研習@主題教學2012佛州暑期教師研習@主題教學
2012佛州暑期教師研習@主題教學ChinHuei Yeh
 
103.08.19 班級經營管理-清華高中-詹翔霖教授-教師研習
103.08.19 班級經營管理-清華高中-詹翔霖教授-教師研習103.08.19 班級經營管理-清華高中-詹翔霖教授-教師研習
103.08.19 班級經營管理-清華高中-詹翔霖教授-教師研習文化大學
 
北門國小-990706 品格教育-詹翔霖教授
北門國小-990706 品格教育-詹翔霖教授北門國小-990706 品格教育-詹翔霖教授
北門國小-990706 品格教育-詹翔霖教授文化大學
 
從「閱讀」到「思考」:戒掉毛皮式閱讀,用好提問練就思考力
從「閱讀」到「思考」:戒掉毛皮式閱讀,用好提問練就思考力從「閱讀」到「思考」:戒掉毛皮式閱讀,用好提問練就思考力
從「閱讀」到「思考」:戒掉毛皮式閱讀,用好提問練就思考力周建良 Zhou Jian Liang
 
班級經營與教室管理-外埔國中-詹翔霖教授-如何做一個有效能的老師
班級經營與教室管理-外埔國中-詹翔霖教授-如何做一個有效能的老師班級經營與教室管理-外埔國中-詹翔霖教授-如何做一個有效能的老師
班級經營與教室管理-外埔國中-詹翔霖教授-如何做一個有效能的老師文化大學
 
Washington Bilingual Elementary School
Washington Bilingual Elementary SchoolWashington Bilingual Elementary School
Washington Bilingual Elementary School智傑 詹
 
Tips and Tricks for remembering Chinese characters
Tips and Tricks for remembering Chinese charactersTips and Tricks for remembering Chinese characters
Tips and Tricks for remembering Chinese charactersShaz Lawrence
 
103.08.28 創業穩贏班-【創業者人格特質】 【開業準備】-詹翔霖教授-上
103.08.28 創業穩贏班-【創業者人格特質】 【開業準備】-詹翔霖教授-上103.08.28 創業穩贏班-【創業者人格特質】 【開業準備】-詹翔霖教授-上
103.08.28 創業穩贏班-【創業者人格特質】 【開業準備】-詹翔霖教授-上文化大學
 
班級經營管理-建中國小-詹翔霖教授
班級經營管理-建中國小-詹翔霖教授班級經營管理-建中國小-詹翔霖教授
班級經營管理-建中國小-詹翔霖教授文化大學
 
10.13.2013 how to design teaching tool
10.13.2013 how to design teaching tool10.13.2013 how to design teaching tool
10.13.2013 how to design teaching toolelainehsu27
 
10.13.2013 how to design teaching tool 2
10.13.2013 how to design teaching tool 210.13.2013 how to design teaching tool 2
10.13.2013 how to design teaching tool 2elainehsu27
 
102.07.00 溝通管理-詹翔霖教授-公開班
102.07.00 溝通管理-詹翔霖教授-公開班102.07.00 溝通管理-詹翔霖教授-公開班
102.07.00 溝通管理-詹翔霖教授-公開班翔霖 詹
 
學習系統分析
學習系統分析學習系統分析
學習系統分析Bestian Tang
 
Parent Seminar of English Learning at Home 親子共學英語樂
Parent Seminar of English Learning at Home 親子共學英語樂Parent Seminar of English Learning at Home 親子共學英語樂
Parent Seminar of English Learning at Home 親子共學英語樂Annie Tsai
 
2011/04/3.經驗分享ˍ零起點研習系列 rev
2011/04/3.經驗分享ˍ零起點研習系列 rev2011/04/3.經驗分享ˍ零起點研習系列 rev
2011/04/3.經驗分享ˍ零起點研習系列 revkenyenman
 
0 口語表達--ok
0 口語表達--ok0 口語表達--ok
0 口語表達--okJong Liou
 

Similar a DIY Chinese Segmentation (20)

例谈图式理论在小学英语词汇教学中的运用
例谈图式理论在小学英语词汇教学中的运用例谈图式理论在小学英语词汇教学中的运用
例谈图式理论在小学英语词汇教学中的运用
 
101.05.30 班級經營-追分國小-詹翔霖教授
101.05.30 班級經營-追分國小-詹翔霖教授101.05.30 班級經營-追分國小-詹翔霖教授
101.05.30 班級經營-追分國小-詹翔霖教授
 
2012佛州暑期教師研習@主題教學
2012佛州暑期教師研習@主題教學2012佛州暑期教師研習@主題教學
2012佛州暑期教師研習@主題教學
 
2011_0907_yeh
2011_0907_yeh2011_0907_yeh
2011_0907_yeh
 
103.08.19 班級經營管理-清華高中-詹翔霖教授-教師研習
103.08.19 班級經營管理-清華高中-詹翔霖教授-教師研習103.08.19 班級經營管理-清華高中-詹翔霖教授-教師研習
103.08.19 班級經營管理-清華高中-詹翔霖教授-教師研習
 
北門國小-990706 品格教育-詹翔霖教授
北門國小-990706 品格教育-詹翔霖教授北門國小-990706 品格教育-詹翔霖教授
北門國小-990706 品格教育-詹翔霖教授
 
從「閱讀」到「思考」:戒掉毛皮式閱讀,用好提問練就思考力
從「閱讀」到「思考」:戒掉毛皮式閱讀,用好提問練就思考力從「閱讀」到「思考」:戒掉毛皮式閱讀,用好提問練就思考力
從「閱讀」到「思考」:戒掉毛皮式閱讀,用好提問練就思考力
 
班級經營與教室管理-外埔國中-詹翔霖教授-如何做一個有效能的老師
班級經營與教室管理-外埔國中-詹翔霖教授-如何做一個有效能的老師班級經營與教室管理-外埔國中-詹翔霖教授-如何做一個有效能的老師
班級經營與教室管理-外埔國中-詹翔霖教授-如何做一個有效能的老師
 
Washington Bilingual Elementary School
Washington Bilingual Elementary SchoolWashington Bilingual Elementary School
Washington Bilingual Elementary School
 
Tips and Tricks for remembering Chinese characters
Tips and Tricks for remembering Chinese charactersTips and Tricks for remembering Chinese characters
Tips and Tricks for remembering Chinese characters
 
103.08.28 創業穩贏班-【創業者人格特質】 【開業準備】-詹翔霖教授-上
103.08.28 創業穩贏班-【創業者人格特質】 【開業準備】-詹翔霖教授-上103.08.28 創業穩贏班-【創業者人格特質】 【開業準備】-詹翔霖教授-上
103.08.28 創業穩贏班-【創業者人格特質】 【開業準備】-詹翔霖教授-上
 
班級經營管理-建中國小-詹翔霖教授
班級經營管理-建中國小-詹翔霖教授班級經營管理-建中國小-詹翔霖教授
班級經營管理-建中國小-詹翔霖教授
 
口語表達與溝通能力訓練
口語表達與溝通能力訓練口語表達與溝通能力訓練
口語表達與溝通能力訓練
 
10.13.2013 how to design teaching tool
10.13.2013 how to design teaching tool10.13.2013 how to design teaching tool
10.13.2013 how to design teaching tool
 
10.13.2013 how to design teaching tool 2
10.13.2013 how to design teaching tool 210.13.2013 how to design teaching tool 2
10.13.2013 how to design teaching tool 2
 
102.07.00 溝通管理-詹翔霖教授-公開班
102.07.00 溝通管理-詹翔霖教授-公開班102.07.00 溝通管理-詹翔霖教授-公開班
102.07.00 溝通管理-詹翔霖教授-公開班
 
學習系統分析
學習系統分析學習系統分析
學習系統分析
 
Parent Seminar of English Learning at Home 親子共學英語樂
Parent Seminar of English Learning at Home 親子共學英語樂Parent Seminar of English Learning at Home 親子共學英語樂
Parent Seminar of English Learning at Home 親子共學英語樂
 
2011/04/3.經驗分享ˍ零起點研習系列 rev
2011/04/3.經驗分享ˍ零起點研習系列 rev2011/04/3.經驗分享ˍ零起點研習系列 rev
2011/04/3.經驗分享ˍ零起點研習系列 rev
 
0 口語表達--ok
0 口語表達--ok0 口語表達--ok
0 口語表達--ok
 

DIY Chinese Segmentation