SlideShare una empresa de Scribd logo
1 de 28
Descargar para leer sin conexión
超理性使用者介面設計
– Data-driven A/B Testing

                   Yahoo! Search F2E
                     廖英翔 Clay Liao
                        Jan 13, 2013
老闆說了算?

Q: 如何測量網站介面 好/不好?


                    2
找出關鍵指標

何謂“好”的使用者介面?


               3
資訊型網站




        4
電子商務網站




         5
工具型網站




        6
非營利/公益活動網站




             7
找出網站介面與指標的關係


               8
常見的衡量方法

§    憑個人的感覺專業
§    比較改版前後的營收、PV、CTR、Unique
      user、Bounce rate等關鍵數字變化
§    問卷調查法
§    焦點群體法(Focus Group)
§    易用性測試(Usability Test)
§    …


                                9
眼動研究 (Eye-tracking)

                特色
                §    有科學根據
                §    發掘視覺焦點與軌跡	

                限制
                §    設備很貴
                §    樣本空間有限



                                    Source   10
Data-driven A/B Testing

“超”理性使用者介面設計


                          11
常見的A/B測試:Colors




    對照組           實驗組
                        12
常見的A/B測試:Layout




    對照組           實驗組
                        13
常見的A/B測試:Performance




                 (使用CDN服務)



    對照組            實驗組
                             14
常見的A/B測試:New Feature




    對照組            實驗組
                         15
不喜慎入

DATA-DRIVEN 以大數據為基礎


                      16
借用Log(日誌檔)來設計介面




                  17
保持“其他條件不變”

設計有效的實驗


             18
實驗設計

§    設計測試內容與目標
§    選擇測試群體
§    實驗組v.s.對照組
§    決定測試期間(考慮週期、節日、季節性)
§    留下實驗記錄




                            19
範例實驗
§    測試功能:更改頭條區塊背景顏色(#AFD6FF à #1989FF)
§    測試期間:2013/1/1–2013/1/14, 共計2星期
§    期望目標:頭條區塊CTR上升5%




       對照組 C001(50%)        實驗組 T001(50%)
          對照組                  實驗組
                                            20
碼農們上崗啦!

實作程式架構


          21
Before A/B Testing
                      Trunk/Control


 資料庫           業務邏輯   網頁




                                 22
情境A 相同業務邏輯 + 不同介面
                     Trunk/Control


資料庫      業務邏輯       網頁



                     Branch/Test


                    網頁


                               23
情境B 不同業務邏輯 + 相同介面
                     Trunk/Control


 資料庫       業務邏輯     網頁



                     Branch/Test


Open API   業務邏輯


                               24
情境C 不同業務邏輯 + 不同介面
                     Trunk/Control


 資料庫       業務邏輯     網頁



                     Branch/Test


Open API   業務邏輯     網頁


                               25
基於數據做決定

§    停止測試
§    延長測試
§    成為正式版本




               26
Yahoo! 搜尋介面調校經驗




                  27
THANK YOU!
    廖英翔 Clay Liao
Twitter/Weibo @clayliao
clayliao@yahoo-inc.com




                          28

Más contenido relacionado

Destacado

【前端測試】打造自動化的持續集成測試系統
【前端測試】打造自動化的持續集成測試系統【前端測試】打造自動化的持續集成測試系統
【前端測試】打造自動化的持續集成測試系統
Ying-Hsiang Liao
 
Mobile Internet Matters
Mobile Internet MattersMobile Internet Matters
Mobile Internet Matters
Justin Lee
 
Secret sauce of building php applications
Secret sauce of building php applicationsSecret sauce of building php applications
Secret sauce of building php applications
Lin Yo-An
 
Does firefox matter?
Does firefox matter?Does firefox matter?
Does firefox matter?
Irvin Chen
 
TypeScript 開發實戰:開發即時互動的 html5 websocket 聊天室應用程式
TypeScript 開發實戰:開發即時互動的 html5 websocket 聊天室應用程式TypeScript 開發實戰:開發即時互動的 html5 websocket 聊天室應用程式
TypeScript 開發實戰:開發即時互動的 html5 websocket 聊天室應用程式
Will Huang
 
A brief introduction to SPDY - 邁向 HTTP/2.0
A brief introduction to SPDY - 邁向 HTTP/2.0A brief introduction to SPDY - 邁向 HTTP/2.0
A brief introduction to SPDY - 邁向 HTTP/2.0
Wen-Tien Chang
 

Destacado (20)

【前端測試】打造自動化的持續集成測試系統
【前端測試】打造自動化的持續集成測試系統【前端測試】打造自動化的持續集成測試系統
【前端測試】打造自動化的持續集成測試系統
 
YUI 3 菜鳥救星
YUI 3 菜鳥救星YUI 3 菜鳥救星
YUI 3 菜鳥救星
 
CSS 菜鳥救星
CSS 菜鳥救星CSS 菜鳥救星
CSS 菜鳥救星
 
Mobile Internet Matters
Mobile Internet MattersMobile Internet Matters
Mobile Internet Matters
 
中文網路字型的現況與挑戰(Webconf 20130113)
中文網路字型的現況與挑戰(Webconf 20130113)中文網路字型的現況與挑戰(Webconf 20130113)
中文網路字型的現況與挑戰(Webconf 20130113)
 
20130113 Web Conference - communicate
20130113 Web Conference - communicate20130113 Web Conference - communicate
20130113 Web Conference - communicate
 
JavaScript for backend
JavaScript for backendJavaScript for backend
JavaScript for backend
 
Secret sauce of building php applications
Secret sauce of building php applicationsSecret sauce of building php applications
Secret sauce of building php applications
 
Does firefox matter?
Does firefox matter?Does firefox matter?
Does firefox matter?
 
2013 01 13 webconf milkmidi Flash
2013 01 13 webconf milkmidi Flash2013 01 13 webconf milkmidi Flash
2013 01 13 webconf milkmidi Flash
 
BDD in .NET
BDD in .NETBDD in .NET
BDD in .NET
 
Gamification vs UX
Gamification vs UXGamification vs UX
Gamification vs UX
 
130113 why.&.how.smb.running.ux-light
130113 why.&.how.smb.running.ux-light130113 why.&.how.smb.running.ux-light
130113 why.&.how.smb.running.ux-light
 
WebConf 2013「Best Practices - The Upload」
WebConf 2013「Best Practices - The Upload」WebConf 2013「Best Practices - The Upload」
WebConf 2013「Best Practices - The Upload」
 
Designing physical and digital experience in social web
Designing physical and digital experience in social webDesigning physical and digital experience in social web
Designing physical and digital experience in social web
 
屏基 防疫雲簡報20150129
屏基 防疫雲簡報20150129屏基 防疫雲簡報20150129
屏基 防疫雲簡報20150129
 
Spock:願你的測試長長久久、生生不息
Spock:願你的測試長長久久、生生不息Spock:願你的測試長長久久、生生不息
Spock:願你的測試長長久久、生生不息
 
Vital UI kit
Vital UI kitVital UI kit
Vital UI kit
 
TypeScript 開發實戰:開發即時互動的 html5 websocket 聊天室應用程式
TypeScript 開發實戰:開發即時互動的 html5 websocket 聊天室應用程式TypeScript 開發實戰:開發即時互動的 html5 websocket 聊天室應用程式
TypeScript 開發實戰:開發即時互動的 html5 websocket 聊天室應用程式
 
A brief introduction to SPDY - 邁向 HTTP/2.0
A brief introduction to SPDY - 邁向 HTTP/2.0A brief introduction to SPDY - 邁向 HTTP/2.0
A brief introduction to SPDY - 邁向 HTTP/2.0
 

Similar a 超理性使用者介面設計 - Data-driven A/B Testing

Part04 软件测试方法论
Part04 软件测试方法论Part04 软件测试方法论
Part04 软件测试方法论
aellaw
 
Nhibernate+sqlite測試實戰經驗分享
Nhibernate+sqlite測試實戰經驗分享Nhibernate+sqlite測試實戰經驗分享
Nhibernate+sqlite測試實戰經驗分享
Wade Huang
 
Top100summit 宗刚-全生命周期性能评估体系的实践
Top100summit 宗刚-全生命周期性能评估体系的实践Top100summit 宗刚-全生命周期性能评估体系的实践
Top100summit 宗刚-全生命周期性能评估体系的实践
drewz lin
 
Request Management
Request ManagementRequest Management
Request Management
Sun Wei
 
App operationattaobao-velocity2010 bj-final
App operationattaobao-velocity2010 bj-finalApp operationattaobao-velocity2010 bj-final
App operationattaobao-velocity2010 bj-final
iambuku
 
Mobile app的測試v2
Mobile app的測試v2Mobile app的測試v2
Mobile app的測試v2
Mr PM
 
柴锋 跨平台移动应用的自动化验收测试
柴锋 跨平台移动应用的自动化验收测试柴锋 跨平台移动应用的自动化验收测试
柴锋 跨平台移动应用的自动化验收测试
Trinea Trinea
 
2012 China 软件测试大会
2012 China 软件测试大会2012 China 软件测试大会
2012 China 软件测试大会
mayun1688
 
QM-024-QC改善工具
QM-024-QC改善工具QM-024-QC改善工具
QM-024-QC改善工具
handbook
 

Similar a 超理性使用者介面設計 - Data-driven A/B Testing (20)

Part04 软件测试方法论
Part04 软件测试方法论Part04 软件测试方法论
Part04 软件测试方法论
 
Nhibernate+sqlite測試實戰經驗分享
Nhibernate+sqlite測試實戰經驗分享Nhibernate+sqlite測試實戰經驗分享
Nhibernate+sqlite測試實戰經驗分享
 
基于Ht rca缺陷分析的测试改进-china test-张玲玲
基于Ht rca缺陷分析的测试改进-china test-张玲玲基于Ht rca缺陷分析的测试改进-china test-张玲玲
基于Ht rca缺陷分析的测试改进-china test-张玲玲
 
Top100summit 宗刚-全生命周期性能评估体系的实践
Top100summit 宗刚-全生命周期性能评估体系的实践Top100summit 宗刚-全生命周期性能评估体系的实践
Top100summit 宗刚-全生命周期性能评估体系的实践
 
Request Management
Request ManagementRequest Management
Request Management
 
App operationattaobao-velocity2010 bj-final
App operationattaobao-velocity2010 bj-finalApp operationattaobao-velocity2010 bj-final
App operationattaobao-velocity2010 bj-final
 
Mobile app的測試v2
Mobile app的測試v2Mobile app的測試v2
Mobile app的測試v2
 
8D process
8D process8D process
8D process
 
淺談物聯網巨量資料挑戰 - Jazz 王耀聰 (2016/3/17 於鴻海內湖) 免費講座
淺談物聯網巨量資料挑戰 - Jazz 王耀聰 (2016/3/17 於鴻海內湖) 免費講座淺談物聯網巨量資料挑戰 - Jazz 王耀聰 (2016/3/17 於鴻海內湖) 免費講座
淺談物聯網巨量資料挑戰 - Jazz 王耀聰 (2016/3/17 於鴻海內湖) 免費講座
 
柴锋 跨平台移动应用的自动化验收测试
柴锋 跨平台移动应用的自动化验收测试柴锋 跨平台移动应用的自动化验收测试
柴锋 跨平台移动应用的自动化验收测试
 
SRE CH12 - Effective Troubleshooting
SRE CH12 - Effective TroubleshootingSRE CH12 - Effective Troubleshooting
SRE CH12 - Effective Troubleshooting
 
2012 China 软件测试大会
2012 China 软件测试大会2012 China 软件测试大会
2012 China 软件测试大会
 
How to test cloud platform
How to test cloud platformHow to test cloud platform
How to test cloud platform
 
CBAP 技術交流 20151105
CBAP 技術交流 20151105CBAP 技術交流 20151105
CBAP 技術交流 20151105
 
迭代试验
迭代试验迭代试验
迭代试验
 
敏捷软件测试之简介
敏捷软件测试之简介敏捷软件测试之简介
敏捷软件测试之简介
 
Basic Error and Bias Variance Analysis
Basic Error and Bias Variance AnalysisBasic Error and Bias Variance Analysis
Basic Error and Bias Variance Analysis
 
HxGN Live Hong Kong 2015 - Power of large data for 3D metrology and process c...
HxGN Live Hong Kong 2015 - Power of large data for 3D metrology and process c...HxGN Live Hong Kong 2015 - Power of large data for 3D metrology and process c...
HxGN Live Hong Kong 2015 - Power of large data for 3D metrology and process c...
 
RMPG 讀書會 20160107
RMPG 讀書會 20160107RMPG 讀書會 20160107
RMPG 讀書會 20160107
 
QM-024-QC改善工具
QM-024-QC改善工具QM-024-QC改善工具
QM-024-QC改善工具
 

超理性使用者介面設計 - Data-driven A/B Testing