1. 海量统计数据的分布式MySQL集群

3. 2010年，淘宝，数据产品化团队

5. 300 * 12 * 0.5 * 8 = 14T存储空间

6. 每天超过4亿条记录

8. 14T存储空间

9. 30%压缩率

12. 架构与数据装载

13. 数据的透明查询

15. 数据量

16. 成本（Oracle）

18. SQL查询

19. 海量存储

20. 可横向扩展

21. 对应用透明

24. 批量写入（4亿+ ）

26. JOIN

29. 负责

30. 数据装载

32. 部署架构 M 路由信息库 MyFOX（虚拟机） S 热节点（MySQL） 冷节点（MySQL） 15k SAS硬盘，300G * 12，8节点 7.2k SATA硬盘，1T * 12，8节点 MySQL MySQL MySQL MySQL MySQL = = =

33. 数据装载 切分 装载 云梯 OLAP集群 中间层 路由表

35. 适用于

36. 小表

37. 被频繁访问

40. 然后每N行切片

42. 切片

43. 阈值（200W）

44. 上浮动（5%）

45. 装桶

46. 一个桶装满再开新桶

47. “桶”即实际的物理表rpt_topranks_v3^Athedate=20100816, toprank_id=11^A2090000 rpt_topranks_v3^Athedate=20100816, toprank_id=12^A2120000 rpt_topranks_v3^Athedate=20100816, toprank_id=13^A760000 rpt_topranks_v3^Athedate=20100816, toprank_id=14^A289 thedate=20100816, toprank_id=11^A2090000 thedate=20100816, toprank_id=12^A2000000 thedate=20100816, toprank_id=12^A120000 thedate=20100816, toprank_id=13^A760000 thedate=20100816, toprank_id=14^A289 thedate=20100816, toprank_id=11^A2090000 thedate=20100816, toprank_id=14^A289 thedate=20100816, toprank_id=12^A2000000 thedate=20100816, toprank_id=13^A760000 thedate=20100816, toprank_id=12^A120000 rpt_topranks_v3_0.t_a10_22

49. LOAD DATA LOCAL INFILE …

50. 节点之间并行

52. Begin：CREATE TABLE table_$pid ...

53. Query： LOAD DATA … INTO TABLE table_$pid ...

54. Commit：RENAME TABLE table TO table_bak, table_$pid TO table

56. Begin： SELECT MAX(autokid) FROM table

57. Query： LOAD DATA … INTO TABLE table ...

58. Commit：DELETE FROM table WHERE autokid <= ? AND 路由值

60. KEY -> VALUE

61. 枚举特征mysql > SELECT route_value, node, path, hittimeFROM new_route_info_10 LIMIT 1 *********************** 1 row ************************** route_value : rpt_topranks_v3:{“thedate”:20110308,”toprank_id”:110} node : 7 path : rpt_topranks_v3_5.t_9e_438 hittime : 2011-03-09 02:27:33

64. 冷数据迁出

65. 好钢用在刀刃上

66. 内存硬盘比

67. 方法

68. scp文件

69. SELECT TO OUTFILE，LOAD DATA INFILE …

70. federatedAPP DB2

72. 方法

73. myisampack

74. myisamchk

75. 结果

76. 压缩率29.84%

78. 队列滞塞

79. 装载错误

80. 数据一致性

81. COUNT

82. 抽样checksum

83. 数据均衡性

85. 数据的透明查询

86. 瞧瞧这个SQL: SELECT IF(INSTR(f.keyword,' ') > 0, UPPER(TRIM(f.keyword)), CONCAT(b.brand_name,' ',UPPER(TRIM(f.keyword)))) AS f0, SUM(f.search_num) AS f1, SUM(f.uv) AS f2, ROUND(SUM(f.search_num) / SUM(f.uv), 2) AS f3, AVG(f.uv) AS f4 FROM dm_fact_keyword_brand_d f INNER JOIN dim_brand b ON f.keyword_brand_id = b.brand_id WHERE f.keyword_type_id = 1 AND f.keyword != '' AND keyword_cat_id IN ('50002535') AND thedate <= '2011-03-10' AND thedate >= '2011-03-08' GROUP BY f0 ORDER BY SUM(f.search_num) DESC LIMIT 0, 1500

87. 数据查询 缓存 路由层 SQL解析 APC 语义理解 查询路由 字段改写 分片SQL 计算规则 查询层 取分片数据 缓存 计算层 结果合并

88. 路由层—语义理解 WHEREthedate <= '2011-03-10' AND thedate > '2011-03-07' AND toprank_id IN (2, 3) AND aa NOT LIKE 'lalala%' toprank_id thedate thedate:20110308,toprank_id:2

90. 1 + SUM(aa)

91. SELECT a FROM … ORDER BY b

93. 分片SQL很多

94. PHP单线程

95. MySQL查询阻塞

96. 异步并发

97. nginx + drizzle

98. http协议，curl_multi_get

99. JSON格式查询SQL nginx drizzle mysql

101. 最终结果

102. 分片数据缓存 查询层 取分片数据 缓存 计算层 结果合并

104. 二路归并

106. 聚合规则处理（SUM, MAX, MIN, DISTINCT）

107. 表达式求值

108. 堆排序

111. 缓存策略

112. Alpha = 80：

113. 跨节点JOIN

114. COUNT(DISTINCT …)

115. OR逻辑

116. 子查询、UNION查询

118. 小流量实验

120. 单元测试

121. 8k行程序，10k行测试代码

123. 索引使用 SELECTobject_idAS id … FROM rpt_topranks_v3 WHERE partition_by1 = 1101 SELECTobject_idAS id … FROM rpt_topranks_v3 WHEREpartition_by1 + 0 > ? AND partition_by1 + 0 < ?

124. 谢谢各位 朋春 pengchun@taobao.com