SlideShare a Scribd company logo
1 of 42
淘宝数据库架构演进历程 丹臣 / 赵林 数据架构师 2010-12-12
提纲 ,[object Object],[object Object],[object Object],[object Object],[object Object]
淘宝的数据很美丽
淘宝数据库发展三阶段
SQL 语句变化 ,[object Object],[object Object],[object Object],[object Object]
淘宝电子商务网站的特点 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
不同的时期,不同的策略 ,[object Object],[object Object],[object Object],[object Object],[object Object]
数据库里的数据 第一,二阶段的单台数据库里,用户,商品,交易等数据都在一起,存在许多的关联查询,应用完全耦合 用户 商品 交易 评价 收藏
连接数问题 Oracle 数据库 ,[object Object],[object Object],[object Object],小型机的内存有限,发现了 Oracle 数据库有连接数瓶颈, 5000 个以后相当吃力。
中心化,服务化 ,[object Object]
HSF 的诞生 ,[object Object],A 服务 B 服务 HSF
数据垂直化 ,[object Object],[object Object],[object Object],[object Object],用户 商品 交易 评价
问题 ,[object Object],[object Object],[object Object],[object Object],[object Object]
一台高端存储的处理能力 480 块盘的 hdisk , max IOPS 6w 注意应用可以接受的 IO response time, 以及 IOPS 点。比如 3w  IOPS 以上,会达到 20ms 以上
数据库架构发展新思路 ,[object Object]
异构的读写分离 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
构建数据查询的高速公路 ,[object Object]
跨不过去的坎 ,[object Object],[object Object],[object Object],[object Object]
大数据量核心业务数据迁移思路 ,[object Object],[object Object],[object Object],[object Object]
水库模型 ,[object Object]
数据库系统余量 ,[object Object],[object Object],[object Object],[object Object]
数据库系统余量
数据生命周期之历史迁移 Data Online  Data History Data ,[object Object]
在线与历史应用分离 Online  Data Database History  Data Database Online Application  History Application  数据迁移程序 ,[object Object],[object Object],[object Object]
商品访问框架 主键查询 卖家查询 淘宝商品的几个主要的查询: a. 主键查询通过分布式数据库,以及分布式缓存系统解决 b. 卖家商品管理类查询,这一类的查询数据量大,并且还有 like 查询的需求,通过实时搜索解决 商品 分布式缓存 分布式数据库 实时搜索 注:考虑不同的读载体的技术实现,性能,成本
用户 ,[object Object],用户信息 用户主信息 用户信息扩展 ,[object Object],[object Object]
过度中心化 用户中心 Tair 分布式缓存 商品中心 交易中心 评价中心 ,[object Object],[object Object]
用户中心中的读写分离 用户中心 Tair 分布式缓存 商品中心 交易中心 评价中心 ,[object Object],在其它中心中内置可以访问 tair 的客户端,大部份的读不需要经过用户中心,直接读 tair ,写需要经过用户中心。
交易的读写分离框架 ,[object Object]
一些难题 ,[object Object],[object Object],[object Object]
光棍节大促 活动前,经过了充分的准备与系统评估工作: CDN 面临的压力最大,预估流量将会达到 280G 左右,准备了各个层面的系统降级方案。
一个小意外 ,[object Object]
MySQL 源代码研究 ,[object Object],[object Object],[object Object]
MySQL 源代码研究 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
MySQL Binlog 解析数据复制中心 ,[object Object]
MySQL Binlog 解析数据复制中心 ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
异地多数据中心的数据同步 杭州 青岛 other
异地多数据中心的数据同步 ,[object Object]
淘宝自主数据库 Oceanbase ,[object Object],[object Object],[object Object],[object Object]
总结 ,[object Object],[object Object],[object Object],[object Object]
Follow me ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
[object Object]

More Related Content

Similar to Random 101214055524-phpapp01

云计算技术溯源
云计算技术溯源云计算技术溯源
云计算技术溯源koolea
 
腾讯大讲堂44 qq game后台开发介绍
腾讯大讲堂44 qq game后台开发介绍腾讯大讲堂44 qq game后台开发介绍
腾讯大讲堂44 qq game后台开发介绍areyouok
 
第1章 数据库系统概论
第1章   数据库系统概论第1章   数据库系统概论
第1章 数据库系统概论hanmo1988
 
电子商务网站
电子商务网站电子商务网站
电子商务网站oldtaotao
 
腾讯大讲堂40 web类服务用户体验优化综述
腾讯大讲堂40 web类服务用户体验优化综述腾讯大讲堂40 web类服务用户体验优化综述
腾讯大讲堂40 web类服务用户体验优化综述areyouok
 

Similar to Random 101214055524-phpapp01 (6)

云计算技术溯源
云计算技术溯源云计算技术溯源
云计算技术溯源
 
腾讯大讲堂44 qq game后台开发介绍
腾讯大讲堂44 qq game后台开发介绍腾讯大讲堂44 qq game后台开发介绍
腾讯大讲堂44 qq game后台开发介绍
 
第1章 数据库系统概论
第1章   数据库系统概论第1章   数据库系统概论
第1章 数据库系统概论
 
6. Ajax
6. Ajax6. Ajax
6. Ajax
 
电子商务网站
电子商务网站电子商务网站
电子商务网站
 
腾讯大讲堂40 web类服务用户体验优化综述
腾讯大讲堂40 web类服务用户体验优化综述腾讯大讲堂40 web类服务用户体验优化综述
腾讯大讲堂40 web类服务用户体验优化综述
 

More from Bob Huang

Gsm 03-42 v300
Gsm 03-42 v300Gsm 03-42 v300
Gsm 03-42 v300Bob Huang
 
Oracle 经验操作
Oracle 经验操作Oracle 经验操作
Oracle 经验操作Bob Huang
 
Cap信令原理
Cap信令原理Cap信令原理
Cap信令原理Bob Huang
 
Gsm智能网原理
Gsm智能网原理Gsm智能网原理
Gsm智能网原理Bob Huang
 
移动智能应答业务
移动智能应答业务移动智能应答业务
移动智能应答业务Bob Huang
 
浙江电信移动业务接入实践20100513
浙江电信移动业务接入实践20100513浙江电信移动业务接入实践20100513
浙江电信移动业务接入实践20100513Bob Huang
 
Introduction to-taobao-cdn-at-linuxfb-v0-2-100620101417-phpapp01
Introduction to-taobao-cdn-at-linuxfb-v0-2-100620101417-phpapp01Introduction to-taobao-cdn-at-linuxfb-v0-2-100620101417-phpapp01
Introduction to-taobao-cdn-at-linuxfb-v0-2-100620101417-phpapp01Bob Huang
 
高性能网站建设指南
高性能网站建设指南高性能网站建设指南
高性能网站建设指南Bob Huang
 
百度排名优化方法及注意事项
百度排名优化方法及注意事项百度排名优化方法及注意事项
百度排名优化方法及注意事项Bob Huang
 
Mysql 101014202926-phpapp01
Mysql 101014202926-phpapp01Mysql 101014202926-phpapp01
Mysql 101014202926-phpapp01Bob Huang
 
Introduction to-taobao-cdn-at-linuxfb-v0-2-100620101417-phpapp01
Introduction to-taobao-cdn-at-linuxfb-v0-2-100620101417-phpapp01Introduction to-taobao-cdn-at-linuxfb-v0-2-100620101417-phpapp01
Introduction to-taobao-cdn-at-linuxfb-v0-2-100620101417-phpapp01Bob Huang
 
201001 100208094620-phpapp01
201001 100208094620-phpapp01201001 100208094620-phpapp01
201001 100208094620-phpapp01Bob Huang
 

More from Bob Huang (14)

Gsm 03-42 v300
Gsm 03-42 v300Gsm 03-42 v300
Gsm 03-42 v300
 
Gsm 04.08
Gsm 04.08Gsm 04.08
Gsm 04.08
 
Oracle 经验操作
Oracle 经验操作Oracle 经验操作
Oracle 经验操作
 
Vpmn业务
Vpmn业务Vpmn业务
Vpmn业务
 
Cap信令原理
Cap信令原理Cap信令原理
Cap信令原理
 
Gsm智能网原理
Gsm智能网原理Gsm智能网原理
Gsm智能网原理
 
移动智能应答业务
移动智能应答业务移动智能应答业务
移动智能应答业务
 
浙江电信移动业务接入实践20100513
浙江电信移动业务接入实践20100513浙江电信移动业务接入实践20100513
浙江电信移动业务接入实践20100513
 
Introduction to-taobao-cdn-at-linuxfb-v0-2-100620101417-phpapp01
Introduction to-taobao-cdn-at-linuxfb-v0-2-100620101417-phpapp01Introduction to-taobao-cdn-at-linuxfb-v0-2-100620101417-phpapp01
Introduction to-taobao-cdn-at-linuxfb-v0-2-100620101417-phpapp01
 
高性能网站建设指南
高性能网站建设指南高性能网站建设指南
高性能网站建设指南
 
百度排名优化方法及注意事项
百度排名优化方法及注意事项百度排名优化方法及注意事项
百度排名优化方法及注意事项
 
Mysql 101014202926-phpapp01
Mysql 101014202926-phpapp01Mysql 101014202926-phpapp01
Mysql 101014202926-phpapp01
 
Introduction to-taobao-cdn-at-linuxfb-v0-2-100620101417-phpapp01
Introduction to-taobao-cdn-at-linuxfb-v0-2-100620101417-phpapp01Introduction to-taobao-cdn-at-linuxfb-v0-2-100620101417-phpapp01
Introduction to-taobao-cdn-at-linuxfb-v0-2-100620101417-phpapp01
 
201001 100208094620-phpapp01
201001 100208094620-phpapp01201001 100208094620-phpapp01
201001 100208094620-phpapp01
 

Random 101214055524-phpapp01

Editor's Notes

  1. MySQL 到 Oracle,PC server 到 IBM 小型机的迁移,极大的提升了数据库的处理能力,在高端存储的帮助下, IO 能力也得到了极大的提升,使大家能够在较长一段时间内,集中精力做业务,数据库系统能够快速响应业务发展的各种需求 小型机硬件不断升级,高端存储不断扩展, Oracle 商业软件费用增加,公司面临成本压力,我们的技术没有得到提升 再好的硬件也有极限,集中式始终存在要命的扩展问题,整个系统出现 IOPS ,连接数等各种瓶颈 随着公司的发展,各类技术人才开始汇集,我们可以有所作为