Mysql基于ssd flashcache实践

MySQL+SSDFlashcache优化实践天羽@

Who am I 天羽 tianyu@taobao.com @tb天羽 SI Oracle Mysql 16:26 2

方案选型-选型目标 ,[object Object],30亿 ,[object Object],TPS 500*16（峰值） QPS 7000*16 （峰值） ,[object Object],150亿，5倍压力 tps 2500 qps 35000 15:46 4

方案选型-选型目标 15:46 5

方案选型-对比测试 Mysqltps --supersmack 15:46 6

方案选型-ioDrive VS ssd CPU —> 北桥 —> 南桥 —> SAS/RAID 控制器 —> 背板 —> 磁盘 15:46 7

方案选型- ioDrive VS ssd 15:46 8

Fusion IO ioDrive 320G MLC ,[object Object],4PB 1W次 ,[object Object],逻辑写134G/天，物理写809G/天， (4000*1024/8098)/356=14年 15:46 9

方案选型- Flashcache介绍 15:46 10

Flashcache介绍元数据开销: 24byte in-memory(300G/4k,1.8G),16 byte on-flash … … 1 set = 512 blocks … 15:46 11

Flashcache测试 ,[object Object]

风险评估DB各种异常down机 DDL、数据订正数据库备份等维护操作 15:45 12

业务压测-DB数据 ,[object Object],BPhit 99.3%flashcache hit 98.2% /proc/flashcache_setutil 79441(2MB)个util99% 15:45 13

业务压测-应用RT RT（1/4的热点数据） = 7ms RT（3/4的非热点数据） = 18ms RT（写Update）=7ms 线上压力4000 qps 1.2ms 15:45 14

非业务操作干扰Cache效率

Troubleshoot ,[object Object],cachehit测试,169G用8-13分钟左右，221MB/s ,[object Object],各种down机后，持续监控cachehit% ,[object Object],白名单 ,[object Object],fio状态、温度、寿命、cachehit监控 15:45 17

Hang DDL hang、Dmsetup hang、copy hang FIX：调整FLASHCACHE_COPY_PAGES and FLASHCACHE_ASYNC_SIZE dosync.fast_remove=0再dmsetup remove会hang FIX：Fast_remove=1，主动刷并限制力度,调整合并后写块上限验证：dmsetup remove ，完全4K往SAS刷，不hang。每秒100M/S，100G需17分钟 15:45 18

DDL测试 ,[object Object],单表130W 数据量，2GB ,[object Object],加索引(83MB/S)>其他DML(5MB/S) > 平时2.5MB/S ,[object Object],扩字段，减字段，重命名，改类型，删字段，1分钟07秒加索引9s,删索引0.08s 第1个操作用5分钟，和很多tps抢锁，表load到内存 15:45 19

议题 15:45 方案选型性能调优稳定测试 20

Flashcache配置白名单 cache_all=0 LRU reclaim_policy=1 脏刷新率 dirty_thresh_pct=90 快速remove fast_remove = 1 刷出力度 max_clean_ios_set=2 max_clean_ios_total=4 15:45 21

OS优化 ,[object Object],numa=off ,[object Object],noatime,nodiratime,barrier=0 ,[object Object],scheduler deadline nr_requests 512 增大队列长度 default 128 read_ahead_kb 16 减少预读default 128 15:45 22

MYSQL优化 ,[object Object],1、减少切换次数 innodb_log_file_size=1300m innodb_log_files_in_group=3 2、独立硬盘 redo log 240G/天 ,[object Object],innodb_thread_concurrency 15:45 23

MYSQL优化 ,[object Object],innodb_io_capacity innodb_read_io_threads innodb_write_io_threads ,[object Object],innodb_change_buffering=none adaptive_flushing ssd随机写,不需要顺序化的额外代价 15:45 24

Mysql基于ssd flashcache实践

Recomendados

Recomendados

Más contenido relacionado

La actualidad más candente

La actualidad más candente (20)

Destacado

Destacado (20)

Similar a Mysql基于ssd flashcache实践

Similar a Mysql基于ssd flashcache实践 (20)

Mysql基于ssd flashcache实践