MySql数据库运维 学习日记(一)
2016-02-12 21:51
471 查看
MySql
(2)数据总量。一到两年的数据总量,根据数据总量,规划数据库的构建。
(3)每秒请求量。网站申请浏览。
(4)读写比。
(5)重要程度。
需求转化:
(1)TPS
(2)IOPS
(3)CPU
(4)Memory
(5)IO
案例分析:
1.1年内数据量大约1T。结果:每秒产生的数据量为1*1024*1024*1024/(365*24*60*60) = 34KB/s
2.每秒1w次请求;读写比是4:1。结果:每秒读请求10000/5*4 = 8000/s;每秒写请求数10000/5*1 = 2000/s
3.记录长度大约为1KB。结果:根据Step1得出的结果,每秒insert的数据写入大约为34/s;根据Step2得到的每秒写2000/s,可知1966/s为update和delete操作。由于MySQL数据读写操作按照页来处理,页大小为16KB,假设每次操作的页都不相同。那么每秒写操作数据量为:16KB*2000/s = 32M/s,每秒读操作数据量为:16KB*8000/s = 128M/s。
4.处理最近15天内的数据。结果:热数据量为:(1*1024/365)*15 = 42GB。
5.操作ms级返回。结果:操作ms级别返回,并且读压力更大,那么需要尽可能的将热数据加载到内存。按照内存命中率接近100%计算的话,那么Innodb buffer大约为42GB,而其他内存需求大概为1~2GB,因此内存超配大约为45GB。按照超配原则,写带宽(wBPS)限制为50MB/s;读带宽(rBPS)限制为150MB/s。
RAID Controller.
SSD缺点:RAID将SSD做成磁盘阵列。访问链路较长。
SSD新的架构,PCI-Express直接访问SSD。缩短了整个数据链路。未来发展广阔。大盘结构。
机型测试
性能对比测试 IO设备 输入输出
稳定性测试 FIO 抖动 加长测试时间 擦出算法
掉电保护测试 SA测试 三星的SSD十分垃圾。。。。
内存异常测试 内存故障对SSD影响评估
IO设备坏盘和rebuild测试
运维成本
功耗成本
单数据目录
混合读写
请求随机
文件系统划分:
系统分区
数据分区
日志分区
IO调度
业务评估
(1)响应时间有关。responsetime。(2)数据总量。一到两年的数据总量,根据数据总量,规划数据库的构建。
(3)每秒请求量。网站申请浏览。
(4)读写比。
(5)重要程度。
需求转化:
(1)TPS
(2)IOPS
(3)CPU
(4)Memory
(5)IO
案例分析:
1.1年内数据量大约1T。结果:每秒产生的数据量为1*1024*1024*1024/(365*24*60*60) = 34KB/s
2.每秒1w次请求;读写比是4:1。结果:每秒读请求10000/5*4 = 8000/s;每秒写请求数10000/5*1 = 2000/s
3.记录长度大约为1KB。结果:根据Step1得出的结果,每秒insert的数据写入大约为34/s;根据Step2得到的每秒写2000/s,可知1966/s为update和delete操作。由于MySQL数据读写操作按照页来处理,页大小为16KB,假设每次操作的页都不相同。那么每秒写操作数据量为:16KB*2000/s = 32M/s,每秒读操作数据量为:16KB*8000/s = 128M/s。
4.处理最近15天内的数据。结果:热数据量为:(1*1024/365)*15 = 42GB。
5.操作ms级返回。结果:操作ms级别返回,并且读压力更大,那么需要尽可能的将热数据加载到内存。按照内存命中率接近100%计算的话,那么Innodb buffer大约为42GB,而其他内存需求大概为1~2GB,因此内存超配大约为45GB。按照超配原则,写带宽(wBPS)限制为50MB/s;读带宽(rBPS)限制为150MB/s。
HDD & SSD
HDD慢慢被取代,大量使用SSD。HHD架构要有RAID,RAID将HDD做成磁盘阵列,提高读写速度。 系统盘,不丢数据RAID10。日志盘,RAID5。RAID Controller.
SSD缺点:RAID将SSD做成磁盘阵列。访问链路较长。
SSD新的架构,PCI-Express直接访问SSD。缩短了整个数据链路。未来发展广阔。大盘结构。
机型测试
性能对比测试 IO设备 输入输出稳定性测试 FIO 抖动 加长测试时间 擦出算法
掉电保护测试 SA测试 三星的SSD十分垃圾。。。。
内存异常测试 内存故障对SSD影响评估
IO设备坏盘和rebuild测试
成本评估
设备成本运维成本
功耗成本
文件系统规划
MySQL数据库特点:单数据目录
混合读写
请求随机
文件系统划分:
系统分区
数据分区
日志分区
IO调度
相关文章推荐
- join operations in SQL
- MySQL监控指标
- PyMySQL与Django的结合
- mysql监控、性能调优及三范式理解
- Tips on Optimizing SQL Server Composite Indexes(SQL server 复合索引优化提示)
- 如何从把mysql的数据迁移到oracle上来---------Oracle SQL Developer技术
- Zabbix自带模板监控MySQL
- Icinga2监控web、mysql状态
- grafana安装,与zabbix结合使用监控mysql
- SQLSERVER分页查询关于使用Top方式和row_number()解析函数的不同
- 高性能Mysql主从架构的复制原理及配置详解
- SQLSERVER分页查询关于使用Top方式和row_number()解析函数的不同
- 利用sqoop从mysql向hbase导数据(拼接mysql多字段做为hbase rowkey)
- PLSQL Developer备份恢复oracle数据
- SQL分页查询,纯Top方式和row_number()解析函数的使用及区别
- SQLiteDatabase.openOrCreateDatabase(file, factory)和file间的冲突问题
- go 调用sqlite
- go 调用mysql
- PL/SQL DEVELOPER执行计划的查看
- zabbix企业应用之Mysql主从监控