大数据量处理的问题
2012-03-04 23:42
28 查看
在很多时候,会碰到数据量很大的问题,在处理大数据的问题上,主要有以下几种方式:
1。数据库优化,SQL优化。
2。查询条件优化。
3。临时表,历史表等。
前面这三种方式往往不能辙底的解决大数据量带来的问题(查询速度慢,造成锁表,死锁,数据回滚等),所以就出现了第四种比较间接的方式:
4。跑批。
对于要求不同的结果,设计有所不同,但跑批的形式大体相同,如查询多张表中的大量数据,就可如此设计一张表,将查询所有的信息(包含查询条件),设计成一张表,然后将每天的数据在特定的时间(非业务时间)将需要的这些数据记到该时间表中,然后查询的时候就可以只查询些一张表即可。
当然,这只是最简单的跑批,假如涉多个服务器的,多个数据库的时候,就会涉及到同步的问题;对于统计的问题,则是将每天的统计信息存于表中,当然,假如涉及明细问题,表的设计也有所不同。
1。数据库优化,SQL优化。
2。查询条件优化。
3。临时表,历史表等。
前面这三种方式往往不能辙底的解决大数据量带来的问题(查询速度慢,造成锁表,死锁,数据回滚等),所以就出现了第四种比较间接的方式:
4。跑批。
对于要求不同的结果,设计有所不同,但跑批的形式大体相同,如查询多张表中的大量数据,就可如此设计一张表,将查询所有的信息(包含查询条件),设计成一张表,然后将每天的数据在特定的时间(非业务时间)将需要的这些数据记到该时间表中,然后查询的时候就可以只查询些一张表即可。
当然,这只是最简单的跑批,假如涉多个服务器的,多个数据库的时候,就会涉及到同步的问题;对于统计的问题,则是将每天的统计信息存于表中,当然,假如涉及明细问题,表的设计也有所不同。
相关文章推荐
- 解决jmeter 处理大数据量结果返回导致jmeter卡死的问题
- 计算机专业面试笔试问题之大数据量,海量数据 处理方法总结
- KETTLE——Weka处理大数据量内存溢出问题
- 使用ibatis处理大数据量批量插入更新问题
- 处理数据量大的问题
- 线程池,处理高并发问题,处理大数据量的方法
- 面试笔试问题:大数据量,海量数据 处理方法总结
- 大数据量处理问题的小结
- 互联网百万级应用的大数据处理问题 探讨大数据量处理
- MongoDB开发学习 开天辟地,经典入门 解决关系型数据库大数据量处理的瓶颈问题
- 面试笔试问题:大数据量,海量数据 处理方法总结
- oracle 处理大数据量问题
- 数据库大数据量处理问题讨论
- Tomcat安装配置详解及相关问题处理
- SQL2008遇到的几个小问题处理办法
- Could not find jar tool executable 问题处理
- 无法处理内核页面请求的虚拟地址(相关问题讨论)
- bootstrap .col-md-6 文字居中问题处理
- 处理Python中urllib2/mechanize库进行socket通信超时的问题
- 解决wsimport 带https协议wdsl 时报错的处理 (解决mac系统默认不开启1024以下端口权限问题 )