mysql优化取随机数据慢的方法
2013-11-05 00:00
645 查看
前天因为工作需要我把从一个5W记录的数据库中随机抽取几条记录了,这里我是直接使用mysql rand by函数来直接,几千条记录没关系,但如果到了几万条感觉要几秒,这个就很慢了,下面小编与大家一起来看看mysql 取随机数据慢优化过程。
MySQL很多时候需要获取随机数据,举个例子,要从tablename表中随机提取一条记录,大家一般的写法就是:
但是,后来我查了一下MYSQL的官方手册,里面针对RAND()的提示大概意思就是,在ORDER BY从句里面不能使用RAND()函数,因为这样会导致数据列被多次扫描。但是在MYSQL 3.23版本中,仍然可以通过ORDER BY RAND()来实现随机。
测试一下才发现这样效率非常低。一个15万余条的库,查询5条数据,居然要8秒以上。查看官方手册,也说rand()放在ORDER BY 子句中会被执行多次,自然效率及很低。
You cannot use a column with RAND() values in an ORDER BY clause, because ORDER BY would evaluate the column multiple times.
搜索Google,网上基本上都是查询max(id) * rand()来随机获取数据。
但是这样会产生连续的5条记录。解决办法只能是每次查询一条,查询5次。即便如此也值得,因为15万条的表,查询只需要0.01秒不到。
下面的语句采用的是JOIN,mysql的论坛上有人使用:
我测试了一下,需要0.5秒,速度也不错,但是跟上面的语句还是有很大差距。总觉有什么地方不正常。
于是把语句改写了一下。
这下,效率又提高了,查询时间只有0.01秒。
最后,再把语句完善一下,加上MIN(id)的判断。我在最开始测试的时候,就是因为没有加上MIN(id)的判断,结果有一半的时间总是查询到表中的前面几行。
完整查询语句是:
最后在php中对这两个语句进行分别查询10次,前者花费时间 0.147433 秒,后者花费时间 0.015130 秒。看来采用JOIN的语法比直接在WHERE中使用函数效率还要高很多。
这个就是我自己选用了,从以前5秒到现面0.0003秒时间都不用就查出10条记录了。
MySQL很多时候需要获取随机数据,举个例子,要从tablename表中随机提取一条记录,大家一般的写法就是:
SELECT * FROM tablename ORDER BY RAND() LIMIT 1
但是,后来我查了一下MYSQL的官方手册,里面针对RAND()的提示大概意思就是,在ORDER BY从句里面不能使用RAND()函数,因为这样会导致数据列被多次扫描。但是在MYSQL 3.23版本中,仍然可以通过ORDER BY RAND()来实现随机。
测试一下才发现这样效率非常低。一个15万余条的库,查询5条数据,居然要8秒以上。查看官方手册,也说rand()放在ORDER BY 子句中会被执行多次,自然效率及很低。
You cannot use a column with RAND() values in an ORDER BY clause, because ORDER BY would evaluate the column multiple times.
搜索Google,网上基本上都是查询max(id) * rand()来随机获取数据。
SELECT * FROM 'table' AS t1 JOIN (SELECT ROUND(RAND() * (SELECT MAX(id) FROM 'table')) AS id) AS t2 WHERE t1.id >= t2.id ORDER BY t1.id ASC LIMIT 5;
但是这样会产生连续的5条记录。解决办法只能是每次查询一条,查询5次。即便如此也值得,因为15万条的表,查询只需要0.01秒不到。
下面的语句采用的是JOIN,mysql的论坛上有人使用:
SELECT * FROM 'table' WHERE id >= (SELECT FLOOR( MAX(id) * RAND()) FROM 'table' ) ORDER BY id LIMIT 1;
我测试了一下,需要0.5秒,速度也不错,但是跟上面的语句还是有很大差距。总觉有什么地方不正常。
于是把语句改写了一下。
SELECT * FROM 'table' WHERE id >= (SELECT floor(RAND() * (SELECT MAX(id) FROM 'table'))) ORDER BY id LIMIT 1;
这下,效率又提高了,查询时间只有0.01秒。
最后,再把语句完善一下,加上MIN(id)的判断。我在最开始测试的时候,就是因为没有加上MIN(id)的判断,结果有一半的时间总是查询到表中的前面几行。
完整查询语句是:
SELECT * FROM 'table' WHERE id >= ( SELECT floor( RAND() * ((SELECT MAX(id) FROM 'table')-(SELECT MIN(id) FROM 'table')) + (SELECT MIN(id) FROM 'table') ) ) ORDER BY id LIMIT 1; SELECT * FROM 'table' AS t1 JOIN ( SELECT ROUND( # 最小值 + (1 至 最小与最大值差) RAND() * ( (SELECT MAX(id) FROM 'table')-(SELECT MIN(id) FROM 'table') ) +(SELECT MIN(id) FROM 'table') ) AS id ) AS t2 WHERE t1.id >= t2.id ORDER BY t1.id LIMIT 1;
最后在php中对这两个语句进行分别查询10次,前者花费时间 0.147433 秒,后者花费时间 0.015130 秒。看来采用JOIN的语法比直接在WHERE中使用函数效率还要高很多。
SELECT * FROM `table` AS t1 JOIN (SELECT ROUND(RAND() * ((SELECT MAX(id) FROM `table`) – (SELECT MIN(id) FROM `table`)) + (SELECT MIN(id) FROM `table`)) AS id) AS t2 WHERE t1.id >= t2.id ORDER BY t1.id LIMIT 10;
这个就是我自己选用了,从以前5秒到现面0.0003秒时间都不用就查出10条记录了。
相关文章推荐
- mysql优化取随机数据慢的方法
- MySql 100万级别数据中随机获取一条或多条记录之RAND()优化
- Mysql 千万以上数据优化方法(一,SQL优化),月薪30K之路系列
- MySQL随机获取数据的方法,支持大数据量
- MySQL查询随机数据的4种方法和性能对比
- MYSQL常规数据优化方法
- MySQL随机获取数据的方法,支持大数据量
- mysql 如何插入随机字符串数据的实现方法
- MySQL表结构优化、数据类型选择方法
- Mysql 千万以上数据优化方法
- MySQL随机获取数据的方法,支持大数据量
- MySQL查询随机数据的4种方法和性能对比
- MySQL查询随机数据的4种方法和性能对比
- mysql 数据插入优化方法
- MySQL查询随机数据的4种方法和性能对比
- 在大数据情况下MySQL的一种简单分页优化方法
- mysql随机查询若干条数据的方法
- mysql实现随机获取几条数据的方法
- mysql获取随机数据的方法
- 讲述mysql数据表几种有效优化方法