python读取大文件越来越慢的原因与解决
背景:
今天同事写代码,用python读取一个四五百兆的文件,然后做一串逻辑上很直观的处理。结果处理了一天还没有出来结果。问题出在哪里呢?
解决:
1. 同事打印了在不同时间点的时间,在需要的地方插入如下代码:
print time.strftime('%Y-%m-%d %H:%M:%S',time.localtime(time.time()))
发现一个规律,执行速度到后面时间越来越长,也就是处理速度越来越慢。
2. 为什么会越来越慢呢?
1)可能原因1,GC 的问题,有篇文章里面写,python list append 的时候会越来越慢,解决方案是禁止GC:
使用 gc.disable()和gc.enable()
2)改完上面,仍然不行,然后看到一篇文章里面写,可能是因为 git 导致的,因为append 的时候 git 会不断同步,会出问题,于是删除 .git 文件夹,结果还是不行。
3)继续查询,发下一个及其有可能出问题的地方。dict 的 in dict.key(),判断 key 是否在 dict 里面,这个的效率是非常低的。看到一篇文章比较了效率:
① 使用 in dict.keys() 效率:
② 使用 has_key() 效率:
发现 has_key() 效率比较稳定。于是修改,问题解决。
后话:
最初的时候,的确是使用 has_key(), 结果后面上传代码的时候,公司代码检查过不了,提示不能使用这个函数,只能改成 in dict.key() 这种方式,为什么公司不让这么传呢?经过一番百度,发现原因所在:在 python3 中,直接将 has_key() 函数给删除了,所以禁止使用。那禁止了该怎么办呢?原来 python 中 in 很智能,能自动判断 key 是否在字典中存在。所以最正规的做法不是 has_key(), 更不是 in dict.keys(), 而是 in dict. 判断 key 在 map 中,千万别用 in dict.keys() !!!
附录:
in、 in dict.keys()、 has_key() 方法实战对比:
>>> a = {'name':"tom", 'age':10, 'Tel':110} >>> a {'age': 10, 'Tel': 110, 'name': 'tom'} >>> print 'age' in a True >>> print 'age' in a.keys() True >>> >>> print a.has_key("age") True
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对脚本之家的支持。
参考资料:
https://www.douban.com/group/topic/44472300/
http://www.it1352.com/225441.html
https://www.geek-share.com/detail/2744879946.html
您可能感兴趣的文章:
- 用python urllib2.urlopen(fileurl) 读取网络文件问题解决
- Java读取UTF-8格式文件第一行出现乱码——问号“?”及解决 And Java读带有BOM的UTF-8文件乱码原因及解决方法
- Java读取UTF-8格式txt文件第一行出现乱码——问号“?”及解决;Java读带有BOM的UTF-8文件乱码原因及解决方法
- 浅谈python在提示符下使用open打开文件失败的原因及解决方法
- Java读取带有BOM的UTF-8文件乱码原因及解决办法
- python读取\t\n的文件转换成html表格发送邮件(解决中文乱码问题)
- Python文件进行写操作后立即读出的结果、原因分析、解决方法
- Python+opencv 无法正确读取视频文件(已解决)
- 解决Python读取文件时出现UnicodeDecodeError: 'gbk' codec can't decode
- python-读取目录中文件以及解决未知编码的中文乱码
- python3使用pickle读取文件提示TypeError或者UnicodeDecodeError的解决办法
- 解决Python中pandas读取*.csv文件出现编码问题
- Java读取UTF-8格式txt文件第一行出现乱码——问号“?”及解决;Java读带有BOM的UTF-8文件乱码原因及解决方法
- 利用Python从文件中读取字符串(解决乱码问题)
- Java读取UTF-8格式txt文件第一行出现乱码——问号“?”及解决;Java读带有BOM的UTF-8文件乱码原因及解决方法
- sublime python3中读取和写入文件时如何解决编码问题
- 解决Windows下Python程序读取中文文件
- python ftplib上传文件出现ftplib.error_perm 550 The parameter is incorrect错误的原因和解决
- Python中读取文件乱码问题解决方案
- Java读取UTF-8格式txt文件第一行出现乱码——问号“?”及解决;Java读带有BOM的UTF-8文件乱码原因及解决方法