Python使用pandas处理CSV文件
2017-04-26 20:55
691 查看
Python中有许多方便的库可以用来进行数据处理,尤其是Numpy和Pandas,再搭配matplot画图专用模块,功能十分强大。
CSV(Comma-Separated Values)格式的文件是指以纯文本形式存储的表格数据,这意味着不能简单的使用Excel表格工具进行处理,而且Excel表格处理的数据量十分有限,而使用Pandas来处理数据量巨大的CSV文件就容易的多了。
我用到的是自己用其他硬件工具抓取得数据,硬件环境是在Linux平台上搭建的,当时数据是在运行脚本后直接输出在terminal里的,数据量十分庞大,为了保存获得的数据,在Linux下使用了数据流重定向,把数据全部保存到了文本文件中,形成了一个本地csv文件。
Pandas读取本地CSV文件并设置Dataframe(数据格式)
图片中显示了我本地数据的前5行与最后5行,最前面一列没有标号的是行号,数据一共有13列,标号从0到12,一行显示不完全,在第9列以后换了行,并且用反斜杠“\”标注了出来。
2017年4月28日更新
使用pandas直接读取本地的csv文件后,csv文件的列索引默认为从0开始的数字,重定义列索引的语句如下:
此时打印出的文件信息如下,列索引已经被重命名:
CSV(Comma-Separated Values)格式的文件是指以纯文本形式存储的表格数据,这意味着不能简单的使用Excel表格工具进行处理,而且Excel表格处理的数据量十分有限,而使用Pandas来处理数据量巨大的CSV文件就容易的多了。
我用到的是自己用其他硬件工具抓取得数据,硬件环境是在Linux平台上搭建的,当时数据是在运行脚本后直接输出在terminal里的,数据量十分庞大,为了保存获得的数据,在Linux下使用了数据流重定向,把数据全部保存到了文本文件中,形成了一个本地csv文件。
Pandas读取本地CSV文件并设置Dataframe(数据格式)
import pandas as pd import numpy as np df=pd.read_csv('filename',header=None,sep=' ') #filename可以直接从盘符开始,标明每一级的文件夹直到csv文件,header=None表示头部为空,sep=' '表示数据间使用空格作为分隔符,如果分隔符是逗号,只需换成 ‘,’即可。 print df.head() print df.tail() #作为示例,输出CSV文件的前5行和最后5行,这是pandas默认的输出5行,可以根据需要自己设定输出几行的值
图片中显示了我本地数据的前5行与最后5行,最前面一列没有标号的是行号,数据一共有13列,标号从0到12,一行显示不完全,在第9列以后换了行,并且用反斜杠“\”标注了出来。
2017年4月28日更新
使用pandas直接读取本地的csv文件后,csv文件的列索引默认为从0开始的数字,重定义列索引的语句如下:
import pandas as pd import numpy as np df=pd.read_csv('filename',header=None,sep=' ',names=["week",'month','date','time','year','name1','freq1','name2','freq2','name3','data1','name4','data2']) print df
此时打印出的文件信息如下,列索引已经被重命名:
相关文章推荐
- Python使用pandas处理CSV文件的实例讲解
- Python-使用CSV模块进行文件处理
- 使用python处理中文csv文件,并让excel正确显示中文(避免乱码)
- 处理淘宝双11数据,使用pandas库快速切分海量csv文件
- pandas io tools(使用python处理数据时候经常用到)读csv,TXT
- Python_使用csv模块解析csv文件(处理Excel表格)
- python用pandas工具包来处理.csv文件,包括读写和切片。
- 使用python的pandas库读取csv文件保存至mysql数据库
- 使用python处理中文csv文件,并让excel正确显示中文(避免乱码)
- Python使用pandas & pymysql读取MySQL数据到csv文件中
- 使用python处理中文csv文件,并让excel正确显示中文
- 使用python处理csv文件
- 建议42:使用pandas处理大型CSV文件
- 使用python pandas读取csv文件数据
- 读取csv文件并使用pandas.Series.apply进行处理时,对header=?的处理
- python3使用csv模块读写csv文件
- Python_使用csv模块解析csv文件
- [python]csv格式文件的使用
- Python使用cx_Oracle模块将oracle中数据导出到csv文件的方法
- Python 处理CSV文件