Pandas常用操作
2016-10-18 14:03
246 查看
# coding=utf-8 ''' @author: Jeramy ''' import pandas as pd import numpy as np import matplotlib.pyplot as plt ### 一.创建对象 # 1.可以通过传递一个list对象来创建一个Series,pandas会默认创建整型索引: # s=pd.Series([1,3,5,np.nan,6,8]) # print(s) # # 2.通过传递一个numpy array,时间索引以及列标签来创建一个DataFrame: # dates=pd.date_range('20130101',periods=6) # print(dates) # df=pd.DataFrame(np.random.randn(6,4),index=dates,columns=list('ABCD')) # print(df) # # 3.通过传递一个能够被转换成类似序列结构的字典对象来创建一个DataFrame: # df2=pd.DataFrame({'A':1,'B':pd.Timestamp('20130102'), # 'C':pd.Series(1,index=list(range(4)),dtype='float32'), # 'D':np.array([3]*4,dtype='int32'), # 'E':pd.Categorical(['test','train','test','train']), # 'F':'fool' # }) # print(df2) # 4.查看不同列的数据类型: # print(df2.dtypes) # # ### 二.查看数据 # 1.查看frame中头部和尾部的行: # print(df.head(1)) # print(df.tail(1)) # # 2.显示索引、列和底层的numpy数据: # print(df.index) # print(df.columns) # print(df.values) # # 3.describe()函数对于数据的快速统计汇总: # print(df.describe()) # # 4.对数据的转置: # print(df.T) # #5.按轴进行排序 #print(df.sort_index(axis=1,ascending=False)) # # 6.按值进行排序 # print(df.sort(columns='B')) # # ### 三.选择 # NO1.获取 # 1. 选择一个单独的列,这将会返回一个Series,等同于df.A: # print(df['A']) # # 2.通过[]进行选择,这将会对行进行切片 # print(df[:3]) # 其中0可以省略 print(df[0:3]) # # NO2.通过标签选择 # 1.使用标签来获取一个交叉的区域 # print(df.loc[dates[0]]) # # 2.通过标签来在多个轴上进行选择 # print(df.loc[:,['A','B']]) # # 3.标签切片 # print(df.loc['20130102':'20130104',['A','B']]) # # 4.对于返回的对象进行维度缩减 # print(df.loc['20130101',['A','B']]) # # 5.获取一个标量 # print(df.loc[dates[0],'A']) # # 6.快速访问一个标量(与上一个方法等价) # print(df.at[dates[0],'A']) # # NO3.通过位置选择 # 1.通过传递数值进行位置选择(选择的是行) # print(df.iloc[3]) # # 2.通过数值进行切片,与numpy/python中的情况类似 # print(df.iloc[3:5,0:2]) # # 3.通过指定一个位置的列表,与numpy/python中的情况类似 # print(df.iloc[[1,2,4],[0,2]]) # 4.对行进行切片 # print(df.iloc[1:3,:]) # # 5.对列进行切片 # print(df.iloc[:,1:3]) # # 6.获取特定的值 # print(df.iloc[1,1]) # # NO4.布尔索引 # 1.使用一个单独列的值来选择数据: # print(df[df.A>0]) # # 2.使用where操作来选择数据: # print(df[df>0]) # # 3.使用isin()方法来过滤: # df2=df.copy() # df2['E']=['one','one','one','one','one','two'] # print(df2) # # NO5.设置 # 1.设置一个新的列: # s1=pd.Series([1,2,3,4,5,6],index=pd.date_range('20130101', periods=6)) # print(s1) # df['F']=s1 # print(df) # # 2.通过标签设置新的值: # df.at[dates[0],'A']=0 # print(df) # # 3.通过位置设置新的值: # df.iat[0,1]=0 # print(df) # # 4.通过一个numpy数组设置一组新值: # df.loc[:,'D']=np.array([5]*len(df)) # print(df) # # 5.通过where操作来设置新的值: # df2=df.copy() # df2[df2>0]=-df2 # print(df2) # # ### 四.缺失值处理 # 在pandas中,使用np.nan来代替缺失值,这些值将默认不会包含在计算中,详情请参阅:Missing Data Section。 # # 1.reindex()方法可以对指定轴上的索引进行改变/增加/删除操作,这将返回原始数据的一个拷贝:、 # # df1=df.reindex(index=dates[0:4],columns=list(df.columns)+['E']) # print(df1) # # 2.去掉包含缺失值的行: # df1.dropna(how='any',inplace=True) # print(df1) # # 3.对缺失值进行填充: # df1=df1.fillna(value=5) # print(df1) # # 4.对数据进行布尔填充: # print(pd.isnull(df1)) # # ### 五.相关操作 # 详情请参与 Basic Section On Binary Ops # # NO1.统计(相关操作通常情况下不包括缺失值) # 1.执行描述性统计: # print(df.mean()) # # 2.在其他轴上进行相同的操作: # print(df.mean(1)) # # 3.对于拥有不同维度,需要对齐的对象进行操作。Pandas会自动的沿着指定的维度进行广播: # s=pd.Series([1,3,5,np.nan,6,8],index=dates).shift(2) # print(s) # # NO2.Apply # 1.对数据应用函数: # print(df.apply(np.cumsum)) # print(df.apply(lambda x:x.max()-x.min())) # # NO3.直方图 # 具体请参照:Histogramming and Discretization # # s=pd.Series(np.random.randint(0,7,size=10)) # print(s) # print(s.value_counts()) # # NO4.字符串方法 # Series对象在其str属性中配备了一组字符串处理方法,可以很容易的应用到数组中的每个元素 # s=pd.Series(['A','B','C','Bcaa',np.nan,'CBA','dog','cat']) # print(s.str.lower()) # # ### 六.合并 # Pandas提供了大量的方法能够轻松的对Series,DataFrame和Panel对象进行各种符合各种逻辑关系的合并操作。具体请参阅:Merging section # # NO1.Concat # df=pd.DataFrame(np.random.randn(10,4)) # print(df) # pieces=[df[:3],df[3:7],df[7:]] # print(pd.concat(pieces)) # # NO2.Join 类似于SQL类型的合并 # left=pd.DataFrame({'key':['foo','foo'],'lval':[1,2]}) # right=pd.DataFrame({'key':['foo','foo'],'rval':[4,5]}) # # print(left) # print(right) # # mid=pd.merge(left,right,on='key') # print(mid) # # NO3.Append 将一行连接到一个DataFrame上 # df=pd.DataFrame(np.random.randn(8,4),columns=['A','B','C','D']) # print(df) # s=df.iloc[3] # print(s) # df=df.append(s,ignore_index=True) # print(df) # # ### 七.分组 # 对于”group by”操作,我们通常是指以下一个或多个操作步骤: # # NO1.(Splitting)按照一些规则将数据分为不同的组; # # NO2.(Applying)对于每组数据分别执行一个函数; # # NO3.(Combining)将结果组合到一个数据结构中; # # df=pd.DataFrame({'A':['foo','bar','foo','bar','foo','bar','foo','bar'] # ,'B':['one','two','two','one','one','two','one','two'] # ,'C':np.random.randn(8),'D':np.random.randn(8)}) # print(df) # # 1.分组并对每个分组执行sum函数: # print(df.groupby('A').sum()) # # 2.通过多个列进行分组形成一个层次索引,然后执行函数: # print(df.groupby(['A','B']).sum()) # ### 八.Reshaping # NO1.Stack # tuples=list(zip(*[['bar','bar','baz','baz','foo','foo','qux','qux'] # ,['one','two','one','two','one','two','one','two']])) # # index=pd.MultiIndex.from_tuples(tuples, names=['first','second']) # df=pd.DataFrame(np.random.randn(8,2),index=index,columns=['A','B']) # df2=df[:4] # print(df2) # print(df2.stack().unstack(1)) # # ### 九.时间序列 # Pandas在对频率转换进行重新采样时拥有简单、强大且高效的功能(如将按秒采样的数据转换为按5分钟为单位进行采样的数据) # rng=pd.date_range('1/1/2012',periods=100,freq='S') # print(rng) # ts=pd.Series(np.random.randint(0,500,len(rng)),index=rng) # print(ts) # print(ts.resample('5Min',how='sum')) # # 1.时区表示: # rng=pd.date_range('3/6/2012 00:00',periods=5,freq='D') # print(rng) # ts=pd.Series(np.random.randn(len(rng)),index=rng) # print(ts) # ts_utc=ts.tz_localize('UTC') # print(ts_utc) # # 2.时区转换: # print(ts_utc.tz_convert('US/Eastern')) # # 3.时间跨度转换: # rng=pd.date_range('1/1/2012',periods=5,freq='M') # print(rng) # ts=pd.Series(np.random.randn(len(rng)),index=rng) # print(ts) # ps=ts.to_period() # print(ps) # print(ps.to_timestamp()) # # 4.时期和时间戳之间的转换使得可以使用一些方便的算术函数。 # prng=pd.period_range('1990Q1','2000Q4',freq='Q-NOV') # print(prng) # ts=pd.Series(np.random.randn(len(prng)),index=prng) # print(ts) # ts.index=(prng.asfreq('M','e')+1).asfreq('H', 's')+8 # print(ts.head()) # # ### 十.Categorical # 从0.15版本开始,pandas可以在DataFrame中支持Categorical类型的数据 # # df=pd.DataFrame({'id':[1,2,3,4,5,6],'raw_grade':['a','b','b','a','a','e']}) # print(df) # # 1.将原始的grade转换为Categorical数据类型: # df['grade']=df['raw_grade'].astype('category') # print(df) # # 2.将Categorical类型数据重命名为更有意义的名称: # df['grade'].cat.categories=['very good','good','very bad'] # print(df) # # 3.对类别进行重新排序,增加缺失的类别: # df['grade']=df['grade'].cat.set_categories(['very bad','bad','medium','good','very good']) # print(df['grade']) # # 4.排序是按照Categorical的顺序进行的而不是按照字典顺序进行: # print(df.sort('grade')) # # 5.对Categorical列进行排序时存在空的类别: # print(df.groupby('grade').size()) # # ### 十一.画图 # ts=pd.Series(np.random.randn(1000),index=pd.date_range('1/1/2012',periods=1000,freq='D')) # ts=ts.cumsum() # ts.plot() # # df=pd.DataFrame(np.random.randn(1000,4),index=ts.index,columns=['A','B','C','D']) # df=df.cumsum() # plt.figure();df.plot();plt.legend(loc='best') # # ### 十二.导入和保存数据 # NO1.CSV # 1.写入csv文件: # df.to_csv('jeramy.csv',index=False) # # 2.从csv文件中读取: # pd.read_csv('jeramy.csv') # # NO2.EXCEL # 1.写入excel文件: # df.to_excel('jeramy.xlsx',sheet_name='Sheet1') # # 2.从excel文件中读取: # pd.read_excel('jeramy.xlsx','Sheet1',index_col=None,na_values=['NA'])
References:
[1]http://pandas.pydata.org/pandas-docs/stable/10min.html
[2]http://jingyan.baidu.com/season/43456
相关文章推荐
- 几个pandas数据处理中的常用操作
- pandas数据处理常用函数demo之创建/行列操作/查看/文件操作
- pandas常用操作
- pandas-常用操作
- pandas 常用操作
- Python Pandas常用数据结构Series和DataFrame的相关操作
- pandas常用操作
- pandas笔记,pandas常用操作
- Pandas入门(二)——DataFrame结构及常用操作
- Pandas入门(二)——DataFrame结构及常用操作
- Python数据分析模块 | pandas做数据分析(二):常用预处理操作
- pandas做数据分析(三):常用预处理操作
- Pandas常用基本操作(整理)
- Pandas常用操作
- python:pandas模块中的DataFrame结构及常用操作
- Pandas常用操作
- pandas中常用的操作
- Pandas入门(二)——DataFrame结构及常用操作
- 常用的ant的操作(我自己的总结)
- C#中一些字符串操作的常用用法