R实现大文本文件数据过滤的方法
2014-08-28 18:50
246 查看
使用R语言过滤文件数据是很普遍的操作,但有时我们会遇到比较大的文件,这类文件无法全部读入内存处理,需要采用分批读取、分批过滤、拼合结果的办法来解决。下面用一个例子来说明R实现大文件数据过滤的方法。
有个1G的文件sales.txt,存储着大量订单记录,请过滤出AMOUNT字段值在2000和3000之间的记录。该文件的列分割符为“\t”,前几行数据如下:
R语言解决方案
con <- file("E:\\sales.txt", "r")
readLines(con,n=1)
result=read.table(con,nrows=100000,sep="\t")
result<-result[result$V4>=2000 & result$V4<=3000,]
while(length(databatch<-read.table(con,header=FALSE,nrows=100000,sep="\t"))!=0) {
databatch<- databatch [databatch$V4>=2000 & databatch$V4<=3000,]
result<-rbind(result,databatch)
}
close(con)
部分计算结果
代码解读:
1行:打开文件句柄
2行:丢掉第一行,也就是列名。
3-4行:读入第一批的十万条数据,过滤后存入result。
5-8行:循环读数。每批次读入十万行数据,过滤后的结果追加到result变量,然后再读入下一批次。
9行:关闭文件句柄。
注意事项:
如果是小文件,则只需一句代码就能完成读数据的操作,第一行还可以设置为数据框的列名,但大文件不能这么实现,需要按批次读取数据,第二批的数据就无法将第一行设为列名了,默认列名会是V1、V2、V3…….。
为了实现大文件按批次读数据,必须使用while语句来实现算法,列名的使用也不够方便,这就使整个代码稍显复杂。
替代方案:
同样的算法也可以用Python、集算器、Perl等语言来解决本案例。和R语言一样,这几种语言都可以实现文件数据的过滤以及结构化数据的计算,下面简单介绍集算器和Python的解决方案。
集算器会自动分批处理数据,程序员无需用循环语句手工控制,因此代码非常简洁:
cursor是集算器中用于结构化数据计算的数据类型,和数据框的用法差不多,但对大文件和复杂计算更擅长。另外,cursor可以用@t选项将文件的第一行读为列名。
Python的代码结构和R差不多,也是手工控制循环,但python本身缺乏数据框或cursor等结构化数据类型,因此代码更底层些:
result = []
myfile = open("E: \\sales.txt",'r')
BUFSIZE = 10240000
myfile.readline()
lines = myfile.readlines(BUFSIZE)
value=0
while lines:
for line in lines:
record=line.split('\t')
AMOUNT=float(record[3])
if (AMOUNT>=2000 and AMOUNT<=3000):
result.append(record)
lines = myfile.readlines(BUFSIZE)
myfile.close()
Python也可以用第三方包来实现上述算法,比如pandas就有类似数据框的结构化数据对象,但pandas对大文件的支持同样有限,很难进一步简化代码。
有个1G的文件sales.txt,存储着大量订单记录,请过滤出AMOUNT字段值在2000和3000之间的记录。该文件的列分割符为“\t”,前几行数据如下:
R语言解决方案
con <- file("E:\\sales.txt", "r")
readLines(con,n=1)
result=read.table(con,nrows=100000,sep="\t")
result<-result[result$V4>=2000 & result$V4<=3000,]
while(length(databatch<-read.table(con,header=FALSE,nrows=100000,sep="\t"))!=0) {
databatch<- databatch [databatch$V4>=2000 & databatch$V4<=3000,]
result<-rbind(result,databatch)
}
close(con)
部分计算结果
代码解读:
1行:打开文件句柄
2行:丢掉第一行,也就是列名。
3-4行:读入第一批的十万条数据,过滤后存入result。
5-8行:循环读数。每批次读入十万行数据,过滤后的结果追加到result变量,然后再读入下一批次。
9行:关闭文件句柄。
注意事项:
如果是小文件,则只需一句代码就能完成读数据的操作,第一行还可以设置为数据框的列名,但大文件不能这么实现,需要按批次读取数据,第二批的数据就无法将第一行设为列名了,默认列名会是V1、V2、V3…….。
为了实现大文件按批次读数据,必须使用while语句来实现算法,列名的使用也不够方便,这就使整个代码稍显复杂。
替代方案:
同样的算法也可以用Python、集算器、Perl等语言来解决本案例。和R语言一样,这几种语言都可以实现文件数据的过滤以及结构化数据的计算,下面简单介绍集算器和Python的解决方案。
集算器会自动分批处理数据,程序员无需用循环语句手工控制,因此代码非常简洁:
cursor是集算器中用于结构化数据计算的数据类型,和数据框的用法差不多,但对大文件和复杂计算更擅长。另外,cursor可以用@t选项将文件的第一行读为列名。
Python的代码结构和R差不多,也是手工控制循环,但python本身缺乏数据框或cursor等结构化数据类型,因此代码更底层些:
result = []
myfile = open("E: \\sales.txt",'r')
BUFSIZE = 10240000
myfile.readline()
lines = myfile.readlines(BUFSIZE)
value=0
while lines:
for line in lines:
record=line.split('\t')
AMOUNT=float(record[3])
if (AMOUNT>=2000 and AMOUNT<=3000):
result.append(record)
lines = myfile.readlines(BUFSIZE)
myfile.close()
Python也可以用第三方包来实现上述算法,比如pandas就有类似数据框的结构化数据对象,但pandas对大文件的支持同样有限,很难进一步简化代码。
相关文章推荐
- R实现大文本文件数据过滤的方法
- R实现大文本文件数据过滤的方法
- kettle实现文本文件数据抽取方法
- kettle实现文本文件数据抽取方法
- R实现大文本文件数据分组汇总的方法
- 把数据从txt文本文件导入到数据库的实现方法
- Kettle实现文本文件数据抽取方法 Kettle Txt To Database
- kettle实现文本文件数据抽取方法
- 手动创建两个文本文件text1.txt,text2.txt,要求编程创建text3.txt,实现text1.txt和text2.txt文件中除去首行和末尾,其余对应的数据相加,三个文本的内容如下
- 使用.ashx文件处理IHttpHandler实现发送文本及二进制数据的方法(转)
- oracle下的sqlldr命令使用方法(sqlldr工具的使用(批量将文本文件数据加载到数据表))
- 使用C++文件流如何实现 修改文本文件中的数据,再存回文件中的原有位置。。。
- Jetspeed2 将文件数据初始化到数据库的实现方法
- C#导出数据到CSV和EXCEL文件时数字文本被转义的解决方法
- python处理文本文件实现生成指定格式文件的方法
- 使用.ashx文件处理IHttpHandler实现发送文本及二进制数据的方法。
- 使用.ashx文件处理IHttpHandler实现发送文本及二进制数据的方法
- “基于关键字匹配的文本过滤系统”配置文件的设计和实现(C/C++源码)
- 使用.ashx文件处理IHttpHandler实现发送文本及二进制数据的方法
- “基于关键字匹配的文本过滤系统”配置文件的设计和实现(C/C++源码)