Hadoop之——Pig框架
2015-06-14 16:00
253 查看
转载请注明出处:/article/8380755.html
1.Pig是基于hadoop的一个数据处理的框架。
MapReduce是使用java进行开发的,Pig有一套自己的数据处理语言,Pig的数据处理过程要转化为MR来运行。2.Pig的数据处理语言是数据流方式的,类似于初中做的数学题。
3.Pig基本数据类型:int、long、float、double、chararry、bytearray
复合数据类型:Map、Tuple、BagBag的类型如{('age',31),('name','张三')}
4.如何安装Pig
4.1 把pig-0.11.1.tar.gz复制到/usr/local下4.2 使用命令tar -zxvf pig-0.11.1.tar.gz解压缩
4.3 使用命令mv pig-0.11.1 pig 进行重命名
4.4 编辑文件vi /etc/profile 设置环境变量
export $PIG_HOME=/usr/local/pig
export PATH =......$PIG_HOME/bin....
保存,然后执行source /etc/profile
4.5 编辑文件$PIG_HOME/conf/pig.properties
增加两行如下内容
fs.default.name=hdfs://hadoop0:9000
mapred.job.tracker=hadoop0:9001
5.对wlan数据如何使用pig进行分析处理
5.1 把待处理的数据上传到HDFS中5.2 把HDFS中的数据转换为pig可以处理的模式
A = LOAD '/wlan' AS (t0:long, msisdn:chararray, t2:chararray, t3:chararray, t4:chararray, t5:chararray, t6:long, t7:long, t8:long, t9:long, t10:chararray);
DUMP A;
5.3 把里面的有用的字段抽取出来
B = FOREACH A GENERATE msisdn, t6, t7, t8, t9;
DUMP B;
5.4 分组数据
C = GROUP B BY msisdn;
DUMP C;
5.5 流量汇总
D = FOREACH C GENERATE group, SUM(B.t6), SUM(B.t7), SUM(B.t8), SUM(B.t9);
DUMP D;
5.6 存储到HDFS中
STORE D INTO '/wlan_result';
5.7 排序
E = ORDER D BY group;
DUMP E;
相关文章推荐
- CISC 与 RISC
- 从零开始学习OpenCL开发(一)架构
- ubuntu14.04创建含ssh服务的suse11sp2 docker容器
- Google Developing for Android 学习总结
- linux学习笔记一(1~7章节)
- centos 7 下挂载ntfs格式磁盘
- Linux内存管理
- linux基本命令-mysql命令
- Win7+ubuntu kylin+CentOS 6.5三系统安装图文教程
- 如何使用Hadoop的JobControl
- win7下硬盘安装win7+CentOS双系统方法
- 【图书管理系统】——VS2013加IIS8如何发布网站
- win7下硬盘安装win7+linuxUbuntu双系统方法
- 教你解析教务处网站,查找卷面成绩、平时成绩(西邮教务处)
- linux基本命令-RPM包管理
- 在centos6上搭建git服务器
- apache2: Could not reliably determine the server's fully qualified domain name, using 127.0.1.1 for
- Session Sticky About Nginx
- OpenGL学习笔记:Console工程下如何不显示控制台黑窗口只显示Windows窗口
- 使用opencv进行多路视频的播放