您的位置:首页 > 大数据 > Hadoop

hadoop fs 常用命令

2020-07-15 04:50 302 查看

查询hdfs系统的目录结构:
hadoop fs -ls /test/gonganbu/scene_analysis_suggestion/*

随机返回指定行数的样本数据
hadoop fs -cat /test/gonganbu/scene_analysis_suggestion/* | shuf -n 5

返回前几行的样本数据
hadoop fs -cat /test/gonganbu/scene_analysis_suggestion/* | head -100

返回最后几行的样本数据
hadoop fs -cat /test/gonganbu/scene_analysis_suggestion/* | tail -5

查看文本行数
hadoop fs -cat hdfs://172.16.0.226:8020/test/sys_dict/sysdict_case_type.csv |wc -l

查看文件大小(单位byte)
hadoop fs -du hdfs://172.16.0.226:8020/test/sys_dict/* 返回文件大小(单位为byte)

hadoop fs -du -h /t_user/my_hive_db/my_hive_table_test01 返回文件大小(单位为可为K\M\G反正保留一位小数)
在这里插入图片描述

hadoop fs -du /test 统计test目录下各文件大小
在这里插入图片描述
hadoop fs -du -s /test 统计test目录下所有文件大小
在这里插入图片描述
hadoop fs -count hdfs://172.16.0.226:8020/test/sys_dict/* 统计文件行数
————————————————
版权声明:本文为CSDN博主「mona.jiang」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/qq_35347718/article/details/106736246

内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: