linux文件合并、去重、拆分
2017-09-28 16:03
211 查看
一、两个文件的交集、并集(前提条件:每个文件中不得有重复行)
1. 取出两个文件的并集(重复的行只保留一份)
cat file1 file2 | sort | uniq > file3
2. 取出两个文件的交集(只留下同时存在于两个文件中的文件)
cat file1 file2 | sort | uniq -d > file3
3. 删除交集,留下其他的行
cat file1 file2 | sort | uniq -u > file3
二、两个文件合并
1. 一个文件在上,一个文件在下
cat file1 file2 > file3
2. 一个文件在左,一个文件在右
paste file1 file2 > file3
三、一个文件去掉重复的行
1. 重复的多行记为一行
sort file |uniq
2. 重复的行全部去掉
sort file |uniq -u
四、文件拆分
1.split 命令
使用方式:split [OPTION] [INPUT [PREFIX]
OPTION 有
- l<行数>或-l<行数> 指定每多少行就要切成一个小文件。
-b<字节> 指定每多少字就要切成一个小文件。支持单位:m,k
-C<字节> 与-b参数类似,但切割时尽量维持每行的完整性。
如:
a>按照 指定分割后文件行数
对于文本文件,可以通过指定分割后文件的行数来进行文件分割。
命令:split -l 300 large_file.log new_file_prefi
b>按照 指定分割后文件大小
对于文本文件,可以通过指定分割后文件的行数来进行文件分割。
命令:split -l 300 large_file.log new_file_prefix
1. 取出两个文件的并集(重复的行只保留一份)
cat file1 file2 | sort | uniq > file3
2. 取出两个文件的交集(只留下同时存在于两个文件中的文件)
cat file1 file2 | sort | uniq -d > file3
3. 删除交集,留下其他的行
cat file1 file2 | sort | uniq -u > file3
二、两个文件合并
1. 一个文件在上,一个文件在下
cat file1 file2 > file3
2. 一个文件在左,一个文件在右
paste file1 file2 > file3
三、一个文件去掉重复的行
1. 重复的多行记为一行
sort file |uniq
2. 重复的行全部去掉
sort file |uniq -u
四、文件拆分
1.split 命令
使用方式:split [OPTION] [INPUT [PREFIX]
OPTION 有
- l<行数>或-l<行数> 指定每多少行就要切成一个小文件。
-b<字节> 指定每多少字就要切成一个小文件。支持单位:m,k
-C<字节> 与-b参数类似,但切割时尽量维持每行的完整性。
如:
a>按照 指定分割后文件行数
对于文本文件,可以通过指定分割后文件的行数来进行文件分割。
命令:split -l 300 large_file.log new_file_prefi
b>按照 指定分割后文件大小
对于文本文件,可以通过指定分割后文件的行数来进行文件分割。
命令:split -l 300 large_file.log new_file_prefix
相关文章推荐
- linux文件合并、去重、拆分
- linux大文件分割与合并
- Windows和linux系统文件合并命令格式介绍
- java 文件拆分 合并
- 【shell命令】拆分、合并、排序、比较文件
- Linux下分割与合并文件的方法
- linux 合并文件 cat & paste
- window和linux文件合并命令
- paste:linux合并两个文件中的列(左右合并)
- linux和MAC下静态库.a文件合并
- Tif文件与JPG文件之间的合并拆分实现(使用LibTIFF与OpenCV)
- 使用java.io.*操作文件的拆分与合并,Application一例
- linux下文件合并、分割、去重
- Linux文件拆分命令——split
- Linux中split大文件分割和cat合并文件详解
- C#文件的拆分与合并操作示例
- linux文件合并
- “Linux文件的合并、排序和分割” 之 split 命令
- 使用java.io.*操作文件的拆分与合并,Application一例!
- Linux文件分割与合并:split&cat