linux文件合并,去重复
2010-11-16 16:38
176 查看
第一:两个文件的交集,并集
前提条件:每个文件中不得有重复行
1. 取出两个文件的并集(重复的行只保留一份)
2. 取出两个文件的交集(只留下同时存在于两个文件中的文件)
3. 删除交集,留下其他的行
1. cat file1 file2 | sort | uniq > file3
2. cat file1 file2 | sort | uniq -d > file3
3. cat file1 file2 | sort | uniq -u > file3
第二:两个文件合并
一个文件在上,
一个文件在下
cat file1 file2 > file3
一个文件在左,一个文件在右
paste file1 file2 > file3
第三:一个文件去掉重复的行:
sort file |uniq
注意:重复的多行记为一行,也就是说这些重复的行还在,只是全部省略为一行!
sort file |uniq -u
上面的命令可以把重复的行全部去掉,也就是文件中的非重复行!
具体细节可以查看,cat,sort,uniq等命令的详细介绍
前提条件:每个文件中不得有重复行
1. 取出两个文件的并集(重复的行只保留一份)
2. 取出两个文件的交集(只留下同时存在于两个文件中的文件)
3. 删除交集,留下其他的行
1. cat file1 file2 | sort | uniq > file3
2. cat file1 file2 | sort | uniq -d > file3
3. cat file1 file2 | sort | uniq -u > file3
第二:两个文件合并
一个文件在上,
一个文件在下
cat file1 file2 > file3
一个文件在左,一个文件在右
paste file1 file2 > file3
第三:一个文件去掉重复的行:
sort file |uniq
注意:重复的多行记为一行,也就是说这些重复的行还在,只是全部省略为一行!
sort file |uniq -u
上面的命令可以把重复的行全部去掉,也就是文件中的非重复行!
具体细节可以查看,cat,sort,uniq等命令的详细介绍
相关文章推荐
- linux文件比较,合并,查找重复行
- Linux---Linux下文本文件合并和去除重复操作
- Linux下文本文件合并和去除重复操作
- Linux文件合并去除重复内容
- Linux文件合并、去除重复
- linux文件合并,去重复
- linux文件合并,去重复
- linux 合并文件
- Linux系统中查找、删除重复文件,释放磁盘空间。
- linux文件合并,去重,分割
- [小技巧] Linux 下合并 png 到一个 pdf 文件
- sdk合并报错:app:transformResourcesWithMergeJavaResForDedug,资源文件/META-INF/MANIFEST.MF重复
- Linux大文件分割split和合并cat使用方法
- linux文件合并,去重,分割
- 160802、1.06s删除10w条重复记录只保留一条(mysql)及linux删除乱码文件
- Linux文件分割与合并:split&cat
- linux--文件合并和分割
- Linux/Centos文件分割与合并命令
- Linux系统中查找、删除重复文件,释放磁盘空间。
- <转>linux文件合并,去重