uniq去重&统计

参考博客：http://www.cnblogs.com/ggjucheng/archive/2013/01/13/2858385.html

该命令可以去除排序过的文件中的重复行，因此uniq经常和sort合用。也就是说，为了使uniq起作用，所有的重复行必须是相邻的。

uniq语法

[root@www ~]# uniq [-icu]
选项与参数： 

    -i：忽略大小写字符的不同； 

    -c：进行计数 

    -u：只显示唯一的行

testfile的内容如下

cat testfile
hello
world
friend
hello
world
hello

直接删除未经排序的文件，将会发现没有任何行被删除

#uniq testfile  
hello
world
friend
hello
world
hello

排序文件，默认是去重

#cat words | sort |uniq 

friend
hello
world

排序之后删除了重复行，同时在行首位置输出该行重复的次数

#sort testfile | uniq -c 

1 friend 

3 hello 

2 world

仅显示存在重复的行，并在行首显示该行重复的次数

#sort testfile | uniq -dc 

3 hello 

2 world

仅显示不重复的行

sort testfile | uniq -u
friend