去除文件中重复数据的方法：

　　先使用sort指令将文件中的数据按照要求的索引进行排序，然后使用uniq指令将重复数据去掉得到想要的结果。

　　如文件a.txt中有重复行，需要去除重复行时执行如下指令： 

　　#sort a.txt > b.txt;

　　#uniq b.txt > c.txt

　　c.txt文件就是所需数据了.