linuxsir首页 LinuxSir.Org | Linux、BSD、Solaris、Unix | 开源传万世,因有我参与欢迎您!
网站首页 | 设为首页 | 加入收藏
您所在的位置:主页 > Linux及计算机学科基础理论版 >

Linux Shell - 如何使用sort与uniq命令删除重复的文本行

时间:2019-01-04  来源:未知  作者:admin666

需要对日志文件中的数据进行排序,但是有太多重复的行。 如何从GNU/Linux下的文本文件中删除所有重复的行?

您需要使用shell管道以及以下两个Linux命令行实用程序来排序和删除重复的文本行:

1、sort命令 - 在Linux和类Unix系统中对文本文件行进行排序。

2、uniq命令 - 在Linux或Unix上运行或省略重复的行

Linux Shell - 如何使用sort与uniq命令删除重复的文本行

使用Sort,Uniq和Shell管道删除重复行

使用以下语法:

sort {file-name} | uniq -u
sort file.log | uniq -u

使用uniq删除重复的行

以下是使用cat命令显示的名为garbage.txt的示例测试文件:

linuxidc@linuxidc:~/www.linuxidc.com$ cat linuxidc.com.txt

样本输出

Linux公社(www.linuxidc.com)于2006年9月25日注册并开通网站
Linux现在已经成为一种广受关注和支持的一种操作系统
IDC是互联网数据中心,LinuxIDC就是关于Linux的数据中心。

实时发布最新Linux资讯

Linux公社是专业的Linux系统门户网站
实时发布最新Linux资讯,包括Linux、Ubuntu、Fedora、RedHat
Linux教程、Linux认证、SUSE Linux、Android、Oracle、Hadoop等技术。

实时发布最新Linux资讯

实时发布最新Linux资讯

Linux Shell - 如何使用sort与uniq命令删除重复的文本行

从Linux上的文本文件中删除重复的行

键入以下命令以删除所有重复行:

linuxidc@linuxidc:~/www.linuxidc.com$ sort linuxidc.com.txt | uniq -u

样本输出:
 
IDC是互联网数据中心扎金花技巧,LinuxIDC就是关于Linux的数据中心。
Linux公社(www.linuxidc.com)于2006年9月25日注册并开通网站
Linux公社是专业的Linux系统门户网站
Linux教程、Linux认证、SUSE Linux、Android、Oracle、Hadoop等技术。
Linux现在已经成为一种广受关注和支持的一种操作系统
实时发布最新Linux资讯,包括Linux、Ubuntu、Fedora、RedHat

Linux Shell - 如何使用sort与uniq命令删除重复的文本行

在这里,

-u:检查是否有严格的排序,删除所有重复的行。

在Linux上排序文件内容

我们假设您有一个名为users.txt的文件:

cat linuxidc.txt

Linux Idc 22/11/72
Zhang San 12/01/69
Li Ai  30/12/88
A Bao 15/08/76
Chen Xiao  05/06/77
Shen Lin 13/02/75
Da Cen 21/10/73
Zhang San 12/01/69

让我们排序,运行:

sort linuxidc.txt

接下来按姓氏排序,运行:

sort -r linuxidc.txt

想以相反的顺序排序? 尝试:

sort +2 linuxidc.txt

Linux Shell - 如何使用sort与uniq命令删除重复的文本行

您可以在排序文件时消除文件中的任何重复条目,运行:

sort +2 -u linuxidc.txt

sort -u linuxidc.txt

Linux Shell - 如何使用sort与uniq命令删除重复的文本行

没有任何选项,sort会比较文件中的整行,并以ASCII顺序输出。 您可以使用选项控制输出。

如何使用uniq命令删除Linux上的重复行

使用以下文件:

linuxidc@linuxidc:~/www.linuxidc.com$ cat -n linuxidc.txt

样本输出:

    1 www.linuxidc.com
    2 Linux公社
    3 linuxidc
    4 linuxidc.com
    5 ------------
    6 5566778899
    7 5566778899
    8 5566778899

uniq命令从文件中删除第8行,并将结果放在名为linuxidc.com.txt的文件中:

uniq linuxidc.txt linuxidc.com.txt

验证它:

cat -n linuxidc.com.txt

Linux Shell - 如何使用sort与uniq命令删除重复的文本行

如何使用uniq命令删除重复的行

如何删除.txt文件中的重复行并将结果保存到新文件

请尝试以下任一语法:

sort shuru_wenjian | uniq > shuchu_wenjian
sort shuru_wenjian | uniq -u | tee shuchu_wenjian

总结

sort命令用于对文本文件的行进行排序,uniq过滤从文本文件中复制相邻的行。 这些命令有许多有用的选项。 我建议您通过键入以下man命令来阅读手册页:

man sort
man uniq

更多Linux命令相关信息见Linux命令大全 专题页面 https://www.linuxidc.com/topicnews.aspx?tid=16

Linux公社的RSS地址:https://www.linuxidc.com/rssFeed.aspx

友情链接
  • Mozilla发布Firefox 67.0.4,修复沙箱逃逸漏洞
  • 蚂蚁金服正式成为CNCF云原生计算基金会黄金会员
  • Firefox 68将采用Microsoft BITS安装更新
  • OpenSSH增加对存储在RAM中的私钥的保护
  • 谷歌想实现自己的curl,为什么?
  • Raspberry Pi 4发布:更快的CPU、更大的内存
  • Firefox的UA将移除CPU架构信息
  • Ubuntu放弃支持32位应用程序实属乌龙,Steam会否重回Ubuntu怀抱
  • Qt 5.13稳定版发布:引入glTF 2.0、改进Wayland以及支持Lottie动
  • 红帽企业Linux 7现已内置Redis 5最新版
  • Slack进入微软内部禁用服务清单,GitHub也在其列?
  • 安全的全新编程语言V发布首个可用版本
  • Windows Terminal已上架,快尝鲜
  • 阿里巴巴微服务开源生态报告No.1
  • 面世两年,Google地球将支持所有基于Chromium的浏览器
  • 推进企业容器化持续创新,Rancher ECIC千人盛典完美收官
  • CentOS 8.0最新构建状态公布,或于数周后发布
  • Debian移植RISC
  • 微软拆分操作系统的计划初现雏形
  • Oracle发布基于VS Code的开发者工具,轻松使用Oracle数据库
  • Ubuntu 19.10停止支持32位的x86架构
  • 微软为Windows Terminal推出全新logo
  • 联想ThinkPad P系列笔记本预装Ubuntu系统
  • 微软发布适用于Win7/8的Microsoft Edge预览版
  • 启智平台发布联邦学习开源数据协作项目OpenI纵横
  • 经过六个多月的延迟,微软终于推出Hyper
  • ZFS On Linux 0.8.1 发布,Python可移植性工作
  • DragonFly BSD 5.6.0 发布,HAMMER2状态良好
  • Linux Kernel 5.2
  • CentOS 8.0 看起来还需要几周的时间
  • 百度网盘Linux版正式发布
  • PCIe 6.0宣布:带宽翻倍 狂飙至256GB/s
  • PHP 7.4 Alpha 发布,FFI扩展,预加载Opcache以获得更好的性能
  • Canonical将在未来的Ubuntu版本中放弃对32位架构的支持
  • Scala 2.13 发布,改进的编译器性能
  • 微软的GitHub收购了Pull Panda,并且使所有订阅完全免费
  • Windows Subsystem for Linux 2 (WSL 2)现在适用于Windows 10用
  • Debian 10 “Buster”的RISC
  • MariaDB宣布发布MariaDB Enterprise Server 10.4
  • DXVK 1.2.2 发布,带来微小的CPU开销优化
  • DragonFlyBSD 5.6 RC1 发布,VM优化,默认为HAMMER2
  • PrimeNG 8.0.0 发布,支持Angular 8,FocusTrap等
  • GIMP 2.10.12 发布,一些有用的改进
  • 清华大学Anaconda 镜像服务即将恢复
  • Debian GNU/Linux 10 “Buster” 操作系统将于2019年7月6日发布
  • 时时彩论坛
  • 五星体育斯诺克
  • 北单比分直播
  • 河北11选5走势图
  • 福建体彩36选7开奖结果
  • 九龙图库下载