【Linux从入门到精通】第27篇:文本处理三剑客(上)——grep 正则表达式实战
目录一、引言从“找东西”说起二、grep基础从简单搜索开始2.1 基本语法2.2 常用基础选项2.3 管道中的grep三、正则表达式从“搜文字”到“搜模式”3.1 两种正则标准BRE与ERE3.2 基础元字符3.3 扩展正则grep -E新增元字符3.4 常用字符类四、实战一查找邮箱地址五、实战二查找IP地址六、实战三查找电话号码七、grep的高级功能7.1 上下文控制找到后看周围内容7.2 递归搜索在整个目录中查找7.3 统计匹配数量7.4 精确匹配控制八、grep实战组合技8.1 实时监控特定错误8.2 排除注释和空行查看有效配置8.3 批量在所有配置文件中搜索九、本篇小结动手练习十、下篇预告一、引言从“找东西”说起在Windows或macOS下你习惯按CtrlF在文档中搜索关键词。在Linux命令行下这个操作对应的命令就是grep。grep的名字来源于一个古老的编辑器命令g/re/pglobal / regular expression / print意思是“全局搜索正则表达式并打印匹配行”。从名字就能看出它的核心能力搜索在一堆文本中找到目标正则表达式不只是搜“固定文字”还能搜“符合某种模式”的文字打印把匹配的行输出给你看在运维和开发工作中grep的出现频率极高——查日志、找配置、过滤进程、筛选数据几乎无处不用。二、grep基础从简单搜索开始2.1 基本语法bashgrep [选项] 搜索模式 文件名最简单的用法bashgrep error /var/log/syslog # 在日志中找包含error的行 grep root /etc/passwd # 查看root用户信息 ps aux | grep nginx # 查看nginx相关进程2.2 常用基础选项选项含义示例-i忽略大小写grep -i Error app.log-v反向匹配排除grep -v ^# nginx.conf排除注释行-n显示行号grep -n error app.log-c只显示匹配行数量grep -c 404 access.log-w匹配整个单词grep -w at file不会匹配cat/ate-r递归搜索目录grep -r TODO ./src/-l只输出文件名grep -rl config /etc/--color高亮匹配内容grep --color error app.log2.3 管道中的grepgrep最常用的姿势不是直接搜文件而是作为管道中的过滤器bash# 查看所有监听端口中的80端口 ss -tlnp | grep :80 # 查看ERROR级别的日志并高亮 tail -f /var/log/app.log | grep --color -i error # 查看nginx进程排除grep自身 ps aux | grep nginx | grep -v grep小技巧ps aux | grep nginx | grep -v grep这条命令经常出现。另一种写法是ps aux | grep [n]ginx——方括号让grep匹配nginx但grep进程本身的命令行是grep [n]ginx不匹配从而省掉一个grep -v。三、正则表达式从“搜文字”到“搜模式”grep真正的威力来自正则表达式。正则表达式是一种描述字符串模式的语法让你能搜索“形如邮箱”“形如IP地址”的内容而不是具体文字。3.1 两种正则标准BRE与ERELinux中的grep支持两种正则语法标准全称grep命令特点BREBasic Regular Expressiongrep默认老式标准部分元字符需要转义EREExtended Regular Expressiongrep -E或egrep现代标准元字符直接使用选择建议始终使用grep -E扩展正则。BRE需要频繁加反斜杠转义如\(、\)、\{、\}可读性差且容易出错。除非要兼容极老的Unix系统否则直接用ERE。3.2 基础元字符元字符含义示例匹配结果.匹配任意单个字符h.that, hit, h3t*前一个字符重复0次或多次ab*cac, abc, abbc^行首^error以error开头的行$行尾error$以error结尾的行[]字符集合中的任意一个[Bb]ashBash, bash[^]不在集合中的任意一个[^0-9]非数字字符\转义字符\.匹配真正的点号3.3 扩展正则grep -E新增元字符元字符含义示例前一个字符重复1次或多次abc→ abc, abbc不匹配ac?前一个字符重复0次或1次colou?r→ color, colour|或分支error|warn→ 包含error或warn的行()分组(error|warn) log→ error log或warn log{n}前一个字符重复恰好n次[0-9]{3}→ 三位数字{n,}前一个字符重复n次及以上[0-9]{3,}→ 至少三位数字{n,m}前一个字符重复n到m次[0-9]{2,4}→ 两到四位数字3.4 常用字符类写法含义等价写法[0-9]数字[[:digit:]][a-zA-Z]字母[[:alpha:]][a-zA-Z0-9]字母数字[[:alnum:]][ \t]空白字符[[:space:]][A-Z]大写字母[[:upper:]][a-z]小写字母[[:lower:]]POSIX字符类的优势[[:digit:]]比[0-9]更规范且在不同locale下行为一致。在写复杂脚本时推荐使用。四、实战一查找邮箱地址bashgrep -E [a-zA-Z0-9._%-][a-zA-Z0-9.-]\.[a-zA-Z]{2,} file.txt模式拆解部分含义[a-zA-Z0-9._%-]用户名部分字母/数字/特殊符号至少1个字符必须的符号[a-zA-Z0-9.-]域名部分字母/数字/点/短横线至少1个字符\.转义的点号分隔域名和后缀[a-zA-Z]{2,}顶级域名至少2个字母验证bashecho 联系adminexample.com或supportmy-site.org获取帮助 | \ grep -E [a-zA-Z0-9._%-][a-zA-Z0-9.-]\.[a-zA-Z]{2,}五、实战二查找IP地址IPv4地址由4组0-255的数字组成bashgrep -E ((25[0-5]|2[0-4][0-9]|[01]?[0-9][0-9]?)\.){3}(25[0-5]|2[0-4][0-9]|[01]?[0-9][0-9]?) file.txt逐组拆解部分匹配范围25[0-5]250-2552[0-4][0-9]200-249[01]?[0-9][0-9]?0-199灵活处理前导零\.点号分隔符{3}前三组重复3次最后重复一组第四组数字结束边界控制说明上述模式会把992.168.1.100这样的字符串从第2位开始截取匹配。如果需要精确校验整行内容拒绝嵌入数字的IP可以加\和\单词边界锚定或用grep -w。一般grep从日志中提取IP时周围有限定符号空格、引号等前述模式已足够实用。六、实战三查找电话号码匹配中国手机号码1开头的11位数字bashgrep -E \b1[3-9][0-9]{9}\b file.txt模式拆解\b单词边界防止匹配长数字串中间的部分1开头必须是1[3-9]第二位是3-9覆盖所有运营商的号段[0-9]{9}后面接9位数字\b单词边界结束七、grep的高级功能7.1 上下文控制找到后看周围内容匹配到目标行后往往需要看周围的几行来理解上下文。bash# 查看匹配行及之后3行找错误日志时特别有用看错误之后发生了什么 grep -A 3 FATAL app.log # 查看匹配行及之前2行查看错误发生前系统在做什么 grep -B 2 FATAL app.log # 查看匹配行前后各5行最常用全面了解上下文 grep -C 5 FATAL app.log7.2 递归搜索在整个目录中查找bash# 在当前目录及所有子目录的.sh文件中搜索 grep -r TODO . --include*.sh # 排除某些目录 grep -r function ./src/ --exclude-dir{node_modules,vendor} # 只列出包含匹配的文件名 grep -rl config /etc/7.3 统计匹配数量bash# 统计nginx日志中404的出现次数 grep -c 404 /var/log/nginx/access.log # 统计每个IP发起请求的次数用到后续文章的工具 grep -oE ^[0-9]\.[0-9]\.[0-9]\.[0-9] access.log | sort | uniq -c | sort -rn | head7.4 精确匹配控制bash# 只输出匹配的内容而不是整行 echo Server IP: 192.168.1.1 | grep -oE [0-9]\.[0-9]\.[0-9]\.[0-9] # 只显示匹配的文件名 grep -rl ERROR /var/log/-o选项的妙用当你不需要看整行、只想要精确提取数据片段时-o配合正则能高效抽取结构化数据如从日志中提取所有IP地址。八、grep实战组合技8.1 实时监控特定错误bashtail -f /var/log/nginx/error.log | grep --color -E 500|502|503|5048.2 排除注释和空行查看有效配置bashgrep -v ^\s*# nginx.conf | grep -v ^\s*$8.3 批量在所有配置文件中搜索bashgrep -rE server_name\sexample\.com /etc/nginx/ --include*.conf九、本篇小结grep核心能力搜索文本 正则模式匹配 管道过滤。选项速查选项作用-E使用扩展正则推荐-i忽略大小写-v反向匹配-n显示行号-c统计匹配数量-A/-B/-C N显示匹配行前后N行-r递归搜索目录-o只输出匹配部分-l只输出文件名-w整词匹配正则核心元字符字符作用示例.任意单字符h.t*0~n次ab*c1~n次abc?0~1次colou?r^/$行首 / 行尾^error/error$[]字符集合[0-9]()分组(error|warn){n,m}重复n~m次[0-9]{2,4}动手练习bash# 1. 在/etc/passwd中查找所有使用/bin/bash的用户 grep /bin/bash /etc/passwd # 2. 统计nginx日志中404错误的数量 grep -c 404 /var/log/nginx/access.log # 3. 查看sshd配置排除注释和空行 grep -vE ^\s*(#|$) /etc/ssh/sshd_config # 4. 从日志中提取所有IP地址 grep -oE ([0-9]{1,3}\.){3}[0-9]{1,3} /var/log/nginx/access.log | sort | uniq -c | sort -rn | head # 5. 在shell脚本中搜索所有函数定义 grep -rnE ^[a-zA-Z_][a-zA-Z0-9_]*\s*\(\) ~/scripts/十、下篇预告grep擅长查找文本但找到之后如果要做替换比如批量修改配置文件中的IP地址grep就无能为力了。下一篇我们将学习三剑客的第二位——sed流编辑器它能以非交互的方式对文本进行查找、替换、删除、插入操作。你将学会用一条命令批量修改上百个文件中的特定内容——这就是命令行效率的终极体现。延伸思考 如果你用的是grep -P可以开启Perl兼容正则PCRE支持\d数字、\w单词字符、\s空白等快捷符号以及环视断言lookahead/lookbehind。但要注意-P选项不是所有系统都有macOS默认grep不支持在编写需要跨平台运行的脚本时建议优先使用-E方式。本回答由 AI 生成内容仅供参考请仔细甄别。
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2564132.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!