目录

文本处理工具

1、sort排序

2、uniq去重

3、tr修改

4、cut列举

正则表达式

基础正则表达式常见的元字符

        总结

---

文本处理工具

1、sort排序

sort是一个一行为单位对文件进行排序的工具，也可以根据不同的数据类型来排序。比较原则是从首字符向后，依次按ASCII码值进行比较，最后将它们按升序输出

语法格式：

sort [选项] 参数
cat file | sort 选项

示例：
sort -n testfile1#按照数字进行排序
sort -t ':' -k 3 -n /etc/passwd#将/etc/passwd中的指定字段以:为分隔符，按照数字进行排序
du -a | sort -nr -o du.txt#将当前家目录中的所有文件进行排序，查出占用空间最大的文件并保存

 

2、uniq去重

uniq主要是用于去除连续的重复行
注意，是连续的行，所以通常和sort命令结合使用先排序使之变成连续的行再执行去重操作，否则不连续的重复行他不能去重。

语法格式：

uniq [选项] 参数
cat file | uniq 选项

示例：
uniq testile2#用于报告或者忽略文件中连续的重复行
sort -n testfile2 | uniq -c#对文件的内容进行排序并且进行统计
grep "Failed password"/var/log/secure | awk '{print $11}' | sort | uniq -c | sort -nr
#显示登录试错的次数最多的主机IP
cat testfile2 | sort -n | uniq -u#显示此文件中没有重复行的内容

3、tr修改

tr可以用一个字符来替换两一个字符，或者可以完全出去一些字符，也可以用它来出去重复字符

语法格式：

tr [选项] [参数]

 

4、cut列举

cut是常见的截取工具
cut命令从文件的每一行剪切字节、字符和字段，并将这些字节、字符和字段写至标准输出，如不制定File的参数，cut命令将会读取标准输入，所以必须要指定-b、-c或-f作为其标志

语法格式：

cut 参数
cat file | cut 选项

示例：
cut -d ':' -f 1 /etc/passwd
grep '/bin/bash' /etc/passwd | cut -d ':' -f 1-4,6,7
#截取/ect/passwd中以带有/bin/bash字段的行以-分隔的开始字段和结束字段指定字段的范围
grep '/bin/bash' /etc/passwd | cut -d ':' --complement -f 2#排除第二个字段
cut -d ':' -f1,7 --output-delimiter=' ' /etc/ passwd#输出分隔符使用空格分隔

 

正则表达式

• 通常用于判断语句中，用来检查某一个字符串是否满足某一格式

• 正则表达式是由普通字符与元字符组成；普通字符包括大小写字母、数字、标点符号及一些其他符号

• 元字符是指在正则表达式中具有特殊意义的专用字符，可以用来规定其前导字符(即位于元字符前面的字符或表达式)在目标对象中的出现模式

基础正则表达式常见的元字符

（支持的工具：grep、egrep、sed、awk）

总结

可以通过正则表达式来对普通字符和元字符来进行表示，需要知道基础正则表达式和扩展正则表达式的使用