笔记内容:
l awk 中使用外部shell变量
l awk 合并一个文件
l 把一个文件多行连接成一行
l awk中gsub函数的使用
l awk 截取指定多个域为一行
l 过滤两个或多个关键词
l 用awk生成以下结构文件
l awk用print打印单引号
l 合并两个文件
笔记日期:
扩展 awk 中使用外部shell变量http://ask.apelearn.com/question/199 命令示例:A=44echo "ABCD" | awk -v GET_A=$A '{print GET_A}'
说明:-v选项用于定义参数,这里表示将变量A的值赋予GET_A。有多少个变量需要赋值,就需要多少个-v选项。与之等价的:应用于脚本中:
文件内容: cat filename 1111111:13443253456 2222222:13211222122 1111111:13643543544 3333333:12341243123 2222222:12123123123
运行脚本后结果为: [1111111] 13443253456 13643543544 [2222222] 13211222122 12123123123 [3333333] 12341243123
实际操作实例:
脚本代码:
文件内容:
运行结果:
awk 合并一个文件
http://ask.apelearn.com/question/493
我有这样的一个需求,我需要把两个文件中,第一列相同的行合并到同一行中。举个例子,有两个文件,内容如下
现在我想要这个两个文件合并后的结果为:
1 ab aa 2 cd bb 3 ad ee 4 bd ss 5 de
实现这个需求的命令示例:
awk ‘NR==FNR{a[1]=2}NR>FNR{print 0,a[1]}’ 1.txt 2.txt
命令解释:NR表示的是读取的行数(NR会一直累加),FNR则表示读取的当前行数,先读完1.txt的行数再读2.txt的行数,所以其实NR==FNR 就表示读取1.txt的时候。 同理NR>FNR则表示读取2.txt的时候,数组a其实就相当于一个map。
下面这种写法可能比较好读懂些:
流程:
当读取1.txt时
第一行时:NR=0,FNR=0,
第二行时:NR=1,FNR=1,
……
最后一行时,NR=3,FNR=3,
然后开始读2.txt
读2.txt第一行时,NR=4,FNR=0,此时NR>FNR,所以开始打印第一行1 ab aa
第二行时,NR=5,FNR=2,同样满足NR>FNR,所以开始打印第二行2 cd bb
……
2.txt最后一行时,NR=7,FNR=4,打印最后一行5 de
从上面我们发现几个特点:
1、第二个文件有几行,就打印几行,因为只有读到第二个文件时,才满足NR>FNR,才能打印
2、NR、FNR都是从零开始计数,NR不清零,FNR读完一个文件后清零
3、行号后面列的顺序是在print中定义的,也可以定义先打1.txt的2列,后打2.txt的2列,改为{print a[1],0}即可。
把一个文件多行连接成一行http://ask.apelearn.com/question/266 命令示例:
%s 后记得要有一个空格,否则最后cat出来就是完全连在一起的,中间连空格都没有
应用举例:一个文件每行都有一个数字,现在需要把每行的数字用“ ”连接起来,文件内容如下:
命令示例:awk '{printf("%s "),$0}' 1.txt; echo ""
这里注意,最后一个是带“ ”的。所以echo "" 的作用是换行。
另外还有一个实现这个需求的方法:
awk中gsub函数的使用http://ask.apelearn.com/question/200 命令示例:
awk 'gsub(/root/,"abc")' passwd
这个命令是把passwd文件中所有的root字符串替换为abc:
awk -F ':' 'gsub(/root/,"abc",
这个命令是把passwd文件中第一段的root字符串替换为abc:
awk 'sub(/root/,"abc") {print $0}' passwd
这个命令是把passwd文件中第一次出现的root字符串替换为abc:
awk 截取指定多个域为一行
http://ask.apelearn.com/question/224 命令示例:
过滤两个或多个关键词
http://ask.apelearn.com/question/198 命令示例:
grep -E '123|abc' filename
这个命令可以找出文件(filename)中包含123或者包含abc的行:
egrep '123|abc' filename
用egrep同样可以实现:
awk '/123|abc/' filename
awk 的实现方式:
用awk生成以下结构文件http://ask.apelearn.com/question/5494
需求:
使用shell脚本完成这个需求:
1. #! /bin/bash
2.
3. for i in `seq 1 5000000`; do
4. n=`echo "
5. export m=[10-n]
6. export o=`perl -e 'a='0'; b=a x ENV{"m"}; print
7. export j=$i
8. p=`perl -e 'c=ENV{"o"}.ENV{"j"}; print
9. echo "p,p,p,p,p,p,`date %Y%m%d%H%M%S`"
10. done
其中用到了perl,所以脚本整体看起来比较啰嗦,希望能找到更好的解决办法。 PS: shell 执行效率很低,so 该脚本运行时间会很漫长!
awk用print打印单引号http://ask.apelearn.com/question/1738 命令示例:
awk '{print "This is a '"'"'"
合并两个文件
http://ask.apelearn.com/question/945
命令示例:paste filename1 filename
示例,我现在有两个文件内容如下:
paste 1.txt 2.txt的结果为:
如果你想在两个文件连接处用一个指定的字符连接,还可以使用-d选项来指定:
命令示例:paste -d ‘-’1.txt 2.txt
运行结果:
awk的参考教程
http://www.cnblogs.com/emanlee/p/3327576.html