开头有“蛇棒”:Linux Shell脚本编程的最佳实践

2019-06-1511:42:55服务器及运维Comments3,488 views字数 4824阅读模式

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

代码风格规范
开头有“蛇棒”

所谓shebang其实就是在很多脚本的第一行出现的以”#!”开头的注释,他指明了当我们没有指定解释器的时候默认的解释器,一般可能是下面这样:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

当然,解释器有很多种,除了bash之外,我们可以用下面的命令查看本机支持的解释器:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

当我们直接使用./a.sh来执行这个脚本的时候,如果没有shebang,那么它就会默认用$SHELL指定的解释器,否则就会用shebang指定的解释器。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

不过,上面这种写法可能不太具备适应性,一般我们会用下面的方式来指定:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

这种方式是我们推荐的使用方式。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

代码有注释

注释,显然是一个常识,不过这里还是要再强调一下,这个在shell脚本里尤为重要。因为很多单行的shell命令不是那么浅显易懂,没有注释的话在维护起来会让人尤其的头大。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

注释的意义不仅在于解释用途,而在于告诉我们注意事项,就像是一个README。
具体的来说,对于shell脚本,注释一般包括下面几个部分:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

  • shebang
  • 脚本的参数
  • 脚本的用途
  • 脚本的注意事项
  • 脚本的写作时间,作者,版权等
  • 各个函数前的说明注释
  • 一些较复杂的单行命令注释
参数要规范

这一点很重要,当我们的脚本需要接受参数的时候,我们一定要先判断参数是否合乎规范,并给出合适的回显,方便使用者了解参数的使用。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

最少,最少,我们至少得判断下参数的个数吧:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

变量和魔数

一般情况下我们会将一些重要的环境变量定义在开头,确保这些变量的存在。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

这种定义方式有一个很常见的用途,最典型的应用就是,当我们本地安装了很多java版本时,我们可能需要指定一个java来用。那么这时我们就会在脚本开头重新定义JAVA_HOME以及PATH变量来进行控制。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

同时,一段好的代码通常是不会有很多硬编码在代码里的“魔数”的。如果一定要有,通常是用一个变量的形式定义在开头,然后调用的时候直接调用这个变量,这样方便日后的修改。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

缩进有规矩

对于shell脚本,缩进是个大问题。因为很多需要缩进的地方(比如if,for语句)都不长,所有很多人都懒得去缩进,而且很多人不习惯用函数,导致缩进功能被弱化。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

其实正确的缩进是很重要的,尤其是在写函数的时候,否则我们在阅读的时候很容易把函数体跟直接执行的命令搞混。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

常见的缩进方法主要有”soft tab”和”hard tab”两种。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

  • 所谓soft tab就是使用n个空格进行缩进(n通常是2或4)
  • 所谓hard tab当然就是指真实的””字符
    这里不去撕哪种方式最好,只能说各有各的优劣。反正我习惯用hard tab。
    对于if和for语句之类的,我们最好不要把then,do这些关键字单独写一行,这样看上去比较丑。。。
命名有标准

所谓命名规范,基本包含下面这几点:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

  • 文件名规范,以.sh结尾,方便识别
  • 变量名字要有含义,不要拼错
  • 统一命名风格,写shell一般用小写字母加下划线
编码要统一

在写脚本的时候尽量使用UTF-8编码,能够支持中文等一些奇奇怪怪的字符。不过虽然能写中文,但是在写注释以及打log的时候还是尽量英文,毕竟很多机器还是没有直接支持中文的,打出来可能会有乱码。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

这里还尤其需要注意一点,就是当我们是在windows下用utf-8编码来写shell脚本的时候,一定要注意这个utf-8是否是有BOM的。默认情况下windows判断utf-8格式是通过在文件开头加上三个EF BB BF字节来判断的,但是在Linux中默认是无BOM的。因此如果我们是在windows下写脚本的时候,一定要注意将编码改成Utf-8无BOM,一般用notepad++之类的编辑器都能改。否则,在Linux下运行的时候就会识别到开头的三个字符,从而报一些无法识别命令的错。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

权限记得加

这一点虽然很小,但是我个人却经常忘记,不加执行权限会导致无法直接执行,有点讨厌。。。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

日志和回显

日志的重要性不必多说,能够方便我们回头纠错,在大型的项目里是非常重要的。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

如果这个脚本是供用户直接在命令行使用的,那么我们最好还要能够在执行时实时回显执行过程,方便用户掌控。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

有时候为了提高用户体验,我们会在回显中添加一些特效,比如颜色啊,闪烁啊之类的,具体可以参考ANSI/VT100 Control sequences这篇文章的介绍。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

密码要移除

不要把密码硬编码在脚本里,不要把密码硬编码在脚本里,不要把密码硬编码在脚本里。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

重要的事情说三遍,尤其是当脚本托管在类似Github这类平台中时。。。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

太长要分行

在调用某些程序的时候,参数可能会很长,这时候为了保证较好的阅读体验,我们可以用反斜杠来分行:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

注意在反斜杠前有个空格。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

编码细节规范
代码有效率

在使用命令的时候要了解命令的具体做法,尤其当数据处理量大的时候,要时刻考虑该命令是否会影响效率。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

比如下面的两个sed命令:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

他们的作用一样,都是获取文件的第一行。但是第一条命令会读取整个文件,而第二条命令只读取第一行。当文件很大的时候,仅仅是这样一条命令不一样就会造成巨大的效率差异。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

当然,这里只是为了举一个例子,这个例子真正正确的用法应该是使用head -n1 file命令。。。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

勤用双引号

几乎所有的大佬都推荐在使用”$”来获取变量的时候最好加上双引号。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

不加上双引号在很多情况下都会造成很大的麻烦,为什么呢?举一个例子:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

他的运行结果如下:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

为啥会这样呢?其实可以解释为他执行了下面的命令:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

在很多情况下,在将变量作为参数的时候,一定要注意上面这一点,仔细体会其中的差异。上面只是一个非常小的例子,实际应用的时候由于这个细节导致的问题实在是太多了。。。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

巧用main函数

我们知道,像java,C这样的编译型语言都会有一个函数入口,这种结构使得代码可读性很强,我们知道哪些直接执行,那些是函数。但是脚本不一样,脚本属于解释性语言,从第一行直接执行到最后一行,如果在这当中命令与函数糅杂在一起,那就非常难读了。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

用python的朋友都知道,一个合乎标准的python脚本大体上至少是这样的:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

他用一个很巧妙的方法实现了我们习惯的main函数,使得代码可读性更强。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

在shell中,我们也有类似的小技巧:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

我们可以采用这种写法,同样实现类似的main函数,使得脚本的结构化程度更好。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

考虑作用域

shell中默认的变量作用域都是全局的,比如下面的脚本:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

他的输出结果就是2而不是1,这样显然不符合我们的编码习惯,很容易造成一些问题。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

因此,相比直接使用全局变量,我们最好使用local readonly这类的命令,其次我们可以使用declare来声明变量。这些方式都比使用全局方式定义要好。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

函数返回值

在使用函数的时候一定要注意,shell中函数的返回值只能是整数,估计是因为一般情况下一个函数的返回值通常表示这个函数的运行状态,所以一般都是0或者是1就够了,因此就设计成了这样。不过,如果非得想传递字符串,也可以通过下面变通的方法:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

这样,通过echo或者print之类的就可以做到传一些额外参数的目的。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

间接引用值

什么叫间接引用?比如下面这个场景:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

我们有一个变量VAR1,又有一个变量VAR2,这个VAR2的值是VAR1的名字,那么我们现在想通过VAR2来获取VAR1的值,这时候应该怎么办呢?文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

比较土鳖的方法是这样:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

这个用法的确可行,但是看起来十分的不舒服,很难只管的去理解,我们并不推荐。而且事实上我们本身就不推荐使用eval这个命令。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

比较舒服的写法是下面这样:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

通过在变量名前加一个!就可以做到简单的间接引用了。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

不过需要注意的是,用上面的方法,我们只能够做到取值,而不能做到赋值。如果想要做到赋值,还要老老实实的用eval来处理:开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

巧用heredocs

所谓heredocs,也可以算是一种多行输入的方法,即在”<<”后定一个标识符,接着我们可以输入多行内容,直到再次遇到标识符为止。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

使用heredocs,我们可以非常方便的生成一些模板文件:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

学会查路径

很多情况下,我们会先获取当前脚本的路径,然后一这个路径为基准,去找其他的路径。通常我们是直接用pwd以期获得脚本的路径。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

不过其实这样是不严谨的,pwd获得的是当前shell的执行路径,而不是当前脚本的执行路径。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

正确的做法应该是下面这两种:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

应当先cd进当前脚本的目录然后再pwd,或者直接读取当前脚本的所在路径。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

代码要简短

这里的简短不单单是指代码长度,而是只用到的命令数。原则上我们应当做到,能一条命令解决的问题绝不用两条命令解决。这不仅牵涉到代码的可读性,而且也关乎代码的执行效率。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

最最经典的例子如下:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

cat命令最为人不齿的用法就是这样,用的没有任何意义,明明一条命令可以解决,他非得加根管道。。。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

其实代码简短在还能某种程度上能保证效率的提升,比如下面的例子:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

这两种方法做的事情都一样,就是查找所有的.txt后缀的文件并做一系列替换。前者是多次执行find,后者是执行一次find,但是增加了sed的模式串。第一种可读性更好一点,但是当替换的量变大的时候,第二种的速度就会比第一种快很多。这里效率提升的原因,就是第二种只要执行一次命令,而第一种要执行多次。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

并且,巧用xargs命令,我们还可以十分方便的进行并行化处理:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

通过-P参数指定并行度,可以进一步加快执行效率。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

命令并行化

当我们需要充分考虑执行效率时,我们可能需要在执行命令的时候考虑并行化。shell中最简单的并行化是通过”&”以及”wait”命令来做:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

开头有“蛇棒”:Linux Shell脚本编程的最佳实践文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

当然,这里并行的次数不能太多,否则机器会卡死。稍微正确的做法比较复杂,以后再讨论,如果图省事可以使用parallel命令来做。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

使用新写法

这里的新写法不是指有多厉害,而是指我们可能更希望使用较新引入的一些语法,更多是偏向代码风格的,比如文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

  • 尽量使用func(){}来定义函数,而不是func{}
  • 尽量使用[[]]来代替[]
  • 尽量使用$()将命令的结果赋给变量,而不是反引号
  • 在复杂的场景下尽量使用printf代替echo进行回显

事实上,这些新写法很多功能都比旧的写法要强大,用的时候就知道了。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

其他小tip

考虑到还有很多零碎的点,就不一一展开了,这里简单提一提。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

  • 路径尽量保持绝对路径,绝多路径不容易出错,如果非要用相对路径,最好用./修饰
  • 优先使用bash的变量替换代替awk sed,这样更加简短
  • 简单的if尽量使用&& ||,写成单行。比如[[ x > 2]] && echo x
  • 当export变量时,尽量加上子脚本的namespace,保证变量不冲突
  • 会使用trap捕获信号,并在接受到终止信号时执行一些收尾工作
  • 使用mktemp生成临时文件或文件夹
  • 利用/dev/null过滤不友好的输出信息
  • 会利用命令的返回值判断命令的执行情况
  • 使用文件前要判断文件是否存在,否则做好异常处理
  • 不要处理ls后的数据(比如ls -l | awk '{ print $8 }'),ls的结果非常不确定,并且平台有关
  • 读取文件时不要使用for loop而要使用while read
静态检查工具shellcheck
概述

为了从制度上保证脚本的质量,我们最简单的想法大概就是搞一个静态检查工具,通过引入工具来弥补开发者可能存在的知识盲点。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

市面上对于shell的静态检查工具还真不多,找来找去就找到一个叫shellcheck的工具,开源在github上,有8K多的star,看上去还是十分靠谱的。我们可以去他的主页了解具体的安装和使用信息。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

安装

这个工具的对不同平台的支持力度都很大,他至少支持了文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

Debian,Arch,Gentoo,EPEL,Fedora,OS X,openSUSE等等各种的平台的主流包管理工具。安装方便。具体可以参照安装文档文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

集成

既然是静态检查工具,就一定可以集成在CI框架里,shellcheck可以非常方便的集成在Travis CI中,供以shell脚本为主语言的项目进行静态检查。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

样例

在文档的Gallery of bad code里,也提供了非常详细的“坏代码”的标准,具有非常不错的参考价值,可以在闲下来的时候当成”Java Puzzlers“之类的书来读读还是很惬意的。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html

文章源自菜鸟学院-https://www.cainiaoxueyuan.com/yunwei/13640.html
  • 本站内容整理自互联网,仅提供信息存储空间服务,以方便学习之用。如对文章、图片、字体等版权有疑问,请在下方留言,管理员看到后,将第一时间进行处理。
  • 转载请务必保留本文链接:https://www.cainiaoxueyuan.com/yunwei/13640.html

Comment

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:

确定