21 个非常实用的 Shell 拿来就用脚本实例

1.检测两台服务器指定目录下的文件一致性

#!/usr/bin/env bash
######################################
# 检测两台服务器指定目录下的文件一致性
######################################
# 通过对比两台服务器文件的 MD5值，达到检测一致性的目的

DIR=/data/web
B_IP=192.168.1.134
find ${DIR} -type f |xargs md5sum > /tmp/md5_a.txt
ssh ${B_IP} "find ${DIR} -type f |xargs md5sum > /tmp/md5_b.txt"
scp ${B_IP}:/tmp/md5_b.txt /tmp


# 将文件名作为遍历对象进行一一比较
for f in `awk '{print $2}' /tmp/md5_a.txt`
do
    # 以 a 机器为标准，当 b 机器不存在遍历对象中的文件时直接输出不存在的结果
    if grep -qw "$f" /tmp/md5_b.txt;
    then
        md5_a=$(grep -w "$f" /tmp/md5_a.txt|awk '{print $1}')
        md5_b=$(grep -w "$f" /tmp/md5_b.txt|awk '{print $1}')

        # 当文件存在时，如果md5值不一致则输出文件改变的结果
        if [[ ${md5_a} != ${md5_b} ]]
        then
            echo "$f changed."
        fi
    else
         echo "$f deleted."
    fi
done

2.定时清空文件内容，定时记录文件大小

#!/usr/bin/env bash
#####################################
# 每小时执行一次脚本（任务计划），当时间为0点或12点时，将目标目录下的所有文件内容清空，
# 但不删除文件，其他时间则只统计各个文件的大小，一个文件一行，输出到以时#间和日期命名的文件中，
# 需要考虑目标目录下二级、三级等子目录的文件
#####################################
LOG_FILE=/tmp/$(date +%H-%F).log
N=$(date +%H)
if [[ $N -eq 00 ]] || [[ $N -eq 12 ]]
then
    # 通过for循环，以find命令作为遍历条件，将目标目录下的所有文件进行遍历并做相应操作
    for i in $(find /data/log/ -type f)
    do
        true > $i
    done
else
    for i in $(find /data/log -type f)
    do
        du -sh $i >>${LOG_FILE}
    done
fi

3.检测网卡流量，并按规定格式记录在日志中

#!/usr/bin/env bash
############################################
# 检测网卡流量，并按规定格式记录在日志中
# 规定一分钟记录一次
# 日志格式如下所示：
#     2019-08-12 20:40
#     ens33 input: 1234bps
#     ens33 output: 1235bps
############################################
while:
do
LANG=en
LOG_FIEL=/tmp/$(date +%d).log
# 将下面执行的命令结果输出重定向到logfile日志中
exec >> ${LOG_FIEL}
date +"%F %H:%M"
#sar命令统计的流量单位为kb/s，日志格式为bps，因此要*1000*8
sar -n DEV 1 59|grep Average|grep ens33|awk '{print $2,"\t","input:","\t",$5*1000*8,"bps","\n",$2,"\t","output:","\t",$6*1000*8,"bps"}'
echo "####################"
#因为执行sar命令需要59秒，因此不需要sleep
done

4.计算文档每行出现的数字个数，并计算整个文档的数字总数

#!/bin/bash
#########################################################
#计算文档每行出现的数字个数，并计算整个文档的数字总数
########################################################
#使用awk只输出文档行数（截取第一段）
n=`wc -l a.txt|awk '{print $1}'`
sum=0
#文档中每一行可能存在空格，因此不能直接用文档内容进行遍历
for i in `seq 1 $n`
do
#输出的行用变量表示时，需要用双引号
line=`sed -n "$i"p a.txt`
#wc -L选项，统计最长行的长度
n_n=`echo $line|sed s'/[^0-9]//'g|wc -L`
echo $n_n
sum=$[$sum+$n_n]
done
echo "sum:$sum"

5.从FTP服务器下载文件

#!/bin/bash
if [ $# -ne 1 ]; then
    echo "Usage: $0 filename"
fi
dir=$(dirname $1)
file=$(basename $1)
ftp -n -v << EOF   # -n 自动登录
open 192.168.1.10  # ftp服务器
user admin password
binary   # 设置ftp传输模式为二进制，避免MD5值不同或.tar.gz压缩包格式错误
cd $dir
get "$file"
EOF

6.连续输入5个100以内的数字，统计和、最小和最大

#!/bin/bash
COUNT=1
SUM=0
MIN=0
MAX=100
while [ $COUNT -le 5 ]; do
    read -p "请输入1-10个整数：" INT
    if [[ ! $INT =~ ^[0-9]+$ ]]; then
        echo "输入必须是整数！"
        exit 1
    elif [[ $INT -gt 100 ]]; then
        echo "输入必须是100以内！"
        exit 1
    fi
    SUM=$(($SUM+$INT))
    [ $MIN -lt $INT ] && MIN=$INT
    [ $MAX -gt $INT ] && MAX=$INT
    let COUNT++
done
echo "SUM: $SUM"
echo "MIN: $MIN"
echo "MAX: $MAX"

7.监测Nginx访问日志502情况，并做相应动作

#场景：
#1.访问日志文件的路径：/data/log/access.log
#2.脚本死循环，每10秒检测一次，10秒的日志条数为300条，出现502的比例不低于10%（30条）则需要重启php-fpm服务
#3.重启命令为：/etc/init.d/php-fpm restart
#!/bin/bash
###########################################################
#监测Nginx访问日志502情况，并做相应动作
###########################################################
log=/data/log/access.log
N=30 #设定阈值
while :
do
    #查看访问日志的最新300条，并统计502的次数
    err=`tail -n 300 $log |grep -c '502" '`
    if [[ $err -ge $N ]];then
         /etc/init.d/php-fpm restart 2> /dev/null
         #设定60s延迟防止脚本bug导致无限重启php-fpm服务
         sleep 60
     fi
    sleep 10
done

8.将结果分别赋值给变量

#!/usr/bin/env bash
#################################################################
# 应用场景：希望将执行结果或者位置参数赋值给变量，以便后续使用。
#################################################################


# 方法一
for i in $(echo "4 5 6"); do
    eval a$i=$i
done
echo $a4 $a5 $a6


# 方法二： 将位置参数192.168.1.1{1,2}拆分为到每个变量

num=0
for i in $(eval echo $*); do
    let num+=1
    eval node${num}="$i"
done
echo $node1 $node2 $node3
# bash a.sh 192.168.1.1{1,2}
192.168.1.11 192.168.1.12


# 方法三：
arr=(4 5 6)
INDEX1=$(echo ${arr[0]})
INDEX2=$(echo ${arr[1]})
INDEX3=$(echo ${arr[2]})

9.批量修改文件名

示例：

# touch article_{1..3}.html
# ls
article_1.html  article_2.html  article_3.html
目的：把article改为bbs

方法1：

for file in $(ls *html); do
    mv $file bbs_${file#*_}
    # mv $file $(echo $file |sed -r 's/.*(_.*)/bbs\1/')
    # mv $file $(echo $file |echo bbs_$(cut -d_ -f2)
done
方法2：

for file in $(find . -maxdepth 1 -name "*html"); do
     mv $file bbs_${file#*_}
done
方法3：
rename article bbs *.html

10.把一个文档前五行中包含字母的行删掉，同时删除6到10行包含的所有字母

#!/bin/bash
##############################################################
#把一个文档前五行中包含字母的行删掉，同时删除6到10行包含的所有字母
##############################################################
sed -n '1,5'p 2.txt |sed '/[a-zA-Z]/'d
sed -n '6,10'p 2.txt |sed s'/[a-zA-Z]//'g
sed -n '11,$'p 2.txt
#最终结果只是在屏幕上打印结果，如果想直接更改文件，可将输出结果写入临时文件中，再替换2.txt或者使用-i选项

11.统计当前目录中以.html结尾的文件总大

#方法1：
find . -name "*.html" -exec du -k {} \; |awk '{sum+=$1}END{print sum}'

#方法2：
for size in $(ls -l *.html |awk '{print $5}'); do
    sum=$(($sum+$size))
done
echo $sum

12.扫描主机端口状态

#!/usr/bin/env bash
HOST=$1
PORT="22 25 80 8080"
for PORT in $PORT; do
    if echo &>/dev/null > /dev/tcp/$HOST/$PORT; then
        echo "$PORT open"
    else
        echo "$PORT close"
    fi
done

13.用shell打印示例语句中字母数小于6的单词

#示例语句：
#Bash also interprets a number of multi-character options.
#!/bin/bash
##############################################################
#shell打印示例语句中字母数小于6的单词
##############################################################
for s in Bash also interprets a number of multi-character options.
do
   n=`echo $s|wc -c`
   if [[ $n -lt 6 ]];then
       echo $s
   fi
done

14.输入数字运行相应命令

#!/bin/bash
##############################################################
#输入数字运行相应命令
##############################################################
echo "*cmd menu* 1-date 2-ls 3-who 4-pwd 0-exit "
while :
do
   #捕获用户键入值
   read -p "please input number :" n
   n1=`echo $n|sed s'/[0-9]//'g`
   #空输入检测 
   if [ -z "$n" ];then
       continue
   fi
   #非数字输入检测 
   if [ -n "$n1" ];then
       exit 0
   fi
   break
done
case $n in
 1)
     date
 ;;
 2)
     ls
 ;;
 3)
     who
 ;;
 4)
     pwd
 ;;
 0)
     break
 ;;
    #输入数字非1-4的提示
 *)
     echo "please input number is [1-4]"
esac

15.创建10个用户，并分别设置密码，密码要求10位且包含大小写字母以及数字，最后需要把每个用户的密码存在指定文件中

#!/usr/bin/env bash
##############################################################
# 创建10个用户，并分别设置密码，密码要求10位且包含大小写字母以及数字
# 最后需要把每个用户的密码存在指定文件中
# 前提教教： 安装mkpasswd
##############################################################
#生成10个用户的序列（00-09）
for u in $(seq -w 0 09); do
    useradd user_${u}
    p=$(mkpasswd -s 0 -l 10)
    echo ${p} |passwd --stdin user_${u}
    echo "user_${u} ${p}" >> /tmp/userpasswd
done

16.监控httpd的进程数，根据监控情况做相应处理

###############################################################################################################################
#需求：
#1.每隔10s监控httpd的进程数，若进程数大于等于500，则自动重启Apache服务，并检测服务是否重启成功
#2.若未成功则需要再次启动，若重启5次依旧没有成功，则向管理员发送告警邮件，并退出检测
#3.如果启动成功，则等待1分钟后再次检测httpd进程数，若进程数正常，则恢复正常检测（10s一次），否则放弃重启并向管理员发送告警邮件，并退出检测
###############################################################################################################################

# 计数器函数
check_service() {
    j=0
    for j in $(seq 1 5); do
        # 重启 Apache 命令
        /usr/local/apache2/bin/apachectl restart 2> /var/log/httpderr.log
        # 判断服务是否重启成功
        if [[ $? -eq 0 ]]; then
            break
        else
            j=$[$j+1]
        fi
        # 判断服务是否已经尝试重启5次
        if [[ $j -eq 5 ]]; then
            mail.py
            exit
        fi
    done
}


while :
do
    n=$(pgrep -l httpd |wc -l)
    # 判断 httpd 服务进程数是否超过500
    if [[ $n -gt 500 ]]; then
        /usr/local/apache2/bin/apachectl restart
        if [[ $? -ne 0 ]]; then
            check_service
        else
            sleep 60
            n2=$(pgrep -l httpd|wc -l)
            # 判断重启后是否依旧超过 500
            if [[ $n2 -gt 500 ]]; then
                mail.py
                exit
            fi
        fi
    fi
    sleep 10
done

17. 批量修改服务器用户密码

# cat old_pass.txt 
192.168.18.217  root    123456     22
192.168.18.218  root    123456     22
内容格式：IP User Password Port

#!/usr/bin/env bash
OLD_INFO=old_pass.txt
NEW_INFO=new_pass.txt

for IP in $(awk '/^[^#]/{print $1}' ${OLD_INFO}); do
    USER=$(awk -v I=${IP} 'I==$1{print $2}' ${OLD_INFO})
    PASS=$(awk -v I=${IP} 'I==$1{print $3}' ${OLD_INFO})
    PORT=$(awk -v I=${IP} 'I==$1{print $4}' ${OLD_INFO})
    NEW_PASS=$(mkpasswd -l 8)
    echo "${IP}  ${USER}    ${NEW_PASS}    ${PORT}" >> ${NEW_INFO}
    expect -c "
        spawn ssh -p${PORT} ${USER}@${IP}
        set timeout 2
        expect {
            \"(yes/no)\" {send \"yes\r\";exp_continue}
            \"password:\" {send \"$PASS\r\";exp_continue}
            \"${USER}@*\" {send \"echo \'${NEW_PASS}\' |passwd --stdin ${USER}\r exit\r\";exp_continue}
            eof {exit 0;}
        }
    "
done

# cat new_pass.txt 
192.168.18.217  root    n8wX3mU%      22
192.168.18.218  root    c87;ZnnL      22

18.iptables自动屏蔽访问网站频繁的IP

屏蔽每分钟每分钟访问超过200的IP

#方法一： 根据访问日志（Nginx为例）
#!/usr/bin/env bash
DATE=$(date +%d/%b/%Y:%H:%M)
ABNORMAL_IP=$(tail -n5000 access.log |grep ${DATE} |awk '{a[$1]++}END{for(i in a)if(a[i]>100)print i}')
# 先tail防止文件过大，读取慢，数字可调整每分钟最大的访问量。awk不能直接过滤日志，因为包含特殊字符。
for IP in ${ABNORMAL_IP}; do
    if [[ $(iptables -nvL |grep -c "${IP}") -eq 0 ]]; then
        iptables -I INPUT -s ${IP} -j DROP
    fi
done

# 方法二： 通过TCP建立的连接
#!/usr/bin/env bash
ABNORMAL_IP=$(netstat -an |awk '$4~/:80$/ && $6~/ESTABLISHED/{gsub(/:[0-9]+/,"",$5);{a[$5]++}}END{for(i in a)if(a[i]>100)print i}')
#gsub是将第五列（客户端IP）的冒号和端口去掉
for IP in $ABNORMAL_IP; do
    if [ $(iptables -vnL |grep -c "$IP") -eq 0 ]; then
        iptables -I INPUT -s $IP -j DROP
    fi
done

19.屏蔽每分钟SSH尝试登录超过10次的IP

# 方法1：通过lastb获取登录状态:
#!/usr/bin/env bash
DATE=$(date +"%a %b %e %H:%M") #星期月天时分  %e单数字时显示7，而%d显示07
ABNORMAL_IP=$(lastb |grep "$DATE" |awk '{a[$3]++}END{for(i in a)if(a[i]>10)print i}')
for IP in $ABNORMAL_IP; do
    if [ $(iptables -vnL |grep -c "$IP") -eq 0 ]; then
        iptables -I INPUT -s $IP -j DROP
    fi
done

# 方法2：通过日志获取登录状态
#!/usr/bin/env bash
DATE=$(date +"%b %d %H")
ABNORMAL_IP="$(tail -n10000 /var/log/auth.log |grep "$DATE" |awk '/Failed/{a[$(NF-3)]++}END{for(i in a)if(a[i]>5)print i}')"
for IP in $ABNORMAL_IP; do
    if [ $(iptables -vnL |grep -c "$IP") -eq 0 ]; then
        iptables -A INPUT -s $IP -j DROP
        echo "$(date +"%F %T") - iptables -A INPUT -s $IP -j DROP" >>~/ssh-login-limit.log
    fi
done

20.根据web访问日志，封禁请求量异常的IP，如IP在半小时后恢复正常，则解除封禁

#!/usr/bin/env bash
####################################################################################
# 根据web访问日志，封禁请求量异常的IP，如IP在半小时后恢复正常，则解除封禁
####################################################################################

logfile=/data/log/access.log
# 显示一分钟前的小时和分钟
d1=$(date -d "-1 minute" +%H%M)
d2=$(date +%M)
ipt=/sbin/iptables
ips=/tmp/ips.txt

block() {
    # 将一分钟前的日志全部过滤出来并提取IP以及统计访问次数
    grep '$d1' ${logfile} |awk '{print $1}' |sort -n|uniq -c|sort -n >${ips}
    # 利用for循环将次数超过100的IP依次遍历出来并予以封禁
    for i in $(awk '$1>100 {print $2}' ${ips}); do
        ${ipt} -I INPUT -p tcp --dport 80 -s ${i} -j REJECT
        echo "$(date +%F-%T) ${i}" >> /tmp/badip.log
    done
}

unblock() {
    # 将封禁后所产生的pkts数量小于10的IP依次遍历予以解封
     for a in $(${ipt} -nvL INPUT --line-numbers |grep '0.0.0.0/0'|awk '$2<10 {print $1}'|sort -nr); do
        ${ipt} -D INPUT $a
     done
     ${ipt} -Z
}

# 当时间在00分以及30分时执行解封函数
if [[ ${d2} -eq "00" ]] || [[ ${d2} -eq "30" ]]; then
    # 要先解再封，因为刚刚封禁时产生的pkts数量很少
    unblock
    block
else
    block
fi

21.判断用户输入的是否为IP地址

#方法1:

#!/bin/bash
function check_ip(){
    IP=$1
    VALID_CHECK=$(echo $IP|awk -F. '$1< =255&&$2<=255&&$3<=255&&$4<=255{print "yes"}')
    if echo $IP|grep -E "^[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}$">/dev/null; then
        if [ $VALID_CHECK == "yes" ]; then
            echo "$IP available."
        else
            echo "$IP not available!"
        fi
    else
        echo "Format error!"
    fi
}

check_ip 192.168.1.1
check_ip 256.1.1.1

# 方法2：

#!/bin/bash
function check_ip(){
    IP=$1
    if [[ $IP =~ ^[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}$ ]]; then
        FIELD1=$(echo $IP|cut -d. -f1)
        FIELD2=$(echo $IP|cut -d. -f2)
        FIELD3=$(echo $IP|cut -d. -f3)
        FIELD4=$(echo $IP|cut -d. -f4)
        if [ $FIELD1 -le 255 -a $FIELD2 -le 255 -a $FIELD3 -le 255 -a $FIELD4 -le 255 ]; then
            echo "$IP available."
        else
            echo "$IP not available!"
        fi
    else
        echo "Format error!"
    fi
}
check_ip 192.168.1.1
check_ip 256.1.1.1

#增加版： 加个死循环，如果IP可用就退出，不可用提示继续输入，并使用awk判断。

#!/bin/bash
function check_ip(){
    local IP=$1
    VALID_CHECK=$(echo $IP|awk -F. '$1< =255&&$2<=255&&$3<=255&&$4<=255{print "yes"}')
    if echo $IP|grep -E "^[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}$" >/dev/null; then
        if [ $VALID_CHECK == "yes" ]; then
            return 0
        else
            echo "$IP not available!"
            return 1
        fi
    else
        echo "Format error! Please input again."
        return 1
    fi
}
while true; do
    read -p "Please enter IP: " IP
    check_ip $IP
    [ $? -eq 0 ] && break || continue
done

22.统计 /proc 目类下 Linux 进程相关数量信息，输出总进程数，running 进程数，stoped 进程数，sleeing 进程数，zombie 进程数。

#!/usr/bin/env bash

ALL_PROCESS=$(ls /proc/ | egrep '[0-9]+')

running_count=0
stoped_count=0
sleeping_count=0
zombie_count=0

for pid in ${ALL_PROCESS[*]}
do
    test -f /proc/$pid/status && state=$(egrep "State" /proc/$pid/status | awk '{print $2}')
    case "$state" in
        R)
            running_count=$((running_count+1))
        ;;
        T)
            stoped_count=$((stoped_count+1))
        ;;
        S)
            sleeping_count=$((sleeping_count+1))
        ;;
        Z)
            zombie_count=$((zombie_count+1))
            # 输出所有 zombie 的进程到 zombie.txt 杀死所有 zombie 进程。
            echo "$pid" >>zombie.txt
            kill -9 "$pid"
        ;;
    esac
done


echo -e "total: $((running_count+stoped_count+sleeping_count+zombie_count))\nrunning: $running_count\nstoped: $stoped_count\nsleeping: $sleeping_count\nzombie: $zombie_count"

23.查找 80 端口请求数最高的前 20 个 IP 地址，判断中间最小的请求数是否大于 500，如大于 500，则输出系统活动情况报告到 alert.txt，如果没有，则在 600s 后重试，直到有输出为止。

#!/bin/bash

state="true"

while $state
do
    SMALL_REQUESTS=$(netstat -ant | awk -F'[ :]+' '/:22/{count[$4]++} END {for(ip in count) print count[ip]}' | sort -n | head -20 | head -1)
    if [ "$SMALL_REQUESTS" -gt 500 ];then
        sar -A > alert.txt
        state="false"
    else
        sleep 6
        continue
    fi
done