线上前端nginx服务用来做后端图片服务的缓存代理服务器,但后端图片服务器在对用户上传的图片进行处理以后,有时会出现图片无法显示等问题,当出现这种情况的时候,该图片,我们就不希望被nginx缓存,如果被缓存,则要被清除。
分别用两种不同的脚本方案来解决:
1.通过过滤日志中状态码正常(即200)及图片大小小于100字节的url路径去查找缓存路径,进而清除缓存,脚本如下:
#!/bin/bash cache_path=/home/nginx/proxy_cache_dir logfile=/home/nginx/logs/access.log datetime=`date +%d/%b/%Y` logdir=/home/nginx/logs #查找出所有当天nginx日志中状态码为200,大小小于100字节且被缓存命中的url,并将其保存至url.list grep "$datetime" $logfile | awk '{if($9 == 200 && $10 < 100 && $NF ~ "HIT") print $7}' | sort -n | uniq > url.list for i in `cat url.list` do #根据nginx日志中过滤的url查找缓存目录,对缓存中的url作处理后,保存到cache.list文件中 grep -a -r "$i" $cache_path| strings |grep "KEY: " | awk -F'KEY: ' '{print "http://"$2;}' | grep [a-zA-Z0-9]$ > cache.list #再次对url进行处理 sed -i "s#1img.looklook.cn/#1img.looklook.cn:7086/purge/#" cache.list #清除缓存 for url in `cat cache_list.txt` do curl "$url" | tee -a $logdir/purgelog/$(date +%y%m%d).log done done |
2.将nginx日志复制为一个副本,然后通过新的nginx日志跟副本的比较,对变化的一部分直接做awk处理
#!/bin/bash F=/home/nginx/logs/access.log O=/home/nginx/logs/old.log if [ ! -f $O ] then cp $F $O exit 3 fi diff $F $O | \ awk '{if($10 ==200 && $11< 100 && $NF ~ "HIT") print "http://1img.looklook.cn:7086/purge"$8}' | sort | uniq | \ awk '{system("curl \""$1"\"|tee -a /home/nginx/logs/purgelog/$(date +%y%m%d).log")}' cat $F > $O |