主要介绍了Nginx中配置过滤爬虫的User-Agent的简单方法,文中罗列了一些常用搜索引擎的爬虫名称以免造成不必要的过滤,需要的朋友可以参考下

过去写博客的时候经常出现服务器宕机，网页全部刷不出来，但是Ping服务器的时候又能Ping通。登录SSH看了下top，惊呆了，平均负载13 12 8。瞬间觉得我这是被人DDOS了么？看了下进程基本上都是php-fpm把CPU给占了，去看下日志吧。。。 一看不得了，基本上都是被一个User Agent叫”YisouSpider”的东西给刷屏了，一看就不知道是哪的蜘蛛，太没节操了。 找到根目录配置区，增加User Agent过滤判断语句，发现叫”YisouSpider”的直接返回403 注1：如

以下代码写入 server {….} 内 代码如下: if ($http_user_agent ~ ^$) { return 503; } if ($http_user_agent ~* “Mozilla/4.0\ \(compatible;\ MSIE\ 6.0;\ Windows\ NT\ 5.1;\ SV1;\ .NET\ CLR\ 1.1.4322;\ .NET\ CLR\ 2.0.50727\)”) { return 503; } 您