爬网的影响

     今天上午,10点多,一个爬虫疯狂的爬网,造成了网站访问速度很慢。
     出现问题时,IIS同时连接达到2500左右,Web服务器CPU占用100%。
     通过分析访问记录,发现了作恶者:
     User Agent:larbin_2.6.3 larbin2.6.3@unspecified.mail
     IP地址:202.106.182.189
     访问行为:同时对多个RSS进行访问。
     访问频繁:在取样的一分钟内,访问次数达500多次。
     
     在IIS中屏蔽了该IP地址,网站才恢复正常,IIS同时连接降到1500以下。
     准备采取的防范措施:对在指定的时间内访问次数过多的爬虫进行屏蔽。
原文地址:https://www.cnblogs.com/dudu/p/471971.html