最新消息:欢迎加入小松的QQ群一起讨论一起学习,搜索页面修改成lua+ElasticSearch,使用php这个页面速度相对慢一点,优化之后速度杠杠的,如有问题请加群联系我

标签:蜘蛛

屏蔽不需要的蜘蛛节省服务器资源
其他分享

屏蔽不需要的蜘蛛节省服务器资源

1年前 (2016-03-28) 452浏览 0评论

最近我一直在实时观察日志,发现了很多国外的蜘蛛在抓取我的网站,这些搜索引擎不会带来流量,而且浪费我的服务器的资源,于是决定屏蔽屏蔽的蜘蛛AhrefsBot通过抓取网页建立索引库,并提供反向链接分析和服务dotbot在线营销分析软件MJ1...