Barkrowler是什么蜘蛛?如何屏蔽?

今天查看网站日志的时候,发现大量的Barkrowler抓取记录,我们个人博客不需要这些蜘蛛抓取,基本上只需要百度蜘蛛抓取,所以必须要屏蔽掉。

一般日志中会出现大量下面的内容:

62.210.188.216 - - [28/Feb/2021:21:21:55 +0800] "GET /tags-1973.html HTTP/1.1" 404 852 "-" "Mozilla/5.0 (compatible; Barkrowler/0.9; +https://babbar.tech/crawler)"

Barkrowler是什么蜘蛛?如何屏蔽?

希望它遵守Robot协议,所以我们先从Robot.txt着手,通过Robot.txt来屏蔽:

User-agent: Barkrowler
Disallow: /

Barkrowler是什么蜘蛛?如何屏蔽?:等您坐沙发呢!

发表评论

表情
还能输入210个字