经发现，虽然wget遵循 robots.txt 规则，但是那个还是可以绕过去，现在把我自己使用的屏蔽方法分享给大家：成都服务器托管
陇川网站制作公司哪家好，找
成都创新互联公司！从网页设计、网站建设、微信开发、APP开发、
成都响应式网站建设公司等网站项目制作，到程序开发，运营维护。
成都创新互联公司从2013年成立到现在10年的时间，我们拥有了丰富的建站经验和运维经验，来保证我们的工作的顺利进行。专注于网站建设就选
成都创新互联公司。
1. 屏蔽下载任何文件
.htaccess
?
1 2 3 4 5 6 | SetEnvIfNoCase User-Agent "^wget" bad_bot
Order Allow,Deny
Allow from all
Deny from env=bad_bot
|
2. 屏蔽下载部分文件
.htaccess
?
1 2 3 4 5 6 7 8 | SetEnvIfNoCase User-Agent "^Wget" bad_bot
SetEnvIfNoCase User-Agent "^Wget/1.5.3" bad_bot
SetEnvIfNoCase User-Agent "^Wget/1.6" bad_bot
Order Allow,Deny
Allow from all
Deny from env=bad_bot
|
网页标题：apache使用.htaccess文件实现屏蔽wget下载网站内容
URL标题：
http://cdkjz.cn/article/dcghi.html
