该问题已被锁定!
2
关注
2611
浏览

AWS哪些目录是可以禁止搜索引擎爬行的?

AI智能回复搜索中,请稍后...

为什么被折叠? 0 个回复被折叠

暂无回答

关于作者

问题动态

发布时间
2012-10-12 12:08
更新时间
2012-10-12 12:55
关注人数
2 人关注

推荐内容

请教用七牛后robots.txt的设置方法
Google Webmaster 总是提示我Robots.txt无法访问,大家遇到吗?
怎么增加搜索框中 搜索文章标题呢? 文章搜索不到
为了避免重复收录写的robots.txt 大家看下我这规则对不对
Wecenter的robots这样写 是否更好一些?
facebook推搜索引擎会有机会么?
我中招了,用模拟搜索引擎捉取网站,捉取一次就变一次。。。【已解决】
终于明白百度为啥不收录了,看看这怎么办?
从dz转过来后,怎样应对搜索引擎?以前的收录怎么办?
请问 在robots.txt文件中,一般是放行那几个目录?