首页 > CMS教程 > WordPress    日期:2018-10-24 / 来自互联网 / 浏览

robots协议(也称为爬虫协议、爬虫规则、机器人协议等)

通常添加到网站根目录的robots.txt 文件,它的作用在于告诉搜索引擎哪些页面可以抓取,哪些页面不能抓取,从而优化网站的收录结果和权重。本站使用的robots如下:

User-agent: *
Disallow: /wp-*
Disallow: /cgi-bin/
Disallow: /feed/
Disallow: /tag/*
Disallow: /comments/feed
Disallow: /comments
Disallow: /trackback
Disallow: /*.php$
Disallow: /*.js$
Disallow: /*.css$
Sitemap: https://www.freexyz.cn/sitemap
Sitemap: https://www.freexyz.cn/sitemap_baidu.xml
Sitemap: https://www.freexyz.cn/sitemap.html

保存为robots.txt文件,上传到网站的根目录即可!

觉得上面的内容有用吗?快来点个赞吧!

点赞() 我要打赏

温馨提示 : 本站内容来自会员投稿以及互联网,所有源码及教程均为作者总结编辑,请大家在使用过程中提前做好备份,以免发生无法预知的错误,源码类教程请勿直接用于生产环境!

 可能感兴趣的文章