Robots检测

  • 分类: SEO工具
  • 日期:
  • 人气: 239
  • 点评: 0
  • 简介: Robots是站点与spider沟通的重要渠道,站点通过robots文件声明本网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。1、robots.
  • 网址: https://ziyuan.baidu.com/robots/index"

网站介绍

Robots是站点与spider沟通的重要渠道,站点通过robots文件声明本网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。

1、robots.txt可以告诉百度您网站的哪些页面可以被抓取,哪些页面不可以被抓取。

2、您可以通过Robots工具来创建、校验、更新您的robots.txt文件,或查看您网站robots.txt文件在百度生效的情况。

3、Robots工具目前支持48k的文件内容检测,请保证您的robots.txt文件不要过大,目录最长不超过250个字符。

相关推荐

评论留言

我要留言

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。