站长工具
站长工具 站长工具 站长工具

Robots检测

网址简介:通过本工具可以检测网站robots的相关设置信息,检测网站robots.txt是否正常。查询网站的其他数据收录,从而更好地进行网站优化配置。

更新时间:10个月前

访问次数:361

详细介绍

工具功能:

通过本工具可以检测网站robots的相关设置信息,检测网站robots.txt是否正常。查询网站的其他数据收录,从而更好地进行网站优化配置。

工具介绍:

Robots是站点与spider沟通的重要渠道,站点通过robots文件声明本网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。

1、robots.txt可以告诉百度您网站的哪些页面可以被抓取,哪些页面不可以被抓取。

2、您可以通过Robots工具来创建、校验、更新您的robots.txt文件,或查看您网站robots.txt文件在百度生效的情况。

3、Robots工具目前支持48k的文件内容检测,请保证您的robots.txt文件不要过大,目录最长不超过250个字符。