工具

Robots.txt 检测器

检查 robots.txt 是否可访问,以及关键规则是否可能误拦截重要页面。

最适合 查看原始证据与单项取证

当统一审计已经指出问题模块后,用这个页面做更深一层验证。

单项检测器

执行单项技术检查

错误配置的 robots.txt 往往会悄悄影响抓取、收录以及广告验证相关资源。

实时证据严重级输出执行动作

我们只抓取公开资源,不存储你提交的目标网址。

错误配置的 robots.txt 往往会悄悄影响抓取、收录以及广告验证相关资源。

检测重点

工具会重点识别文件缺失、全局禁止规则,以及广告相关或内容路径是否存在风险。

常见错误

像 `Disallow: /` 这样的单行规则、缺失 sitemap 指令,或者把测试环境规则带到正式站,都会产生隐蔽问题。

建议配合

统一审计先把这个模块标红。

统一审计负责快速定位,这个页面负责快速取证。