统一审计先把这个模块标红。
统一审计负责快速定位,这个页面负责快速取证。
工具
检查 robots.txt 是否可访问,以及关键规则是否可能误拦截重要页面。
当统一审计已经指出问题模块后,用这个页面做更深一层验证。
单项检测器
错误配置的 robots.txt 往往会悄悄影响抓取、收录以及广告验证相关资源。
错误配置的 robots.txt 往往会悄悄影响抓取、收录以及广告验证相关资源。
工具会重点识别文件缺失、全局禁止规则,以及广告相关或内容路径是否存在风险。
像 `Disallow: /` 这样的单行规则、缺失 sitemap 指令,或者把测试环境规则带到正式站,都会产生隐蔽问题。
统一审计负责快速定位,这个页面负责快速取证。