CRAWLING & INDEXING
从发现链接到建立索引,逐步排查网站收录问题。
当负载均衡器配置错误导致URL编码失效时,可以通过检查响应体中的请求ID来定位505错误的根本原因。
当支付接口返回402状态码时,可以通过检查响应体中的error字段和code字段来确认具体的失败原因。
当抓取诊断工具显示203状态码时,说明代理服务器对响应内容进行了修改,需通过响应体中的具体字段确认修改细节。
当API推送接口返回500错误时,可以通过响应体中的错误描述字段来确认服务器是否发生了偶然异常。
通过检查HTTP 507错误响应体中的标题和提示信息,可以确认服务器存储空间不足导致请求失败。
当抓取诊断工具显示511状态码时,通过检查响应体中的meta标签可以确认网络认证页面是否配置了自动跳转。
站长应优先通过索引量工具查看站点有多少页面可以作为搜索候选结果,以判断是抓取问题还是建库筛选问题。
在发送GET请求时,通过A-IM头可以确认服务器是否支持HTTP差异编码算法,从而判断响应是否为增量数据。