-
目标页面设置:
确定抓取的页面或网站,如果不清楚,可以通过规则来限制搜索范围。
-
抓取时间设置:
常见设置:1天(默认)、3天、6天等,根据需要调整,确保抓取持续时间足够长。
-
重复网页识别:
设置为“高”以减少重复抓取,避免抓取无意义内容,可以选择“中”以平衡速度和质量。
-
抓取方式设置:
选择按页抓取、随机抓取或按页面顺序抓取,按页抓取适合网站的结构,随机抓取适合需要全面覆盖的网站。
-
抓取速度设置:
常见设置:高、中、低,根据网站和资源情况调整,确保抓取速度适中。
-
抓取器设置:
- 抓取器类型:按需选择,如静态、动态或结合抓取。
- 同时抓取设置:设置为“低”,避免抓取器同时运行导致性能问题。
- 抓取器配置:
- 请求头设置:如User-Agent、Accept、Referer等,需手动或通过开发者工具获取。
- 权限设置:确保访问权限正确,防止非法抓取。
-
抓取器监控设置:
- 监控频率:设置为“高”,以确保抓取器正常运行。
- 监控指标:监控抓取的性能指标,如访问次数、时间等,及时发现异常。
-
抓取器日志设置:
设置日志文件和格式,保存抓取过程中的错误信息,便于后续分析。
-
抓取器安全设置:
- 访问权限:设置允许的访问权限,确保抓取器只抓取需要的页面。
- cookie设置:设置抓取器的 cookies,避免被利用,防止 cookies 的被利用。
- 安全机制:设置抓取器的安全机制,如防止攻击,确保抓取过程安全。
-
抓取器配置:
- meta设置:设置抓取器的 meta 描述,了解抓取器的类型和用途。
- Spider设置:设置抓取器的 spider 展示,了解抓取器的 spider 展示,以便后续使用。
-
设置:
设置抓取器的 content 展示,了解抓取器的 content 展示,以便后续使用。
-
抓取器 errset设置:
设置抓取器的 errset,了解抓取器的 errset,以便后续使用。
-
抓取器 flags设置:
设置抓取器的 flags,了解抓取器的 flags,以便后续使用。
-
抓取器 url设置:
设置抓取器的 url,了解抓取器的 url,以便后续使用。
-
抓取器 url params设置:
设置抓取器的 url params,了解抓取器的 url params,以便后续使用。
-
抓取器 url query设置:
设置抓取器的 url query,了解抓取器的 url query,以便后续使用。
-
抓取器 url query params设置:
设置抓取器的 url query params,了解抓取器的 url query params,以便后续使用。
-
抓取器 url query value设置:
设置抓取器的 url query value,了解抓取器的 url query value,以便后续使用。
-
抓取器 url query value params设置:
设置抓取器的 url query value params,了解抓取器的 url query value params,以便后续使用。
-
抓取器 url query value query设置:
设置抓取器的 url query value query,了解抓取器的 url query value query,以便后续使用。
-
抓取器 url query value query params设置:
设置抓取器的 url query value query params,了解抓取器的 url query value query params,以便后续使用。
-
抓取器 url query值设置:
设置抓取器的 url query,了解抓取器的 url query,以便后续使用。
-
抓取器 url params设置:
设置抓取器的 url params,了解抓取器的 url params,以便后续使用。
-
抓取器 url query设置:
设置抓取器的 url query,了解抓取器的 url query,以便后续使用。
-
抓取器 url query params设置:
设置抓取器的 url query params,了解抓取器的 url query params,以便后续使用。
-
抓取器 url query value设置:
设置抓取器的 url query value,了解抓取器的 url query value,以便后续使用。
-
抓取器 url query value params设置:
设置抓取器的 url query value params,了解抓取器的 url query value params,以便后续使用。
-
抓取器 url query value query设置:
设置抓取器的 url query value query,了解抓取器的 url query value query,以便后续使用。
-
抓取器 url query value query params设置:
设置抓取器的 url query value query params,了解抓取器的 url query value query params,以便后续使用。
-
抓取器 url query值设置:
设置抓取器的 url query,了解抓取器的 url query,以便后续使用。
-
抓取器 url params设置:
设置抓取器的 url params,了解抓取器的 url params,以便后续使用。
-
抓取器 url query设置:
设置抓取器的 url query,了解抓取器的 url query,以便后续使用。
-
抓取器 url query params设置:
设置抓取器的 url query params,了解抓取器的 url query params,以便后续使用。
-
抓取器 url query value设置:
设置抓取器的 url query value,了解抓取器的 url query value,以便后续使用。
-
抓取器 url query value params设置:
设置抓取器的 url query value params,了解抓取器的 url query value params,以便后续使用。
-
抓取器 url query value query设置:
设置抓取器的 url query value query,了解抓取器的 url query value query,以便后续使用。
-
抓取器 url query value query params设置:
设置抓取器的 url query value query params,了解抓取器的 url query value query params,以便后续使用。
-
抓取器 url query值设置:
设置抓取器的 url query,了解抓取器的 url query,以便后续使用。
-
抓取器 url params设置:
设置抓取器的 url params,了解抓取器的 url params,以便后续使用。
-
抓取器 url query设置:
设置抓取器的 url query,了解抓取器的 url query,以便后续使用。
-
抓取器 url query params设置:
设置抓取器的 url query params,了解抓取器的 url query params,以便后续使用。
-
抓取器 url query value设置:
设置抓取器的 url query value,了解抓取器的 url query value,以便后续使用。
-
抓取器 url query value params设置:
设置抓取器的 url query value params,了解抓取器的 url query value params,以便后续使用。
-
抓取器 url query value query设置:
设置抓取器的 url query value query,了解抓取器的 url query value query,以便后续使用。
-
抓取器 url query value query params设置:
设置抓取器的 url query value query params,了解抓取器的 url query value query params,以便后续使用。
-
抓取器 url值设置:
设置抓取器的 url query,了解抓取器的 url query,以便后续使用。
-
抓取器 url params设置:
设置抓取器的 url params,了解抓取器的 url params,以便后续使用。
-
抓取器 url query设置:
设置抓取器的 url query,了解抓取器的 url query,以便后续使用。
-
抓取器 url query params设置:
设置抓取器的 url query params,了解抓取器的 url query params,以便后续使用




