判断采集是否遗漏,核心不是看总量够不够大,而是看“已采到的词”和“应当覆盖的词”之间是否存在系统性缺口。可执行的方法是:先定义应采范围,再用多来源交叉比对,最后对差异做抽样核验。如果差异集中在某一类词、某一平台或某一时间段,基本可以判断存在遗漏;如果差异零散且能逐条解释,则更可能是口径差异而非漏采。
多人协作最容易返工的地方,是每个人对“采集完成”的定义不同。开始前应把三件事写进交付说明:
这里要特别区分口径:第三方估算流量、搜索引擎报告与站内统计反映的不是同一件事。第三方工具给出的是估算模型结果,站内统计记录的是实际发生的访问,搜索引擎后台报告的是平台可见的展示与点击。三者不能直接相减来证明漏采,只能作为交叉线索。
把不同来源的同一维度数据并排放,重点看“只在一个来源出现”的词。具体做法:
差异清单不是结论,而是待核验对象。如果差异词大量集中在某个业务线或某种句式,说明采集规则可能漏掉了这类结构;如果差异词彼此无关、数量零散,更可能是正常的来源差异。
从差异清单中随机抽 20 到 30 个词,逐个回到原始来源确认:这个词是否真实出现过、出现在哪个页面或哪次查询、采集脚本当时是否覆盖了该入口。记录三类结果:确认漏采、来源本身不可靠、口径不同导致误判。假设抽 30 个词,其中 18 个确认漏采且集中在同一类页面,就应优先修采集规则,而不是继续扩大词表。
验证的关键是看分布,而不是看单点。可对照以下检查项:
如果多个检查项同时命中,属于系统性遗漏,需要回到准备阶段修正范围定义;如果只有单项异常且能定位到一次任务失败,属于偶发问题,补采该时间段即可。
采集不是一次交付就结束。建议在每次交付前固定做一次差异抽样,并把差异率、确认漏采数、误判数记录在同一张核验表里。这样下次出现争议时,可以直接对比历史核验结果,判断是规则退化还是来源变化。维护的重点是让“判断是否遗漏”有可复查的证据链,而不是依赖某个人的印象。
下一步:拿当前已有的词表和采集结果,按上面的抽样方法跑一轮差异核验,先确认差异集中在哪一类词,再决定是修规则还是补数据。