先给结论:当访客被分配到不同版本时,样本污染的核心特征是“分组变量与分析变量发生了不该有的关联”。也就是说,进入A版和B版的访客,在设备、来源、地域、登录状态或时间分布上本来就应该接近;一旦某一组明显偏向某类访客,你看到的差异就可能是样本差异,而不是版本差异。识别动作是:先固定分流口径,再按访客维度做分组对比,最后决定保留、改写还是退出这次对比。
很多所谓样本污染,其实来自分流本身不随机。要判断这一点,不能只看两版总量是否接近,而要看分流发生在哪一层。常见的有三种:按用户ID取模、按设备或cookie分配、按请求或会话临时分配。前两种通常能让同一访客稳定进入同一版本;第三种会让同一人在不同时间看到不同版本,导致行为数据被切碎。
可执行的动作是:从分流服务或接入层导出最近一段时间的分配记录,至少包含访客标识、分配版本、分配时间、来源渠道和落地页。然后做一件具体的事——统计同一访客标识在观察期内被分配到几个版本。如果大量访客出现“跨版本”,说明分流层没有稳定住,此时任何版本对比都不可信,应优先修正分配逻辑,而不是继续分析转化差异。这个动作的结果会直接决定下一步:跨版本比例高,就先退出对比;比例低,才进入下一层排查。
分流稳定之后,污染往往表现为两组访客构成不同。判断依据不是绝对数量,而是各访客维度在两组中的分布是否接近。可以按以下维度分别看:
如果A版的自然搜索占比明显高于B版,而你的转化目标又高度依赖搜索意图,那么两版差异里就混入了来源结构差异。这里的证据链是:同一维度在两组间分布偏离,且该维度与目标指标相关。两个条件同时成立,才足以怀疑样本污染;只凭某一项占比不同,还不足以定论。
识别出污染后,不必一律推倒重来。三种处理各有前提。
保留适用于:污染维度与目标指标关系弱,且两组在该维度上的偏离幅度小。例如设备分布略有差异,但你的转化动作在移动端和桌面端路径一致。此时可以继续观察,但要在结论里注明该局限,不能把结果当成干净实验。
改写适用于:污染来自可修正的接入或分流环节。例如新访客被优先分到某一版,而新访客本身转化率就低。动作是调整分配规则,让新老访客在两组间均衡,然后重新积累观察期。改写后要重新检查分组构成,确认偏离收敛,再谈版本效果。
退出适用于:同一访客跨版本频繁、或分流层无法稳定记录分配、或关键维度偏离大到无法通过分层校正。此时继续分析只会放大误判,应停止这次对比,把资源转向修正分流与埋点。
假设某页面做A/B两版,目标是表单提交。观察期内A版提交率高于B版。检查分组后发现,A版有较大比例访客来自站内推荐位,而B版更多来自外部落地。站内推荐位访客本身对品牌更熟悉,提交意愿更高。这里的分组差异与目标指标相关,符合样本污染特征。此时若直接保留A版,可能把一个来源结构差异误当成版本优势。合理动作是先按来源分层,分别比较两版在同一来源下的表现;若分层后差异收窄甚至反转,就说明原结论不成立,应改写分配或退出该轮对比。
识别样本污染不是终点,而是决定后续动作的输入。建议按顺序执行:先验证分流稳定性,再检查访客构成偏离,最后根据偏离是否可修正选择保留、改写或退出。每一步都要留下可复查的记录,包括分配日志、分组构成表和分层后的对比结果。这样当有人质疑结论时,你能拿出证据链,而不是只凭一个汇总数字下判断。
需要提醒的是,第三方估算、平台报告与站内统计的口径并不相同,单看某一项指标归零或某段流量下降,不能单独证明分流出了问题;它也可能来自采集延迟、过滤规则变化或渠道本身波动。识别样本污染的关键,始终是看分组变量与分析变量之间是否存在不该有的关联,并用可核查的记录把这个关联说清楚。