当旧实验依赖的 Alexa网站排名 数据已经难以重新取得,正确做法不是宣布结论作废,也不是照旧引用,而是把原结论拆成可独立核对的几部分,只保留仍被证据支持的那一层。下面用一个假设情境说明取舍过程。
假设两年前有人做过一次内容改版实验:改版前后各取一段时间的 Alexa网站排名,配合站内访问日志,得出“改版后外部可见度上升”的结论。现在要复查,却发现排名数据无法重新拉取。此时要先判断:结论里哪些部分必须靠排名值支撑,哪些部分靠站内日志就能成立。
通常可以拆成三层。第一层是方向判断,即改版前后是否有变化;第二层是幅度判断,即变化有多大;第三层是归因判断,即变化是否由改版引起。Alexa网站排名这类第三方指标往往只参与第一层和第二层,第三层本来就该由站内数据和同期其他事件来支撑。拆开之后,你会发现能保留的部分比想象中多。
无法复现时最容易犯的错,是把“数据取不到”直接等同于“结论不成立”。这两件事不是一回事。取不到数据只说明证据链断了一环,不说明方向判断错了。要区分不同解释,可以找下面几类可核对的证据:
这几类证据的作用不是替代 Alexa网站排名,而是把“唯一证据缺失”变成“多证据交叉”。如果站内日志方向与旧结论一致,而同期没有明显外部事件,那么方向判断可以保留,幅度判断则要弱化。
一个可操作的做法是给旧结论标注证据等级,而不是二选一。仍以上面的假设为例:
这个动作的结果是:后续复查时,读者能一眼看出哪些部分可以直接引用,哪些部分需要新证据才能继续用。如果方向判断被保留,下一步就可以设计一个不依赖旧排名的新验证,比如用当前可取得的站内指标重新观察同类改动。
假设某编辑要复查旧结论,发现排名数据取不到,但站内日志显示改版后三个月内自然来源访问上升,同期没有投放活动。他的处理是:保留“改版后自然来源访问上升”这一方向结论,删去“Alexa网站排名上升多少位”的幅度表述,并把归因改为“改版与上升相关,但缺少第三方数据排除其他解释”。
这个处理的关键在于,他没有把缺失的数据补造成一个新数字,也没有因为缺一环就否定全部。有限结论的价值在于它仍然可核对、可继续验证,而不是看起来完整。
保留有限结论有前提。如果站内日志同样缺失,或者旧记录的数据口径前后不一致,又或者同期存在多个无法排除的重大事件,那么方向判断也失去支撑,此时更稳妥的做法是放弃结论、只保留“当时做过一次改版”这一事实陈述。判断标准很简单:剩下的证据能否让另一个独立的人得出大致相同的方向判断。能,就保留;不能,就放弃。
无法复现旧实验时,真正要做的不是找回原数据,而是把结论缩小到现有证据还能支撑的范围,并写清缩小了什么、为什么缩小。