用一次修改验证一个假设
级别:首作必学方法。 少量试玩适合发现机制和理解问题,流量充分时才考虑更严格的分组实验。方法参考 PM:实验设计。
从现象到可反驳的假设
现象:“玩家在不匹配展示期间频繁点第三张。”假设:“玩家没有意识到当前正在等待。”修改:“展示期间显示简短提示,并保持两张牌的强调。”
预期:“更多玩家能解释这段等待;无效第三次输入减少。”如果输入减少但玩家仍不理解,可能只是新提示挡住了操作,不能立即宣称体验改善。
写清主指标与保护指标
| 角色 | 示例 |
|---|---|
| 主指标 | 每局展示阶段的无效输入次数 |
| 行为解释 | 玩家能否正确复述等待机制 |
| 保护指标 | 局时长、退出、完成率与主观困扰 |
| 分组字段 | 客户端与配置版本、关卡、首次或重复玩家 |
修改前后比较要避免同时更改回合数、牌面和加载流程。使用相同玩家重复测试时,学习效应会影响结果;记录这一限制。
样本与不确定性
教学例子:20 人中有 12 人完成是 60%,但不能据此认为真实人群完成率精确为 60%。小样本容易波动,先保留人数和行为记录,再解释方向。
留存也要定义口径,例如按首次进入日期的玩家分组,次日是否至少一次有效启动。时区、机器人、开发账号、重复身份和数据缺失都影响分母。
流量足够时,A/B 分配通常需要对同一玩家保持稳定,避免一人跨组;统计方法、观察周期和停止条件应预先确定。不要每天查看数据后在偶然显著时立即宣布胜利。
结果记录
问题与证据:
假设:
本轮唯一改动:
观察对象、版本和时间:
主指标、保护指标:
结果与原始人数:
结论支持到什么程度:
下一步:保留 / 还原 / 继续调查
完成标准:一次改动有前置假设和可检查结果;能说明数据不能回答什么,并决定下一步。即使假设被否定,也产出了有用信息。