概率与条件概率:分清频率、预测与证据
- 解释概率、事件与条件概率
- 区分模型输出概率与真实评估准确率
概率描述不确定性而非承诺
体验站的虚构任务有完成与未完成两种结果。若在明确记录范围的十次尝试中八次完成,观察到的完成频率是八除以十,即百分之八十。频率来自已经发生的有限样本,概率则用于表达某个事件发生的不确定性,可以由理论假设或数据估计得到。两者相关,却不能直接把十次观察的频率当成所有未来任务的固定真实概率。尤其当任务难度、角色经验或记录规则变化时,过去频率可能无法代表未来情境。
条件改变,分母也要改变
假设容易任务有六次,其中五次完成;困难任务有四次,其中三次完成。总体完成频率是八除以十,容易条件下的完成频率则是五除以六,约为百分之八十三;困难条件下是三除以四,为百分之七十五。条件概率表示在给定某个条件的范围内考虑事件,因此分母不是永远用全部十条。完成者八人中容易任务占五除以八,这又是另一个问题:它的条件是已经完成。完成给定容易与容易给定完成方向不同,不能交换。
用计数避免倒置条件
把记录写成两行两列的计数表,一行容易,一行困难;两列完成与未完成。容易行填五和一,困难行填三和一。问容易任务完成的比例,就只看容易这一行;问完成记录里容易占多少,就只看完成这一列。这种画表方法比一开始背复杂公式更直观。若样本采集方式改变,例如特意收集困难任务,容易在完成者中的比例也会改变,即使两种难度各自的完成概率没有变化。因此解释概率必须说明条件和数据范围。
模型的八成分数不是八成准确率
一个分类模型对某次任务输出完成概率零点八,表示模型对这个输入给出的分数解释,不等于模型在所有任务上准确率百分之八十,也不保证本次一定完成。准确率需要对许多有真实标签的独立记录统计判对比例。概率是否可信还要看校准:如果大量得到约零点八预测的任务中,实际完成比例也接近八成,才有校准良好的证据。模型可能排序能力不错却分数过于自信,也可能某一组概率可靠而换组后失效。
联合、独立与边界意识
若问两次任务都完成,需要考虑联合事件。只有在适当独立假设下,才能把两次完成概率相乘;同一角色连续尝试可能受到学习、疲劳和任务相似性影响,不一定独立。把概率相乘之前要解释为什么可以近似独立。小样本出现全部成功也不代表失败概率为零,未观察到事件不等于不可能。实际使用概率时,应写清事件、条件、估计来源与不确定性,再根据错误代价决定行动,而不是被一个看起来精确的小数说服。
本节要点
- 条件概率改变比较范围与分母
- 相反方向的条件概率不能互换
- 预测概率不是准确率,可靠性需要独立校准检查
动手练习:用计数表回答三个概率问题
- 建立容易五次完成一次未完成、困难三次完成一次未完成的计数表
- 算总体完成频率
- 算容易条件下完成频率及完成条件下容易的比例
- 解释两个条件比例为什么不同
- 说明单次预测零点八不能证明总体准确率八成
自查清单
- 三个分母十、六、八正确
- 明确条件方向不同
- 区分分数、准确率与校准
先自己做,再查看参考答案
总记录十次,其中八次完成,所以总体完成频率为百分之八十。容易条件下有六次,五次完成,比例为五除以六,约百分之八十三点三;已经完成的八次记录中,容易任务有五次,因此完成条件下容易的比例是五除以八,即百分之六十二点五。两个比例的分母不同,回答的问题方向也不同,不能交换。某一次模型给出零点八完成分数,只是针对该输入的预测;总体准确率要用独立记录的预测类别与实际标签比较,概率可靠性还需要检查相近分数组的实际完成频率。