为什么审核预算必须保留同分样本
区分逐 K 排名和分数阈值,选择可复核的同分策略并解释没有正类的情况。
固定审核数量是一种不同决策
2015 年的 scikit-learn 原始讨论询问:研究者只能审核 2000 条留出样本中的 N 条时,精确率、召回率和 F1 如何变化。曲线图公开,但没有样本 ID、标签和分数。四条评论指向相关提案;2023 年 2 月关闭是转向 #7343 的整理操作,并不能证明 top-K API 已发布。
同分需要明确顺序
阈值可能一次选中整个同分组,而固定预算可能停在组内。默认保留来源顺序,也可明确选择 Unicode 码点 ID 次序。分数方向可逆,次序策略仍按升序;地区排序会影响复核的一致性。
- 保留每个 K,不合并相同分数阈值。
- 分别保留原分数拼写与负零标记,不能仅靠 JSON 数字零。
召回率未定义不应删除预算
留出集正类数 P=0 时,召回率 TP/P 未定义。精确率 TP/K 为 0,F1=2TP/(K+P) 也为 0,因为 K≥1。保留每个预算及精确分子分母,可明确展示该状态,无需制造正类。
| 指标 | 精确比值 | P=0 |
|---|---|---|
| precision | TP/K | 0 |
| recall | TP/P | 未定义 |
| F1 | 2TP/(K+P) | 0 |
参考资料
- 原始逐预算分类问题
已读完整问题、四条评论与六条时间线;只有曲线图,没有作者样本数值。
本分类工具使用说明
展开工具,查看操作步骤、可调选项和支持范围,再直接进入工作区。
分类排名预算曲线对全部带标签分数排序,以精确前缀计数查看每个 top-K 审核预算。
选择正类、分数方向与同分策略,查看固定审核数量怎样改变整个留出集的精确率、召回率和 F1。
操作步骤
- 粘贴完整 CSV 或选择一个文件,再指定当前输入。
- 设置互不重复的 ID、标签与分数列序号,以及正负类标签、方向和同分策略。
- 运行后查看任意 K,并保存六份文件及完整复制报告。
可调选项
- 当前输入
- 粘贴 CSV · 单个 CSV 原件
- 正类标签
- 1
- 负类标签
- 0
- 分数方向
- 高分优先 · 低分优先
- 同分策略
- 原始来源顺序 · ID Unicode 码点顺序
- ID 列(从 1 开始)
- 1
- 标签列(从 1 开始)
- 2
- 分数列(从 1 开始)
- 3
能力与限制
- 严格 UTF-8 CSV,含一行表头和 1–1,000,000 条完整记录;ID 为非空唯一字符串,标签只允许显式指定的两类,分数须为有限十进制数。
- 源文件最多 64 MiB、1,000 万源单元格、1,200 万曲线单元格和 1 亿总工作单位;所有限制共同生效。
- 文件与完整文本合计最多 512 MiB,结构化结果最多 512 MiB,二者合计最多 768 MiB,传输与受控内存各最多 1 GiB。记录数量合规不代表同时满足全部预算。
- 读取、验证、计算、编码、清理到首次发布共用 120 秒期限;超过限制时不返回残缺曲线。
- 同分项仍保留每个 K。没有正类时,每个 K 的召回率未定义、F1=0。预览仅显示前 16 个预算和 4,000 个码点;下载与完整复制保留全部结果。