AI辅助测试用例评审的效果指标怎么设计

设计AI辅助测试用例评审的效果指标,关键是把“效果好不好”拆成可复算的质量、投入和产出证据。本文围绕漏审率、人工修正量、评审耗时和缺陷前置发现四类指标,给出定义、分子分母、数据口径、计算步骤与算例,并说明解读限制。评估范围限定在评审环节,不涉及测试执行脚本和模型训练。




要点总览(TL;DR)


  • 评估对象限定在测试用例评审环节,用漏审率、人工修正量、评审耗时、缺陷前置发现四类指标分别对应质量、投入、效率和产出。
  • 每个指标都要写清分子、分母、单位、时间窗和数据来源;漏审率的分母取应评审用例数,并说明免审规则。
  • 取数前锁定批次清单,统一缺陷分级和统计截止节点;未完成评审、无缺陷记录、分母为零分别按规则处理并披露。
  • 用同一批或可比的用例集做AI辅助组与人工评审组对照,三类证据方向一致时结论才较可靠。
  • 不设通用达标线,以试点前基线或对照组为对比基准;样本量小时结论只作方向性参考。


评估目标:AI辅助评审要回答哪几个问题


评估对象是测试用例评审这一环节:一批用例从提交评审到评审结论确认的过程。AI在这里承担的是预审、问题提示或修改建议的角色,评估要判断它在这个环节里带来了什么变化,而非判断整个测试体系是否变好。测试执行结果、脚本维护质量、模型本身的训练效果,都属于其他环节的问题。


把“效果好不好”展开,可以落到四个具体问题:


  • 漏审多少:评审结束后,仍有用例带着问题流入后续阶段,这类用例占该批应评审用例的比例是多少。
  • 人工改多少:AI给出的建议中,被人工修改、驳回或补充的数量和工时是多少。
  • 省多少时间:单条用例的平均评审时长、整批评审周期相比基线有什么变化。
  • 缺陷是否更早发现:评审阶段发现的缺陷,在同批次缺陷总量中占多大比例,后续阶段是否相应减少。

这四个问题分别对应质量、投入、效率、产出四个方向,评估结论通常用于三类场景:试点验收时判断是否达到预期;持续改进时定位哪一环拖累效果;决定是否扩大使用范围时提供依据。三类场景对指标精度的要求不同,试点验收更看重对照设计,持续改进更看重口径稳定。



指标与范围:四类指标的定义和边界


四类指标需要统一写成“指标名、公式、单位、时间窗、数据来源”的结构,否则不同批次之间无法比较。下表给出建议定义,实际使用时可按团队记录习惯调整字段名称,但分子分母的含义应保持稳定。


指标 计算口径 单位 时间窗 数据来源
漏审率 评审后仍流入后续阶段的问题用例数 ÷ 该批次应评审用例数 百分比 从评审结论确认到下一阶段评审或测试执行开始 评审记录、后续阶段问题记录
人工修正量 AI建议被人工修改或驳回的条数;并行记录对应修正工时 条、人时 与评审批次同期 修正记录、工时记录
评审耗时 单条用例平均评审时长 = 总评审工时 ÷ 评审用例数;整批周期 = 批次开始到结论确认的自然日 分钟/条、天 按批次统计 评审记录、工时记录
缺陷前置发现 评审阶段发现缺陷数 ÷ 同批次缺陷总数(评审阶段与后续阶段合计) 百分比 缺陷统计截止到约定节点,如版本发布前 缺陷单、评审问题记录

范围边界需要写进评估说明:只统计评审环节产生的记录,测试执行脚本的编写质量、自动化用例的维护成本、模型训练与调优都不计入。缺陷前置发现只统计与用例内容相关的缺陷,环境问题、需求变更引发的缺陷应单独归类,避免混入分子。


漏审率的分母要明确是否包含免审用例。如果团队对低风险用例设有免审规则,分母应取“应评审用例数”,并在口径说明中列出免审判定条件,否则漏审率会被系统性低估。



数据口径与证据:分子分母怎么取、缺失怎么处理


可复算的前提是同一批评审对象、同一时间窗、同一缺陷分级。取数前先锁定批次清单,把用例编号、评审人、评审时间、AI建议记录、人工处理结果对应到同一张明细表,再按指标汇总。评审记录、修正记录、缺陷单和工时记录往往分散在不同系统,建议在评估前做一次字段映射,明确每个指标从哪张表取哪一列。


口径一致性有三条具体要求:


  • 同一批次内不混入其他批次的用例,跨批次比较时保持批次划分规则不变。
  • 时间窗以评审结论确认时间为起点,后续阶段问题以约定截止节点为准,不随查询时间漂移。
  • 缺陷分级沿用团队既有分级标准,评估期间不调整分级定义;如必须调整,需在结论中标注并分段统计。

缺失值按以下规则处理,并在结果中单独披露处理数量:


  • 无修正记录:视为AI建议未被修改,计入“未修正”,但需确认修正记录本身完整,避免把记录缺失误判为无需修正。
  • 无缺陷记录:计入分母,分子为零,不删除该批次。
  • 评审未完成:该用例不计入漏审率分母,单独列为“未完成评审”,在结论中说明占比。
  • 分母为零:某时间窗内没有评审任务时,该指标记为“不适用”,不写0%,也不参与跨批次平均。

当评审记录、修正记录和缺陷单需要在同一处关联时,ONES 的项目与测试用例数据可以作为承载:ONES Assistant 智能助手连接 ONES Project、ONES Wiki 与 ONES TestCase,能够在项目上下文中读取工作项和用例信息并执行后续操作,基于 ONES 权限体系的输出过程可追踪、结果可审计。评估时可以把评审任务、修正动作和缺陷单放在同一项目空间内,减少跨系统对账的字段错位。



计算与评估步骤:从取数到结论的操作顺序


建议按五步执行,每一步留下可复核的中间结果,便于他人重算。


  1. 确定评估批次与对照方式。 选取同一批或可比的用例集,分为AI辅助组和人工评审组。分组方式可以是同期随机分配,也可以是试点前后对照,但需在结论中说明分组依据。两组用例的复杂度、业务模块分布尽量接近。
  2. 按统一口径取数并清洗。 导出评审记录、修正记录、缺陷单和工时记录,按用例编号关联,剔除重复记录,标记缺失值和未完成评审的用例。
  3. 逐指标计算并记录分子分母。 每个指标同时保留原始分子、分母和计算结果,不只保留百分比。分母为零的批次标注“不适用”。
  4. 合并三类证据判断。 质量看漏审率和缺陷前置发现,投入看人工修正量,效率看评审耗时。三类证据方向一致时结论较可靠;出现“耗时下降但修正量上升”这类组合时,需要回到明细判断是AI建议质量不足还是人工复核加严。
  5. 形成结论并标注不确定项。 结论写明批次范围、时间窗、样本量和缺失值处理情况;样本量小或批次差异大的,结论表述为方向性参考,不作为整体绩效结论。

如果团队在 ONES 中管理评审任务和缺陷,可以用工作项状态记录评审流转,用缺陷单记录评审阶段和后续阶段发现的问题,再按上述口径汇总。ONES Assistant 可围绕缺陷分布生成分析,帮助定位评审阶段问题集中在哪些模块,这类分析用于解释指标波动,不替代指标本身的复算。



算例:一批用例的指标计算示例


以下为演示情景,数值为假设,用于展示计算过程,不代表任何产品的实际效果。


假设某批次共200条用例,时间窗为评审开始到版本提测前。其中AI辅助组100条,人工评审组100条。AI辅助组中5条评审未完成,实际计入统计95条;人工评审组全部完成。


漏审率。 AI辅助组评审后有8条用例在后续阶段被发现内容问题,漏审率 = 8 ÷ 95 ≈ 8.4%。人工评审组同类问题12条,漏审率 = 12 ÷ 100 = 12.0%。两组分母不同,是因为未完成评审的用例不计入分母,需在结论中说明。


人工修正量。 AI辅助组共收到AI建议140条,其中人工修改52条、驳回18条,修正条数合计70条;对应修正工时14人时。人工评审组无AI建议,按人工复核记录统计修改31条、工时9人时。两组修正口径不同,比较时以“每条用例平均修正工时”对齐:AI辅助组14 ÷ 95 ≈ 0.147人时/条,人工评审组9 ÷ 100 = 0.09人时/条。


评审耗时。 AI辅助组总评审工时38人时,单条平均 = 38 ÷ 95 = 0.4人时/条,整批周期4天。人工评审组总工时45人时,单条平均0.45人时/条,整批周期5天。


缺陷前置发现。 该批次评审阶段与后续阶段合计缺陷60个,其中评审阶段发现33个,缺陷前置发现比例 = 33 ÷ 60 = 55%。若按组拆分,需保证两组缺陷分级一致;假设AI辅助组对应缺陷28个、评审阶段发现17个,比例为60.7%,人工评审组32个、发现16个,比例为50%。


缺失与分母为零的处理演示。 若AI辅助组某模块在时间窗内没有评审任务,该模块漏审率记为“不适用”,不参与组内平均;若某条用例无修正记录且确认记录完整,计入“未修正”,不删除;若后续阶段缺陷记录尚未关闭,按约定截止节点统计,未关闭缺陷不计入分子,并在结论中披露未关闭数量。



解读与限制:指标能说明什么、不能说明什么


漏审率下降说明该批次流入后续阶段的问题用例减少,不能直接推出评审质量全面提升。漏审率受用例复杂度、评审人经验和后续阶段问题记录完整度影响,记录不完整时下降可能只是统计口径变化。解读时应同时看缺陷前置发现是否同向变化。


评审耗时缩短需要和人工修正量一起看。耗时下降而修正工时上升,可能意味着AI建议需要更多人工返工,单位效率的改善被修正成本抵消;耗时下降且修正量稳定,才更接近真实的效率提升。整批周期还受排期和评审人可用时间影响,周期缩短不一定来自评审环节本身。


缺陷前置发现受缺陷分级和统计周期影响较大。分级标准调整、统计截止节点提前或延后,都会改变比例。跨批次比较时,应固定分级和截止节点;无法固定时,分段统计并在结论中说明。


样本量小、批次差异大时,两组指标的可比性有限。几十条用例的批次,几个问题的差异就能让漏审率变动几个百分点,这类结果适合作为方向性参考,不适合作为扩大使用的唯一依据。本文不设通用达标线,建议以试点前基线或同期对照组作为对比基准,结论表述为“相对基线变化多少”,而非“达到某个标准”。



常见问题


试点批次只有几十条用例,指标结果还能用吗?


可以用,但结论要限定为方向性参考。样本量小时,几条用例的差异就能让漏审率变动几个百分点,单看百分比容易高估或低估效果。建议同时保留原始分子分母,例如“95条中8条漏审”,让读者看到基数;并把结论表述为相对基线的变化方向,而非确定的改善幅度。若条件允许,延长观察窗口或合并多个可比批次后再下结论。


团队对低风险用例设有免审规则,漏审率怎么算才不失真?


分母取“应评审用例数”,即扣除按规则免审的用例,并在口径说明中列出免审判定条件。如果把免审用例也算进分母,漏审率会被系统性低估;反过来,如果免审规则在评估期间调整,需要分段统计或重新计算历史批次,否则前后不可比。免审用例本身也应单独记录数量,便于判断规则是否被滥用。


AI建议被人工驳回,算不算人工修正量?


算。人工修正量建议同时记录“修改条数”和“驳回条数”,两者都代表人工对AI建议的再处理,只是处理方式不同。修改说明建议方向可用但内容需调整,驳回说明建议不适用或错误。分开记录有助于定位问题:驳回集中在某类用例,可能是提示规则与该模块不匹配;修改集中在某类字段,可能是建议颗粒度不合适。修正工时按实际投入记录,与条数并行使用,不互相替代。


评审阶段发现的缺陷和后续阶段发现的缺陷分级不一致,缺陷前置发现还能比吗?


跨批次比较时不能直接比。应先统一缺陷分级标准,再计算“评审阶段发现缺陷数 ÷ 同批次缺陷总数”;评估期间不调整分级定义。如果确实需要调整,按调整前后分段统计,并在结论中标注分段节点。统计截止节点也要固定,例如统一到版本提测前,未关闭缺陷不计入分子并披露数量,避免因查询时间不同导致比例漂移。


评审耗时下降了,但人工修正工时上升,这个结果怎么解读?


这说明效率改善可能被返工成本部分抵消,需要回到明细判断原因。可以按用例模块或问题类型拆分,看修正工时集中在哪些AI建议上:如果集中在少数复杂模块,可能是建议对该类用例覆盖不足;如果普遍上升,可能是评审人对AI建议的复核加严。此时不宜单独用评审耗时下结论,应结合漏审率和缺陷前置发现,确认质量是否同步改善,再判断是否值得扩大使用。

animation hi
animation dot left
animation dot right
animation dot right bottom
avatar circle
WeChat QR Code
长按将二维码保存为图片

售前电话

400-188-1518

文章配图预览