AI生成任务计划的依赖完整性与计划偏差怎么评估
评估AI生成的任务计划,需要把“计划质量”拆成可复算的指标,并固定统计范围。建议从依赖完整性、任务粒度、资源匹配和计划偏差四个方向入手,分别计算依赖覆盖率、悬空依赖率、拆分充分率、负责人覆盖率、工期偏差率等指标。关键前提是区分AI初稿与人工修订稿两个版本分别统计,这样复盘时才能判断偏差来自生成环节还是人工调整环节。
Table of Contents
要点总览(TL;DR)
- 评估AI生成的任务计划,建议固定统计范围(项目集合、迭代数量、时间窗),并把AI初稿与人工修订稿分成两个数据集分别计算,才能判断偏差来自生成环节还是人工调整环节。
- 依赖完整性用依赖覆盖率(真实必要依赖条数÷应有关联条数)和悬空依赖率(悬空依赖条数÷依赖总条数)衡量,分母在评估前确定,中途不随数据调整。
- 任务粒度看子任务规模中位数与拆分充分率,资源匹配看负责人覆盖率与负载偏离度,计划偏差看工期偏差率与依赖返工率,每组指标都要写清分子、分母和单位。
- 取数时依赖关系取自工作项链接并区分阻塞型与关联型,负责人为空、依赖指向已关闭工作项等缺失值单独记录,不静默剔除。
- 单指标不能代表AI计划质量,解读时要结合人工标注、返工原因和样本范围,指标用于改进提示词与评审流程,不宜直接作为绩效依据。
试点复盘要回答哪几个评估问题
复盘开始前先明确评估对象。同一个试点里通常存在两份计划:AI根据需求文档或项目目标生成的初稿,以及团队评审修改后实际执行的修订稿。两份计划的质量含义不同,混在一起统计会让结论失去指向。建议在评估方案中写明本次复盘覆盖哪一份,或两份分别计算并做对比。
四个评估维度各自对应一个决策问题。依赖完整性回答“AI是否识别出了任务之间真实的先后与阻塞关系”;任务粒度回答“拆出来的任务是否小到可以分配和执行”;资源匹配回答“任务是否都有明确负责人,分配量是否明显失衡”;计划偏差回答“实际执行与计划的差距有多大,其中多少与依赖问题有关”。
| 评估维度 | 回答的决策问题 | 主要使用方 | 典型后续动作 |
|---|---|---|---|
| 依赖完整性 | AI是否漏标或错标了任务依赖 | 项目经理、技术负责人 | 调整生成提示词中的依赖识别要求,补充评审检查项 |
| 任务粒度 | 生成的任务是否具备可执行性 | 项目经理、迭代负责人 | 在提示词中约定拆分层级与规模上限 |
| 资源匹配 | 任务负责人是否明确、分配是否合理 | 项目经理、团队负责人 | 补充角色映射规则,人工复核分配结果 |
| 计划偏差 | 执行结果与计划的差距及成因 | 项目管理者、试点负责人 | 判断是否继续试点、扩大范围或暂停 |
复盘结论通常落在三种决策上:继续扩大试点、调整提示词与评审流程后小范围再试、暂停使用。建议在复盘会上先对照上述四组指标,再讨论结论,避免用个别案例代替整体判断。
指标与统计范围怎么划定
指标定义要在计算前写清楚,包括公式、分子、分母、单位和时间窗。分母一旦确定,中途不随数据变化调整,否则不同迭代之间无法比较。下表给出四组指标的建议口径,团队可根据试点规模调整阈值,但公式结构保持一致。
| 指标 | 公式 | 分子 | 分母 | 单位 | 时间窗 |
|---|---|---|---|---|---|
| 依赖覆盖率 | 已标注真实依赖条数 ÷ 应有关联条数 | 经人工标注确认为真实必要的依赖条数 | 人工标注认定的应有关联总数 | 百分比 | 单个迭代或固定评估周期 |
| 悬空依赖率 | 悬空依赖条数 ÷ 依赖总条数 | 指向已关闭、已删除或不存在的依赖条数 | 计划中标注的依赖总条数 | 百分比 | 同上 |
| 子任务规模中位数 | 任务规模排序后取中位数 | — | — | 故事点或人时 | 同上 |
| 拆分充分率 | 达到可执行规模阈值的任务数 ÷ 任务总数 | 规模不超过约定阈值的任务数 | 计划中的任务总数 | 百分比 | 同上 |
| 负责人覆盖率 | 有明确负责人的任务数 ÷ 任务总数 | 负责人字段非空的任务数 | 计划中的任务总数 | 百分比 | 同上 |
| 负载偏离度 | 个人分配量与团队均值的平均绝对偏离 ÷ 团队均值 | 各成员分配量与均值的绝对差之和 | 成员数 × 团队均值 | 百分比 | 同上 |
| 工期偏差率 | (实际工期 − 计划工期)÷ 计划工期 | 实际工期减计划工期 | 计划工期 | 百分比 | 任务完成后统计 |
| 依赖返工率 | 因依赖缺失或错配导致的返工任务数 ÷ 任务总数 | 返工原因标注为依赖问题的任务数 | 计划中的任务总数 | 百分比 | 同上 |
统计范围需要固定三件事:纳入评估的项目集合、迭代数量和时间窗。例如“本次试点纳入3个项目、共4个迭代,统计窗口为迭代开始日至迭代结束日后5个工作日”。AI初稿与人工修订稿分别建立数据集,用版本标识区分,同一任务在两版中的记录不合并计算。
拆分充分率的阈值由团队自行约定,例如“单个任务规模不超过3个故事点或16人时”。阈值应在评估前写入方案,评估过程中不因结果不理想而调整。
数据从哪里取、口径怎么对齐
四组指标依赖的字段分别来自工作项链接、规模估算、负责人和工期记录。取数前先确认字段是否齐全、单位是否统一,再处理缺失值。
- 依赖关系:取自工作项之间的链接字段,并区分阻塞型与关联型。阻塞型链接计入依赖统计,关联型仅作参考,两类混算会高估依赖数量。
- 任务规模:使用故事点或计划工时,同一评估周期内只选一种单位。两种单位并存时,先统一换算再计算中位数和拆分充分率。
- 负责人:取负责人字段。字段为空的任务计入负责人覆盖率的分母,不计入分子,同时单独列出清单供人工复核。
- 工期:计划工期取计划开始与计划完成日期之差,实际工期取实际开始与实际完成日期之差。跨迭代任务按实际投入天数折算,折算规则提前写明。
缺失值处理遵循“记录、分类、不静默剔除”的原则。依赖指向已关闭工作项的,计入悬空依赖;负责人为空但任务已完成的,在负责人覆盖率中保留为未覆盖,不事后补填。AI初稿与人工修订稿通过版本号或独立数据集区分,修订稿中新增的任务单独标记来源,避免把人工补充的依赖算作AI的产出。
在ONES中,任务、依赖链接、负责人和计划工期都落在工作项与迭代管理的数据上,AI生成的结构化计划、阶段任务与责任分工也会以工作项形式保存,便于按版本取数并逐项标注。ONES Assistant可基于项目、工作项和迭代的真实上下文回答问题并执行后续操作,输出过程可追踪,适合在复盘时回溯生成与修订的差异。
计算与评估步骤
建议按以下顺序执行,每一步产出可核对的中间结果:
- 确定样本:从试点项目中抽取迭代。样本量较小时全量纳入;迭代数量较多时按项目类型分层抽样,每层不少于2个迭代,并在报告中写明抽样方法。
- 逐项标注依赖:由熟悉业务的技术负责人对每个任务的依赖逐条判断“是否真实必要”,标注结果作为依赖覆盖率的分子与分母来源。同时标记悬空依赖。
- 标注粒度与负责人:按约定阈值判断任务是否拆分充分,核对负责人字段,记录负载分配数据。
- 汇总计算:按S2的公式分别计算AI初稿与修订稿的四组指标,保留分子、分母和中间值,便于复算。
- 补充定性证据:收集评审记录、返工原因标注、迭代回顾纪要,与定量结果对照。返工原因需在任务关闭时标注,事后补记会降低可信度。
- 处理异常分母:分母为零时该指标记为“不适用”,不按0%处理;样本量过少时只报告绝对数,不计算百分比,并在结论中注明样本限制。
定量指标说明“差多少”,定性证据说明“为什么差”。两者在同一张表里并列呈现,复盘讨论才有依据。
一个迭代的算例
以下为演示用假设数据,不对应真实项目。某迭代AI初稿生成任务40个,标注依赖28条,其中悬空依赖3条;人工标注认定应有关联35条,实际标注中真实必要的依赖24条。任务规模以故事点计,阈值设为3点,达到阈值的任务31个,规模中位数为2点。负责人字段非空的任务34个,团队5人平均分配8个任务,各成员分配量与均值绝对差之和为6。迭代结束后,完成任务38个,计划工期合计190人时,实际工期合计209人时;返工任务5个,其中标注为依赖缺失或错配导致的有2个。
| 指标 | 计算过程 | 结果 |
|---|---|---|
| 依赖覆盖率 | 24 ÷ 35 | 68.6% |
| 悬空依赖率 | 3 ÷ 28 | 10.7% |
| 拆分充分率 | 31 ÷ 40 | 77.5% |
| 负责人覆盖率 | 34 ÷ 40 | 85.0% |
| 负载偏离度 | 6 ÷(5 × 8) | 15.0% |
| 工期偏差率 | (209 − 190)÷ 190 | 10.0% |
| 依赖返工率 | 2 ÷ 40 | 5.0% |
结果解读:依赖覆盖率68.6%说明AI初稿漏标了约三成应有关联,结合悬空依赖率10.7%,提示生成时对已关闭工作项的引用需要清理,提示词中应要求只引用进行中的前置任务。拆分充分率77.5%与中位数2点表明多数任务粒度可执行,剩余部分可在评审环节补充拆分。负责人覆盖率85%对应6个未分配任务,需在计划发布前补齐。工期偏差率10%属于可接受范围,但依赖返工率5%说明部分延期与依赖问题直接相关,改进重点应放在依赖识别而非单纯压缩工期。
结果怎么解读、有哪些限制
依赖覆盖率高不代表依赖质量高。覆盖率只衡量“标出的依赖中有多少被认定为真实必要”,如果人工标注本身宽松,指标会虚高。解读时必须同时看悬空依赖率和返工原因,三者结合才能判断依赖识别的实际水平。
不同项目规模、任务类型下的指标不宜直接横向比较。一个以缺陷修复为主的迭代与一个以新功能开发为主的迭代,任务粒度和工期偏差的基准差异明显。跨项目对比前应先按任务类型分组,或只做同类型迭代之间的比较。
计划偏差受外部因素影响,包括需求变更、人员变动、环境问题等,不能全部归因于AI生成质量。建议在返工原因标注中区分“依赖问题”“需求变更”“技术障碍”等类别,归因时按类别拆分。
小样本和单迭代结论存在局限。一个迭代的指标波动可能来自偶然因素,试点复盘应至少覆盖2至3个迭代,并在结论中写明样本范围。指标用于改进提示词、评审流程和计划模板,不宜直接作为团队或个人的绩效依据,否则标注环节容易出现迎合指标的倾向,削弱数据可信度。
常见问题
AI初稿和人工修订稿应该分开算还是合并算?
建议分开算,至少在试点复盘阶段分开。两份计划回答的问题不同:AI初稿的指标反映生成环节的识别与拆解水平,修订稿的指标反映人机协作后的最终计划质量。合并统计会把人工补充的依赖、拆分和负责人算进AI的产出,导致依赖覆盖率虚高、偏差归因失真。
操作上给两版数据打上版本标识,同一任务在两版中的记录不合并。修订稿中人工新增的任务或依赖单独标记来源,对比时先看两版指标的差值,再结合评审记录判断差值来自哪些具体修改。
依赖覆盖率和悬空依赖率的分母为什么不能中途调整?
分母是跨迭代比较的基准。依赖覆盖率的分母是人工标注认定的应有关联总数,悬空依赖率的分母是计划中标注的依赖总条数,这两个数一旦随结果变化而调整,不同迭代之间就失去了可比性,也无法复算。
正确做法是在评估方案里先写死公式和统计范围,计算过程中发现标注口径有误,记录问题并在下一轮评估中修正,本轮结果照原口径报告并注明。分母为零时该指标记为“不适用”,不按0%处理。
工期偏差率偏高,怎么判断是不是AI生成计划的问题?
工期偏差率只说明实际与计划差多少,不说明原因。判断归因要看依赖返工率和返工原因标注:把返工任务按“依赖缺失或错配”“需求变更”“技术障碍”等类别拆分,只有标注为依赖问题的部分才与AI生成的依赖识别直接相关。
如果工期偏差率上升而依赖返工率平稳,更可能来自需求变更或外部因素;如果两者同步上升,才值得优先检查提示词中的依赖识别要求和评审检查项。归因结论应写明样本范围和统计窗口,单迭代的波动不足以支撑扩大或暂停试点的决定。
试点只有一个迭代、样本很少,指标还能用吗?
可以用,但要改变报告方式。样本量过少时只报告绝对数,例如“40个任务中6个未分配负责人”,不计算百分比,并在结论中注明样本限制。分母为零的指标记为“不适用”。
建议试点复盘至少覆盖2至3个迭代再下整体结论,样本不足时把本轮结果定位为方法验证:确认字段是否齐全、标注口径是否可执行、公式是否能复算,而不是评价AI计划质量的最终水平。
在ONES里做这套评估,取数环节要注意什么?
任务、依赖链接、负责人和计划工期都落在工作项与迭代管理的数据上,AI生成的结构化计划、阶段任务与责任分工也会以工作项形式保存,便于按版本取数并逐项标注。ONES Assistant可基于项目、工作项和迭代的真实上下文回答问题并执行后续操作,输出过程可追踪,适合在复盘时回溯生成与修订的差异。
取数前先确认依赖链接字段的实际形态、阻塞型与关联型如何区分,以及两版计划的版本留痕方式,这些需在实际系统中核对后再写入评估方案。



