研发知识问答测试问题集模板:覆盖度与来源核验

上线前验收研发知识问答,需要回答两个问题:测试问题是否覆盖了主要知识域和提问方式,回答是否能追溯到可信来源。这套模板用一张测试问题集表和一张答案核验记录表完成验收:前者登记测什么,后者记录答得怎样,两表以问题编号关联,最后按知识域和问题类型汇总覆盖度与可信度通过率。




要点总览(TL;DR)


  • 模板由测试问题集表和答案核验记录表组成,两表以问题编号关联:前者登记测什么,后者记录答得怎样。
  • 问题集表按知识域、问题类型、难度、期望答案要点、期望来源登记;核验表记录来源命中、引用可追溯性、答案正确性与判定结论。
  • 来源可信度分高、中、低三级,判定结论分通过、有条件通过、不通过,通过要求来源可信度为高且答案完全正确。
  • 覆盖度按知识域与问题类型的交叉表统计,可信度通过率按“通过数÷总数”分组计算,有条件通过和不通过都计入未通过。
  • 问题集设置版本号并与知识库版本对应,知识库重大更新后按适用版本筛出受影响问题回归测试,淘汰问题保留编号不删除。


可复制空白模板:测试问题集表与答案核验记录表


模板由两张表组成。测试问题集表在验收准备阶段填写,确定本轮要问哪些问题、期望答案来自哪里;答案核验记录表在逐条测试时填写,记录实际回答、来源命中情况和判定结论。两表通过“问题编号”一一对应,一个编号只对应一条问题,核验时按编号回填,避免问题与记录错位。


表一:测试问题集表


问题编号 知识域 问题类型 难度 测试问题 期望答案要点 期望来源 来源位置 适用版本 登记人 登记日期 状态 备注
Q-001
Q-002
Q-003
Q-004
Q-005

表二:答案核验记录表


问题编号 实际回答摘要 来源命中 引用可追溯性 答案正确性 来源可信度 判定结论 问题描述 核验人 核验日期 复测结果
Q-001
Q-002
Q-003
Q-004
Q-005

使用时先填表一,再按编号逐条填表二。表二的问题编号列直接引用表一,不另行编号;同一问题需要多轮复测时,在表二追加行并保留同一编号,用核验日期区分轮次。



字段说明:每个字段记录什么、怎么填


字段口径统一,多人填写时才能汇总。下面按两张表分别说明,重点给出来源可信度与判定结论的取值规则。


测试问题集表字段


字段 记录内容 填写口径
问题编号 唯一标识 建议“Q-三位序号”,全表不重复,增补问题顺延编号,不复用已淘汰编号
知识域 问题所属业务知识范围 按团队知识库的实际分区填写,如需求管理、测试规范、发布流程、接口约定
问题类型 提问方式分类 建议取值:事实查询、流程步骤、定义解释、跨文档综合、条件判断、边界与例外
难度 回答所需的信息跨度 基础:单一文档可直接找到;中等:需理解上下文或合并两处信息;困难:跨多文档、含条件分支或需排除干扰信息
测试问题 实际输入的问题原文 按研发人员真实提问方式书写,保留口语化表达,一条问题只问一件事
期望答案要点 判定正确的依据 列出必须出现的关键结论,2至4条,用于核验时逐条对照
期望来源 答案应来自的文档 填写文档名称或页面标题,可填多个,按主次排列
来源位置 来源在文档中的位置 填写章节标题或段落标识,便于核验时快速定位原文
适用版本 该问题对应的知识库或产品版本 填写知识库版本号或产品版本,知识库更新后据此判断是否需要回归
登记人、登记日期 责任与时间 填写实际登记人和日期
状态 问题在验收流程中的位置 建议取值:待测、已测、待复测、通过、淘汰
备注 补充信息 记录问题来源、关联需求或特殊说明

答案核验记录表字段


字段 记录内容 填写口径
问题编号 关联表一 与表一编号一致,不新增编号
实际回答摘要 系统给出的回答要点 摘录关键结论,不整段复制;回答较长时记录与期望答案要点对应的部分
来源命中 回答引用的来源是否在期望来源范围内 取值:命中、部分命中、未命中、无引用
引用可追溯性 能否从引用定位到原文 取值:可定位到段落、仅定位到文档、无法定位、无引用
答案正确性 回答与期望答案要点的一致程度 取值:完全正确、基本正确(要点齐全但表述有偏差)、部分正确(缺少要点)、错误
来源可信度 综合来源质量给出的等级 高:命中期望来源且可定位到段落,答案与原文一致;中:来源命中但仅定位到文档,或答案基本正确;低:来源未命中、无法定位或答案与来源不一致
判定结论 该条是否通过 取值:通过、有条件通过、不通过。通过要求来源可信度为高且答案完全正确;有条件通过对应来源可信度中;不通过对应来源可信度低或答案错误
问题描述 未通过或有条件通过的原因 具体写明缺失的要点、错误的来源或引用断点,便于修复后复测
核验人、核验日期 责任与时间 填写实际核验人和日期
复测结果 修复后的再次核验结论 填写复测日期与结论,与首次记录区分

来源可信度的三个等级对应不同的处理动作:高可信直接计入通过;中可信需要补充来源位置或修正表述后复测;低可信视为该条未通过,需排查是知识库缺少内容、来源标注缺失,还是回答引用了过期文档。



必填与选填:最小可用字段集


字段齐全适合正式上线验收,时间紧张时可按最小集先跑一轮。必填字段保证两表能关联、能统计、能判定;选填字段用于追溯和过程管理。


表 必填字段 选填字段
测试问题集表 问题编号、知识域、问题类型、测试问题、期望答案要点、期望来源 难度、来源位置、适用版本、登记人、登记日期、状态、备注
答案核验记录表 问题编号、来源命中、引用可追溯性、答案正确性、来源可信度、判定结论 实际回答摘要、问题描述、核验人、核验日期、复测结果

只填必填字段时,验收范围是:每个知识域至少有若干条问题、每种问题类型至少覆盖一次,逐条给出可信度等级和通过与否,最终能算出按知识域和问题类型的覆盖度与通过率。这种最小集适合快速摸底,代价是无法回溯具体回答内容和责任人。正式上线验收建议补齐实际回答摘要、问题描述和核验人,出现争议时能还原判定过程。



填写示例:一条问题从登记到核验的完整记录


以下为演示情景,用于说明两表如何联动,不代表真实项目数据。


登记:表一中的一行


问题编号 知识域 问题类型 难度 测试问题 期望答案要点 期望来源 来源位置 适用版本 状态
Q-012 发布流程 条件判断 中等 灰度发布期间发现严重缺陷,应该回滚还是继续观察?判断标准是什么? 1. 按缺陷等级和影响范围判断;2. 严重缺陷触发回滚;3. 回滚需通知发布负责人 《发布管理规范》 第4章 灰度与回滚 知识库 v2.3 待测

核验:表二中的对应行


问题编号 实际回答摘要 来源命中 引用可追溯性 答案正确性 来源可信度 判定结论 问题描述 复测结果
Q-012 回答给出按缺陷等级判断并触发回滚,未提及通知发布负责人 命中 可定位到段落 部分正确 中 有条件通过 缺少“通知发布负责人”要点,需确认规范原文是否包含该要求 补充知识库条目后复测,结论通过

这条示例体现了核验表的用法:来源命中且可定位,说明引用链路正常;答案缺少一个要点,判定为部分正确,可信度定为中,结论为有条件通过,并在问题描述中写明缺失内容,复测时只针对该缺口验证。若回答引用了《发布管理规范》之外的旧版文档,来源命中应记为未命中,可信度降为低,结论为不通过。


当问题集和核验记录需要在多人之间分配、流转状态时,可以把两张表登记在协作工具中。ONES Assistant 支持基于指定的 Wiki 页面组回答问题并附上引用来源,也支持在 Wiki 页面、附件等知识上下文中进行页面问答和全局知识检索;团队可将问题集作为工作项分配核验人,把核验结论回写到记录中,并借助权限体系控制知识范围,使问答输出过程可追踪、结果可审计。是否采用工具承载取决于团队已有的协作方式,模板本身不依赖特定产品。



覆盖度统计与调整维护方法


两张表填完后,统计分两步:先算覆盖度,确认问题集是否覆盖了该覆盖的知识范围;再算可信度通过率,确认回答质量是否达到上线标准。


覆盖度统计口径


按知识域统计:每个知识域的问题数量、占全部问题的比例、该域内各问题类型的分布。按问题类型统计:每种类型的问题数量与占比,重点看条件判断、边界与例外这类容易遗漏的类型是否有题目。建议同时输出一张交叉表,行是知识域、列是问题类型,单元格填问题数量,空白单元格即为覆盖缺口。


知识域 事实查询 流程步骤 定义解释 跨文档综合 条件判断 边界与例外 合计
需求管理
测试规范
发布流程
接口约定

可信度通过率按“判定结论为通过的问题数 ÷ 该分组问题总数”计算,分别按知识域和问题类型输出。有条件通过和不通过都计入未通过,另附未通过原因分类,如来源缺失、引用断点、答案错误,便于定位是知识库问题还是问答环节问题。


问题集增补与淘汰规则


  • 增补:交叉表中出现空白单元格、线上出现新的高频提问、知识库新增重要文档时,补充对应问题,编号顺延。
  • 淘汰:知识内容已下线、问题与当前业务无关、连续多轮稳定通过且不再有验收价值的问题,标记为淘汰并保留编号,不删除记录。
  • 修订:期望答案要点或期望来源发生变化时,更新表一对应行,同时在表二追加复测记录,保留历史判定。

随知识库变更的更新方式


为问题集设置版本号,与知识库版本对应。知识库发生重大更新时,按“适用版本”字段筛出受影响的问题,执行回归测试,复测结论写入表二。每轮验收结束后归档当轮两张表,下一轮在归档基础上增补,形成可对比的历史记录。这样既能看出覆盖度是否随知识库扩展而提升,也能发现哪些知识域长期存在来源可信度偏低的问题。



常见问题


问题集里的期望答案要点写几条合适?写多了会不会让核验变复杂?


建议每条问题列2至4条必须出现的关键结论,覆盖判定正确所需的最小信息集。要点过多会让核验变成逐字比对,反而降低效率;要点过少则无法区分“基本正确”和“部分正确”。如果一条问题确实涉及多个独立结论,优先拆成两条问题,保持一条问题只问一件事,核验时也更容易定位缺口。


同一问题多轮复测时,核验记录表怎么填才不会覆盖首次结论?


在表二追加新行,沿用同一问题编号,用核验日期区分轮次,首次记录保留不动。复测结果字段填写复测日期与结论,问题描述中写明本轮针对的缺口。这样历史判定可回溯,也能看出某条问题是首次即通过,还是修复后才通过。


来源命中但引用只能定位到文档、定位不到段落,这种情况算通过吗?


按模板口径不算直接通过。来源命中且可定位到段落、答案与原文一致,可信度定为高,计入通过;仅定位到文档时可信度定为中,结论为有条件通过,需要补充来源位置或修正表述后复测。这样处理的原因是:只到文档级别时,核验人无法快速确认回答依据的具体段落,争议时难以还原判定过程。


知识库更新后,问题集要全部重测吗?


不需要全部重测。先按“适用版本”字段筛出受本次更新影响的问题,只对这些执行回归测试,复测结论写入表二。未受影响的问题保留原判定。若更新涉及多个知识域或调整了文档结构,可扩大回归范围,但仍以适用版本为筛选依据,避免每轮都全量重跑。


问题集和核验记录在协作工具里登记,对验收有什么实际帮助?


当问题数量较多、核验人不止一位时,表格文件容易出现版本分散和状态不同步。把问题集作为工作项分配核验人、把核验结论回写到记录中,可以让每条问题的状态和责任人清晰可见。ONES Assistant 支持基于指定的 Wiki 页面组回答问题并附上引用来源,也支持在 Wiki 页面、附件等知识上下文中进行页面问答和全局知识检索;ONES 基于自身权限体系进行知识问答和任务执行,输出过程可追踪、结果可审计。是否采用工具承载取决于团队已有的协作方式,模板本身不依赖特定产品。

animation hi
animation dot left
animation dot right
animation dot right bottom
avatar circle
WeChat QR Code
长按将二维码保存为图片

售前电话

400-188-1518

文章配图预览