💬 标注回复

什么是标注回复

标注回复是指通过人工编辑问答对等形式，为应用提供可定制的高质量问答回复能力。

标注回复的适用场景

1. 标注回复适用于为特定领域做定制化回答：比如在客服问答情景，对于特定问题，如果希望确保系统以“标准答案”回答，或对于某些问题“不予回答”，则可以使用标注回复能力给予定制。
2. 产品 DEMO 快速调优： 在产品的 POC 阶段，可通过标注回复实现定制化回答，以提升问答结果的生成预期，提升体验。

标注回复相当于提供了另一套检索增强系统，跳过大模型的生成环节，规避 RAG 的生成幻觉问题。

标注回复实践

在使用标注回复能力前，需要先做以下准备：

1. 准备问答对数据：提供问题和它的标准答案
2. 问答对向量化：把上述问答对，进行向量化处理，便于后续检索

提供问答对数据时，可参考以下表格，表格中除了 QA 对，还额外增加了「相似问题」列，以提升检索效果：

完成上述准备后，后续用户进行提问时，可按以下步骤执行：

1. 问题检索：将用户提问向量化，查询中是否有与之相似的标注问题
2. 直接回答：若存在相似问题，则直接返回标注中与问题相对应的答案，不再传递至 RAG 或 LLM
3. RAG 或 LLM 回答：若不存在相似问题，则把问题传递至 RAG 或 LLM