客服机器人回答得很肯定,知识库里却没有对应规定,这类错误容易直接变成客户理解中的承诺。问题不只是资料少,也可能是系统没有区分检索结果与可用证据。处理时应沿着问题、资料、回答三个环节,找出肯定语气从哪里产生。

先保留客户原问、命中的资料片段和最终回答。仅看回答截图,很难判断系统是在错误资料上推理,还是根本没有找到资料。如果客户问的是定制商品能否退货,检索却命中了普通商品退换说明,即使文字相似,也不能据此回答。商品类型、订单状态和适用地区都是会改变结论的条件,缺少其中一项就应缩小回答范围。

知识库内容也要明确边界。把“通常支持退换”单独做成一个片段,容易丢失原文后面的例外条款。更合理的组织方式是让规则与适用对象、排除情形、更新责任人保持关联。拆分长文是为了便于检索,不应把决定含义的条件拆散。资料更新后,旧版本还在被检索到,同样会造成看似有依据的错误。

客服机器人越自信越要检查知识边界 配图1

回答规则应区分已经确认、需要补充信息和资料未覆盖。已确认的部分可以直接解释,需要订单属性才能判断时,就只询问必要信息;资料未覆盖时,说明无法确认并转交相应岗位。不要让系统为了保持对话流畅,自动补出退款时限、赔付金额或服务范围。这些信息一旦进入对话,客户通常不会把它们理解为语言模型的猜测。

拒答也不必等于把客户推走。以假设的定制退货咨询为例,机器人可以先说明需要核对商品是否已经进入制作,再提供查找订单状态的方法。随后把客户问题、已经获得的状态和缺少的规则一起交给人工。这样,人工接手时能够继续判断,客户也不必重复叙述。单纯回复“请联系客服”,只是把系统内部的信息缺口转嫁给客户。

客服机器人越自信越要检查知识边界 配图2

检索为空与资料互相冲突也应分开处理。前者需要寻找缺失信息,后者需要确认哪个版本有效,不能简单取搜索排名靠前的一条。可以让知识记录带上适用商品和生效状态,在冲突未解除前只说明共同确定的部分。人工确认后更新原资料及索引,再用原问题复测,确保错误答案不是只在一段聊天中被临时纠正。

测试时不要只放知识库能完整回答的问题。应加入措辞相近但适用条件不同的问题,以及材料完全没有覆盖的问题。观察机器人是否会借用邻近规则,是否把用户提出的假设当成事实,是否因为追问而改变已经说明的限制。评分要检查回答依据与业务承诺,而不能只看语气是否自然、句子是否完整。

客服机器人越自信越要检查知识边界 配图3

上线后的纠错记录最好保留错误类型。若多数问题来自版本冲突,应处理资料管理;若检索正确但回答扩写了不存在的承诺,应调整生成约束;若客户必须提供的信息总是缺失,应修改询问流程。把这些问题都归为“模型不够聪明”,容易不断换工具,却没有修复真正出错的环节。

当一类咨询需要频繁由人工补充判断时,可以整理人工实际使用的判断条件,再决定哪些适合写入知识库。涉及个别订单协商的结果,不宜直接升级为通用政策。机器人能够稳定说明已知内容,并把未知内容交给有权限的人处理,才具备继续扩大接待范围的基础。

更新于
返回栏目