[行业应用] 如何使用自己的的知识库/聊天记录打造AI聊天机器人客服[代码分享]

提到客服聊天机器人很多人就联想到了大模型微调，然后上手后发现并不能实现符合预期的聊天，这是一个误区，是因为对LLM任务线性流程的不了解，对整个AI工作流不理解，我们在处理LLM任务时需要考虑到多个实现方法，这是顺序，从即时工程开始>RaG>然后进行微调。把这些方法看做是解决问题的杠杆，你需要调节杠杆的配合才能处理复杂且个性化的应用需求，这些都是LLM所包含的主要能力，所以我们的工作就是优化这些能力。

开展LLM线性工作流

典型的 LLM 任务将从左下角的提示工程开始，我们在此进行测试、学习和评估以获得一个基准。一旦我们获得了基准示例并评估出它们不正确的原因，我们就可以采取其中一个措施：



工作流程中主要的问题包括

1、RAG 优化：
1）模型缺乏上下文知识（因为它不在其训练集中）；
2）知识库过时，或不对；
3）需要专有信息知识，这是保证准确率最关键的因素。

2、LLM 优化：
1）模型产生的结果不一致且格式不正确；
2）语气或说话风格不正确；
3）推理没有得到一致遵循。这是保证准确率最关键的因素。

这个过程实际上变成了一系列优化步骤，我们评估、提出如何优化的假设、应用它并重新评估下一步


举例说明



在此示例中，我们执行以下操作：
[提示词]从提示词开始，输入提示词然后评估其表现
[提示词工程]添加样本参考，这应该可以提高结果的一致性
[RAG]添加检索步骤，以便根据问题动态地引入少量样本，这通过确保每个输入的相关上下文来提高性能
[微调大模型]准备 50 多个示例的数据集并微调模型以提高风格一致性
[RAG]调整检索并添加事实核查步骤来发现错误，从而实现更高的准确率
[RAG]使用包含增强型 RAG 输入的新训练示例重新训练微调模型

这是针对复杂个性化业务问题的典型优化流程，它帮助我们决定是否需要更多相关上下文，或者是否需要模型中更一致的行为。
举个不太恰当的形容 RAG像是知识库，微调像是嘴，提示词工程像是命令。虽然不太恰当但是你容易理解。

打造客服聊天机器人的实际示例

让我们来保证回答问题是符合预期的，通过提示词工程和RAG微调的组合方式来，实现任何行业都可以轻松打造的机器人底层技术逻辑。
我把写好的代码分享出来，直接抄就可以了。

import openai
import pandas as pd
from sentence_transformers import SentenceTransformer, util
import torch
import re

# 设置API密钥
openai.api_key = "your_api_key_here"

# 初始化SentenceTransformer模型
embedder = SentenceTransformer('paraphrase-M

支付200金钱，阅读全文

还有更多的精彩内容，作者设置为付费后可见