微信扫一扫 分享朋友圈

已有 52 人浏览分享

[行业应用]    如何使用自己的的知识库/聊天记录打造AI聊天机器人客服[代码分享]

行业应用 2024-6-20 00:48:19520
提到客服聊天机器人很多人就联想到了大模型微调,然后上手后发现并不能实现符合预期的聊天,这是一个误区,是因为对LLM任务线性流程的不了解,对整个AI工作流不理解,我们在处理LLM任务时需要考虑到多个实现方法,这是顺序,从即时工程开始>RaG>然后进行微调。把这些方法看做是解决问题的杠杆,你需要调节杠杆的配合才能处理复杂且个性化的应用需求,这些都是LLM所包含的主要能力,所以我们的工作就是优化这些能力。

开展LLM线性工作流

典型的 LLM 任务将从左下角的提示工程开始,我们在此进行测试、学习和评估以获得一个基准。一旦我们获得了基准示例并评估出它们不正确的原因,我们就可以采取其中一个措施:

Chatgpt-如何使用自己的的知识库/聊天记录打造AI聊天机器人客服[代码分享](1)

工作流程中主要的问题包括

1、RAG 优化:
1)模型缺乏上下文知识(因为它不在其训练集中);
2)知识库过时,或不对;
3)需要专有信息知识,这是保证准确率最关键的因素。

2、LLM 优化:
1)模型产生的结果不一致且格式不正确;
2)语气或说话风格不正确;
3)推理没有得到一致遵循。这是保证准确率最关键的因素。

这个过程实际上变成了一系列优化步骤,我们评估、提出如何优化的假设、应用它并重新评估下一步


举例说明

Chatgpt-如何使用自己的的知识库/聊天记录打造AI聊天机器人客服[代码分享](2)

在此示例中,我们执行以下操作:
[提示词]从提示词开始,输入提示词然后评估其表现
[提示词工程]添加样本参考,这应该可以提高结果的一致性
[RAG]添加检索步骤,以便根据问题动态地引入少量样本,这通过确保每个输入的相关上下文来提高性能
[微调大模型]准备 50 多个示例的数据集并微调模型以提高风格一致性
[RAG]调整检索并添加事实核查步骤来发现错误,从而实现更高的准确率
[RAG]使用包含增强型 RAG 输入的新训练示例重新训练微调模型

这是针对复杂个性化业务问题的典型优化流程,它帮助我们决定是否需要更多相关上下文,或者是否需要模型中更一致的行为。
举个不太恰当的形容 RAG像是知识库,微调像是嘴,提示词工程像是命令。虽然不太恰当但是你容易理解。

打造客服聊天机器人的实际示例

让我们来保证回答问题是符合预期的,通过提示词工程和RAG微调的组合方式来,实现任何行业都可以轻松打造的机器人底层技术逻辑。
我把写好的代码分享出来,直接抄就可以了。

import openai
import pandas as pd
from sentence_transformers import SentenceTransformer, util
import torch
import re

# 设置API密钥
openai.api_key = "your_api_key_here"

# 初始化SentenceTransformer模型
embedder = SentenceTransformer('paraphrase-M
支付200金钱,阅读全文
还有更多的精彩内容,作者设置为付费后可见
  • 联系我们
  • 邮箱:1992608358#qq.com(请把#改成@)
  • 微信:mianfeixueai
  • QQ客服 1992608358
  • 工作时间:周一至周五(早上9点至下午5点)
  • 微信公众平台

  • 扫描访问手机版

QQ|NIUBOYI ( 京ICP备17025393号 )|网站地图

GMT+8, 2024-7-19 07:08 , Processed in 0.048713 second(s), 39 queries .

POWERED BY NIUBOYIAI! 主理人:NIUBOYIAI  点亮哥

Copyright © 2001-2020, NIUBOYI AI.