【ai产品】1.基础模型概述:RAG
简单来说,就是为了解决大模型的幻觉问题,通过外置一个知识库,当请求相关知识时,优先在数据库中检索相关知识,并将相关知识放入数据库中。
具体的:外部输入数据、经过数据清洗、数据分割后,使用Embedding模型将数据向量化,当需要检索时,通过输入数据的向量与知识库向量做比较,选取欧式距离最近,余弦角度最小的,进行输出,并组合到prompt中。
prompt示例:
【任务描述】
假如你是一个专业的客服机器人,请参考【背景知识】,回答【问题】
【背景知识】
{数据检索得到的相关文本内容}
【问题】
石头扫地机器人P10的续航时间是多久?
具体的:外部输入数据、经过数据清洗、数据分割后,使用Embedding模型将数据向量化,当需要检索时,通过输入数据的向量与知识库向量做比较,选取欧式距离最近,余弦角度最小的,进行输出,并组合到prompt中。
prompt示例:
【任务描述】
假如你是一个专业的客服机器人,请参考【背景知识】,回答【问题】
【背景知识】
{数据检索得到的相关文本内容}
【问题】
石头扫地机器人P10的续航时间是多久?
全部评论
解决模型幻觉只是大模型-RAG中的一环哦,更重要的是构建专用领域的模型,提供垂直的上下文知识哦
相关推荐
08-08 17:16
门头沟学院 运营 点赞 评论 收藏
分享