AnalyticDB与通义千问搭建AI智能客服

一、引言

基于RAG技术的AI智能客服能够高效地检索企业私域知识库,并利用大语言模型理解问题的上下文和意图,生成准确、贴切的答案。开发者将企业私域知识上传到智能问答系统后,企业业务人员就能通过提问快速获取公司政策、操作流程、专业知识等信息,客户也能快速得到产品知识、售后问题的答案。

二、搭建AI智能客服方案概览

大模型虽然可以理解并生成自然语言,但由于缺乏特定领域的专业知识、没有企业的私域知识、知识更新不及时等问题,无法直接用于企业的AI智能客服。为了解决这一问题,企业可以采用RAG技术,从外部知识库(企业的私域知识)检索知识。召回的知识将和原始查询融合成prompt,为大模型提供更丰富的上下文信息,从而生成更加准确的回答。本方案将指导您快速创建一个RAG应用(AnalyticDB for PostgreSQL向量存储+通义千问LLM模型),实现企业的AI智能客服,更高效地解决客户问题。

方案优势

  • 简单易用:只需简单的页面点击,即可实现知识检索增强,使大模型有更丰富的上下文信息并生成更准确的答案。同时,本方案提供智能客服的示例代码,方便您快速体验AI智能客服。
  • 灵活且安全管理:向量数据存储在AnalyticDB for PostgreSQL,企业可灵活管理数据。配套的审计、权限管理等功能可满足企业安全合规需求。
  • 性价比高:完成本方案的部署及体验,预计产生费用不超过10元(假设您选择部署准备中相关规格资源,且运行时间不超过1小时,如果调整了资源规格,请以控制台显示的价格以及最终账单为准)。

方案架构

在阿里云上搭建的云上私有网络如图所示。实际部署时,您可以根据资源规划修改部分设置,但最终形成的运行环境与下图相似。

本方案的技术架构包括以下基础设施和云服务:

  • 1个专有网络 VPC:将云原生数据仓库 AnalyticDB PostgreSQL 版部署在专有网络中。
  • 1台交换机:将云服务器 ECS实例和云原生数据仓库 AnalyticDB PostgreSQL 版实例部署在交换机中,实现它们之间的网络通信。
  • 1台云服务器 ECS:用于部署智能客服。
  • 1个云原生数据仓库 AnalyticDB PostgreSQL 版实例:提供向量数据存储和检索服务。
  • 百炼:一站式的企业专属大模型生产平台。在本方案中,提供通义千问LLM模型的调用以及知识索引功能。

立即体验,感受AI智能客服带来的便捷与创新!

AnalyticDB 与通义千问搭建 AI 智能客服-阿里云技术解决方案

三、部署准备

准备账号

如果您还没有阿里云账号,请访问阿里云账号注册页面,根据页面提示完成注册并进行个人实名认证。

四、一键部署

资源编排(ROS)可以让您通过YAML或JSON文件清晰简洁地描述所需的云资源及其依赖关系,然后自动化地创建和配置这些资源。您可以通过下方提供的ROS一键部署链接,来自动化地完成这些资源的创建和配置。

  • 部署1个专有网络 VPC。
  • 部署1台交换机。
  • 部署1台云服务器 ECS,并在服务器上部署Python3.9环境和AI智能客服的示例代码。
  • 部署1个云原生数据仓库 AnalyticDB PostgreSQL 版实例。
  1. 开通阿里云百炼大模型服务平

a. 登录阿里云账号,访问大模型服务平台百炼控制台。

b. 在左侧导航栏选择模型广场/应用广场,均可点击开通模型调用服务。开通调用服务后才能测试模型体验、调用模型或应用体验服务。

c. 点击去开通按钮,勾选同意协议,点击确认开通,等待服务开通成功提示。即服务开通成功。

  1. 创建大模型应用并获取凭证

a. 进入百炼控制台,选择左侧导航栏我的应用在页面右侧点击新增应用。在对话框,选择智能体应用并创建。

b. 在应用设置页面,单击选择模型中的设置,在弹出来的模型选择框中点击选择模型,在模型列表中选择通义千问-Plus,其他参数保持默认。

您也可以选择输入Prompt,比如设定大模型的角色,以便更专业地回答客户咨询。

c. 单击右上角发布。在页面右侧,输入问题验证模型效果。

您会发现,目前它还无法作为某个手机厂商的客服去回答该公司的手机商品信息。我们将在步骤4中解决这一问题。

d. 在顶部导航栏右侧,点击人型图标,点击API-KEY进入我的API-KEY页面。在页面右侧,点击创建我的API-KEY,在弹出窗口中创建一个新 API-KEY。保存 API-KEY 到本地用于后续配置。

e. 在应用列表中可以查看百炼应用ID。

  1. 一键部署AI智能客服

a. 打开一键配置模板链接前往ROS控制台,系统自动打开使用新资源创建的资源栈页面。(在资源栈页面进行ECS配置填写及百炼模型应用信息填写,参照以下步骤2所示)

b. 选择地域后(本教程以华东1(杭州)地域为例),在配置模板参数步骤中填写资源栈名称账号配置ECS实例配置等参数。(详细参数可前往方案详情查看)

c. 单击下一步:检查并确认、确认配置模板参数价格预览详情。

d. 单击创建,系统将自动创建并部署本教程所需的资源。当资源栈信息页面的状态显示创建成功时表示一键配置完成。

e. 单击输出页签,单击WebUrl的即可访问AI智能客服。

五、体验智能问答

  1. 通过访问应用,验证智能客服的可用性

a. 在ROS控制台资源栈列表页,找到目标资源栈,单击资源栈ID,然后切换到输出页签。

b.复制WebUrl的地址,粘贴到浏览器地址栏,访问AI智能客服。

c. 在提问框中提问,例如“哪款手机续航时间最长”。

e. 您可以看到此时大模型的回答参考了您上传的百炼系列手机产品介绍。

  1. 通过检查知识索引的命中,验证知识召回的准确性

在百炼控制台,单击左侧导航栏的数据应用>知识索引,找到目标知识库,单击右侧命中测试。输入相应的问题,查看召回的知识切片及各切片的命中率。

借助AnalyticDB for PostgreSQL的高效向量数据存储和检索,通过调整相似度阈值,可以优化知识召回的准确性,确保大模型在回答问题时参考到最相关的企业私域知识,从而生成更加准确和有用的回答。

六、完成及清理

清理资源

在本方案中,您创建了1台云服务器 ECS实例、1个云原生数据仓库 AnalyticDB PostgreSQL 版实例、1个百炼应用、1个安全组、1个交换机、1个专有网络 VPC。完成本文方案的体验后,如需删除资源,可按下文操作。

  • 删除云服务器 ECS实例、云原生数据仓库 AnalyticDB PostgreSQL 版实例、安全组、交换机、专有网络 VPC,可以在ROS控制台找到目标资源栈,单击删除,选择删除方式为释放资源。
  • 删除百炼应用,需要登录百炼控制台我的应用页面,在应用右上角单击 > 删除应用。在数据处理页面和数据应用 > 知识索引页面,找到上传的数据和创建的知识库,单击删除。

想必你通过实操,已经掌握了如何使用AnalyticDB与通义千问搭建AI智能客服。

现在邀请你来到阿里云开发者社区体验使用AnalyticDB与通义千问搭建AI智能客服~

AnalyticDB 与通义千问搭建 AI 智能客服-阿里云技术解决方案