阿里云百炼之RAG算法能力分享会来喽|速来围观~

简介: 阿里云百炼是基于通义大模型、行业大模型以及三方大模型的一站式大模型开发平台。提供完整的模型训练工具和全链路开发套件,预置丰富的应用插件,提供便捷的集成方式,结合企业专属数据和API,帮企业高效完成大模型应用构建。RAG检索增强应用是在通义千问-Max大模型基础之上,专项增强「基于知识检索的大模型生成能力」,支持基于结构化/非结构化内容的文字生成场景。

2024年1月,在知乎课堂直播间中,阿里云-飞天实验室-算法专家余海洋分享了大模型服务平台中RAG算法能力建设分享。在直播中分别从五个方面介绍了RAG检索能力:

  1. 易用:结合企业知识库快速创建大模型应用
  2. RAG-预置开箱即用大模型应用
  3. 企业知识搜索增强
  4. 文档问答算法流程
  5. 文档解析技术
  6. 难点

下面我们通过观看下方视频进一步探索RAG检索增强问答的奥秘吧?~

常见问题

小编汇总了直播间中提到的问题及回答,请查看下方内容了解哦?

1、对于我自己定义的插件或函数,assistant-api是如何理解插件或函数的参数,并使用他们的?

答:自定义API插件是可以理解的,会遵循协议,传给大模型,让大模型进行理解。对于函数而言,大模型会学习传入的参数信息,会返回完整的结果。


2、agent和assistant-api的最大区别是什么?

答:调整插件模型、基于上下文的理解,用户可以自己去开发,而assistant-api是可以提供各种类,方便调优。


3、直播中讲解的版本,预计什么时间发布上线?

答:当前版本已经上线,可以登陆阿里云百炼管理后台进行体验。


4、RAG模型版本的更新迭代时间大概是多久?

答:本身基础能力比较强,对于检索能力也是持续迭代,迭代时间比较快,没有固定周期。


5、阿里云百炼是通义千问plus版?

答:阿里云云百炼是一个提供模型的平台,包含通义千问系列的模型。


6、构建好这个模型服务之后,可以生成Api供自己的业务代码调用吗?

答:可以的,阿里云百炼提供API服务,详情:https://help.aliyun.com/document_detail/2712191.html.


7、后面还会支持更多模型吗?

答:会的,后面可支持的版本会多样化。


8、应用广场后面会上架哪些应用,三方应用可以上架么?有什么要求吗?

答:可以的,具体上架要求需要跟我方商务同学进一步沟通。


9、插件中心会提供保密吗?

答:支持数据、API参数传输加密,其他的诉求可以沟通。


10、RAG在哪些领域都得到了应用,展开说说?

答:RAG模型凭借其强大的检索与生成能力,在问答系统、对话系统、文本摘要、知识图谱构建与推理、教育与培训、客户服务、新闻与内容创作以及智能搜索与推荐等多个领域均展现出广泛的应用潜力和价值。


RAG检索增强操作指南

通过视频学习了模型调优的概念、使用说明与相关实践案例的指引。那让我们登录阿里云百炼控制台,小试牛刀一下!

一般来讲,体验RAG检索增强应用有三个主要过程,包括:

  • 数据准备:提前准备让RAG检索的文档内容;
  • 创建RAG检索增强应用:需要手动创建RAG检索增强应用,开启检索范围;
  • 应用测试:最后需要验证模型检索的程度情况。

第一步:上传企业数据文档

企业知识库目前支持OSS和向量数据库存储,其中需要先进行账号授权,详细授权操作步骤请参考文档:https://help.aliyun.com/document_detail/2586437.html进行配置。此处不再重复。

路径:首次上传文件,点击上传企业知识按钮,进入上传文件页面。

选择需要模型学习的文件,上传后点击确认导入等待上传状态。

说明

  • 若文件上传的格式为pdf、doc、docx时,每次最多只能上传20个文件且单个文件小于100M,文档页数低于100页。
  • 若上传的格式为Excel时,每次最多只能上传20个文件,且单个文件小于100M,文档内容小于1000行数据。
  • 具体导入说明可以在上传页面中查看详情。


老用户必看,新用户可忽略

阿里云百炼提供两个默认ES向量数据库,按照知识库名称分类对比能力:

  • 默认知识库:近期新上线的能力,检索效果相对较好,但上传的文件没有预览功能;
  • 默认:最先支持的能力,检索效果一般,但上传的文件有预览功能;(2024年3月15日以后开通的阿里云百炼用户则没有该选项)

您可以按照对比按需选择。

状态目前包括:导入中、导入完成、导入失败;当状态为导入完成时即可用于模型测试验证

当上传的文档为Excel时,需要先下载预置的文件模板,按照模板的提示填充内容后再上传文件。

知识标签

可以通过设置标签的方式将上传的文档进行分类,最多支持设置50个标签。在文档问答检索中,也可以通过标签的方式进行检索。

点击新增标签,输入标签名称点击确定。

点击已经上传文档的编辑按钮,选择标签后点击保存,文档标签设置完成。

可以通过设置标签类型,实现指定大模型的检索知识范围

批量管理

支持批量管理标签和批量删除文档功能。

第二步:创建RAG检索增强应用

路径:应用广场--点击RAG检索增强应用模板下方的创建应用按钮--输入应用名称后,点击确定。

image.png

选择模型,配置检索知识范围后,点击创建完成。

image.png

此时创建完成的应用,可以在我的应用中查看。

image.png

第三步:测试

应用体验中心测试

一共有两种方式完成测试体验,分别包括:

路径1:点击我的应用--新建应用下方的测试按钮,可以进入测试窗;

image.png

路径2:点击应用体验中心--选择新建的RAG检索增强应用进行测试。

image.png

测试示例:

prompt:民法典第一条内容

模型回复:第一条  【立法目的】为了保护民事主体的合法权益,调整民事关系,维护社会和经济秩序,适应中国特色社会主义发展要求,弘扬社会主义核心价值观,根据宪法,制定本法。


tips可以指定模型返回答案的来源信息。

image.png

答案来源于我上传的文档内容:

image.png


API接口测试

路径:点击我的应用--RAG检索增强应用下方的调用按钮,根据API接口文档进行体验:https://help.aliyun.com/document_detail/2712180.html

image.png


以上就是RAG检索增强应用的完整体验流程啦,您是否也一起跟着练习了呢?在练习过程中是否有需要反馈我们进行优化或者改善的呢?快在下方留言区中告诉我吧~


今天的分享内容就到此结束啦,是不是又get了新技能!下期想了解什么内容也可以在评论区进行互动哦,有机会获

得精美礼品哦~就酱啾咪(* ̄︶ ̄)


相关文章
|
5天前
|
人工智能 算法 物联网
阿里云百炼最新能力升级,你都有哪些期待?
阿里云百炼大模型服务产品全新升级,探索算法和技术创新,共享阿里集团内环业务的模型构建经验。
|
5天前
|
弹性计算 API Python
阿里云百炼应用之流程编排
阿里云通义百炼平台流程编排使用教程。
|
5天前
|
机器学习/深度学习 人工智能 安全
AI战略丨阿里云百炼再升级:模型、工具、AI能力,快速接入、应有尽有
阿里云百炼持续加码模型服务,基于丰富的底层计算能力与通义系列模型的最佳实践,构建训练评测、标注、部署全生命周期模型工具,帮助企业、开发者在云上一站式调用、优化大模型,成为大模型时代的商业化基础设施。
|
5天前
|
机器学习/深度学习 编解码 人工智能
阿里云百炼的模型怎么选择并体验
本模块为您提供大模型服务平台百炼中支持的模型类型,便于您快速根据自己的需求选择所需模型!
阿里云百炼商业化升级公告
阿里云百炼大模型于2024年3月15日完成商业化升级,本次商品升级后不影响计费价格,调用方式和服务也不会改变和中断,无需手动操作。
|
5天前
|
算法 数据安全/隐私保护 计算机视觉
基于二维CS-SCHT变换和LABS方法的水印嵌入和提取算法matlab仿真
该内容包括一个算法的运行展示和详细步骤,使用了MATLAB2022a。算法涉及水印嵌入和提取,利用LAB色彩空间可能用于隐藏水印。水印通过二维CS-SCHT变换、低频系数处理和特定解码策略来提取。代码段展示了水印置乱、图像处理(如噪声、旋转、剪切等攻击)以及水印的逆置乱和提取过程。最后,计算并保存了比特率,用于评估水印的稳健性。
|
2天前
|
算法
m基于BP译码算法的LDPC编译码matlab误码率仿真,对比不同的码长
MATLAB 2022a仿真实现了LDPC码的性能分析,展示了不同码长对纠错能力的影响。短码长LDPC码收敛快但纠错能力有限,长码长则提供更强纠错能力但易陷入局部最优。核心代码通过循环进行误码率仿真,根据EsN0计算误比特率,并保存不同码长(12-768)的结果数据。
20 9
m基于BP译码算法的LDPC编译码matlab误码率仿真,对比不同的码长
|
3天前
|
算法
MATLAB|【免费】融合正余弦和柯西变异的麻雀优化算法SCSSA-CNN-BiLSTM双向长短期记忆网络预测模型
这段内容介绍了一个使用改进的麻雀搜索算法优化CNN-BiLSTM模型进行多输入单输出预测的程序。程序通过融合正余弦和柯西变异提升算法性能,主要优化学习率、正则化参数及BiLSTM的隐层神经元数量。它利用一段简单的风速数据进行演示,对比了改进算法与粒子群、灰狼算法的优化效果。代码包括数据导入、预处理和模型构建部分,并展示了优化前后的效果。建议使用高版本MATLAB运行。
|
5天前
|
算法 计算机视觉
基于高斯混合模型的视频背景提取和人员跟踪算法matlab仿真
该内容是关于使用MATLAB2013B实现基于高斯混合模型(GMM)的视频背景提取和人员跟踪算法。算法通过GMM建立背景模型,新帧与模型比较,提取前景并进行人员跟踪。文章附有程序代码示例,展示从读取视频到结果显示的流程。最后,结果保存在Result.mat文件中。
|
5天前
|
资源调度 算法 块存储
m基于遗传优化的LDPC码OMS译码算法最优偏移参数计算和误码率matlab仿真
MATLAB2022a仿真实现了遗传优化的LDPC码OSD译码算法,通过自动搜索最佳偏移参数ΔΔ以提升纠错性能。该算法结合了低密度奇偶校验码和有序统计译码理论,利用遗传算法进行全局优化,避免手动调整,提高译码效率。核心程序包括编码、调制、AWGN信道模拟及软输入软输出译码等步骤,通过仿真曲线展示了不同SNR下的误码率性能。
9 1
http://www.vxiaotou.com