魔搭中文开源模型社区:模型即服务-魔搭?平台工程框架介绍(上)

本文涉及的产品
交互式建模 PAI-DSW,5000CU*H 3个月
简介: 魔搭中文开源模型社区:模型即服务-

作者:陈颖达,魔搭社区架构师

 

一、 ModelScope模型社区简介

 

image.png

 

Model as a service的主旨是让AI爱好者、使用者、开发者、研究者能够零门槛的体验模型,简单快速的使用模型,给予模型定制完整的链路,让模型定制能够在云端部署。

 

image.png

 

ModelScope社区以模型为中心,汇聚了各领域的优质模型。以云原生设计为基础,让模型开箱即用,降低使用者的门槛。

 

image.png

 

ModelScope社区坚持开源开放原则,逻辑部分完全开源,用户可直接对接所有模型或接入代码。与此同时,ModelScope社区完全拥抱各种AI框架、训练模型,方便大家使用。

 

ModelScope社区以开发者为中心,让开发者更好的使用社区和模型。通过各领域的数据集管理,构建模型与数据的双轮驱动。

 

image.png

 

ModelScope社区立志覆盖全频谱的不同使用者,用户可以直接在ModelScope页面,进行模型的试验和使用。

 

对于有一定开发能力的用户,只需要通过一两行代码,就可以直接使用模型。与此同时,ModelScope提供云服务以及免费的计算算力,方便大家应用模型,一键部署上云。

 

image.png

 

如上图所示,是ModelScope社区的技术架构。灰色部分是后端的模型服务,以及数据集服务。社区提供了生产化的版本管理、血缘管理等一系列功能。

 

紫色部分是社区整体开源的模型代码、模型接入、模型交互等服务,主要面向开发者。

 

在网站前端和页面部分,社区打通云上推理服务、云上Notebook等产品,为用户提供直观易用的入口。

 

image.png 

 

ModelScope社区基于云底座,为用户构建了零门槛的线上模型体验服务。通过ModelScope与云上服务的无缝对接,各模态模型用户均可无门槛体验试用。对于模型开发者来说,用户可以在云端享受推理服务,当模型上传,支持自助式部署。

 

相关文章
|
4天前
|
自然语言处理 开发者 异构计算
社区供稿 | Llama3-8B中文版!OpenBuddy发布新一代开源中文跨语言模型
此次发布的是在3天时间内,我们对Llama3-8B模型进行首次中文跨语言训练尝试的结果:OpenBuddy-Llama3-8B-v21.1-8k。
|
4天前
|
数据可视化 物联网 Swift
谷歌发布开源LLM Gemma,魔搭社区评测+最佳实践教程来啦!
Gemma是由Google推出的一系列轻量级、先进的开源模型,他们是基于 Google Gemini 模型的研究和技术而构建。
|
4天前
|
人工智能 知识图谱 Windows
Mistral 7B v0.2 基础模型开源,魔搭社区微调教程和评测来啦!
Mistral AI在3月24日突然发布并开源了 Mistral 7B v0.2模型,有如下几个特点
|
4天前
|
编解码 JSON 数据可视化
DeepSeek VL系列开源,魔搭社区模型微调最佳实践教程来啦!
3月11日,DeepSeek-AI开源了全新多模态大模型DeepSeek-VL系列,包含1.3b、7b两种不同规模的4个版本的模型。
|
12月前
|
机器学习/深度学习 API 开发工具
|
7月前
|
数据可视化 PyTorch 云栖大会
IDEA研究院Ziya2-13B首发魔搭社区(含社区推理微调最佳实践教程)
10月16日,IDEA研究院(粤港澳大湾区数字经济研究院)CCNL封神榜团队开源中文基座模型Ziya2-13B-Base及其对话模型Ziya2-13B-Chat,两款模型均完全免费、可商用,已在魔搭社区首发上架。
|
7月前
|
人工智能 自然语言处理 数据可视化
多语言对话模型 openbuddy-mistral-7b,魔搭社区免费算力环境最佳实践
近日,法国人工智能初创公司 Mistral AI 发布了一款新模型 Mistral 7B,其在每个基准测试中,都优于 Llama 2 13B,同时已免费开源可商用!
|
12月前
|
存储 弹性计算 Cloud Native
魔搭中文开源模型社区:模型即服务-魔搭?平台工程框架介绍(下)
魔搭中文开源模型社区:模型即服务-魔搭?平台工程框架介绍
737 1
|
12月前
|
数据采集 机器学习/深度学习 人工智能
|
12月前
|
人工智能 达摩院 API
http://www.vxiaotou.com