备案控制台
开发者社区 云原生 Serverless 文章 正文

Knative: AI 事件驱动场景 Serverless 实践

2021-02-10 847
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
函数计算 FC，180元额度 3个月
推荐场景：
活动用函数FC部署Stable Diffusion 部署通义千问预体验 图生图，部署3D卡通风格模型
简介： Knative 作为主流的开源 Serverless Framework，除了提供应用部署、自动弹性之外，还提供事件驱动能力。在面对 AI 场景时，用户对事件对精细化处理以及节省资源成本都有较高对要求，这里介绍通过Knative实现事件驱动、事件分发与资源自动弹性，很好的满足用户场景的诉求

导读

Knative 作为主流的开源 Serverless Framework，除了提供应用部署、自动弹性之外，还提供事件驱动能力。在面对 AI 场景时，用户对事件对精细化处理以及节省资源成本都有较高对要求，这里介绍通过Knative实现事件驱动、事件分发与资源自动弹性，很好的满足用户场景的诉求。本文会从以下 3 个方面展开介绍：

  • 事件驱动框架：Knative Eventing
  • 事件驱动引擎：事件源介绍
  • AI 事件驱动场景实践


Knative 模型

我们先来整体看一下 Knative 中两大核心模块，Serving 中是通过 Knative Service 提供应用模型，支持多版本管理、自动弹性以及流量灰度发布。Eventing 提供了事件驱动框架，包括事件源、Broker/Trigger模型。接下来我们主要介绍 Knative Eventing。

image.png

Service

manages

Configuration

Serving

Route

10%

Revisionv3

records

90%

history

of

Revisionv2

Revisionv1

Namespace

Trigger

Source

ingress

subscribe

Service

(Callable)

Events

filter

Eventing

ysiiqnd

Broker

Trigger

Source

subscribe

ingress

Service

filter

(Callable)

Events

事件驱动框架：Eventing

Knative 的 Eventing 提供了完整的事件模型，可以很容易地接入各个外部系统的事件。事件接入以后通过 CloudEvent 标准在内部流转，结合 Broker/Trigger 机制给事件处理提供了非常理想的方式。

image.png

  • Knative Eventing 提供的服务是松散耦合，可进行独立开发和部署。服务可跨平台使用（如 Kubernetes, VMs, SaaS 或者 FaaS）
  • 事件的生产者和事件的消费者是相互独立的。
  • 社区提供多种开箱即用的事件源
  • 支持第三方消息系统，提供灵活的扩展性。


关键特性-事件规则

在 Eventing 中通过Broker/Trigger进行事件流转和分发，分发离不开规则的设置，Trigger 中提供了丰富的规则设置能力，如图所示：

image.png

  • Trigger的filter的作用是对Event进行内容过滤。
  • 支持对Event的Attribute以及Data的内容进行过滤。
  • 支持Common Expression Language (CEL) 表达式过滤。
  • 支持通过SourceAndType进行过滤

事件驱动引擎: 事件源

事件源是事件驱动的引擎，Knative社区提供了丰富的事件源，如Kafka、GitHub等。此外还接入消息云产品事件源，如MNS、RocketMQ等。

image.png

事件源

DOE

每

6

Kafka

MNS

OSS

tableStoreRocketMQ

gitlabkubernetes

acr

CloudEvent

Eventing

Broker

Trigger

Trigger

Trigger

Serving

基于镜像发布服务

从源码构建镜像

定时任务

AI音视频处理

这套完备的事件系统可以比较容易的实现事件驱动场景如下：

  • 自动 CICD
  • AI 音视频场景
  • 比如和各种云产品的事件对接，从而实现云产品状态更新自动触发一个服务等


RocketMQ事件源

消息队列RocketMQ版是阿里云基于Apache RocketMQ构建的低延迟、高并发、高可用、高可靠的分布式消息中间件。消息队列RocketMQ版既可为分布式应用系统提供异步解耦和削峰填谷的能力，同时也具备互联网应用所需的海量消息堆积、高吞吐、可靠重试等特性。

RocketMQSource是 Knative 平台的 RocketMQ事件源。其可以将 RocketMQ集群的消息以Cloud Event的格式实时转发到Knative 平台，是 ApaheRocketMQ和 Knative 之间的连接器。

image.png

KNativedataplane

Broker/Tngger

RocketMQ

RocketMQCluster

Services

Source

RocketMQ消息CloudEvent事件


  • 对接RocketMQ消息系统
  • 消息分发到 Knative Service服务

Kafka事件源

消息队列 Kafka 版是阿里云基于 Apache Kafka 构建的高吞吐量、高可扩展性的分布式消息队列服务，广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等，是大数据生态中不可或缺的产品之一，阿里云提供全托管服务，用户无需部署运维，更专业、更可靠、更安全。

Knative 社区提供Kafka事件源，支持开源社区Kafka以及阿里云Kafka产品:

  • 对接Kafka消息系统
  • 消息分发到 Knative Service服务

image.png

8

消息

Katka

Knative

K

KatkaSource

POD

POD

POD

POD

业务服务

AI 事件驱动场景实践

接下来我们以Kafka事件源为例，介绍一个典型的消息驱动场景。

客户是一个线上直播系统，每天都有海量的直播访问，访问量根据直播热度弹性波动，存在不定时激增；同时，直播系统支持用户在线互动，互动行为会通过消息服务（Kafka）实时推送到服务端进行数据和AI处理，处理结果会即时推送回视频流与视频直播产生联动。消息数据的处理主要有以下技术挑战：

1、业务弹性波动，消息并发高。

2、互动实时响应，低延迟。

image.png

ACK+Knative

事件处理

事件网关

事件源

POD

POD

一日

自动弹性

POD

POD

消息队列Kafka

Kafka事件源

事件网关

业务服务

为了满足客户系统对于消息处理的弹性波动、高并发、低时延的要求，客户选择使用阿里云的Knative服务进行数据的弹性处理。阿里云Knative完全契合用户的需求，在兼容k8s标准的基础上，提供了基于事件/消息的容器弹性调度。应用实例数随着业务波峰波谷实时扩容和缩容，真正做到了按需使用，实时弹性的云计算能力。整个过程完全自动化，极大的减少了业务开发人员在基础设施上的心智负担。接下来我们通过一个示例来模拟用户的场景

前提条件

  • 创建ACK/ASK集群，并选择【Knative】进行安装
  • 对于已有ASK集群，部署Knative参考
  • 部署事件驱动Eventing

操作步骤

  1. 部署事件网关

在Knative 组件管理控制台，选择“Kourier”以及“EventGateway” addon组件进行部署

image.png

knastiva-test-pre

脏务兰理

丝件董理

集新信点

朱群:kngtive-test-pre/Knative组件甘理

用新

健有敬

命名空间气4信集

背吃文档

工作负五

访间岗夫:47103.223.162

无状态

杭心姐性

白扶态

超作

横心组件

状

合名空用

打我

详情

部

已邮

Seewing

knatlue--serving

定时仁男

正鲁

泰部哥

容理划

自龙义空话

赛作

*态

青注

创济药呵

适本

Add-on调件

眼务与路巾

未秘

捉供GitHub件退,示:Gl.Hub丁件处理

GITHub

配量专理

饼MNSO事示:于Mn5055再件案人胎限片识

打

开

共于Kafka半性安案

竖促快K:ka412.0.0及以上西木件旺:

5

未开死

HOLm

提东ROCLTKO掌件姿

未部

乐供Kourler网关

未

搜供本件精准谢度功萌

未部

蛋

EwontCatoway

安全督理

  1. 部署事件源。选择 Kafka 事件源进行部署。

image.png

knative-test-pre

年件青理

务障理

红群你

朱群:knative-test-pre/Knative?件理

中名空间55惠

行伟助文档

工作负轧

请间网关:47.103.223.162

植车目件

有北态

注

默态

按心姐件

腐木

命名二月

学药

洋情

y0.130

定对任岛

红话

未享哥

印量

V0.140

曾安妞

add-on组件

状态

密注

争名空间

add-on扭件

创注时间

出乌与晗由

天虹

配置性理

爱等ns0ss+件示件:于Mn5O05件实人

大部哥

￥1.00

订

应用

提供K&IK2.0O及以上播瓜)享知品特于katk事件实

元用置

本城

现洁克挫送

吴5

提供RucketMg4.

RockeTQ

T

优Kouicr碍关

大部

透娜气理

加话

半保鸭件棉准润石功方

共部膏

yo.1.0

EwentCa:awaw

安全畔

  1. 部署服务

这里我们部署一个Knative Service 服务 event-display，用于接收事件。

apiVersion: serving.knative.dev/v1
kind: Service
metadata:
  name: event-display
  annotations:
    networking.knative.dev/flow-controller.class: strict
    networking.knative.dev/ingress.class: kourier.ingress.networking.knative.dev
spec:
  template:
    metadata:
      annotations:
        autoscaling.knative.dev/class: xpa.autoscaling.knative.dev
        autoscaling.knative.dev/maxScale: "100"
        autoscaling.knative.dev/minScale: "1"
        autoscaling.knative.dev/pod-buffer-size: "3"
        autoscaling.knative.dev/gc-time: "30"
    spec:
      containers:
      - image: registry.cn-hangzhou.aliyuncs.com/knative-sample/event-display:0128

部署完成之后，我们可以查看结果：

$ kubectl get po |grep event
event-display-tslr5-deployment-5c9c4c469b-bnjlz                   2/2     Running   0          3h53m
event-display-tslr5-deployment-5c9c4c469b-bwxtm                   2/2     Running   0          3h53m
event-display-tslr5-deployment-5c9c4c469b-fjjr7                   2/2     Running   0          5d13h
  1. 创建事件源CR

创建KafkaSource资源，设置Kafka 对应的topic、consumerGroup、 kourier 网关地址以及用于消费事件的服务event-display。

apiVersion: sources.knative.dev/v1alpha1
kind: KafkaSource
metadata:
  name: kafka-source
  annotations:
    k8s.aliyun.com/domain: event-display.default.example.com
    k8s.aliyun.com/retry-count: "5"
    k8s.aliyun.com/retry-interval: "2"
    k8s.aliyun.com/req-timeout: "60"
spec:
  consumerGroup: demo-consumer
  # Broker URL. Replace this with the URLs for your kafka cluster,
  # which is in the format of my-cluster-kafka-bootstrap.my-kafka-namespace:9092.
  bootstrapServers: 192.168.7.113:9092,192.168.7.110:9092,192.168.7.108:9092
  topics: demo
  sink:
    uri: http://101.200.177.84

创建完成之后，可以查看对应的kafka事件源pod：

$ kubectl get po|grep kafka
kafkasource-kafka-source-a8b95415-703f-4d50-8339-6203f0f6154pzq   1/1     Running   0          5d13h
kafkasource-kafka-source-a8b95415-703f-4d50-8339-6203f0f61x9xc9   1/1     Running   0          5d13h

执行结果

我们通过客户端往kafka消息队列中发送消息进行结果验证，执行如下：

$ kubectl get po
NAME                                                              READY   STATUS    RESTARTS   AGE
event-display-tslr5-deployment-5c9c4c469b-58hv6                   2/2     Running   0          23s
event-display-tslr5-deployment-5c9c4c469b-bnjlz                   2/2     Running   0          4h6m
event-display-tslr5-deployment-5c9c4c469b-bwxtm                   2/2     Running   0          4h6m
event-display-tslr5-deployment-5c9c4c469b-d9vxc                   2/2     Running   0          23s
event-display-tslr5-deployment-5c9c4c469b-fjjr7                   2/2     Running   0          5d13h
event-display-tslr5-deployment-5c9c4c469b-kl827                   2/2     Running   0          24s
event-display-tslr5-deployment-5c9c4c469b-l5642                   2/2     Running   0          24s
event-display-tslr5-deployment-5c9c4c469b-q82pq                   2/2     Running   0          23s
event-display-tslr5-deployment-5c9c4c469b-qh7z5                   2/2     Running   0          24s
event-display-tslr5-deployment-5c9c4c469b-qmcnn                   2/2     Running   0          24s
event-display-tslr5-deployment-5c9c4c469b-t7sv2                   2/2     Running   0          24s
event-display-tslr5-deployment-5c9c4c469b-tpnwk                   2/2     Running   0          24s


总结

本文介绍了 Knative 驱动框架：Eventing，并支持 Kafka 以及 RocketMQ 事件源接入，对于 AI 事件驱动场景下我们如何将消息服务和 Knative 进行结合进行了介绍。欢迎有兴趣的同学进行交流。

image.png


文章标签：
函数计算
云消息队列 Kafka 版
容器服务Kubernetes版
云消息队列 MQ
Perl
容器
测试技术
消息中间件
人工智能
RocketMQ
Kubernetes
Kafka
Apache
Serverless
关键词：
AI实践
函数计算ai
AI Serverless
knative函数计算
函数计算knative
相关实践学习
基于函数计算一键部署掌上游戏机
本场景介绍如何使用阿里云计算服务命令快速搭建一个掌上游戏机。
建立 Serverless 思维
本课程包括： Serverless 应用引擎的概念， 为开发者带来的实际价值， 以及让您了解常见的 Serverless 架构模式
元毅
目录
相关文章
cuicuicuic
|
5天前
|
人工智能 关系型数据库 Serverless
Serverless 应用引擎常见问题之AI应用限制人为限制内存如何解决
Serverless 应用引擎（Serverless Application Engine, SAE）是一种完全托管的应用平台，它允许开发者无需管理服务器即可构建和部署应用。以下是Serverless 应用引擎使用过程中的一些常见问题及其答案的汇总：
cuicuicuic
32 3
阿里云云原生
|
2天前
|
人工智能 算法 Serverless
上海站丨飞天技术沙龙 Serverless + AI 专场开启报名！
"飞天技术沙龙——Serverless 技术实践营"将于2024年5月31日举行，聚焦Serverless在AI中的应用。活动包括演讲、实操，探讨Serverless演进趋势、AI应用开发及降低成本等议题。限额80人，报名审核制，现场还有大奖和证书待您领取。扫描链接<https://summit.aliyun.com/Serverless2024shanghai>报名。
阿里云云原生
145 6
上海站丨飞天技术沙龙 Serverless + AI 专场开启报名！
爱吃糖的范同学
|
5天前
|
机器学习/深度学习 人工智能 算法
【AI 场景】在自主武器中使用人工智能的伦理影响
【5月更文挑战第4天】【AI 场景】在自主武器中使用人工智能的伦理影响
爱吃糖的范同学
43 1
【AI 场景】在自主武器中使用人工智能的伦理影响
爱吃糖的范同学
|
5天前
|
机器学习/深度学习 人工智能 自然语言处理
【AI 场景】如何使用 AI 来改善电子商务平台中的客户体验？
【5月更文挑战第4天】【AI 场景】如何使用 AI 来改善电子商务平台中的客户体验？
爱吃糖的范同学
19 0
爱吃糖的范同学
|
5天前
|
机器学习/深度学习 人工智能 安全
【AI 场景】描述使用 AI 开发虚拟助手所涉及的步骤
【5月更文挑战第4天】【AI 场景】描述使用 AI 开发虚拟助手所涉及的步骤
爱吃糖的范同学
24 1
爱吃糖的范同学
|
5天前
|
机器学习/深度学习 人工智能 监控
【AI 场景】如何应用人工智能来增强企业网络的网络安全？
【5月更文挑战第4天】【AI 场景】如何应用人工智能来增强企业网络的网络安全？
爱吃糖的范同学
32 2
爱吃糖的范同学
|
5天前
|
机器学习/深度学习 数据采集 人工智能
【AI 场景】解释使用人工智能诊断医学图像中疾病的过程
【5月更文挑战第4天】【AI 场景】解释使用人工智能诊断医学图像中疾病的过程
爱吃糖的范同学
24 1
爱吃糖的范同学
|
5天前
|
机器学习/深度学习 人工智能 搜索推荐
【AI 场景】如何使用 AI 向客户推荐个性化产品？
【5月更文挑战第3天】【AI 场景】如何使用 AI 向客户推荐个性化产品？
爱吃糖的范同学
43 16
【AI 场景】如何使用 AI 向客户推荐个性化产品？
爱吃糖的范同学
|
5天前
|
机器学习/深度学习 人工智能 自然语言处理
【AI 场景】人工智能在自然语言理解方面的挑战和解决方案
【5月更文挑战第3天】【AI 场景】人工智能在自然语言理解方面的挑战和解决方案
爱吃糖的范同学
38 11
爱吃糖的范同学
|
5天前
|
传感器 人工智能 自动驾驶
【AI 场景】如何开发用于自动驾驶的人工智能系统？
【5月更文挑战第3天】【AI 场景】如何开发用于自动驾驶的人工智能系统？
爱吃糖的范同学
43 11
云原生

Serverless

热门文章

最新文章

  • 1
    30 秒出服装设计稿，森马用函数计算+AIGC 整“新活”!
  • 2
    thinkphp项目迁移到函数计算
  • 3
    快速搭建基于 Serverless 的 .NET Core 数据库应用
  • 4
    阿里云宣布推出Serverless Kubernetes服务 30秒即可完成应用部署
  • 5
    浅析基于 Serverless 的前后端一体化框架 | 7月2号云栖夜读
  • 6
    浅析基于 Serverless 的前后端一体化框架
  • 7
    基于阿里云Serverless架构下函数计算的最新应用场景详解（一）
  • 8
    阿里云函数计算 - 事件驱动的serverless计算平台
  • 9
    开发函数计算的正确姿势——使用交互模式安装依赖
  • 10
    开发函数计算的正确姿势 —— 开发 NAS 文件管理应用
  • 1
    上海站丨飞天技术沙龙 Serverless + AI 专场开启报名！
    145
  • 2
    夏日主题 AI创造挑战活动来了！
    137
  • 3
    报名开启！2024 开源之夏丨Serverless Devs 课题已上线！
    103
  • 4
    Serverless 应用引擎产品使用之在阿里函数计算中，创建了个关于 stable diffusion 的函数服务，总是很卡如何解决
    186
  • 5
    Serverless 应用引擎产品使用之在阿里云函数计算中，需要处理的文件大于100MB如何解决
    152
  • 6
    Serverless 应用引擎产品使用之在使用阿里云函数计算部署网站时，网站打开不稳定如何解决
    210
  • 7
    Serverless 应用引擎产品使用之在阿里函数计算中开启函数计算 API 接口如何解决
    123
  • 8
    Serverless 应用引擎产品使用之在阿里函数计算中，Php环境，配置取消禁止函数exec如何解决
    52
  • 9
    Serverless 应用引擎产品使用之在Serverless 应用引擎中，nas 容量型的写入速度比较慢如何解决
    34
  • 10
    Serverless 应用引擎产品使用之在阿里函数计算中安装stable diffusion应用如何解决
    48

    • 相关产品

  • 函数计算
    文档详情 产品详情

    • 相关课程

    更多
  • Serverless 技术进阶
  • 达摩院视觉AI精品课
  • AI开发者的Docker实践
  • AI社区开源学习实践
  • 趣味视觉AI应用入门与实战
  • AI数学基础

    • 相关电子书

    更多
  • 释放算力潜能，加速 AI 应用构建
  • 网易游戏机器学习云平台助力AI应用落地实践
  • 智算时代，基于 ACK 落地云原生AI

    • 相关实验场景

    更多
  • 使用函数计算FC部署TodoList应用
  • 函数计算部署AI艺术字应用，生成新春文字头像
  • 使用函数计算部署通义千问大模型实现AI对话
  • 基于Hologres+PAI+计算巢，5分钟搭建企业级AI问答知识库
  • 基于通义千问X函数计算部署AI助手
  • 基于阿里云DeepGPU实例，让AI带你畅玩杭州
    • 下一篇
    2024年阿里云免费云服务器及学生云服务器申请教程参考
    http://www.vxiaotou.com