阿里云K8s+Istio+Knative搭建Serverless平台

本文涉及的产品
简介: 本文以一个Nodejs前端开发者角度出发,从零基于阿里云平台能力搭建一个弹性的Serverless平台的记录。希望对也想了解这个产品整体的小伙伴们有一定帮助 以上我们利用阿里云K8s+Istio+Knative 搭建Serverless平台 - 部署了k8s集群 - 部署了Istio - .

前言

本文以一个Nodejs前端开发者角度出发,从零基于阿里云平台能力搭建一个弹性的Serverless平台的记录。希望对也想了解这个产品整体的小伙伴们有一定帮助。

官方文档:https://help.aliyun.com/document_detail/121509.html
控制台:https://cs.console.aliyun.com/

为什么是Knative

项目主页:https://knative.dev/
项目仓库:https://github.com/knative

总结为下面两张之前我分享的PPT

  • knative 定位:
    enter image description here
  • knative 三大组件:
    enter image description here

前置依赖

  • 创建一个k8s集群,且集群中Worker节点的数量大于等于3个。
  • 部署 Istio。

下图可知它们之间的关系:
enter image description here

部署k8s集群

文档:https://help.aliyun.com/document_detail/86488.html
Kubernetes 是流行的开源容器编排技术,按照以下步骤快速创建一个k8s集群

  1. 选择标准托管k8s
  2. 创建专有网络和虚拟交换机, 否则无法选择购买实例规格
  3. 选择worker实例规格,因为是体验平台,故我选择了3台最小规格支持Pod的实例, 这是最低要求。因为是托管k8s集群,故不需要选择master
    enter image description here
  4. 创建和选择 密钥对,后面在本机电脑操作远端服务的认证
  5. 公网访问:使用 EIP 暴露 API Server 记得选择上集群创建好不能修改, 不然无法在本机电脑上通过http url 访问服务
  6. 选择上日志服务
  7. 保障账户余额不低于100
  8. 其他默认配置

点击创建k8s集群,所有检查项通过后,约10 分钟创建成功所有资源
enter image description here

部署Istio

文档:https://help.aliyun.com/document_detail/89805.html
Istio为解决微服务的分布式应用架构在运维、调试、和安全管理等维度存在的问题,可通过部署Istio创建微服务网络,并提供负载均衡、服务间认证以及监控等能力,同时Istio不需要修改服务即可实现以上功能
通过下面步骤快速在上面的k8s中部署istio

  1. 选择对应集群部署istio
    enter image description here
  2. 如果要实现 Tracing 分布式追踪服务,勾选开启
  3. 在链路追踪服务,打开Region对应信息查看token, 复制与集群region一直的内网接入http url 到istio配置中
  4. 其他默认配置,点击部署,很快相应服务部署成功再k8s集群上
    enter image description here

部署Knative

文档:https://help.aliyun.com/document_detail/121509.html
在控制台左侧,找到Knative(公测),选择组件管理,点击右上方一键部署,部署我们前面讲到的Knative 三大组件

  • Tekton 组件 (原build 组件不在推荐) - v0.9.2
  • Serving 组件 - v0.11.0
  • Eventing 组件 - v0.11.0
    enter image description here

检查未通过,需要开启 istio-ingressgateway,解决:
在控制台> 服务网格 > istio管理, 点右侧更新
将如下,光标高亮 gateways enabled 默认false 修改为 true, 点击更新后,
enter image description here

再次部署kantive组件,很快即可部署成功
enter image description here

部署服务

下载Knative 官方服务demo 工程

git clone https://github.com/knative/docs

# nodejs demo 服务
cd docs/serving/samples/hello-world/helloworld-nodejs

查看修复成,你想要的服务


const express = require('express');
const app = express();

app.get('/', (req, res) => {
  console.log('Hello world received a request.');

  const target = process.env.TARGET || 'World';

 // 我添加了输出,可以查看流量访问的不同服务版本
  const kRevision = process.env.K_REVISION || '';  
  res.send(`Hello ${target} (revision: ${kRevision}) \n`);
});

const port = process.env.PORT || 8080;
app.listen(port, () => {
  console.log('Hello world listening on port', port);
});

镜像构建与发布

# 目前 Docker 官方维护了一个公共仓库Docker Hub 我们将自己构建的镜像发布上去
# https://hub.docker.com/
# 进行镜像构建, 其中859652049替换成你的账号名
docker build -t 859652049/helloworld-nodejs .
# 推送镜像到公共仓库Docker Hub
docker push 859652049/helloworld-nodejs

控制台可视化部署

  1. 回到控制面板 > Knative > 服务管理 > 选择k8s集群命名空间default, 创建服务
  2. 支持根据模板快速创建 和 可视化编辑创建。
  3. 我们选择可视化创建
  4. 镜像名称输入:docker.io/859652049/helloworld-nodejs (也可以用你上面自己创建的镜像)
  5. 配置环境变量 TARGET: NodeX 1 (服务代码里用到这个环境变量)
  6. 其他默认配置,可以自由配置

    • 最大并发不控制
    • 弹性实例最小0, 最大100
    • CPU 0.25Core, 内存 125M
    • 不挂载额外存储数据卷

enter image description here

服务部署成功
enter image description here

访问服务,其中下面的ip 和 host 对应,上图中默认域名和访问网关ip

curl -H "HOST: nodejs.default.example.com" http://47.111.223.97 

或者通过绑定公网ip 到默认域名上

# 推荐工具SwitchHosts https://github.com/oldj/SwitchHosts/blob/master/README_cn.md
47.111.223.97 nodejs.default.example.com

两种方式,接口数据返回成功
enter image description here
enter image description here

Kubectl命令行部署

文档:https://help.aliyun.com/document_detail/86494.html

  1. 安装 kubectl 客户端,根据文档, 我这边mac 通过docker 客户端 Preferences 设置中 enable kubernetes 后安装了。
  2. 配置登录凭据
  3. 集群列表,点击集群名,选择KubeConfig(公网访问)页签,并单击复制,将内容复制到本地计算机的 $HOME/.kube/config
    enter image description here
  4. 执行 kubectl get revisions 查看部署服务的版本,如下可以看到我们上面通过控制台可视化部署的服务nodejs, 一个版本nodejs-dn5vh
    enter image description here

5.通过kubectl 部署新的一个版本

还是我们之前使用的 helloworld-nodejs 工程, 将配置文件service.yaml

apiVersion: serving.knative.dev/v1alpha1
kind: Service
metadata:
  name: nodejs # 服务名
  namespace: default  # 服务部署的命名空间
spec:
  template:
    metadata:
      name: nodejs-dn5vh-v2
    spec:
      containers:
      - image: docker.io/859652049/helloworld-nodejs
        env:
        - name: TARGET
          value: "NodeX 2" # 环境变量更新为2
  traffic:  # 设置流量分配到不同服务版本, 也可通过如下图可视化修改配置
    - tag: current
      revisionName: nodejs-dn5vh # 修改为自动可视化自动生成的版本号
      percent: 50 # 50% 流量版本1
    - tag: candidate
      revisionName: nodejs-dn5vh-v2  # 与当前版本号一致
      percent: 50  # 50% 流量版本2
    - tag: latest
      latestRevision: true
      percent: 0
  1. 部署服务
kubectl --namespace default apply -f ./service.yaml 
  1. 多次访问服务,流量按比例导入到2个版本
    enter image description here

enter image description here
enter image description here

自定义域名

在Knative Serving route 路由中默认使用 example.com 作为默认域名,route 完全定义的域名格式默认为:
{service}.{namespace}.{default-domain} ,如:nodejs.default.example.com

域名A记录到网关

  1. 首先你要有个阿里云备案过的域名,否则最后访问会显示需要接入备案
  2. 将域名 A记录 指向自己的公网网关地址,如上:47.111.223.97
    这个有个注意点,因为服务部署的命名空间和服务名 都会不断变化,或者有多个。故A记录时候使用泛域名绑定

比如 dev.lianxuify.com 这个子域名是我用来开发测试的
dev.lianxuify.com
nodejs.default.dev.lianxuify.com
nodejs-1.default.dev.lianxuify.com

  1. 修改默认域名example.com 为 dev.lianxuify.com

通过控制台配置

菜单 Knative > 组件管理 > 点击核心组件Serving 详情 > 自定义域名模板 > 点击查看yaml

apiVersion: v1
data:
  _example: |
    ################################
    #                              #
    #    EXAMPLE CONFIGURATION     #
    #                              #
    ################################

    # This block is not actually functional configuration
    # ....
    example.org: |
      selector:
        app: nonprofit

    # Routes having domain suffix of 'svc.cluster.local' will not be exposed
    # through Ingress. You can define your own label selector to assign that
    # ...
    svc.cluster.local: |
      selector:
        app: secret
  # 以上都是注释
  dev.lianxuify.com: '' # 自定义域名,仅需要添加该行,前面添加两个空格,与顶部_example对齐
kind: ConfigMap
metadata:
  creationTimestamp: '2020-02-05T15:21:13Z'
  labels:
    serving.knative.dev/release: v0.11.0
  name: config-domain
  namespace: knative-serving
  resourceVersion: '83466654'
  selfLink: /api/v1/namespaces/knative-serving/configmaps/config-domain
  uid: 257133b2-482b-11ea-9d30-8e59b18ed506

yaml语法 基本语法 http://www.ruanyifeng.com/blog/2016/07/yaml.html
yaml转换为json: http://www.bejson.com/validators/yaml/

  • 大小写敏感
  • 使用缩进表示层级关系,几个空格不重要
  • 缩进时不允许使用Tab键,只允许使用空格 已验证
  • 缩进的空格数目不重要,只要相同层级的元素左侧对齐即可
  • #表示注释
  • | 保留换行符 字符串

通过 kubectl 配置

kubectl edit cm config-domain --namespace knative-serving
# 同上添加一行,保存即生效

# 验证生效
kubectl get route
# NAME     URL                                       READY   REASON
# nodejs   http://nodejs.default.dev.lianxuify.com   True

enter image description here

路由转发

当我们有多个服务使用相同的域名,通过请求的Path不同,将流量转发到不同服务中

坑:knative 官方demo 工程,不支持路径访问,只处理根路径访问。 因为这个一直接口返回失败,以为配置搭建问题。

const express = require('express');
const app = express();
// 修改/ 为 *
// app.get('/', (req, res) => {
app.get('*', (req, res) => {
  // ...
});

// 
  1. 修改代码路由为*,重新构建镜像,发布镜像 (docker.io/859652049/helloworld-nodejs:latest 已经修改过)
  2. 重新部署服务, 按照上面可视化、或者 kubectl 方式重新部署两个服务 nodejs、nodejs2

enter image description here

  1. 选择 Knative > 服务管理 > 点击服务名 > 选择路由转发 > 点击配置
    enter image description here
  2. 配置保存后立即生效,访问符合预期

    • dev.lianxuify.com/nodejs 到服务1 nodejs
    • dev.lianxuify.com/nodejs 到服务2 nodejs2

enter image description here
enter image description here

弹性验证与配置

 kubectl get pods -w  // 查看运行的容器组,sidecar+业务服务

如下所示,当没有流量后 pod 自动会删除,流量进来会弹性扩展
enter image description here

流量根据如下配置进行扩缩容,可根据业务场景要求配置
Knative > 组件管理 > 点击Serving组件详情> 点击扩缩容配置
enter image description here
这些参数是服务弹性算法的关键配置,需要结合业务配置出最佳实践,鼠标hover小绿点有详细说明。

日志监控

在Knative 上对分布式的日志,监控接入这里没有进行深度探索。文档整体看下来,流程与常规服务接入没区别,开通对应产品进行接入即可。
以下是创建集群默认创建的部分日志和监控
enter image description here
enter image description here

回滚

在Knative 上对发布进行回滚,没有进行深度探索。大致理解如下

  • 回滚历史版本,通过流量配置修改,将流量切到老版本
  • 对应同版本回滚,找到如下回滚面板
    enter image description here

CICD

持续集成持续交付这块,还在探索中。看到 GitHub 事件源add-on 组件,通过github 仓库的钩子事件能触发到
Knative平台去构建镜像、部署服务。另一种方式自己监听gitlab 钩子事件,构建推送镜像,调用平台OpenAPI接口 (如上图有个触发重新部署的接口)或者 自己的部署平台调用kubectl 命令行工具部署

总结

以上我们利用阿里云K8s+Istio+Knative 搭建Serverless平台

  • 部署了k8s集群
  • 部署了Istio
  • 部署了Knative 三大组件
  • 部署了业务服务,验证了弹性扩缩容
  • 自定义了域名 + 路由转发 到不同服务
  • 不停服蓝绿部署、按流量灰度发布, 同个服务多个版本

该平台提供可视化配置 + 以及其yaml配置文件,对一个新手认识、使用这个生态能力有很好的帮助。
整套方案对应传统服务迁移到Serverless平台上灵活性、友好性较高,未来大有可为。但目前开发者工具相关还不是这么丰富,平台在公测中,整体使用成本和门槛相对阿里云函数计算更高些。因为最低集群3台worker要求,一直占用, 我目前是体验,选择了低配置,大概是4元多一个小时 (不知道能不能更低)

这里还有篇我对阿里云函数计算整体调研的文章: https://yq.aliyun.com/articles/743665
希望两篇文章对大家整体上认识两款产品,以及搭建serverless有帮助。
如有理解有误,欢迎指出,共同成长。
其间感谢阿里云 @元毅 的帮助与解答。

相关实践学习
容器服务Serverless版ACK Serverless 快速入门:在线魔方应用部署和监控
通过本实验,您将了解到容器服务Serverless版ACK Serverless 的基本产品能力,即可以实现快速部署一个在线魔方应用,并借助阿里云容器服务成熟的产品生态,实现在线应用的企业级监控,提升应用稳定性。
云原生实践公开课
课程大纲 开篇:如何学习并实践云原生技术 基础篇: 5 步上手 Kubernetes 进阶篇:生产环境下的 K8s 实践 相关的阿里云产品:容器服务 ACK 容器服务 Kubernetes 版(简称 ACK)提供高性能可伸缩的容器应用管理能力,支持企业级容器化应用的全生命周期管理。整合阿里云虚拟化、存储、网络和安全能力,打造云端最佳容器化应用运行环境。 了解产品详情: https://www.aliyun.com/product/kubernetes
目录
相关文章
|
21天前
|
Cloud Native Serverless API
Serverless 成本再优化:Knative 支持抢占式实例
Knative 是一款云原生、跨平台的开源 Serverless 应用编排框架,而抢占式实例是公有云中性价比较高的资源。Knative 与抢占式实例的结合可以进一步降低用户资源使用成本。本文介绍如何在 Knative 中使用抢占式实例。
92669 2
|
2月前
|
Java 开发工具
阿里云灵积平台Java SDK调用教程
开通阿里云灵积服务并创建API-KEY,添加Java依赖`dashscope-sdk-java`版本2.11.0。示例代码展示如何使用SDK进行多模态对话,调用`MultiModalConversation`进行交互,并打印结果。测试结果显示输出对一张图片的描述。参考链接提供通义千问VL快速入门指南。
152 0
|
2月前
|
Kubernetes Java Linux
容器服务ACK常见问题之在knative中自定义域名失败如何解决
容器服务ACK(阿里云容器服务 Kubernetes 版)是阿里云提供的一种托管式Kubernetes服务,帮助用户轻松使用Kubernetes进行应用部署、管理和扩展。本汇总收集了容器服务ACK使用中的常见问题及答案,包括集群管理、应用部署、服务访问、网络配置、存储使用、安全保障等方面,旨在帮助用户快速解决使用过程中遇到的难题,提升容器管理和运维效率。
|
2月前
|
缓存 运维 监控
应用研发平台EMAS 常见问题之用华为的推送界面阿里云收不到如何解决
应用研发平台EMAS(Enterprise Mobile Application Service)是阿里云提供的一个全栈移动应用开发平台,集成了应用开发、测试、部署、监控和运营服务;本合集旨在总结EMAS产品在应用开发和运维过程中的常见问题及解决方案,助力开发者和企业高效解决技术难题,加速移动应用的上线和稳定运行。
385 2
|
2月前
|
机器学习/深度学习 人工智能 算法
【AAAI 2024】再创佳绩!阿里云人工智能平台PAI多篇论文入选
阿里云人工智能平台PAI发表的多篇论文在AAAI-2024上正式亮相发表。AAAI是由国际人工智能促进协会主办的年会,是人工智能领域中历史最悠久、涵盖内容最广泛的国际顶级学术会议之一,也是中国计算机学会(CCF)推荐的A类国际学术会议。论文成果是阿里云与浙江大学、华南理工大学联合培养项目等共同研发,深耕以通用人工智能(AGI)为目标的一系列基础科学与工程问题,包括多模态理解模型、小样本类增量学习、深度表格学习和文档版面此次入选意味着阿里云人工智能平台PAI自研的深度学习算法达到了全球业界先进水平,获得了国际学者的认可,展现了阿里云人工智能技术创新在国际上的竞争力。
|
2月前
|
存储 数据采集 Apache
众安保险 CDP 平台:借助阿里云数据库 SelectDB 版内核 Apache Doris 打破数据孤岛,人群圈选提速4倍
随着业务在金融、保险和商城领域的不断扩展,众安保险建设 CDP 平台以提供自动化营销数据支持。早期 CDP 平台依赖于 Spark + Impala + Hbase + Nebula 复杂的技术组合,这不仅导致数据分析形成数据孤岛,还带来高昂的管理及维护成本。为解决该问题,众安保险引入 Apache Doris,替换了早期复杂的技术组合,不仅降低了系统的复杂性,打破了数据孤岛,更提升了数据处理的效率。
众安保险 CDP 平台:借助阿里云数据库 SelectDB 版内核 Apache Doris 打破数据孤岛,人群圈选提速4倍
|
2月前
|
弹性计算 安全 定位技术
幻兽帕鲁服务器搭建攻略:【阿里云平台快速上手指南】
2024年,火爆畅销的《幻兽帕鲁》游戏让无数玩家着迷不已!那么,您是否急切想要拥有一个能与伙伴们一起畅快玩耍的游戏服务器呢?现在就跟随若城的脚步,一起动手搭建一个属于自己的《幻兽帕鲁》服务器吧!让这个新年有心意
|
3月前
|
弹性计算 Linux 数据安全/隐私保护
幻兽帕鲁服务器搭建攻略:阿里云平台快速上手指南
2024年,火爆畅销的《幻兽帕鲁》游戏让无数玩家着迷不已!那么,您是否急切想要拥有一个能与伙伴们一起畅快玩耍的游戏服务器呢?现在就跟随若城的脚步,一起动手搭建一个属于自己的《幻兽帕鲁》服务器吧!让这个新年有心意, 让这个寒假更有趣
75109 10

热门文章

最新文章

相关产品

  • 函数计算
  • 推荐镜像

    更多