基于k8s多集群隔离环境下的devops实现
场景描述 DevOps是一组过程、方法与系统 的统称，并通过工具实现自动化部署， 确保部署任务的可重复性、减少部署出 错的可能性。随着微服务、中台架构的 兴起，devops重要性日益显著。 本方案使用两个独立的k8s集群： 用户已有的k8s模拟测试，ack集群模 拟生产环境，保证环境的高度隔离，互 不影响。通过gitlab+Jenkins的黄金组 合，实现容器应用的自动化构建和持续 部署，提高迭代效率。 解决问题 1.微服务应用的CI/CD。 2.测试和生产环境的高度隔离。 3.自动化的测试与部署。 4.现有CI对接ACK。 产品列表 专有网络VPC 容器服务ACK 容器镜像服务ACR 弹性公网IP 负载均衡SLB
详情请参见：https://www.aliyun.com/product/kubernetes 容器镜像服务（ACR）：安全的应用镜像托管能力、精确的镜像安全扫描功能、稳 定的国内外镜像构建服务以及便捷的镜像授权功能，从而方便用户进行镜像全生 命周期管理。详情请参见：https://www.aliyun.com/product/acr VPC：Virtual Private Cloud，简称 VPC。基于...
基于函数计算实现直播流录制-存储-通知
在互娱、教育、电商等行业都会有直播相关的业务，大部分场合都需要对直播相关的业务做安全审核，或者对直播的课程进行录制和转码。该方案实现了一种完全按需拉起、按量弹性、按实际使用付费的录制方案。基于本方案还可以扩展实现直播流截帧、自动化安全审核等能力
函数计算为您准 备好计算资源，弹性地、可靠地运行任务，并提供日志查询、性能监控和报警等功能。阿里云对象存储 OSS（Object Storage Service）：是一款海量、安全、低成本、高可靠的 云存储服务，可提供 99.9999999999%（12个 9）的数据持久性，99.995%的数据可用性。多种存储类型供选择，全面优化存储成本。阿里云消息...
云消息队列 Confluent 版
云消息队列 Confluent 版是阿里云与 Apache Kafka 项目创始团队所创立的 Confluent 公司合作，基于 Apache Kafka 核心能力提供的企业级全托管消息队列服务，旨在为企业提供集成消息流式处理与大数据系统的一站式解决方案。
为人工智能系统和应用程序提供实时的、上下文相关的、高度管控的、值得信赖的数据，能够高效地推动人工智能驱动的应用程序实现规模化生产与交付.客户洞察与体验优化.客户洞察与体验优化.实时响应客户互动行为，构建一个全面详尽的数据视图，去标识化地分析客户，以高效的方式实现与客户的互动——实时跨所有数据孤岛和系统...
来自：
云产品
异地双活场景下的数据双向同步
概述 随着客户业务规模的扩大，对系统高可用性要求越来越高，越来越多用户采用异地双活/多活架构，多活架构往往涉及业务侧做单元化改造，本方案仅模拟用户已做单元化改造后的数据双向同步，数据库采用双主架构，本地写本地读，同时又保证双库的数据一致性，为业务增加可用性和灵活性。 适用场景 数据库双向同步 数据库全局ID不冲突 双活架构的数据库建设问题 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤： 方案优势 DTS双向同步，采用独立模块避免数据同步占用系统资源。 奇偶ID涉及，避免数据冲突。 DTS多种处理冲突的方式供业务选择。 安全：原生的多租户系统，以项目进行隔离，所有计算任务在安全沙箱中运行。
然后，分别在深圳和北京搭建相同的应用服务。最后，配置 GTM的映射关系。2.1.制作镜像 步骤1 找到一台有 docker环境的机器（这里直接使用 ACK集群 ack_beijing的 ECS）。远程连接登录 ECS。注意添加安全组配置。步骤2 安装 git命令行(yum-y install git)，并使用 git clone ...
基于弹性计算的AI推理
场景描述 本方案适用于使用GPU进行AI在线推理的场 景。在推理之前，模型已经训练完成。例如,刷脸 支付中，我们在刷脸的时候，就是推理的一个过 程。再比如图像分类，目标检测，语音识别，语 义分析等返回结果的过程。 解决问题 使用GPU云服务器搭建推理环境 使用容器服务Kubernetes版构建推理 环境 使用NAS存储模型数据 使用飞天AI加速推理工具加速推理 产品列表 GPU云服务器 容器服务Kubernetes版 NAS共享存储
Notebook：Jupyter Notebook是一款基于网页的交互计算应用程序，适用于全过 程计算，包括开发、文档编写、运行代码和展示结果。Jupyter Notebook通过网页启 动，用户可以在网页中直接编写代码和运行代码，代码的运行结果直接在代码块下显 示；Notebook 同时支持在编码页面直接编写说明文档。更多信息，请参见 ...
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景，Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
关键指标超越 Storm的性能 6到 8倍，计算成本大大低于开源软件，让流 计算真正普世化、平民化。实时计算 Flink提供 SQL语义的流式数据分析能力(Flink SQL)，大幅降低流数据 分析门槛。实时计算 Flink独享模式可开放 UDF/UDAF/UDTF接口，为用户提供更强大的数 据处理能力。文档版本：20220223（发布日期）1 基于 Flink的资讯...
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景，企业的Kafka实例可能存在多种情况，比如使用阿里云Kafka服务，可能是自建开源Kafka，或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例，在这个前提下Kafka实例之间可能会需要消息同步的情况： 同帐号容灾场景：比如Kafka实例都是阿里云Kafka，但是Kafka实例会有主备之分，需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾：这类场景比如主Kafka是阿里云Kafka，备Kafka是IDC开源自建Kafka，或者是其他云上的Kafka。 不同业务之间消息同步：因为现在的业务通常不会是信息孤岛，都需要消息互通，所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例，并且这两个Kafka实例归属不同的RAM角色，有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题（重试机制，容错机制，死信队列等）。 大幅提升构建消息同步架构的效率，降低构建复杂度问题。
Initializer回调程序：index.initializer PreStop回调程序：index.destroy 步骤5 点击函数代码页签，删除 WebIDE 里的代码，打开 2.1 步骤中下载的 kafka-message-sync.py文件，复制内容，粘贴到WebIDE。文档版本：20240330 42基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步 场景验证 然后点击部署代码...
基于SpringCloud应用玩转MSE实践
随着业务不断创新，大型的单个应用和服务会被拆分为数个甚至数十个微服务，微服务架构已经被广泛应用。 微服务的好处在于快速迭代，如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具，常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
创建全链路灰度泳道组 步骤1 进入治理中心的全链路灰度，点击创建泳道组 入口类型选MSE云原生网关、泳道组流量入口选择对应的网关实例、泳道组及应用这里把链路上所 文档版本：20240229基于SpringCloud玩转MSE 有需要灰度的应用都选上，详见下图：泳道名称：nacosconsumer-gray 入口类型：MSE云原生网关 泳道组流量...
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中，以图片，视频，音频居多。举一个图片处理的场景，现在各种终端种类繁多，不同的终端对图片的格式、分辨率要求也不同，所以一张图片往往会有很多张衍生图，那如果所有的衍生图都存在OSS中，那存储的成本会增加，所以就可以通过OSS Object FC的方案，在不同的终端请求时，对OSS中的原图基于终端的要求做实时处理，然后响应返回，这样OSS中只需要存储原图即可。音视频也有类似的场景。
函数计算为您准 备好计算资源，弹性地、可靠地运行任务，并提供日志查询、性能监控和报警等功能。 内容分发网络（ContentDeliveryNetwork，CDN）：是建立并覆盖在承载网上，由不同区 域的服务器组成的分布式网络。将源站资源缓存到全国各地的边缘服务器，供用户就近获 取，降低源站压力。 阿里云对象存储OSS...
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景，将Kafka中的消息流转到其他下游服务是很常见的场景，除了常规的消息流转外，很多场景还需要基于消息体内容做判断，然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后，会自动触发函数计算中的函数，接收到消息，对消息内容做判断，然后再操作MongoDB。用户可以对提供的默认函数代码做修改，来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品，并完成了大多数的配置，用户只需要到函数计算和MongoDB控制台做少量配置即可。
（函数中业务代码的执行时长，可根据函数承载的业 务自行设置其他时间，最大支持 24 小时）l 请求处理程序：index.handler（函数的入口函数名称，index 为文件名，handler 为 函数名）l 环境变量：默认设置连接 MongoDB 需要的属性，但具体的值需要后续在函数控制 台编辑。n mongodb_endpoint：MongoDB 连接地址 n mongodb_...
企业多账号环境下的安全资源统一管控最佳实践
某地产公司在上海、杭州设有两个分公司，公司使用阿里云支撑各分公司的 IT 业务系统，这些系统由各分公司独立负责，包括独立负责云上业务账号的创建、员工权限的分配管理、资源的购买、IT 风险的管控、安全管理等。由于公司业务发展较快，各分公司创建了非常多的业务账号来承载新的业务，每个业务账号独立管理，带来了非常大的管理问题。人员权限管理混乱，离职员工在云上的身份梳理不清难以及时清理造成极大的安全隐患；账号权限过大、使用弱密码可能造成账号被盗数据泄露；公司内部缺乏统一的合规基线和安全管控，各业务系统各自为政，数据泄露、业务中断、安全入侵风险升级。 为了提升云上的管控效率和安全性，总公司成立新的信息安全中心和阿里云对接。信息安全中心的定位是统一采购安全产品，集中保障云上资源的安全性。
通过云防火墙可统一管理南北向和东西向的流量，提供流量监 控、精准访问控制、实时入侵防御等功能，全面保护网络安全。云安全中心通过统一 的界面展示企业内各个账号中检测出的安全风险，保护了用户在云上资产的安全。文档版本：20220224 49 企业多账号环境下的安全资源统一管控 CADT一键释放资源 4.CADT一键释放资源 针对...
基于Elasticsearch的订单检索加速最佳实践
随着企业信息化程度越来越高，核心业务数据存储在传统关系型数据库中不可避免地会遇到一个问题：单表记录不断增多，数据检索速度会变慢，尤其是对中文的模糊查询（建立普通索引完全不起作用）。虽然数据库自身在不断完善，但效果有限且没办法灵活扩展，复杂场景无法应对。 本方案基于阿里云Elasticsearch作为二级索引库，数据集成产品提供Binlog实时订阅，实时解析、增量数据实时更新及二级索引库之间进行数据实时同步，为数据库提供“能力增益”， 不仅能从根本解决主库抗压问题，提升稳定性；同时支持高效率、高性能、高弹性、低成本、多复杂场景的检索加速服务。
更多信息，请参见：www.aliyun.com/product/rds/mysql Elasticsearch：阿里云 Elasticsearch兼容开源 ELK功能，提供免运维全托管服务 的弹性云搜索与分析引擎，致力于数据库加速、数据分析、信息检索、智能运维监 控等场景服务；独有的云原生高性能内核、达摩院 NLP分词、向量检索、智能运 维、免费 X-Pack高级商业特性等...
基于MaxCompute的大数据BI分析
场景描述 本文以电商行业为例，将业务数据和日志数据使用 MaxCompute做ETL之后，同步到ADB进行实时 分析，之后通过QuickBI进行快速可视化展示。 解决问题 1.互联网行业、电商、游戏行业等网站、App、 小程序应用内BI分析场景。 2.可扩展到各类网站BI分析场景使用。 产品列表 1.MaxCompute 2.分析型数据MySQL版 3.日志服务SLS 4.QuickBI 5.云服务器ECS 6.RDSMySQL版
应用范围 互联网行业、电商、游戏行业等网站、App、小程序应用内 BI分析场景。可扩展到各类网站 BI分析场景使用 名词解释 专有网络 VPC：Virtual Private Cloud，简称 VPC，是基于阿里云创建的自定义私 有网络，不同的专有网络之间二层逻辑隔离。您可以在自己创建的专有网络内创 建和管理云产品实例，比如 ECS、负载均衡、...
MSE网关使用JWT进行认证鉴权
MSE网关中调用外部的认证鉴权服务，通过JWT的方式进行全局认证鉴权。 对网关有认证鉴权安全需求的场景，对于敏感的服务路由（可通过黑白名单方式配置）在网关层进行认证鉴权。
部署过程大概需要 3分钟左右，完成部署后的应用架构图如下所示：文档版本：20240402 5 MSE网关使用 JWT实现认证鉴权 部署基础环境 步骤7 部署完成后，可以通过 CADT架构图跳转到对应云产品的控制台。在架构图上双击对 应的产品组件，在下方弹出的资源清单中，点击“前往控制台”链接，即可跳转到对 应产品的控制台详情页面 ...
实时数仓Hologres
Hologres（原交互式分析）是一站式实时数据仓库引擎，支持海量数据实时写入、实时更新、实时分析，支持标准SQL（兼容PostgreSQL协议），支持PB级数据多维分析（OLAP）与自助分析（Ad Hoc），支持高并发低延迟的在线数据服务（Serving），与MaxCompute、Flink、DataWorks深度融合，提供离在线一体化全栈数仓解决方案。
二维火是一家专注云计算餐饮软件系统研发和应用，拥有阿里云超过5000服务器，服务商户50w家。大数据团队通过阿里云大数据服务MaxCompute来对餐厅或零售店的进、销、存等数据进行H+1/T+1统计，并利用交互式分析Hologres满足对百亿级离线数据进行高并发、秒级的分析处理，提供近80多种不同类型的报表，包括：营业、订单、菜品...
来自：
云产品
云服务器基准性能测试
本最佳实践适合利用标准的benchmark工具对云服务器的CPU、内存、网络和磁盘性能进行测试的场景。
使您全面了解阿里云上的资源使用情况、业务的运行状 况和健康度，并及时收到异常报警做出响应，保证应用程序顺畅运行。详见 https://help.aliyun.com/document_detail/35170.html 云架构设计工具 CADT是一款为上云应用提供自助式云架构管理的产品，显著地 文档版本：20220218 II 云服务器基准性能测试 前言 降低应用云上...
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例，使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer，模拟应用中的关键页面，比如登 录、课程内容等，之后构造若干用户使用的模拟 日志数据，投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖（EMR+OSS）搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
数据湖-在线学习场景数据分析 最佳实践 场景描述 业务架构 本场景以在线教育中一个答题闯关类的应用为例，使用WebServer来模拟演示这类日志数据的分析 处理。通过Nginx和Python flask搭建Web Server，模拟应用中的关键页面，比如登录、课程 内容等，之后构造若干用户使用的模拟日志数据，投递到数据湖进行分析后获取应用PV...
传统企业业务上云基础安全防护
场景描述 越来越多的企业客户选择把自己的生产系统部 署在公共云平台上，以满足自身业务的发展及弹 性扩缩容、稳定性等方面的需求。如何在公共云 上构建基本的网络安全、主机安全、入侵检测、 运维审计等方案，是企业首选的最佳实践。 解决问题 1.服务器安全、应用安全 2.网络安全、数据安全 3.安全审计、安全管理 产品列表 云安全中心 Web应用防火墙 云防火墙 SSL证书 数据库审计 堡垒机
RDS云数据库实例：Agent程序需要部署在对应的应用服务器上，通常为访问RDS 数据库的应用系统所在应用服务器（ECS）。7.1.开通数据库审计 步骤1 登录阿里云管理控制台。（https://home.console.aliyun.com）步骤2 通过产品与服务导航，定位到数据库审计（数据安全），单击进入数据库审计管理控制 台。文档版本：20220210 ...
云上日志集中审计
场景描述 云上的各类云产品和客户部署的业务系统会产生各类 日志，企业合规及安全运营等都需要在一个地方能 集中的查看和分析日志；目前各云产品日志大部分 都进了sls，但都是产品独立的project，不方便集中 审计；客户的业务系统日志各种形态都有；多云和混 合云的场景，日志也需要能集中审计。 解决问题 1.所有日志集中到SLS一个中心project下。 2.满足等保合规和内部合规需求。 3.满足运维和安全运营需求。 产品列表 日志服务SLS 专有网络VPC 弹性公网IPEIP 负载均衡SLB 云服务器ECS 云数据库RDS 云防火墙CFW
步骤2 再次进入日志审计服务的应用。步骤3 在左侧选择审计报表，默认接入的云产品，已经自带了一些审计报表。文档版本：20200630（发布日期）9 云上日志集中审计 开通日志审计应用 各云产品的审计报表如下图所示：步骤4 查看 ActionTrail的审计报表。文档版本：20200630（发布日期）10 云上日志集中审计 开通日志审计应用 ...
自建Hive数仓迁移到阿里云EMR
场景描述 客户在IDC或者公有云环境自建Hadoop集群构 建数据仓库和分析系统，购买阿里云EMR集群之 后，涉及到将数据仓库和Hive元数据的数据库迁 移上云。目前主流Hive数据仓库迁移场景为1.x 版本迁移到阿里云EMR(Hive2.x版本），涉及到 数据订正更新步骤。 解决的问题 Hive数据仓库的数据迁移方案 Hive元数据库的迁移方案 Hive跨版本迁移后的数据订正 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
方案优势 易用性 您可以简单选择所需 ECS机型（CPU、内存）与磁盘，并选择所需的软件，进行 自动化部署。经济性 您可以按需创建集群，即离线作业运行结束就可以释放集群，还可以在需要时动 态地增加节点。深度整合 E-MapReduce 与阿里云其它产品（例如，OSS、MNS、RDS 和 MaxCompute 等）进行了深度整合，支持以这些产品...
- 产品推荐
- 这些文档可能帮助您