基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景，企业的Kafka实例可能存在多种情况，比如使用阿里云Kafka服务，可能是自建开源Kafka，或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例，在这个前提下Kafka实例之间可能会需要消息同步的情况： 同帐号容灾场景：比如Kafka实例都是阿里云Kafka，但是Kafka实例会有主备之分，需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾：这类场景比如主Kafka是阿里云Kafka，备Kafka是IDC开源自建Kafka，或者是其他云上的Kafka。 不同业务之间消息同步：因为现在的业务通常不会是信息孤岛，都需要消息互通，所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例，并且这两个Kafka实例归属不同的RAM角色，有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题（重试机制，容错机制，死信队列等）。 大幅提升构建消息同步架构的效率，降低构建复杂度问题。
（函数中业务代码的执行时长，可根据函数承载的 文档版本：20240330 15基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步 部署基础环境 业务自行设置其他时间，最大支持24小时） 请求处理程序：index.handler（函数的入口函数名称，index为文件名，handler为 函数名） 环境变量：默认设置连接目标Kafka实例的...
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景，将Kafka中的消息流转到其他下游服务是很常见的场景，除了常规的消息流转外，很多场景还需要基于消息体内容做判断，然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后，会自动触发函数计算中的函数，接收到消息，对消息内容做判断，然后再操作MongoDB。用户可以对提供的默认函数代码做修改，来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品，并完成了大多数的配置，用户只需要到函数计算和MongoDB控制台做少量配置即可。
基于函数计算 FC 实现阿里云 Kafka 消息内容控制 MongoDB DML 操作 最佳实践 场景描述 业务架构 基于阿里云 Kafka 消息的 Key 或者消息体里的内 容做判断，然后对 MongoDB 做增，删，改的操 作。在传统 ETL 流程的基础上进一步增加了灵活 性和可扩展性。应用场景 在大数据 ETL 场景，将 Kafka 中的消息流转到其 他下游服务...
事件总线 EventBridge
事件总线 EventBridge是阿里云提供的一款无服务器事件总线服务，支持阿里云服务、自定义应用、SaaS应用以标准化、中心化的方式接入，并能够以标准化的 CloudEvents 1.0 协议在这些应用之间路由事件，帮助您轻松构建松耦合、分布式的事件驱动架构。
事件总线 EventBridge.事件总线 EventBridge 是阿里云提供的一款无服务器事件总线服务，支持阿里云服务、自定义应用、SaaS应用以标准化、中心化的方式接入，并能够以标准化的 CloudEvents 1.0 协议在这些应用之间路由事件，帮助您轻松构建松耦合、分布式的事件驱动架构.云原生重磅产品组合！5分钟部署一个微服务电商商城，...
来自：
云产品
ACK容器平台集群安全控制
场景描述 本方案实践主要是通过一些实践示例来介绍 用户对于在阿里云上使用Kubernetes集群服 务的容器平台安全管控的实践验证与使用建 议。 方案优势 容器集群部署快捷 授权与安全策略配置方便 丰富的安全控制实践介绍 解决问题 容器集群API Server的安全访问控 制 容器服务多租户场景下的授权管理 容器中的敏感信息数据的存储 容器服务集群安全策略配置管理 产品列表 容器服务Kubernetes版 负载均衡SLB 专有网络VPC 访问控制RAM
但是仍然建议不要使用 root用户运行容器中的进程，例如宿主节点的某目录被挂载到了容器中，假如容器中的进程使用了 root用户运行，文档版本：20220207 32 ACK容器平台集群安全控制最佳实践 Kubernetes集群的Security Context 那就可以获取目录的完整权限，可以通过限制容器的 runAsUser 或者设置为非 root 用户...
云服务总线CSB
云服务总线CSB是一个基于高可用分布式技术构建的服务API开放平台，帮助企业打通内外新旧系统，实现跨技术平台、跨应用系统、跨企业组织的服务互通，以服务API的形式，加以一致的组织和管控，构建企业内部以及与上下游、第三方企业之间融合、重塑、创新的合作平台。
了解云服务总线的主要功能和应用.开放平台快速入门.了解云服务总线产品文档.API调用SDK使用说明.协议数据转换.提供常用协议服务的接入、开放和转换，支持灵活定制化的数据变换，以支撑从简单的应用间调用，到新建与遗留系统之间，以及企业组织间的能力互通.服务请求控制.提供完整的授权鉴权机制，支持流量控制、黑白名单、...
来自：
云产品
工业控制性能优化解决方案
工业控制性能优化是基于对控制器的参数实时评估与监控，通过阿里云大数据处理和计算的能力，结合人工智能算法，机器学习的能力，为企业提供高效的性能评估与整定，更方便、快捷地完成回路控制性能的批量评估和整定优化工作，为企业提供最佳的控制性能优化解决方案。
工业控制性能优化是基于对控制器的参数实时评估与监控，通过阿里云数据处理和计算的能力，结合人工智能算法，机器学习的能力，为企业提供高效的性能评估与整定，更方便、快捷地完成回路控制性能的批量评估和整定优化工作，为企业提供最佳的控制性能优化解决方案.谢赟辉,靖鑫,也树.工业控制性能优化解决方案.工业控制性能...
来自：
解决方案
阿里云最佳实践容器workshop
通过本篇最佳实践，可以熟悉容器及k8s的基本操作。基于eci的高弹性架构，能有效的应对业务流量洪峰，同时提升资源使用效率。
最大实例数的设置也是避免扩 容的节点数超出预期不可控。文档版本：20220301（发布日期）57 阿里云ACK容器服务workshop 弹性伸缩 步骤7 为了方便使用，选择密码登录方式，单击确认配置。步骤8 通过依赖检查，单击提交。伸缩状态已启用，节点池也已激活。文档版本：20220301（发布日期）58 阿里云ACK容器服务workshop 弹性...
数据总线Datahub
数据总线(DataHub)服务是阿里云提供的流式数据(Streaming Data)服务，它提供流式数据的发布(Publish)和订阅(Subscribe)的功能，拥有高吞吐量、高稳定性、低成本等特点，与阿里云大数据生态系统完美打通，让您可以轻松构建基于流式数据的分析和应用。
数据总线(DataHub)服务是阿里云提供的流式数据(Streaming Data)服务，它提供流式数据的发布(Publish)和订阅(Subscribe)的功能，让您可以轻松构建基于流式数据的分析和应用.孙慧颖,靖鑫,也树.MySQL低至1折起，前往限时优惠活动！1元体验简单易用的MySQL数据仓库，毫秒级海量数据多维分析！MySQL数据库+Quick BI数据可视化...
来自：
云产品
云上IT治理workshop
假设您负责假设您负责一家集团公司的IT 基础设施，集团 旗下有多个分公司（如制造分公司和销售分公 司），各分公司有独立的开发、测试以及运维团 队。现在选择阿里云作为合作伙伴，拟达到以下 业务目标： 1. 各个分公司拥有独立的账号，可以购买云资 源，由集团账号统一付费。 2. 集团对各个分公司的账号以及权限拥有管理 权限。 3. 网络资源由独立的平台账号统一规划和创 建，分配给各个公司使用。 4. 集团对分公司账号具有配置管理和操作审计 权限。 5. 各分公司内部独立管理账号权限以及资源。
步骤3 设置共享单元名称为“轿车生产线网络”，将为轿车生产线规划的生产环境和测试环境 的虚拟交换机添加到共享资源。注意：选中虚拟交换机后，要单击添加。文档版本：20210909（发布日期）30 云上 IT治理 Workshop 部署共享服务 步骤4 输入轿车生产线成员账号的 UID，并单击添加，最后单击确定。注意：填写完 UID后，要...
金融专属大数据workshop
实践目标 学习搭建一个实时数据仓库，掌握数据采集、存储、计算、输出、展示等整个业务流程。 整个实时数据仓库系统全部基于阿里云产品进行架构搭建，用户可以掌握并学会运用各个服务组件及各个组件之间如何联动。 理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方法。 前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解
本实例架构图:文档版本：20210803（发布日期）11阿里云最佳实践金融大数据WorkShop 最佳实践项目实践（注：CADT暂不支持创建实时计算Flink集群，下一章节将通过页面创建）需要注意：使用CADT进行资源创建时，所有的实例名需要设置为自定义名称 步骤1 登录CADT控制台。...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
同地域跨可用区容灾
场景描述 面向阿里云公共云客户， 1.业务在同一个地域（Region） 2.应用已经无状态 3.在不大幅增加成本的情况下，希望获得支持业务的跨可用区（Zone）容灾能力 3.希望对整体的应用做容灾备份（简称容灾），而非单独的数据库或存储等 解决问题 提供云上高可用架构方案并提供可参考的跨可用区架构提供简单的容灾演练 产品列表 云服务器（ECS）、数据库（RDS）、专有络（VPC）、负载均衡（SLB）、消息队列（MQ）等
选择按量计费，地域为华北 2（北京），MySQL5.6 高可用版，可用区为 C+E，网络选择专有网络（drtest），交换机设置为 C 可用区的 switch001，实例规格选择 2 核 4G，磁盘空间设置为 100G，确认购 买。业务云容灾 同地域跨可用区容灾方案 确认订单信 息，勾选协议支付。业务云容灾 同地域跨可用区容灾方案 进入管理控制台。...
阿里云数据库快速搭建疫情分析系统最佳实践
疫情态势分析和防控任务迫在眉睫，如果快速搭建高效的疫情态势分析系统是众多部门和单位的难题，阿里云polardb for PG+Ganos解决方案可在极短时间内完成分析系统搭建，有效助力疫情防。 方案优势： 1、性能优越：Ganos作为自研的时空数据库引擎，相比postgis性能更优秀。 2、安全稳定：故障自动切换自愈，资源隔离，多副本存储。 3、简单易用：开箱即用，兼容postgresql，打通quickbi快速搭建数据分析展示。 4、功能强大：相比postgis在时空模型上做了较多扩充，支持几何模型，栅格模型，网络模型，时空轨迹模型，点云模型，拓扑网络模型。
2.简化 GIS数据 SQL查询语法，通熟易 访问控制 RAM 懂。专有网络 VPC 3.支持海量 GIS数据查询，性能有保 云服务器 ECS 障。云数据库 polardb for postgresql 4.支持比 postgresql更丰富的时空模 对象存储 OSS 型。数据库可视化分析 Quick BI 5.简单便捷构建完整的数据集成链路。最佳实践频道 阿里云最佳实践分享群 如二维码...
混合云自有K8S弹性使用ECI
场景描述 本文介绍线下IDC与云端通过专线构建混合云架构，自有K8S利用虚拟节点弹性调用ECI承载业务高峰期资源需求的最佳实践。 解决问题 混合云环境下，自有K8S集群注册至ACK，实现云端纳管。纳管K8S集群部署Virtual Node，使集群具备ECI资源调度能力。在以上环境中部署Web及离线作业应用，并使用ECI资源作为弹性资源池满足业务波峰需求。 产品列表 云服务器ECS 云架构设计工具CADT 专有网络VPC 访问控制RAM 云企业网CEN 弹性容器实例ECI Nat网关NAT 容器镜像服务ACR 负载均衡SLB 容器服务Kubernetes版ACK 弹性公网IPEIP
当引入 ECI资源后通过 Ingress来暴露服务，因 此要将 SLB的监听设置更新。为了提高转发效率，SLB上直接监听 TCP协议的 80 端口。操作步骤 步骤1 登录负载均衡管理控制台。（https://slb.console.aliyun.com）步骤2 在左侧导航栏选择实例>实例管理，切换地域为华东 2（上海），在实例列表中选择 idc-sh-slb实例，单击实例 ID...
自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群，为了降低企业大数据计算平台的成本，提高 大数据应用开发效率，更有效保障数据安全，把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute，Dataworks、云数据库Hbase版、Datahub、VPC，ECS。
master节点格式化 zkfc hdfs zkfc-formatZK 步骤6 在 master节点启动 hadoop集群 start-all.sh 步骤7 master2节点上查看 ResourceManager是否已经启动 jps|grep-i resourcemanager 如果没有的话执行：yarn-daemon.sh start resourcemanager 步骤8 将 master节点设置为 namenode的 active节点：在 master2节点执行：hdfs ...
大数据workshop
大数据workshop
Flink SQL作业读取了 Datahub的历史脏数据，可以在 修改 Flink SQL作业以后并将 Flink SQL作业的恢复策略设置为 NONE再重新上 线启动 Flink SQL作业，因为 Flink SQL作业改代码/增加一些参数，是要停止重 启，且恢复策略要为 NONE，原因是因为 DAG 会变化导致 state 不兼容。文档版本：20210628（发布日期）55 阿里云最佳...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
混合云存储构建VMware虚拟化平台
场景描述 本文以混合云存储阵列SA2600系统为例，介绍如 何在混合云存储环境下部署VMware虚拟化平台， 以及混合云环境下虚拟机的部署、扩容、云备份等功 能演示。 解决问题 1.如何使用混合云存储部署VMware虚拟化平台。 2.存储阵列在混合云环境下的使用，比如虚拟机部 署、扩容、云备份等。 产品列表 1.混合云存储阵列 2.对象存储OSS
控制柜采用盘控一体的设计方法，用户可以自主选择安装不同数量和规格的硬盘，控 制柜有自身的存储空间，因此可以在不使用硬盘扩展柜的情况下单独使用。控制柜包 含的组件和接口有： 两个控制器（ControllerModule，简称CM），每控制器一个处理器，可以扩展主 机接口适配器。 每控制器有4个内存插槽。 硬盘模块，有12...
阿里云最佳实践离线大数据workshop
本最佳实践，首先搭建一个简化的电商 demo 系统，然后为此 demo 系统构建一套离 线大数据分析系统。 实践目标 1. 学习搭建一个离线大数据分析系统，学习从数据采集到数据存储和业务分析的业 务流程。 2. 整个离线大数据分析系统全部基于阿里云产品进行搭建，学习掌运用各个服务组 件及各个组件之间如何联动。 背景知识要求 熟练掌握 SQL 语法 对大数据体系系统知识有一定的了解
利用CADT构建基础环境 本章节使用云速搭工具CADT，采用模板的方式快速部署需要用到的产品，需要注意 的是CADT工具暂时不支持MaxCompute，Dataworks,QuickBI的部署，需要使用控 制台来部署或者创建对应的实例。步骤1 在总控制台页面，进入CADT的控制台。文档版本：20210802（发布日期）11阿里云最佳实践金融大数据WorkShop ...
来自：
最佳实践
相关产品：云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,日志服务（SLS）,大数据计算服务 MaxCompute,DataV数据可视化,数据总线,Quick BI,云速搭
云数据库RDS MySQL版备份恢复
场景描述 用户数据库数据， 部分需要快速、 小颗粒度恢复、 部分需要异地备份、部分需求长期归档。 当前自建 MySQL 上建立完善的备份/恢复系统无法完美满足用户需求， 且建设/维护成本很高。 RDS 的完善的备份/恢复方案可以有效帮助到用户。 方案优势 1. 可以方便实现本地备份及库表级别快速恢复， 快速应对误操作误删除等逻辑错误， 降低业务损失。 2. 可以方便实现异地备份， 实现数据级容灾， 满足合规要求。 3. 可以方便将数据进行归档， 实现长期数据的高性价比保存方案。 4. 有效提升用户数据备份效率， 降低维护工作量。 解决问题 1. 自建数据库发生误操作时恢复复杂 2. 部分数据发生错误进行恢复时可能影响其他数据访问 3. 异地备份操作复杂 4. 长期数据保存成本较高 5. 备份恢复系统维护所需人力成本较高
步骤2 如果设置保留时长超过 730天，或者勾选实例释放前长期保留，则还需设置归档备份 的保留个数，超过 730天的数据备份会保留为归档备份，费用较低。3.2.归档备份恢复 使用归档备份进行恢复操作时，操作方式与常规备份的恢复无异。文档版本：20210427（发布日期）15 云数据库 RDS MySQL版备份恢复 日志备份及恢复 4.日志...
- 产品推荐
- 这些文档可能帮助您