开源Flink迁移实时计算Flink全托管版最佳实践
本方案介绍如何将自建开源Flink集群的流式任务（包含Datastream、Table/SQL、PyFlink任务）迁移至阿里云实时计算全托管版。
如果作业依赖的配置中心、作业的输入和输出的持久层等不在云上的服务，需要找 网络运维人员进 行网络打通，网络打通后即可直接使用这些服务。可参考官网 FAQ:Flink全托管集群如何访问公网?4.在实时计算 Flink版产品上如何使用自定义的依赖?ￚ 用户自定义的 connector、三方依赖、算法 so 文件等，可以通过“资源上传”，...
EMR集群安全认证和授权管理
场景描述 阿里云EMR服务Kafka和Hadoop安全集群使 用Kerberos进行用户安全认证，通过Apache Ranger服务进行访问授权管理。本最佳实践中以 Apache Web服务器日志为例，演示基于Kafka 和Hadoop的生态组件构建日志大数据仓库，并 介绍在整个数据流程中，如何通过Kerberos和 Ranger进行认证和授权的相关配置。 解决问题 1.创建基于Kerberos的EMR Kafka和 Hadoop集群。 2.EMR服务的Kafka和Hadoop集群中 Kerberos相关配置和使用方法。 3.Ranger中添加Kafka、HDFS、Hive和 Hbase服务和访问策略。 4.Flume中和Kafka、HDFS相关的安全配 置。 产品列表：E-MapReduce、专有网络VPC、云服务器ECS、云数据库RDS版
insert into table hbase_external_table_job99_ip_statics select substring(md5(concat(substring(accesstime,2,11),ipaddr)),9,16)as key,substring(accesstime,2,11)as log_record_date,ipaddr,count(*)as ip_count_value,'20200313' as process_date from apache_logs where ds='20200311' group by substring(access...
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景，Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
专有网络 VPC 云数据库 RDS MySQL版 分析型数据库 MySQL版 解决问题 消息队列 Kafka 对象存储 OSS 1.如何搭建实时数仓。NAT网关 2.通过实时计算 Flink实现实时 ETL和数据流。DataV数据可视化 3.通过实时计算 Flink实现实时数据分析。4.通过实时计算 Flink实现事件触发。最佳实践频道 阿里云最佳实践分享群 云服务器 ECS...
企业上云数据安全
场景描述 企业是否选择上公共云，或者哪些系统或数据上 公共云，对数据安全的关心是重要因素之一。本 最佳实践重点在于介绍狭义的数据加密存储安 全范畴，即首先使用SDDP产品进行敏感数据发 现和分级分类，然后对高级别敏感数据进行按 需、不同类型的全链路加密存储。 解决问题 1.帮助客户发现敏感数据 2.对敏感数据进行分类、分级 3.对不同级别的数据如何选择加密方式 4.具体如何进行加密 产品列表 敏感数据识别SDDP 密钥管理服务KMS 云数据库RDS 对象存储OSS
基础环境搭建 先搭建基础云环境，一个虚拟专有网络，内部创建一台带公网 IP的 ECS，一个高可 用版本的 RDS数据库；开通 OSS服务和密钥管理服务 KMS；然后把自己管理的密 钥托管到 KMS产品上。1.1.使用云速搭 CADT快速创建资源 步骤1 登录云速搭 CADT控制台。（https://bpstudio.console.aliyun.com/#/bpStudio/topo）按照...
云上成本优化workshop
某金融科技公司，它主要提供信贷，理财，电商等 服务，目前已经拥有千万级注册用户。该公司在将 在线业务系统和大数据业务从自建 IDC 机房迁移 到阿里云后，今年大数据集群经历过多次因为资 源不足导致弹性扩容失败的故障，运维负责人非 常苦恼。由于该公司从事互联网金融的借贷业务， 白天的催收非常依赖晚上大数据计算的结果，若 因为资源不足导致计算结果失败则意味着白天催 收业务员无事可做，会对公司业务造成严重影响。 后来，通过阿里云解决方案架构师建议的方案，将 大数据集群迁移到资源较充足的可用区以及配置 弹性伸缩多规格 ECS 选型增加交付成功率等方 法，目前已阶段性的解决因资源不足导致弹性扩 容失败的问题，但该方案在 Spot 计算资源不足 时，启用大量按量收费算力，带来了较高的成本， 并且抢占式实例和按量付费实例都不保证资源 100%交付，还是存在交付失败的可能性，特别是 在双 11 期间由于其他客户的资源需求上升带来 的资源挤兑客观上存在，就进一步增加了弹性扩 容失败的风险，从而影响业务正常运行。
支持停机不收费的 ECS资源包括：ￚ 计算资源（vCPU和内存）ￚ 固定公网 IP地址和带宽 不支持停机不收费的 ECS资源包括但不限于：ￚ 系统盘 ￚ 实例上挂载的数据盘 ￚ 弹性公网 IP（EIP）和带宽 ￚ 镜像 ￚ 快照 步骤1 以大数据 EMR集群为例，我们进入 ECS控制台，通过停机不收费的方式，关掉 Task 实例组的按量付费实例...
来自：
最佳实践
相关产品：云服务器ECS,负载均衡 SLB,弹性公网IP,容器服务 ACK,日志服务（SLS）,NAT网关,函数计算,E-MapReduce,云数据库PolarDB,弹性容器实例 ECI,存储容量单位包,预留实例券,Hologres
新零售商超基于Serverless服务化改造
某零售商超行业龙头企业，主要业务涵盖购物中心、大卖场、综合超市、标准超市、精品超市、便利店、无人值守智慧商店等零售业态，涉及全渠道零售、仓储物流、餐饮、消费服务、数据服务、金融业务、跨境贸易等领域。为了持续支持业务高速且稳定地发展，其在快速上云后，将核心业务改造为全Serverless架构的中台模式，采用函数计算 + API网关 + 表格存储OTS 作为计算网络存储核心，弹性支撑日常和大促峰谷所需资源，轻松支撑618/双11/双12大促。 核心价值 l 全 Serverless 架构：FC + API 网关 + OTS Serverless 解决方案。 l 弹性高可用：毫秒级弹性扩容、充足的资源池水位、跨可用区高可用。 l 敏捷开发免运维：函数式极简编程可专注于业务创新，无采购和部署成本、提供监控报警等完备的可观测能力。
为了持续支持业务高速 且稳定地发展，其在快速上云后，将核心业务改造 为全 Serverless架构的中台模式，采用函数计算+API网关+表格存储 OTS 作为计算网络存储 核心，弹性支撑日常和大促峰谷所需资源，轻松支 撑 618/双 11/双 12大促。核心价值 全 Serverless 架构：FC+API 网关+OTS Serverless 解决方案。弹性高可用：毫秒...
云上持续审计合规最佳实践
本方案是面向云上资源的操作审计和配置审 计，提供的最佳实践。适用于企业型客户。通过最佳实践帮助客户在本场景下更好的使用 阿里云，涉及到配置审计、操作审计、函数计算、SLS、OSS 等服务的实践操作。 解决问题 企业会面临外部对企业云上信息系统的合规要求，如等保2.0法规要求。 同时当云上资源达到一定规模时，在内部会制定合规管控的基线，满足自身管理效率和安全合规的需 求。 包括记录云上资源管理的操作日志、资源配置变更日志，还需依赖云平台提供的持续监控和自动告警能力，实现合规性的自主监管。
'-' 查询指定 AK的操作事件：*and event.userIdentity.accessKeyId:[AK]|SELECT"event.serviceName"as serviceName,"event.eventName"as eventName 查询有访问操作的 IP，以及 IP的操作事件统计 统计所有访问的 IP：*not event.sourceIpAddress:Internal|SELECT DISTINCT"event.sourceIpAddress"as ip 分析访问 IP的城市和...
企业云上网络架构规划
企业云上网络架构规划方案能够为企业提供面向业务的网络架构，确保业务的可靠性，并保持架构的可扩展性和可持续性，以满足未来企业业务增长所需的资源扩容和架构升级。
在线部署 适用客户 从IDC迁移上云的企业 企业云上网络需要优化 重视企业网络安全 方案优势 为什么采用企业云上网络架构规划方案 保障业务可靠 实现灵活的内网互通、隔离、引流策略，根据业务逻辑规划网络资源布局，提高业务可靠性。提高内网安全 VPC间的内网互访流量经过防火墙进行安全审计，提高业务安全性。架构可扩展 ...
来自：
技术解决方案
两地三中心异地多活网络
基于阿里云洛神网络全球基础设施及云原生SDN技术，帮助企业客户在云上快速构建两地三中心跨域多活网络，保障企业核心业务在全球多地域的高品质互联。
实际情况中可能部分实例无法购买需要根据实际情况调整资源规格，同时因您操作过程中实际使用的流量差异，会导致费用有所变化，请以控制台显示的实际报价以及最终账单为准）弹性公网IP 云企业网 转发路由器 数据传输服务 云原生数据库 PolarDB MySQL 版 云解析DNS 负载均衡 应用场景 技术方案的广泛应用场景 异地多活 企业...
来自：
技术解决方案
通过弹性公网IP确保服务迁移时公网IP不变
阿里云提供了将原ECS实例所分配的固定公网IP转为弹性公网IP（EIP），且公网IP地址不变的能力。您可以将转换后的EIP绑定到负载均衡SLB或其他ECS实例上，在不影响业务的情况下完成水平扩容、服务迁移。
在线部署 适用客户 需要灵活管理公网出入口流量 需要在私有网络环境中实现流量分发和高可用性 追求高质量大规格BGP带宽以及全球多地域覆盖 方案优势 通过弹性公网IP解决企业问题 弹性公网IP（EIP）的优势在于提供稳定、独立的公网IP地址，支持快速IP切换和灵活的带宽调整，确保业务连续性和IP稳定性。灵活管理IP资源 EIP...
来自：
技术解决方案
跨地域跨账号网络互通方案
跨地域跨账号网络互通方案支持跨地域、跨账号的网络互通，可实现企业云上一张网。当客户业务遍及多地，并且在阿里云多个账号多个地域均部署了服务时，采用该方案可以实现云上资源的灵活使用，提高了企业组网的灵活性和效率，并保障了企业数据的安全性和可控性。
实际情况中可能部分实例无法购买需要根据实际情况调整资源规格，同时因您操作过程中实际使用的流量差异，会导致费用有所变化，请以控制台显示的实际报价以及最终账单为准）云企业网 专有网络VPC 云服务器 ECS 应用场景 技术方案的广泛应用场景 大规模互联网应用多地域部署 互联网应用可根据用户群体分布范围及系统需求，...
来自：
技术解决方案
RocketMQ性能压测快速方案
在客户对产品性能存疑或者给客户进行POC验证时可以用本实践来快速完成性能测试。
专有网络VPC（VirtualPrivateCloud）：是用户基于阿里云创建的自定义私有网 络,不同的专有网络之间二层逻辑隔离，用户可以在自己创建的专有网络内创建和 管理云产品实例，比如ECS、负载均衡、RDS等。 云速搭CADT（CloudArchitectDesignTools）：是一款为上云应用提供自助式云 架构管理的产品，显著地降低应用云上管理...
基于MSE云原生网关实现全链路灰度
在微服务场景中，应用间的调用是随机的。当您部署的Spring Cloud应用或Dubbo应用存在升级版本时，可能会导致无法将具有一定特征的流量路由到应用的目标版本。通过MSE提供的全链路灰度能力，您无需修改业务代码，就可以实现端到端的全链路流量控制。泳道可以将应用的相关版本隔离成一个独立的运行环境。通过设置泳道规则，可以将满足规则的请求流量路由到目标版本的应用。
文档版本：20240429 33基于MSE云原生网关实现全链路灰度最佳实践 步骤8测试灰度版本流量 使用curl命令测试灰度流量，其中公网ip替换成mse网关的公网ip。测试命令 curl-H"canary:gray"47.115.37.14/a#测试结果 Agray[192.168.0.117]->B[192.168.0.114]->Cgray[192.168.0.116]如测试结果所示，流量经过了A、C的灰度环境，由于...
基于Fortinet的出海业务访问加速方案
本方案基于CADT提供一个一键交付零配置的部署模板，帮助企业快速构建出海业务访问加速的环境。方案结合了Fortinet产品以及阿里云的ECS，BGP公网精品IP等产品，实现低成本的出海业务加速。
方案优势 1、低成本出海加速业务 2、最小核数 1CPU最多支持 20人同时在线 产品列表 访问 3、支持弹性扩容、弹性带宽、按流量等多种 云速搭 CADT 模式付费 专有网络 VPC 4、智能传输路径选择、阿里云海外多节点覆 阿里云交换机 盖，享受安全、快速、超低延迟访问 阿里云安全组 云服务器 ECS BGP公网精品 IP 最佳实践频道 ...
容器场景下的应用性能监控、调用链拓扑、内存剖析
场景描述 随着云原生及微服务技术的普及，越来越多的系统已经通过云原生和微服务技术实现企业的降本增效，同时因微服务及云原生的复杂性给系统运维带来非常大的挑战，云原生应用监控arms通过全链路应用监控，从端到端及代码级别的链路下钻能力、CPU、内存持续剖析及诊断能力，帮助客户降低系统故障定位难度，此demo，您将体验arms的链路监控、内存剖析等能力 应用场景 微服务+容器场景下链路调用拓扑，调用链可以显示出服务之间的调用顺序和层次关系，帮助开发人员理解和追踪代码的执行流程 在分布式系统中，一个请求往往需要通过多个服务来完成。当出现问题时，如请求超时、错误或异常，很难快速定位问题所在。 解决问题 调用链可以帮助运维人员解决以下问题： · 故障排查：当请求失败或出现错误时，调用链可以显示整个请求的路径和每个服务的执行情况，从而帮助运维人员快速定位问题所在。 · 性能优化：通过调用链，运维人员可以了解请求在系统中的执行时间和瓶颈所在，从而进行优化。 · 系统监测：调用链可以提供实时的系统监测和分析，帮助运维人员了解系统的健康状况和资源利用情况。
弹性公网IP：是独立的公网IP资源，可与阿里云专有网络VPC类型的云服务器ECS、NAT 网关、ENI网卡、私网负载均衡SLB绑定，并可以动态解绑满足灵活管理的要求。弹性公 网IP可为您在云上部署的网站提供Internet访问服务。 云速搭CADT（CloudArchitectDesignTools）：是一款为上云应用提供自助式云架构管理 的产品，显著地...
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景，企业的Kafka实例可能存在多种情况，比如使用阿里云Kafka服务，可能是自建开源Kafka，或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例，在这个前提下Kafka实例之间可能会需要消息同步的情况： 同帐号容灾场景：比如Kafka实例都是阿里云Kafka，但是Kafka实例会有主备之分，需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾：这类场景比如主Kafka是阿里云Kafka，备Kafka是IDC开源自建Kafka，或者是其他云上的Kafka。 不同业务之间消息同步：因为现在的业务通常不会是信息孤岛，都需要消息互通，所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例，并且这两个Kafka实例归属不同的RAM角色，有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题（重试机制，容错机制，死信队列等）。 大幅提升构建消息同步架构的效率，降低构建复杂度问题。
因为kafka-sync-func-ram-a函数负责从阿里云上的业务系统Kafka实例向模拟线下自 建开源Kafka集群同步消息，所以目标Kafka的连接地址是部署在ECS上的开源Kafka 集群，因为北京Region和上海Region网络在架构图中通过VPC对等连接进行了打通，所以使用该ECS的内网IP地址即可。步骤3 找到层，点击编辑。添加层，选择添加自定义层...
容器多云统一监控日志
多云、混合云成为常态，Forrester 报告中指出，未来 89% 的企业至少使用两个云，74% 的企业至少使用三个甚至更多公有云，在面对多云/混合云这样大的趋势下，Gartner报告指出，安全、运维复杂性、财务复杂性是多云架构的主要挑战，本方案给出了在多云/混合云场景下，构建基于容器环境下的统一管理、统一监控和统一日志方案，解决多云、混合云场景下，运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商（AWS、Azure、GCP、TencentCloud、HuaweiCloud等）或者IDC基于容器（Kubernetes）运行业务系统，希望构建容器场景下的统一监控日志系统，方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统，在一个平台可以看到不同环境系统的运行情况。
云服务器ECS：用于部署单节点Kubernetes，模拟非阿里云自建容器集群 产品介绍 专有网络VPC（VirtualPrivateCloud）：是用户基于阿里云创建的自定义私有 网络,不同的专有网络之间二层逻辑隔离，用户可以在自己创建的专有网络内创 建和管理云产品实例，比如ECS、负载均衡、RDS等。 云速搭CADT...
Kafka性能压测快速方案
产品性能基线测试场景需要对产品进行性能测试得到详细的压测数据，本方案可以快速构建测试的客户端（kafka官方的压测客户端）和不同的Kafka服务端（ SSD云盘版、高效云盘、Serverless版三种实例），方便客户进行POC完成性能验证。
值 topic test_kafka_perf1 test_kafka_perf1 test_kafka_perf1 group perf-consumer perf-consumer perf-consumer 分区数 24 24 24 产品介绍 专有网络VPC（VirtualPrivateCloud）：是用户基于阿里云创建的自定义私有网 络,不同的专有网络之间二层逻辑隔离，用户可以在自己创建的专有网络内创建和 管理云产品实例，比如...
基于MSE和SAE的微服务部署与压测
通过云原生微服务引擎MSE、SAE、PTS、ARMS产品，为spring cloud微服务应用提供部署和测试能力，提供一个经典微服务应用上云的典型架构，实现微服务应用的快速落地。
弹性公网IP：弹性公网IP是独立的公网IP资源，可与阿里云专有网络VPC 类型的云服务器ECS、NAT网关、ENI网卡、私网负载均衡SLB绑定，并可 以动态解绑满足灵活管理的要求。弹性公网IP可为您在云上部署的网站提供 Internet访问服务。 微服务引擎MSE：微服务引擎 MSE 面向业界主流开源微服务项目，提供注 册配置中心和...
基于MSE云原生网关同城多活
借助云原生微服务MSE网关，MSE配置注册中心的同城容灾多活微服务应用。构建一个经典的微服务场景，实现同城容灾的步骤，体现云原生相关产品在用户上云，高可用同城容灾多活场景下的能力。
弹性公网 IP：弹性公网 IP是独立的公网 IP资源，可与阿里云专有网络 VPC类型 的云服务器 ECS、NAT网关、ENI网卡、私网负载均衡 SLB绑定，并可以动态解 绑满足灵活管理的要求。弹性公网 IP可为您在云上部署的网站提供 Internet访问 服务。文档版本：20240423 VII 基于MSE云原生网关同城多活最佳实践 前置条件 前置条件 在...
- 产品推荐
- 这些文档可能帮助您