实时计算Flink版
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，具备实时应用的作业开发、数据调试、运行与监控、自动调优、智能诊断等全生命周期能力。内核引擎100%兼容Apache Flink，2倍性能提升，拥有FlinkCDC、动态CEP等企业级增值功能，内置丰富上下游连接器，助力企业构建高效、稳定和强大的实时数据应用。
自助编写SQL使用全托管服务对数据进行实时流转集成，帮助企业构建数据中台.从海量数据中实时识别刷单作弊、恶意爬虫等业务风险，避免企业出现巨大的经济损失，还可借助CEP（复杂事件处理）直接在流式处理作业中执行异常情况检测.实时计算Flink版高效的状态管理、丰富的窗口支持等特点可以帮助企业简化规则告警配置流程、...
来自：
云产品
基于DataWorks的大数据一站式开发及数据治理
概述 基于Dataworks做大数据一站式开发，包含数据实时采集到kafka通过实时计算对数据进行ETL写入HDFS，使用Hive进行数据分析。通过Dataworks进行数据治理，数据地图查看数据信息和血缘关系，数据质量监控异常和报警。 适用场景 日志采集、处理及分析 日志使用Flink实时写入HDFS 日志数据实时ETL 日志HIVE分析 基于dataworks一站式开发 数据治理 方案优势 大数据一站式开发，完善的数据治理能力。 性能优越：高吞吐，高扩展性。 安全稳定：Exactly-Once，故障自动恢复，资源隔离。 简单易用：SQL语言，在线开发，全面支持UDX。 功能强大：支持SQL进行实时及离线数据清洗、数据分析、数据同步、异构数据源计算等Data Lake相关功能 ，以及各种流式及静态数据源关联查询。
适用场景 日志采集、处理及分析 日志使用 Flink实时写入 HDFS 日志数据实时 ETL 日志 HIVE分析 基于 DataWorks一站式开发 数据治理 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤：文档版本：20201020 1 基于 Dataworks的大数据一站式开发及数据治理 最佳实践概述 方案优势 大数据一站式开发，完善的...
开源Flink迁移实时计算Flink全托管版最佳实践
本方案介绍如何将自建开源Flink集群的流式任务（包含Datastream、Table/SQL、PyFlink任务）迁移至阿里云实时计算全托管版。
说明：以上的方式使用的是开源 jdbc connector 写阿里云 RDS，因此在上述步骤 5中需要额外增加“附加依 赖文件”，实时计算 Flink全托管版集群内置提供了商业 化的 RDS connector，用户也可替换开源 jdbc connector，具体可参考产品官网文 档：https://help.aliyun.com/document_detail/185222.html 2.2. Datastream JAR...
自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群，为了降低企业大数据计算平台的成本，提高 大数据应用开发效率，更有效保障数据安全，把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute，Dataworks、云数据库Hbase版、Datahub、VPC，ECS。
文档版本：20210723 阿里云 自建 Hadoop 迁移MaxCompute 文档版本：20150122（发布日期）III 自建Hadoop迁移MaxCompute 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 自建 Hadoop迁移 MaxCompute 文档编号 文档版本 V1.1 版本日期 2021-07-23 文档状态 外部发布 制作人 云魁、弦望、游士 审阅人 游圣 文档变更...
云数据库RDS MySQL版备份恢复
场景描述 用户数据库数据， 部分需要快速、 小颗粒度恢复、 部分需要异地备份、部分需求长期归档。 当前自建 MySQL 上建立完善的备份/恢复系统无法完美满足用户需求， 且建设/维护成本很高。 RDS 的完善的备份/恢复方案可以有效帮助到用户。 方案优势 1. 可以方便实现本地备份及库表级别快速恢复， 快速应对误操作误删除等逻辑错误， 降低业务损失。 2. 可以方便实现异地备份， 实现数据级容灾， 满足合规要求。 3. 可以方便将数据进行归档， 实现长期数据的高性价比保存方案。 4. 有效提升用户数据备份效率， 降低维护工作量。 解决问题 1. 自建数据库发生误操作时恢复复杂 2. 部分数据发生错误进行恢复时可能影响其他数据访问 3. 异地备份操作复杂 4. 长期数据保存成本较高 5. 备份恢复系统维护所需人力成本较高
最佳实践频道 阿里云最佳实践分享群 如二维码过期，请搜索群号：31852400 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 云数据库 RDS MySQL版备份恢复 最佳实践 文档版本：20210427 文档版本：20150122（发布日期）II 云数据库 RDS MySQL版备份恢复 文档版本信息 文档版本信息 文本信息 属性 内容 ...
PolarDB 应对大并发复杂查询实践
MySQL架构是单线程处理SQL，遇到大并发复杂查询时，需要排队长时间等待，容易形成慢查询，影响业务。PolarDB并发查询能力可以很好解决此问题。
适用场景 多条件查询、多表关联等容易形成慢查询的业务场景 高并发，业务耦合性较强等无法快速拆分复杂查询业务到数仓的场景 轻度分析场景，不希望使用较重的架构搭建数仓或大数据环境 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤：文档版本：20210412 1 PolarDB如何应对大并发复杂查询 最佳实践...
大数据近实时数据投递MaxCompute
本文介绍离线大数据场景使MaxCompute构建云 上近实时数仓，打通云下数据上云链路，解决数据复杂类型支持和动态分区问题，满足高级数据处理需求的最佳实践。 l混合云环境下，现有业务系统零改造，打通数据上云链路。 l使用UDF实现复杂数据类型转换和数据动态分区。 l使用DataWorks配置周期调度业务流程，数据自动入仓。 l借助MaxCompute优化计算引擎，实现降本增效。 产品列表 云服务器ECS 专有网络VPC 访问控制RAM 数据总线DataHub E-MapReduceEMR DataWorks 大数据计算服务MaxCompute
文档版本：20240419（发布日期）文档版本：20150122（发布日期）I 大数据近实时数据投递 MaxCompute 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 大数据近实时数据投递 MaxCompute 文档编号 166 文档版本 V1.3 版本日期 2024-04-19 文档状态 对外发布 制作人 厉博 审阅人 文档变更记录 版本编号 日期 作者 审核...
游戏数据运营融合分析
场景描述 1.游戏行业有结构化和非结构化数据融合分 析需求的客户。 2.游戏行业有数据实时分析需求的客户，无法 接受T+1延迟。 3.对数据成本有一定诉求的客户，希望物尽其 用尽量优化成本。 4.其他行业有类似需求的客户。 方案优势/解决问题 1.秒级实时分析：依托ADB计算密集型实例， 秒级监控DAU等数据，为广告投放效果提 供有力的在线决策支撑。 2.高效数据融合分析：打通结构化和非结构化 数据，支撑产品体验分析；广告买量投放效 果实时（分钟级）分析，渠道的评估更准确。 3.低成本：DLA融合冷数据分析+ADB存储密 集型温数据分析+ADB计算密集型热数据分 析，在满足各种分析场景需求的同时，有效 地降低的客户的总体使用成本。 4.学习成本低：DLA和ADB兼容标准SQL语 法，无需额外学习其他技术。 产品列表 专有网络VPC、负载均衡SLB、NAT网关、弹性公网IP 云服务器ECS、日志服务SLS、对象存储OSS 数据库RDSMySQL、数据传输服务DTS、数据管理DMS 分析型数据库MySQL版ADS 数据湖分析DLA、QuickBI
20210224（发布日期）文档版本：20150122（发布日期）II 游戏数据运营融合分析 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 游戏数据运营融合分析 文档编号 157 文档版本 V2.0 版本日期 2021-02-24 文档状态 外部发布 制作人 七凌，明中 审阅人 云魁，阿谈 文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 ...
CDH迁移升级CDP最佳实践
当前 CDH 免费版停止下载，终止服务，针对需要企业版服务能力并且CDH 升级过程对业务影响较小的客户，通过安装新的 CDP 集群，将现有数据拷贝至新集群，然后将新集群切换为生产集群，升级过程没有数据丢失风险，停机时间较短，适合大部分互联网客户升级使用。
适用场景 较短的停服时间升级 CDH至 CDP CDH的数据迁移至 CDP CDH组件升级至最新的 CDP组件 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤：迁移实施流程如下：文档版本：20211029 1 CDH迁移升级 CDP最佳实践 最佳实践概述 方案优势 没有数据丢失风险 较短的服务停机时间 文档版本：20211029 2 CDH...
SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务，通过日志服务 进行数据分析，帮助提升运维、运营效率， 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户，推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输；针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况，可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
请用户根据实际业务规模和成本考 虑综合考虑是否将多 EIP加入共享带宽 3）SANT规则配置以后，ECS没有优先使用 SNAT IP主动访问互联网，建议对已 分配固定公网 IP的 ECS实例统一公网出口 IP优化网络架构，请参阅官网帮助文 档 https://help.aliyun.com/document_detail/122217.html 步骤11 解绑 ECS日志机器组的 EIP 进入 ...
自建ELK迁移阿里云日志服务
场景描述 ELK Stack（Elastic/Logstash/Kibana） 通常 被用于日志实时分析， 在开源社区中有大量 的内容和使用案例。 本文介绍如何将自建的 ELK 系统迁移到阿里云 SLS 日志服务。 解决问题 1. 自建 ELK 如何迁移到阿里云日志服务。 2. 如何使用 Logtail 采集日志。 3. 如何使用阿里云日志服务对日志进行查 询、 分析。 产品列表 阿里云日志服务（SLS） VPN 网关 IPSec VPN 云服务器
作者 审核人 说明 V1.0 2020-02-11 期会、丁健 云魁、周郎 创建 迭代迁移工具、SLS统计分 V1.1 2020-03-10 期会、和颐 析部分内容 V1.2 2024-04-11 厉博、楼岚 更新CADT支持、文档描述 V1.3 2024-04-22 游圣 优化CADT模版、优化文档 文档版本：20240422 I自建ELK迁移阿里云日志服务（SLS）目录 目录 文档版本信息.I 法律...
异地双活场景下的数据双向同步
概述 随着客户业务规模的扩大，对系统高可用性要求越来越高，越来越多用户采用异地双活/多活架构，多活架构往往涉及业务侧做单元化改造，本方案仅模拟用户已做单元化改造后的数据双向同步，数据库采用双主架构，本地写本地读，同时又保证双库的数据一致性，为业务增加可用性和灵活性。 适用场景 数据库双向同步 数据库全局ID不冲突 双活架构的数据库建设问题 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤： 方案优势 DTS双向同步，采用独立模块避免数据同步占用系统资源。 奇偶ID涉及，避免数据冲突。 DTS多种处理冲突的方式供业务选择。 安全：原生的多租户系统，以项目进行隔离，所有计算任务在安全沙箱中运行。
文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 异地双活场景下的数据双向同步 文档编号 178 文档版本 V1.1 版本日期 2022-02-09 文档状态 外部发布 制作人 游士 审阅人 文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 2020-11-30 弦望、青俞 创建 更新 CADT 创建步骤及 V1.1 2022-02-09 游士 控制台更新步骤 ...
Function Compute构建高弹性大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中，对数据进行处理、分析，形成业务闭环。比如游戏行业中的游戏发行、游戏运营，产互行业中的数字营销，物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点，给整个数据采集传输系统带来很大的挑战。在这个场景中，有三个关键的环节，数据采集、数据传输、数据处理。该最佳实践主要涉
编写 template.yml 步骤1 新建一个目录 fc，在该目录下创建一个名为 template.yml的 YAML文件，该文件主要 描述要创建的函数的各项配置，就是将函数计算控制台上配置的那些配置信息以 YAML格式写在文件里。mkdir fc cd fc touch template.yml 步骤2 首先，我们导出 dataCollector服务的 yml模板，然后在其基础上增加 ...
云原生ACK应用管理实践
在Kubernetes平台中，一个应用可能包含多个Kubernetes子资源，在应用部署完成以后，可以从统一的视角展现整体应用的拓扑结构，同时对于持续部署等场景做到统一的版本管理与回滚。 场景描述 云原生时代的到来，用户在使用Kubernetes进行应用管理的同时也面临着一些痛点和挑战。 遇到的痛点： 应用编排文件如何管理。 应用包含哪些K8s资源，能否统一管理。 如何管理应用版本，能否快速回滚。 方案优势 多集群低成本容灾，日常迭代版本一键同发。 国内站、国际站多地域部署业务，版本同发。 应用维度查看/管理工作负载（相关资源聚合）。 同一套编排，多环境发布，大幅降低出错率。
通过编排模版将应用部署到集群中 步骤1 编写示例应用的 yaml模版 在容器服务 ACK控制台左侧导航栏选择市场>编排模版，点击创建进行应用编排模 版的创建 创建名为 appcenter-demo的 yaml模版 文档版本：20201031 4 云原生 ACK应用管理实践 方案背景 步骤2 手动部署应用到集群 在容器服务 ACK控制台>应用中心，选择创建应用 ...
湖仓一体架构EMR元数据迁移DLF
通过EMR+DLF数据湖方案，可以为企业提供数据湖内的统一的元数据管理，统一的权限管理，支持多源数据入湖以及一站式数据探索的能力。本方案支持已有EMR集群元数据库使用RDS或内置MySQL数据库迁移DLF，通过统一的元数据管理，多种数据源入湖，搭建高效的数据湖解决方案。
最佳实践频道 阿里云最佳实践分享群 产品列表 VPC、EMR、EIP、DLF、RDS、CADT 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 湖仓一体架构 EMR元数据迁移DLF 最佳实践 文档版本：20220125 文档版本：20150122（发布日期）II 湖仓一体架构 EMR元数据迁移DLF 文档版本信息 文档版本信息 文本信息 属性 ...
新零售商超基于Serverless服务化改造
某零售商超行业龙头企业，主要业务涵盖购物中心、大卖场、综合超市、标准超市、精品超市、便利店、无人值守智慧商店等零售业态，涉及全渠道零售、仓储物流、餐饮、消费服务、数据服务、金融业务、跨境贸易等领域。为了持续支持业务高速且稳定地发展，其在快速上云后，将核心业务改造为全Serverless架构的中台模式，采用函数计算 + API网关 + 表格存储OTS 作为计算网络存储核心，弹性支撑日常和大促峰谷所需资源，轻松支撑618/双11/双12大促。 核心价值 l 全 Serverless 架构：FC + API 网关 + OTS Serverless 解决方案。 l 弹性高可用：毫秒级弹性扩容、充足的资源池水位、跨可用区高可用。 l 敏捷开发免运维：函数式极简编程可专注于业务创新，无采购和部署成本、提供监控报警等完备的可观测能力。
我们也可以新建空白应用，根据资源规划，手工创建架构图，详细步骤请参考使用文 档《构建应用架构》：https://help.aliyun.com/document_detail/186134.html 步骤5 单击应用>部署应用，进行应用部署。步骤6 资源校验成功后，进行资源的创建。文档版本：20210519 9 新零售商超基于 Serverless服务化改造 基础环境搭建 步骤7 ...
阿里云最佳实践容器workshop
通过本篇最佳实践，可以熟悉容器及k8s的基本操作。基于eci的高弹性架构，能有效的应对业务流量洪峰，同时提升资源使用效率。
阿里云ACK容器服务workshop 文档版本信息 阿里云 云原生应用 workshop 最佳实践 文档版本：20220301（发布日期）文档版本：20220301（发布日期）I 阿里云ACK容器服务workshop 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 阿里云 ACK容器服务 workshop 文档版本 V2.4 版本日期 2022-03-01 文档状态 对外发布 ...
Function Compute搭建前端CICD系统
场景描述 传统动静不分离的产品架构，随着访问量在增 长，性能会成为瓶颈。在这种情况下，用户可以 通过利用OSS和CDN对网站进行架构优化， 做到网站文件的动静分离，提升用户访问体验， 实现成本可控。本方案使用函数计算监听前端代 码库提交的分支变更，上传分支文件至OSS，通 过CDN进行前端资源加速。 方案优势 1.面向serverless：无需购买服务器 2.免运维：无需部署配置Jenkins 3.提供日志查询、性能监控和报警等功能 4.一站式：事件驱动方式触发响应 5.费用极低：按需付费 产品列表 专有网络VPC 对象存储OSS 日志服务SLS 函数计算 CDN
文档版本：20211008 III Function Compute计算搭建前端 CICD系统 前言 通过 Function Compute，您无需管理服务器等基础设施，只需编写代码并上传。Function Compute会为您准备好计算资源，以弹性、可靠的方式运行您的代码，并提供日志查询、性能监控、报警等功能。借助于 Function Compute，您可以 快速构建任何类型的应用...
函数计算FC
阿里云函数计算（Function Compute）是一个事件驱动的全托管计算服务。通过函数计算，您无需管理服务器等基础设施，只需编写代码并上传。函数计算会为您准备好计算资源，以弹性、可靠的方式运行您的代码。更棒的是，您只需要为代码实际运行消耗的资源付费，代码未运行则不产生费用。
查看全部产品 函数计算 FC播放视频 函数计算（Function Compute）是一个事件驱动的全托管 Serverless 计算服务，您无需管理服务器等基础设施，只需编写代码并上传，函数计算会为您准备好计算资源，并以弹性、可靠的方式运行您的代码。西游再现！函数计算一键部署 Flux 模型 AI 生成写实图像 立即开通管理控制台 免费试用 ...
来自：
云产品
- 产品推荐
- 这些文档可能帮助您