云速搭部署Flink应用
本水煎通过云速搭实现一个DataHub+Flink的实时流计算引擎架构，利用DataHub收集原始数据，推送到Flink进行基于流式数据的分析和应用。
文档版本：20211103 18 云速搭部署 Flink应用 CADT设计部署服务 此外，本实践创建的 datahub，可以将海量数据同步到实时流计算引擎 flink中，并进 行相关的作业开发。步骤10 开发配置 Flink 可参考 https://bp.aliyun.com/detail/155 中第 4章的“实时数仓搭建”。文档版本：20211103 19 云速搭部署 Flink应用 产品支持 3....
基于云拨测的网站用户体验监测最佳实践
网站作为电商行业开展业务的核心场景，不同区域、不同运营商、不同的终端用户，给网站体验带来了巨大的一致性挑战。打开卡顿、缓慢，甚至无响应，都会影响到运营效果、甚至出现负面影响。阿里云基于多年业务经验，为云上客户提供完整的电商网站运营期间的用户体验监测方案。
3.目前 CADT暂时不支持开通、购买云拨测（正紧急开发中），您可以通过以下链接 选择对应套餐：试用版：云拨测提供免费试用版、后付费专家版和预付费版三种模式，首次开 通云拨测后，云 拨 测 将 提 供 15 天 的 免 费 试 用 期。https://arms.console.aliyun.com/testing 云拨测-包年包月：https://common- 文档版本：...
Spark on ECI大数据分析
场景描述 方案优势 1.计算引擎弹性扩缩容，兼顾资源弹性与计 算资源成本优化。 2.计算与存储分离架构，结合阿里云原生云 存储产品，海量数据湖优势。 3.Kubernetes原生的调度性能优势，提升在 大规模分析作业时的分析性能优势分。 4.集群资源隔离和按需分配。 解决问题 1.计算资源弹性能力不足，计算资源成本管 控能力欠缺. 2.集群资源调度能力和隔离能力不足。 3.计算与存储无法分离，大数据量分析时出 现数据存储资源瓶颈。 4.Spark submit方式提交分析作业参数支持 有限等缺点。 产品列表 容器服务Kubernetes版(ACK) 弹性容器实例(ECI) 文件存储HDFS 对象存储OSS 专有网络VPC 容器镜像服务ACR
首先将本地的测试文件上传到开发管理机的 root 目录下，然后在开发管理机的 root 目录执行如下命令,查看测试文件大小为 16+GB。文档版本：20200409 9 Spark on ECI大数据分析 应用开发 2.2.创建镜像仓库 步骤1 登录阿里云容器镜像服务控制台。（cr.console.aliyun.com/cn-hangzhou/instances/repositories）步骤2 如果首次...
云数据库产品总览（瑶池）
阿里云提供完善的数据库解决方案，多款数据库产品，满足99%的业务场景，荣获Gartner、信通院等国内外多项认证。轻松满足高可靠、高可用性、高性能等数据库需求；运维工作量大幅减少，让企业一站式享受数据上云及分布式架构的技术红利！
适用于任何规模，多种模型的云原生数据库服务，融合宽表、时序、搜索及文件四种数据引擎.完全兼容MongoDB协议,支持副本集和分片集群两种部署架构，具备安全审计，时间点备份等多项企业能力.功能丰富、高性能、低成本、灵活易用的数据仓库服务，全面兼容MySQL协议以及SQL:2003 语法标准.支持SQL:2003，兼容PostgreSQL/...
来自：
云产品
开源Flink迁移实时计算Flink全托管版最佳实践
本方案介绍如何将自建开源Flink集群的流式任务（包含Datastream、Table/SQL、PyFlink任务）迁移至阿里云实时计算全托管版。
擎版本”保持一致。步骤5 上传刚下载的 2个 jar包。文档版本：20211222 23 开源 Flink迁移实时计算Flink全托管版 作业迁移 步骤6(可选)通过“资源配置”配置作业的资源，本示例参考自建 Flink 集群作业运行命令设 置作业并 发度为 2。步骤7(可选)可以点击右上角“验证”对 SQL 代码进行语法检查，也可以通过“执行”对作业 ...
云消息队列 Kafka 版
云消息队列 Kafka 版是阿里云基于Apache Kafka构建的大数据消息中间件，广泛用于日志收集和分析、数据处理等场景。可提供全托管服务，用户无需部署运维，更专业、更可靠、更安全。
值得一提的是，使用云产品 Kafka，无论在生产环境还是本地开发测试环境，都可以直接使用云产品，减少通用产品依赖，让团队专注于业务的开拓实现，极大的提升了团队工作效率.骑士卡：基于 Kafka 搭建消息中心，上亿消息推送轻松完成.开源自建 Kafka 运维投入大，在大规模场景下稳定性无法保障，开源 bug 没有解决，同时 SLA ...
来自：
云产品
云速搭部署MongoDB应用
通过云速搭实现一个云数据库MongoDB版的产品实例
配置项 参数说明 实例名 mongodb-test 支付方式 按量付费 数据库版本 4.2 存储引擎 WiredTiger 只读节点 无只读节点 节点数 三节点 实例规格 dds.mongo.2xlarge 存储空间 20（G）支付方式 按量付费 设置密码(大写、小写、数字、特殊字符占三种，长度为 8－32位)文档版本：20211206 9 云速搭部署MongoDB应用 CADT设计部署...
自建Hive数据仓库跨版本迁移到阿里云Databricks数据洞察
场景描述 客户在IDC或者公有云环境自建Hadoop集群构建数据仓库和分析系统，购买阿里云Databricks数据洞察集群之后，涉及到数仓数据和元数据的迁移以及Hive版本的订正更新。 方案优势 1. 全托管Spark集群免运维，节省人力成本。 2. Databricks数据洞察与阿里云其他产品（OSS、RDS、MaxCompute、EMR）进行深度整合，支持以这些产品为数据源的输入和输出。 3. 使用Databricks Runtime商业版引擎相比开源Spark性能有3-5倍的提升。 解决问题 1. Hive数仓数据迁移OSS方案。 2. Hive元数据库迁移阿里云RDS方案。 3. Hive跨版本迁移到Databricks数据洞察使用Delta表查询以提高查询效率。
深度融合 Databricks数据洞察与阿里云其它产品（例如，OSS、MongoDB、Elasticseach、RDS和 MaxCompute等）进行了深度整合，支持以这些产品作为 Spark计算引 擎的输入源或者输出目的地。文档版本：20210425 VI 自建 Hive数据仓库跨版本迁移到阿里云 Databricks数据洞察 前置条件 前置条件 为了顺利完成本实践，您需要提前...
基因计算工作流
场景描述 适合利用容器服务Kubernetes版上的工作流 引擎进行大规模基因测序的场景。阿里云工作流 引擎基于开源项目Argo实现，支持并发、循环、 重试等多种执行策略。典型的基因计算过程会把 数据分批进行计算，按照规定好的步骤依次完成 计算，这符合工作流的特点：多层次，有向无环 图。 解决问题 1.基因计算如何构建工作流 2.容器服务Kubernetes版结合 共享文件存储NAS提供数据 服务 3.构建单POD工作流 产品列表 容器服务Kubernetes版 文件存储NAS
基因计算工作流 最佳实践 架构图 场景描述 适合利用容器服务 Kubernetes 版上的工作流 引擎进行大规模基因测序的场景。阿里云工作流 引擎基于开源项目 Argo实现，支持并发、循环、重试等多种执行策略。典型的基因计算过程会把 数据分批进行计算，按照规定好的步骤依次完成 计算，这符合工作流的特点：多层次，有向无环 图。...
金融专属大数据workshop
实践目标 学习搭建一个实时数据仓库，掌握数据采集、存储、计算、输出、展示等整个业务流程。 整个实时数据仓库系统全部基于阿里云产品进行架构搭建，用户可以掌握并学会运用各个服务组件及各个组件之间如何联动。 理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方法。 前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解
2.增加对于DIM维表 存储引擎的选择说明 V1.3 2021-05-19 弦望、敬海 文档细节优化 V1.4 2021-05-21 明誉 文档细节优化 V1.5 2021-06-01 明誉 文档细节优化 V1.6 2021-07-08 川知、衾影 明誉 1、金融行业 2、文档部分优化 V1.7 2021-08-03 衾影 文档细节优化 文档版本：20210803（发布日期）I阿里云最佳实践大数据WorkShop ...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
云数据库HBase
阿里云云数据库 HBase 版（ApsaraDB for HBase）是基于 Hadoop 且100%兼容HBase协议的高性能、可弹性伸缩、面向列的分布式数据库，轻松支持PB级大数据存储，满足千万级QPS高吞吐随机读写场景。
单节点部署，拥有完整功能集，适用于开发测试生产预发.Serverless版.根据业务量自动弹性伸缩，按实际使用量收费，不用不花钱，适合间歇性负责的业务.支持集群版、单节点和Serverless三种产品形态，用户根据业务实际需求自由选择.三种产品形态自由选择.增强版内核原生支持，简单易用，提供了强大的吞吐与性能.内置Solr组件，...
来自：
云产品
MaxCompute湖仓一体方案
场景描述 自建数据湖与云数仓的融合解决方案，将 MaxCompute与自建的Hive集群做数据打 通，通过存储共享，元数据镜像等方式，解 决传统模式下的存储冗余，计算资源弹性能 力弱的痛点。可大幅度增强系统的资源弹 性，解决业务高峰期计算资源不足的问题。 方案优势 1.业务无侵入性：现有业务无需改造。 2.性能优化：MaxCompute在SQL上做 了大量优化与能力沉淀，可提高SQL 运行性能，降低计算成本。 3.灵活管理：元数据实时同步，无需额外 管理数据同步任务。 4.资源弹性：利用MaxCompute计算池 弹性进行海量数据计算。 解决问题 1.增强业务高峰期的资源弹性。 2.优化自建数据湖的数据治理能力。 3.减少跨平台数据处理的存储冗余。 产品列表 专有网络VPC 云服务器ECS 访问控制RAM 运维编排OOS MaxCompute（原ODPS） 云企业网CEN
执行过程如下：文档版本：20220402 22 MaxCompute湖仓一体方案 DataWorks执行 4.DataWorks执行 湖仓一体环境搭建完成之后，Hadoop集群中的元数据 DB直接映射为 MaxCompute 的 Project，可以基于 DataWorks强大的数据开发/管理/治理能力，提供统一的湖仓开 发体验，降低两套系统的管理成本。步骤1 选择创建的工作空间，点击 ...
大数据workshop
大数据workshop
步骤3 在新建>官方模版库新建，输入“大数据 workshop”关键词搜索模板，单击基于 方案新建。文档版本：20210628（发布日期）10 阿里云最佳实践大数据 WorkShop 最佳实践项目实践 步骤4 配置模板资源参数并保存。ECS的规格以及 ECS的参数，如操作系统、登录密码等（注意 ECS密码必须 设置，目前模版已经预设了密码，因此不...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
产品列表 最佳实践频道 阿里云最佳实践分享群 专有网络 VPC 弹性公网 IP EIP 云服务器 ECS 消息队列 Kafka版 云数据库 ClickHouse 实时计算 Flink版 如二维码过期，Quick BI数据可视化分析平台 请搜索群号：31852400 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 基于 Flink+ClickHouse 构建实时游戏...
阿里云数据库快速搭建疫情分析系统最佳实践
疫情态势分析和防控任务迫在眉睫，如果快速搭建高效的疫情态势分析系统是众多部门和单位的难题，阿里云polardb for PG+Ganos解决方案可在极短时间内完成分析系统搭建，有效助力疫情防。 方案优势： 1、性能优越：Ganos作为自研的时空数据库引擎，相比postgis性能更优秀。 2、安全稳定：故障自动切换自愈，资源隔离，多副本存储。 3、简单易用：开箱即用，兼容postgresql，打通quickbi快速搭建数据分析展示。 4、功能强大：相比postgis在时空模型上做了较多扩充，支持几何模型，栅格模型，网络模型，时空轨迹模型，点云模型，拓扑网络模型。
技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤：方案优势 性能优越：Ganos作为自研的时空数据库引擎，相比 postgis性能更优秀。安全稳定：故障自动切换自愈，资源隔离，多副本存储。简单易用：开箱即用，兼容 postgresql，打通 quickbi快速搭建数据分析展示。功能强大：相比 postgis在时空模型上做了...
Function Compute构建高弹性大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中，对数据进行处理、分析，形成业务闭环。比如游戏行业中的游戏发行、游戏运营，产互行业中的数字营销，物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点，给整个数据采集传输系统带来很大的挑战。在这个场景中，有三个关键的环节，数据采集、数据传输、数据处理。该最佳实践主要涉
更多信息，请参见：www.aliyun.com/product/sls Tracing Analysis： 链路追踪 Tracing Analysis为分布式应用的开发者提供了完整 的调用链路还原、调用请求量统计、链路拓扑、应用依赖分析等工具，可以帮助开 发者快速分析和诊断分布式应用架构下的性能瓶颈，提高微服务时代下的开发诊 断效率。更多信息，请参见：...
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景，Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
基于阿里云分布式文件系统和 SSD盘高 文档版本：20220223（发布日期）III 基于 Flink的资讯场景实时数仓 前言 性能存储，RDS支持 MySQL、SQL Server、PostgreSQL、PPAS（Postgre Plus Advanced Server，高度兼容 Oracle数据库）和 MariaDB TX引擎，并且提供了 容灾、备份、恢复、监控、迁移等方面的全套解决方案，彻底解决...
自建Hive数仓迁移到阿里云EMR
场景描述 客户在IDC或者公有云环境自建Hadoop集群构 建数据仓库和分析系统，购买阿里云EMR集群之 后，涉及到将数据仓库和Hive元数据的数据库迁 移上云。目前主流Hive数据仓库迁移场景为1.x 版本迁移到阿里云EMR(Hive2.x版本），涉及到 数据订正更新步骤。 解决的问题 Hive数据仓库的数据迁移方案 Hive元数据库的迁移方案 Hive跨版本迁移后的数据订正 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
其优点是学习成本低，可以通过类 SQL语句快速实 现简单的 MapReduce统计，不必开发专门的 MapReduce应用，十分适合数据仓 库的统计分析。E-MapReduce 阿里云 E-MapReduce（EMR）是构建在阿里云云服务器 ECS 上的开源 Hadoop、Spark、HBase、Hive、Flink生态大数据 PaaS 产品。提供用户在云上使用开源 技术建设数据仓库、...
DTS数据同步集成MaxCompute数仓
场景描述 本文Step by Step介绍了通过数据传输服务 DTS实现从云数据库RDS到MaxCompute的 数据同步集成，并介绍如何使用DTS和 MaxCompute数仓联合实现数据ETL幂等和数 据生命周期快速回溯。 解决问题 1.实现大数据实时同步集成。 2.实现数据ETL幂等。 3.实现数据生命周期快速回溯。 产品列表 MaxCompute 数据传输服务DTS DataWorks 云数据库RDS MySQL 版
文档版本：20220126（发布日期）5 DTS数据同步集成 MaxCompute数仓 资源环境部署 步骤3 通过搜索关键字找到“DTS数据同步集成 MaxCompute数仓”模版，单击基于应用新 建。步骤4 您可以双击图标修改资源参数，配置完成后，点击右上角的保存，设定应用名称后点 击确认。步骤5 应用保存成功后，点击部署应用。文档版本：...
ACK集群神龙资源错峰利用
场景描述 使用ACK构建容器集群环境，神龙资源为 集群节点资源部署应用。在主业务低谷 期，通过将部分神龙节点从容器集群中移 除，更换镜像切换操作系统及应用环境， 使得这部分神龙实例资源服务于其他业 务。在主业务高峰期前将神龙资源重新加 入ACK集群。从而达到错峰利用神龙资源 的目的，以便充分利用神龙资源，降低资 源成本。 解决问题 1.基于ACK及神龙资源构建容器集群环 境，典型部署应用。 2.ACK内挂载NAS存储。 3.ACK集群神龙实例节点移除和重新加入 集群。 产品列表 弹性裸金属服务器EBM 容器服务ACK 专有网络VPC 弹性公网IPEIP 负载均衡SLB 云数据库RDS MySQL版 云数据库Redis版 文件存储NAS 访问控制RAM 日志服务SLS 云监控CloudMonitor 运维编排OOS
基于阿里云分布式文件系统和 SSD盘高性能存储，RDS支 持 MySQL、SQL Server、PostgreSQL、PPAS和 MariaDB引擎，提供了容灾、备份、恢复、监控、迁移等方面全套解决方案，彻底解决数据库运维烦恼。详见：https://www.aliyun.com/product/rds/mysql 云数据库 Redis版：高可靠双机热备架构及可无缝扩展的集群架构，满足高读写 ...
- 产品推荐
- 这些文档可能帮助您