自建Hive数据仓库跨版本迁移到阿里云Databricks数据洞察
场景描述 客户在IDC或者公有云环境自建Hadoop集群构建数据仓库和分析系统，购买阿里云Databricks数据洞察集群之后，涉及到数仓数据和元数据的迁移以及Hive版本的订正更新。 方案优势 1. 全托管Spark集群免运维，节省人力成本。 2. Databricks数据洞察与阿里云其他产品（OSS、RDS、MaxCompute、EMR）进行深度整合，支持以这些产品为数据源的输入和输出。 3. 使用Databricks Runtime商业版引擎相比开源Spark性能有3-5倍的提升。 解决问题 1. Hive数仓数据迁移OSS方案。 2. Hive元数据库迁移阿里云RDS方案。 3. Hive跨版本迁移到Databricks数据洞察使用Delta表查询以提高查询效率。
自建 Hive数据仓库跨版本迁移到阿里云 Databricks数据洞察 业务架构 场景描述 客户在 IDC或者公有云环境自建 Hadoop集群 构建数据仓库和分析系统，购买阿里云 Databricks数据洞察集群之后，涉及到数仓数 据和元数据的迁移以及 Hive版本的订正更新。方案优势 1.全托管 Spark集群免运维，节省人力成 本。2.Databricks数据洞察...
云原生数据仓库AnalyticDB PostgreSQL版
阿里云MPP架构的云原生数据仓库，可提供PB级海量数据在线/离线分析服务，是面向各行各业的有竞争力的数仓方案，真正做到“人人可用的数据分析服务”。
用户现有的OLTP数据库实例，包括 RDS MySQL，PostgreSQL，或传统数据库实例 Oracle，SQL Server等，数据可以通过 数据传输服务 DTS，数据集成服务 Dataworks 等实时同步到云原生数据仓库AnalyticDB PostgreSQL版，构筑可线性扩展的在线企业数据仓库服务。同时可以结合 Dataworks 的 ETL 调度功能，基于 AnalyticDB for ...
来自：
云产品
自建Hive数仓迁移到阿里云EMR
场景描述 客户在IDC或者公有云环境自建Hadoop集群构 建数据仓库和分析系统，购买阿里云EMR集群之 后，涉及到将数据仓库和Hive元数据的数据库迁 移上云。目前主流Hive数据仓库迁移场景为1.x 版本迁移到阿里云EMR(Hive2.x版本），涉及到 数据订正更新步骤。 解决的问题 Hive数据仓库的数据迁移方案 Hive元数据库的迁移方案 Hive跨版本迁移后的数据订正 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
目前主流 Hive数据仓库迁移场景为 1.x版本 迁移到阿里云 EMR(Hive 2.x版本），涉及到数据 订正更新步骤。产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。文档模板（手册名称）/Error!Use the Home tab to apply 云服务器 ECS（产品名称）标题 to the text that you want to appear here.文档版本：20210721 阿里云 自建 ...
MySQL数据库上云选型解决方案
MySQL数据库上云选型解决方案，MySQL数据库成为近十年来数据库使用范围最广，数据库生态最好的开源数据库，本方案以MySQL数据库上云的各种场景为切入点，包括数据库的扩展性、数据库水平拆分、数据库垂直拆分、高弹性数据库、数据库大促支持、MySQL数据库海量数据分析等向上云的企业客户介绍如何选择适合企业的MySQL生态数据库。
RDS读写分离.MySQL分布式数据库解决方案，解决单机关系型数据库扩展性问题，通过水平拆分、垂直拆分提升数据库系统的高并发读、高并发写、海量存储、以及扩展性能力.MySQL数据库高并发读写场景.PolarDB读写分离.基于PolarDB的高弹性数据库解决方案，...分析型数据库MySQL版数据同步.分析型数据库MySQL版创建集群.ADB快速入门.
来自：
解决方案
自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群，为了降低企业大数据计算平台的成本，提高 大数据应用开发效率，更有效保障数据安全，把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute，Dataworks、云数据库Hbase版、Datahub、VPC，ECS。
启动 Hbase历史数据迁移 步骤1 进入历史数据迁移界面 步骤2 创建 Hbase迁移任务 文档版本：20210723 36 自建Hadoop迁移MaxCompute Hbase表数据迁移到云数据库 Hbase版 步骤3 查看迁移进程 文档版本：20210723 37 自建Hadoop迁移MaxCompute Hbase表数据迁移到云数据库 Hbase版 4.4.启动 Hbase实时数据同步 如果如要进行一段...
数据传输解决方案
数据传输解决方案支持关系型数据库、NoSQL、大数据(OLAP)等数据源间的数据传输。 它是一种集数据迁移、数据订阅及数据实时同步于一体的数据传输服务。数据传输致力于在公共云、混合云场景下，解决远距离、毫秒级异步数据传输难题。
DTS实例的创建.创建数据传输DTS迁移、同步、订阅...云数据库MySQL.UC浏览器实现了异地多活的架构，解决跨城容灾、业务分流.数据传输DTS.云数据库PolarDB-X.云数据库MySQL.梨视频借助DTS数据订阅功能，完成轻量级业务解耦，让核心业务逻辑更简单可靠.数据传输DTS.完成从其他云厂商到阿里云的数据库实例多对一迁移.数据传输DTS.
来自：
解决方案
CDH迁移升级CDP最佳实践
当前 CDH 免费版停止下载，终止服务，针对需要企业版服务能力并且CDH 升级过程对业务影响较小的客户，通过安装新的 CDP 集群，将现有数据拷贝至新集群，然后将新集群切换为生产集群，升级过程没有数据丢失风险，停机时间较短，适合大部分互联网客户升级使用。
CDH迁移升级 CDP 最佳实践 业务架构 场景描述 解决的问题 CDH升级至 CDP 当前 CDH免费版停止下载，终止服务，针对需要企业版 服务能力并且 CDH升级过程对业务影响较小的客户，通 要求升级过程无数据丢失风险 过安装新的 CDP集群，将现有数据拷贝至新集群，然后 要求升级宕机时间及短 将新集群切换为生产集群，升级过程没有...
数据传输服务DTS
阿里云数据传输服务集数据迁移、订阅及实时同步功能于一体，能够解决公共云、混合云场景下，远距离、毫秒级异步数据传输难题，支持关系型数据库、NoSQL、大数据(OLAP)等数据源，其底层基础设施采用阿里双11异地多活架构，为数千下游应用提供实时数据流，已在线上稳定运行7年之久。
可以将源端数据库数据实时同步到数据仓库，构建实时分析数仓，也可以根据调度策略的配置，定期地将源库中的结构和存量数据迁移至目标库中，构建更加灵活的数据仓库（例如构建T+1的周期性数仓）.实时同步功能支持将并发粒度缩小到事务级别，能够并发同步同张表的更新数据，提升同步性能；支持多并发压缩传输，降低传输链路对...
来自：
云产品
自建K8S集群迁移ACK弹性裸金属集群
场景描述 在微服务化改造之后，企业在享受K8S带来应 用管理的便利的同时，存在硬件性能不足，本 地扩展性差，容器容灾难，K8S管理复杂等问 题。 解决问题 1.增强K8S扩展性：如何通过弹性裸金属服务 器的强劲硬件性能，实现云端资源急速扩 展，从容应对应用访问压力大的问题。 2.如何简化云端K8S运维：通过阿里云容器服 务（ACK）实现敏捷开发和部署落地，加速 企业业务迭代。 3.如何综合考虑迁移和容灾：如何整合云上和 云下容器资源实现遇到故障时可以通过健 康检查实现自动容灾。 4.如何不改应用上云：如何实现应用上云数据 库连接零修改。 5.数据库上云及回退：如何实现上云回退； 产品列表 ACK/ECS/SLB/NAT网关/弹性裸金属服务器/DTS/RDS MySQL
V2.1 2021-08-10 衾影-1、CADT部署 2、K8S版本升 级 V2.2 2022-01-28 衾影-增加自建 K8S 的 shell脚本，优化文档 文档版本：20220128 I 自建 K8S集群迁移 ACK弹性裸金属集群 前言 前言 概述 本实践探讨从线下 IDC自建 K8S零改造迁移云上 K8S神龙版实践，包含自建 K8S、数据双向同步、流量管理等内容。应用范围 线下 IDC或...
数据管理DMS
数据管理DMS是基于阿里巴巴集团十余年的数据库服务平台的云版本，提供免安装、免运维、即开即用、多种数据库类型与多种环境统一的web数据库管理终端；可以为企业用户快速复制搭建与阿里集团同等安全、高效、规范的数据库DevOps研发流程解决方案。
云数据库RDS MySQL版.数据传输DTS.推荐搭配产品.上云迁移（同构/异构）.上云迁移（同构/异构）.基于DTS实时日志解析技术实现数据库的异地容灾，保障数据库的高可用；基于DTS的双向同步技术，可以实现数据中心间数据库的双向同步，同时对上层业务提供读写能力，实现业务的多活.数据库单点故障，导致业务不可用和数据的丢失的...
来自：
云产品
数据管理与服务
数据管理与服务作为阿里云产品六大版块之一，面向不同业务场景，阿里云提供数据存储、分析、应用等全链路能力，满足企业客户全方位的数据处理需求，实现计算和存储分离、资源解耦、数据移动减化，用以满足行业快速发展的需求和趋势，利用数据重塑其业务。
云原生数据仓库 AnalyticDB MySQL 版.云原生多模数据库 Lindorm.云数据库 RDS MySQL 版.云数据库 RDS PostgreSQL 版.云数据库 RDS SQL Server 版.云原生分布式数据库 PolarDB-X.云数据库 Redis 版.云数据库 MongoDB 版.云原生数据仓库 AnalyticDB PostgreSQL 版.数据传输服务 DTS.数据库备份 DBS.云原生内存数据库 Tair.云...
来自：
云产品
云原生数据湖分析DLA
阿里云云原生数据湖分析是新一代大数据解决方案，采取计算与存储完全分离的架构，支持对象存储(OSS)、RDS(MySQL等)、NoSQL(MongoDB等)数据源的消息实时归档建仓，提供Presto和Spark引擎，满足在线交互式查询、流处理、批处理、机器学习等诉求。内置大量优化+弹性，比开源自建集群最高降低50%+的成本，最快可1分钟级拉起300个计算节点，快速满足业务资源要求。
云数据库RDS MySQL版.对象存储OSS.推荐搭配产品.云原生数据湖分析架构.采用云原生架构，大幅降低运维工作量.该场景需要对多种类型的数据源进行联合查询和实时分析，传统方案过程繁琐费时。云原生数据湖提供提供多种数据源之间联邦分析能力，屏蔽各种数据源访问的差异性，快速挖掘数据价值.生产库与分析环境隔离，保持生产库...
来自：
云产品
异地双活场景下的数据双向同步
概述 随着客户业务规模的扩大，对系统高可用性要求越来越高，越来越多用户采用异地双活/多活架构，多活架构往往涉及业务侧做单元化改造，本方案仅模拟用户已做单元化改造后的数据双向同步，数据库采用双主架构，本地写本地读，同时又保证双库的数据一致性，为业务增加可用性和灵活性。 适用场景 数据库双向同步 数据库全局ID不冲突 双活架构的数据库建设问题 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤： 方案优势 DTS双向同步，采用独立模块避免数据同步占用系统资源。 奇偶ID涉及，避免数据冲突。 DTS多种处理冲突的方式供业务选择。 安全：原生的多租户系统，以项目进行隔离，所有计算任务在安全沙箱中运行。
详见：https://www.aliyun.com/product/kubernetes 云数据库 RDS MySQL版：MySQL 是全球最受欢迎的开源数据库之一，作为开 源软件组合 LAMP（Linux+Apache+MySQL+Perl/PHP/Python）中的重要一 环，广泛应用于各类应用场景。文档版本：20220209 III 异地双活场景下的数据双向同步 前言 详见：...
游戏数据运营融合分析
场景描述 1.游戏行业有结构化和非结构化数据融合分 析需求的客户。 2.游戏行业有数据实时分析需求的客户，无法 接受T+1延迟。 3.对数据成本有一定诉求的客户，希望物尽其 用尽量优化成本。 4.其他行业有类似需求的客户。 方案优势/解决问题 1.秒级实时分析：依托ADB计算密集型实例， 秒级监控DAU等数据，为广告投放效果提 供有力的在线决策支撑。 2.高效数据融合分析：打通结构化和非结构化 数据，支撑产品体验分析；广告买量投放效 果实时（分钟级）分析，渠道的评估更准确。 3.低成本：DLA融合冷数据分析+ADB存储密 集型温数据分析+ADB计算密集型热数据分 析，在满足各种分析场景需求的同时，有效 地降低的客户的总体使用成本。 4.学习成本低：DLA和ADB兼容标准SQL语 法，无需额外学习其他技术。 产品列表 专有网络VPC、负载均衡SLB、NAT网关、弹性公网IP 云服务器ECS、日志服务SLS、对象存储OSS 数据库RDSMySQL、数据传输服务DTS、数据管理DMS 分析型数据库MySQL版ADS 数据湖分析DLA、QuickBI
更多信息，请参见：help.aliyun.com/document_detail/32321.html AnalyticDB（简称 ADB）：分析型数据库 MySQL版（AnalyticDB for MySQL）是一种高并发低延时的 PB 级实时数据仓库，全面兼容 MySQL 协议以及 SQL:2003 语法标准，可以毫秒级针对万亿级数据进行即时的多维分析透视和 业务探索。更多信息，请参见：help.aliyun...
互联网电商行业离线大数据分析
电商网站销售数据通过大数据分析后将业务指标数据在大屏幕上展示，如销售指标、客户指标、销售排名、订单地区分布等。大屏上销售数据可视化动态展示，效果震撼，触控大屏支持用户自助查询数据，极大地增强数据的可读性。
云数据库 RDSMySQL 版：基于阿里巴巴的 MySQL源码分支，经过双十一高并发、大数据量的考 验，拥有优良的性能。RDSMySQL支持实例管理、账号管理、数据库管理、备份恢复、白名单、透 明数据加密以及数据迁移等基本功能，还支持读写分离、SQL审计、多可用区集群等高级功能。 云服务器ECS：是阿里云提供的性能卓越、稳定...
DTS数据同步集成MaxCompute数仓
场景描述 本文Step by Step介绍了通过数据传输服务 DTS实现从云数据库RDS到MaxCompute的 数据同步集成，并介绍如何使用DTS和 MaxCompute数仓联合实现数据ETL幂等和数 据生命周期快速回溯。 解决问题 1.实现大数据实时同步集成。 2.实现数据ETL幂等。 3.实现数据生命周期快速回溯。 产品列表 MaxCompute 数据传输服务DTS DataWorks 云数据库RDS MySQL 版
产品列表 最佳实践频道 阿里云最佳实践分享群 MaxCompute 数据传输服务 DTS DataWorks 云数据库 RDS MySQL 版 云速搭 CADT 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 DTS数据同步集成 MaxCompute数仓 最佳实践 文档版本：20220126（发布日期）文档版本：20150122（发布日期）I DTS数据同步集成 ...
E-MapReduce Serverless StarRocks 版
E-MapReduce Serverless StarRocks版简称EMR StarRocks，是阿里云提供的全托管服务，内核100%兼容StarRocks，性能比传统OLAP引擎提升3-10倍，助力企业高效构建湖仓分析、高并发查询及实时分析等大数据应用。
一套系统解决多维分析、万级高并发查询、实时查询分析等场景，根据业务实时性要求统一管理数据仓库和数据湖，并提供多种数据模型.OLAP 统一分析.全托管免运维，极大降低运维成本及使用的复杂度，开箱即用，提供弹性伸缩、可视化监控运维、SQL Editor 及慢 SQL 分析等能力.企业级运维及易用性.兼容 MySQL 协议，兼容多种 BI ...
来自：
云产品
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
本实践介绍如何快速收集海量用户行为数 据，实现秒级响应的实时用户行为分析，并 通过实时流计算、云数据库 ClickHouse等 技术进行深入挖掘和分析，得到用户特征和 画像，实现个性化系统推荐服务。产品列表 最佳实践频道 阿里云最佳实践分享群 专有网络 VPC 弹性公网 IP EIP 云服务器 ECS 消息队列 Kafka版 云数据库 ...
云数据库 SelectDB 版
阿里云数据库 SelectDB 是现代化实时数据仓库 SelectDB 在阿里云上的全托管服务，内核基于业界领先的开源分析型数据库 Apache Doris 研发，由阿里云和飞轮科技联合打造。阿里云数据库 SelectDB 聚焦于满足企业级大数据分析需求，广泛应用于实时报表分析、即席多维分析、日志检索分析、数据联邦与查询加速等场景，致力于为客户提供极致性能、简单易用的数据分析服务。
相关产品云数据库 SelectDB 版本产品云数据库 RDS MySQL 版云消息队列 Kafka 版数据传输服务DTS实时计算Flink版在线咨询即席多维分析传统解决方案面临的挑战包括：计算分析过程复杂，难以快速响应查询；表结构不灵活，不适应灵活的业务变化；数据发生变化时，原有数据无法实时更新。基于 SelectDB 建设多维数据分析平台，可...
来自：
云产品
- 产品推荐
- 这些文档可能帮助您