自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群，为了降低企业大数据计算平台的成本，提高 大数据应用开发效率，更有效保障数据安全，把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute，Dataworks、云数据库Hbase版、Datahub、VPC，ECS。
步骤1 登录到 BDS控制台 步骤2 选择创建 Hbase实时数据同步任务 文档版本：20210723 38 自建Hadoop迁移MaxCompute Hbase表数据迁移到云数据库 Hbase版 步骤3 查看创建完成的数据同步通道 步骤4 明天白天查看数据同步进展 查看 Azkaban任务的执行状态，可以看到在凌晨 1点成功执行了定时任务，结果 是将 HiveSQL的查询结果...
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
关键技术选型 1.1.ClickHouse vs Presto 面对海量的数据，我们如何进行数据库的选项，这里对比了开源的两种常见分析性数 据库。ClickHouse对数据采用有序存储的方式，其核心思想是充分利用了磁盘批量顺序读写 的性能要远远高于随机读写的特征，并且结合 LSM tree的设计进一步进行优化，使得 写性能达到最优（可达到 200MB/S...
互联网电商行业离线大数据分析
电商网站销售数据通过大数据分析后将业务指标数据在大屏幕上展示，如销售指标、客户指标、销售排名、订单地区分布等。大屏上销售数据可视化动态展示，效果震撼，触控大屏支持用户自助查询数据，极大地增强数据的可读性。
云数据库 RDSMySQL 版：基于阿里巴巴的 MySQL源码分支，经过双十一高并发、大数据量的考 验，拥有优良的性能。RDSMySQL支持实例管理、账号管理、数据库管理、备份恢复、白名单、透 明数据加密以及数据迁移等基本功能，还支持读写分离、SQL审计、多可用区集群等高级功能。 云服务器ECS：是阿里云提供的性能卓越、稳定...
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景，Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
专有网络 VPC 云数据库 RDS MySQL版 分析型数据库 MySQL版 解决问题 消息队列 Kafka 对象存储 OSS 1.如何搭建实时数仓。NAT网关 2.通过实时计算 Flink实现实时 ETL和数据流。DataV数据可视化 3.通过实时计算 Flink实现实时数据分析。4.通过实时计算 Flink实现事件触发。最佳实践频道 阿里云最佳实践分享群 云服务器 ECS...
MaxCompute湖仓一体方案
场景描述 自建数据湖与云数仓的融合解决方案，将 MaxCompute与自建的Hive集群做数据打 通，通过存储共享，元数据镜像等方式，解 决传统模式下的存储冗余，计算资源弹性能 力弱的痛点。可大幅度增强系统的资源弹 性，解决业务高峰期计算资源不足的问题。 方案优势 1.业务无侵入性：现有业务无需改造。 2.性能优化：MaxCompute在SQL上做 了大量优化与能力沉淀，可提高SQL 运行性能，降低计算成本。 3.灵活管理：元数据实时同步，无需额外 管理数据同步任务。 4.资源弹性：利用MaxCompute计算池 弹性进行海量数据计算。 解决问题 1.增强业务高峰期的资源弹性。 2.优化自建数据湖的数据治理能力。 3.减少跨平台数据处理的存储冗余。 产品列表 专有网络VPC 云服务器ECS 访问控制RAM 运维编排OOS MaxCompute（原ODPS） 云企业网CEN
Apache Hive：Apache Hive是基于 Hadoop的一个数据仓库工具，可以将结构化 的数据文件映射为一张数据库表，并提供简单的 SQL查询功能，可以将 SQL语 句转换为 MapReduce任务进行运行。其优点是学习成本低，可以通过类 SQL语 句快速实现简单的 MapReduce统计，不必开发专门的 MapReduce应用，十分适 合数据仓库的统计分析。...
EMR集群安全认证和授权管理
场景描述 阿里云EMR服务Kafka和Hadoop安全集群使 用Kerberos进行用户安全认证，通过Apache Ranger服务进行访问授权管理。本最佳实践中以 Apache Web服务器日志为例，演示基于Kafka 和Hadoop的生态组件构建日志大数据仓库，并 介绍在整个数据流程中，如何通过Kerberos和 Ranger进行认证和授权的相关配置。 解决问题 1.创建基于Kerberos的EMR Kafka和 Hadoop集群。 2.EMR服务的Kafka和Hadoop集群中 Kerberos相关配置和使用方法。 3.Ranger中添加Kafka、HDFS、Hive和 Hbase服务和访问策略。 4.Flume中和Kafka、HDFS相关的安全配 置。 产品列表：E-MapReduce、专有网络VPC、云服务器ECS、云数据库RDS版
产品列表：E-MapReduce、专有网络 VPC、云服务 最佳实践频道 阿里云最佳实践分享群 器 ECS、云数据库 RDS版 如二维码过期，请搜索群号：31852400 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 EMR集群安全认证和授权管理 最佳实践 文档版本：20200330 文档版本：20150122（发布日期）II EMR集群安全...
CDH迁移升级CDP最佳实践
当前 CDH 免费版停止下载，终止服务，针对需要企业版服务能力并且CDH 升级过程对业务影响较小的客户，通过安装新的 CDP 集群，将现有数据拷贝至新集群，然后将新集群切换为生产集群，升级过程没有数据丢失风险，停机时间较短，适合大部分互联网客户升级使用。
CDH迁移升级 CDP 最佳实践 业务架构 场景描述 解决的问题 CDH升级至 CDP 当前 CDH免费版停止下载，终止服务，针对需要企业版 服务能力并且 CDH升级过程对业务影响较小的客户，通 要求升级过程无数据丢失风险 过安装新的 CDP集群，将现有数据拷贝至新集群，然后 要求升级宕机时间及短 将新集群切换为生产集群，升级过程没有...
多账号下企业分账
场景描述 财务分账，是根据企业的成本中心，将云上资源的成本划分到给各个项目组/业务部门；助力企业快速梳理云上成本结构，搭建复杂组织架构下的成本关系，便捷地进行财务和云上成本的管理。 大型企业或集团公司，由于组织架构复杂，业务复杂等原因，通常拥有多个阿里云账号来管理规模庞大的云上资源。针对云上资源，如何建立有效的分账方案，是财务关注的重要问题。 解决问题 解决CIO/CTO最关心的云上IT治理，IT成本核算等问题。 弄清楚企业内各部门成本及云上IT成本结构。 让CIO/CTO准确地掌握云上资源成本情况，清楚业务与成本的关系。 让采购/运维轻松搞定每月的IT成本汇报。
实例、集群、分拆项：资源类别 资源名称 分账粒度 弹性计算 云服务器 ECS 实例 存储 对象存储 OSS 分拆项（Bucket）数据库 云数据库RDS MySQL版 实例 数据库 云数据库 PolarDB 集群 网络 负载均衡 SLB 实例 大数据 E-MapReduce(EMR)集群 实例型：如 ECS、SLB、EIP等产品，支持在实例维度进行打标。集群型：如 E-Mapreduce...
电商网站业务安全
场景描述 业务运营活动是电商行业开展业务必不可少的 手段，但大流量带来的系统可用性、优惠券带来 的“薅羊毛”等问题屡见不鲜，都会影响到运营 效果、甚至出现负面影响。阿里云基于集团电商 业务多年的运营经验，为云上客户提供完整的电 商网站运营期间的防护方案。 解决问题 1.保障业务运维活动系统稳定运行 2.防止“薅羊毛” 3.运营优惠给到真实的客户 产品列表 爬虫风险管理 风险识别 DDoS防护包
基于阿里云分布式文件系统和 SSD盘高性能存储，RDS支 持 MySQL、SQL Server、PostgreSQL、PPAS和 MariaDB引擎，提供了容灾、备份、恢复、监控、迁移等方面的全套解决方案，彻底解决数据库运维的烦恼。Web应用防火墙：阿里云 Web应用防火墙基于云安全大数据能力，有效防御各类 OWASP常见 Web攻击并过滤海量恶意 CC攻击，避免...
SAP S/4HANA上云最佳实践
本实践以SAP S/4HANA上阿里云的场景为原型，阐述了如何通过CADT在阿里云上快速交付符合最佳实践的基础云架构。
SAP S/4HANA上云最佳实践 云部署架构 方案概述 本实践以 SAP S/4HANA上阿里云的场景 为原型，阐述了如何通过 CADT在阿里云 上快速交付符合最佳实践的基础云架构。其他适用的 SAP产品 SAP S/4HANA SAP Suite on HANA SAP BW/4HANA SAP NetWeaver on HANA 方案涵盖内容 1、云架构设计 2、云资源选型 3、CADT一键部署资源 4、...
云消息队列 Kafka 版
云消息队列 Kafka 版是阿里云基于Apache Kafka构建的大数据消息中间件，广泛用于日志收集和分析、数据处理等场景。可提供全托管服务，用户无需部署运维，更专业、更可靠、更安全。
【Kafka Connect】将 SQL Server 数据同步至消息队列 Kafka 版.【Kafka Connect】从 MySQL 同步至消息队列 Kafka 版.【Kafka 生态】在 Knative 上实现 Kafka 消息推送.【最佳实践】从开源 Kafka 迁移到消息队列 Kafka 最佳实践.100%兼容开源社区 Apache Kafka（0.10.0.0 及以上版本），业务代码无需任何改造，快速上云.提供...
来自：
云产品
云数据库 Tair（兼容 Redis）产品概述
阿里云数据库Tair（兼容Redis®）能够应对开源Redis难以覆盖的场景，并提供稳定的高性能、低时延服务，包括多线程处理能力、多种存储介质等更多企业级服务，广泛应用于缓存、内存存储场景。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云AI 助理备案控制台云数据库 Tair（兼容 Redis）产品概述产品功能选型与定价入门与试用相关资源控制台文档联系我们立即购买高性能的云数据库 Tair（兼容 Redis®*）Redis 开源版和 Tair 企业版，提供亚毫秒级的稳定时延立即购买免费试用生态兼容兼容...
来自：
云产品
自建数据库迁移到云数据库
本方案介绍如何将网站的自建数据库迁移至云数据库 RDS，解决您随着业务增长可能会面临的数据库运维难题。数据库采用高可用架构，支持跨可用区容灾，给业务带来数据安全、可用性、性能和成本方面收益。
本方案介绍如何将网站的自建数据库迁移至云数据库 RDS，解决您随着业务增长可能会面临的数据库运维难题。数据库采用高可用架构，支持跨可用区容灾，给业务带来数据安全、可用性、性能和成本方面收益。自建数据库迁移到云数据库 本方案介绍如何将网站的自建数据库迁移至云数据库 RDS，解决您随着业务增长可能会面临的数据库...
来自：
技术解决方案
实时同步RDS与Redis构建缓存一致性
通过DTS数据订阅功能，用户可实时同步RDS日志变更到Redis，实现缓存更新和MySQL与Redis间的一致性。这种Cache-Aside Pattern模式通过DTS服务确保数据同步的高效性和稳定性，优化商品信息和账单信息的实时同步与查询性能，提升系统响应速度和用户体验。
80分钟 20元（假设您选择使用方案推荐的相关规格资源，且运行时间不超过2小时，如果调整了资源规格，请以控制台显示的实际报价以及最终账单为准）云数据库 RDS MySQL 版 数据传输服务 云数据库 Redis 版 云服务器 ECS 专有网络VPC 应用场景 技术方案的广泛应用场景 商品信息实时同步 面向电商行业等，通过实时同步RDS库中的...
来自：
技术解决方案
- 产品推荐
- 这些文档可能帮助您