自建Hadoop迁移到阿里云EMR
场景描述 场景1：自建Hadoop集群数据（HDFS）迁移到 阿里云EMR集群的HDFS文件系统； 场景2：自建Hadoop集群数据（HDFS）迁移到 计算存储分离架构的阿里云EMR集群，以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案； 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
名词解释 E-MapReduce 阿里云 E-MapReduce（EMR）是构建在阿里云云服务器 ECS 上的开源 Hadoop、Spark、HBase、Hive、Flink生态大数据 PaaS 产品。提供用户在云 上使用开源技术建设数据仓库、离线批处理、在线流式处理、即时查询、机器学 习等场景下的大数据解决方案。详情请查看 ...
自建Hive数仓迁移到阿里云EMR
场景描述 客户在IDC或者公有云环境自建Hadoop集群构 建数据仓库和分析系统，购买阿里云EMR集群之 后，涉及到将数据仓库和Hive元数据的数据库迁 移上云。目前主流Hive数据仓库迁移场景为1.x 版本迁移到阿里云EMR(Hive2.x版本），涉及到 数据订正更新步骤。 解决的问题 Hive数据仓库的数据迁移方案 Hive元数据库的迁移方案 Hive跨版本迁移后的数据订正 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
E-MapReduce 阿里云 E-MapReduce（EMR）是构建在阿里云云服务器 ECS 上的开源 Hadoop、Spark、HBase、Hive、Flink生态大数据 PaaS 产品。提供用户在云上使用开源 技术建设数据仓库、离线批处理、在线流式处理、即时查询、机器学习等场景下的 文档版本：20210721 III 自建Hive数据仓库跨版本迁移到阿里云 EMR 前言 大数据...
自建K8S迁移镜像、应用至阿里云ACK最佳实践
云原生技术K8S以其易管控，自动化操作，自修复等特点充分满足了企业的需求，越来越多的企业都加入容器化这个队伍中。但随着技术的更新迭代，自建的K8S相关的容器镜像服务、集群管理、稳定性保障也让企业IT人员感觉到压力，所以上云成了一些企业的选择，将底层的IAAS基础设施和K8S的基础PASS能力交给阿里云来管理，企业本身抽出更多精力聚焦业务的创新。针对以上需求通过使用image-syncer、velero来介绍如何平滑、便捷的迁移自建的K8S镜像和应用至阿里云容器镜像服务和ACK。 针对以上需求场景通过使用image-syncer、velero来介绍如何平滑、便捷的迁移自建的K8S镜像和应用至阿里云容器镜像服务和ACK；本文通过使用河源的ECS自建K8S集群和Harbor镜像仓库来模拟IDC环境
文档版本：20200525 II 自建 K8S迁移镜像、应用至阿里云 ACK 目录 云服务器 ECS（Elastic Compute Service）是一种弹性可伸缩的计算服务，助您 降低 IT 成本，提升运维效率，使您更专注于核心业务创新。详见：https://www.aliyun.com/product/ecs 专有网络 VPC：Virtual Private Cloud，简称 VPC，是基于阿里云创建的...
自建ELK迁移阿里云日志服务
场景描述 ELK Stack（Elastic/Logstash/Kibana） 通常 被用于日志实时分析， 在开源社区中有大量 的内容和使用案例。 本文介绍如何将自建的 ELK 系统迁移到阿里云 SLS 日志服务。 解决问题 1. 自建 ELK 如何迁移到阿里云日志服务。 2. 如何使用 Logtail 采集日志。 3. 如何使用阿里云日志服务对日志进行查 询、 分析。 产品列表 阿里云日志服务（SLS） VPN 网关 IPSec VPN 云服务器
通常自建的ELK系统在弹性、功能、成本、优化、稳定性等方面客户会遇到较多问题，本文介绍 如何将自建的ELK系统迁移到阿里云SLS日志服 务。应用场景 1.自建ELK系统快速迁移阿里云日志服务SLS 解决问题 1.自建ELK如何迁移到阿里云日志服务SLS 2.ES存量日志如何一键导入日志服务SLS 3.新增日志如何通过Logtail采集到日志服务...
阿里云最佳实践离线大数据workshop
本最佳实践，首先搭建一个简化的电商 demo 系统，然后为此 demo 系统构建一套离 线大数据分析系统。 实践目标 1. 学习搭建一个离线大数据分析系统，学习从数据采集到数据存储和业务分析的业 务流程。 2. 整个离线大数据分析系统全部基于阿里云产品进行搭建，学习掌运用各个服务组 件及各个组件之间如何联动。 背景知识要求 熟练掌握 SQL 语法 对大数据体系系统知识有一定的了解
DataHub：数据总线(DataHub)服务是阿里云提供的流式数据(StreamingData)服 务，它提供流式数据的发布(Publish)和订阅(Subscribe)的功能，让您可以轻松构 建基于流式数据的分析和应用。详见：https://www.aliyun.com/product/datahub Maxcompute：大数据计算服务(MaxCompute，原名ODPS)是一种快速、完全托 管的TB/PB级...
来自：
最佳实践
相关产品：云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,日志服务（SLS）,大数据计算服务 MaxCompute,DataV数据可视化,数据总线,Quick BI,云速搭
小型互联网迁移阿里云
场景描述 本方案主要适用于中小型互联网企业，从他云 迁移到阿里云的最佳实践。方案中会概述网络 规划、服务器、数据库、存储数据、Kafka和 镜像数据的迁移方案描述。同时在实践环节， 增加服务器和RDS的迁移操作演练和验证。 解决问题 提供服务器、数据库等关键环节的平滑迁移方 案 提供云上高可用架构参考 提供模拟简单的演练回归流程机制 产品列表 云服务器（ECS）、迁云工具（SMC）、数据库 （RDS）、数据库（Redis）、数据传输（DTS）、 负载均衡（SLB）、专有络（VPC）等
解决问题 提供服务器、数据库等关键环节的平滑迁移方案 提供云上高可用架构参考 提供模拟简单的演练回归流程机制 产品列表 云服务器（ECS）服务器迁移中心（SMC）数据库（RDS）数据库（Redis）阿里云最佳实践分享群 最佳实践频道 数据传输（DTS）负载均衡（SLB）专有网络（VPC）阿里云 业务上云实践 小型互联网迁移阿里云 ...
自建ElasticSearch迁移阿里云
场景描述 以ElasticSearch为例，演示搭建模拟业务系统、 VPN网关和IPSecVPN隧道，介绍如何通过快照 的方式，将ElasticSearch索引数据安全备份到 阿里云OSS存储空间，以及介绍如何将备份在 OSS的快照仓库恢复到阿里云ElasticSearch实 例，进一步达到ElasticSearch迁移上云的目的。 解决的问题 自建ElasticSearch的云上/跨云备份需求。 自建ElasticSearch迁移到阿里云 ElasticSearch服务实例。 产品列表 VPC，ECS，VPN网关，OSS，阿里云ElasticSearch，云速搭CADT
Use the Home tab to apply 云服务器 ECS（产品名称）标题 to the text that you want to appear here.阿里云 自建 ElasticSearch快照 备份 OSS 文档版本：20150122（发布日期）II 自建 ElasticSearch快照备份 OSS 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 自建 ElasticSearch快照备份 OSS 文档编号 095 ...
阿里云数据库快速搭建疫情分析系统最佳实践
疫情态势分析和防控任务迫在眉睫，如果快速搭建高效的疫情态势分析系统是众多部门和单位的难题，阿里云polardb for PG+Ganos解决方案可在极短时间内完成分析系统搭建，有效助力疫情防。 方案优势： 1、性能优越：Ganos作为自研的时空数据库引擎，相比postgis性能更优秀。 2、安全稳定：故障自动切换自愈，资源隔离，多副本存储。 3、简单易用：开箱即用，兼容postgresql，打通quickbi快速搭建数据分析展示。 4、功能强大：相比postgis在时空模型上做了较多扩充，支持几何模型，栅格模型，网络模型，时空轨迹模型，点云模型，拓扑网络模型。
更多信息，请参见：www.aliyun.com/product/vpcECS：云服务器 ECS（Elastic Compute Service）是一种简单高效、处理能力可 弹性伸缩的计算服务。帮助您构建更稳定、安全的应用，提升运维效率，降低 IT 成本，使您更专注于核心业务创新。更多信息，请参见：www.aliyun.com/product/ecs QuickBI：阿里云上客户都在用的 BI产品...
自建Hive数据仓库跨版本迁移到阿里云Databricks数据洞察
场景描述 客户在IDC或者公有云环境自建Hadoop集群构建数据仓库和分析系统，购买阿里云Databricks数据洞察集群之后，涉及到数仓数据和元数据的迁移以及Hive版本的订正更新。 方案优势 1. 全托管Spark集群免运维，节省人力成本。 2. Databricks数据洞察与阿里云其他产品（OSS、RDS、MaxCompute、EMR）进行深度整合，支持以这些产品为数据源的输入和输出。 3. 使用Databricks Runtime商业版引擎相比开源Spark性能有3-5倍的提升。 解决问题 1. Hive数仓数据迁移OSS方案。 2. Hive元数据库迁移阿里云RDS方案。 3. Hive跨版本迁移到Databricks数据洞察使用Delta表查询以提高查询效率。
阿里云最佳实践分享群 最佳实践频道 如二维码过期，请搜索群号：31852400 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 自建Hive 数据仓库跨版本迁移到 阿里云Databricks数据洞察 文档版本：20210425（发布日期）文档版本：20210425 1 自建 Hive数据仓库跨版本迁移到阿里云 Databricks数据洞察 文档...
专有网络 VPC
阿里云专有网络VPC（Virtual Private Cloud），是由虚拟网络设备（如虚拟交换机/虚拟路由器）组成的虚拟专有网络服务，帮助您基于阿里云构建一个逻辑隔离的私有云。您可以通过专线/VPN等方式与传统数据中心连接，组成一个按需定制的免费虚拟专有网络环境，实现应用的平滑迁移上云。
云服务器ECS.云数据库RDS.云企业网CEN.推荐配套使用.基于阿里云VPC搭建云上数据中心，通过专线与云下内部数据中心打通，进行用户核心数据安全保障，完美应对业务激增及数据快速同步，实现混合云方案.核心数据存储在云下IDC提供安全保障.数据安全保障.云上部署应对用户实时业务访问激增.应对业务激增.专线接入保证云上云下...
来自：
云产品
传统企业业务上云基础安全防护
场景描述 越来越多的企业客户选择把自己的生产系统部 署在公共云平台上，以满足自身业务的发展及弹 性扩缩容、稳定性等方面的需求。如何在公共云 上构建基本的网络安全、主机安全、入侵检测、 运维审计等方案，是企业首选的最佳实践。 解决问题 1.服务器安全、应用安全 2.网络安全、数据安全 3.安全审计、安全管理 产品列表 云安全中心 Web应用防火墙 云防火墙 SSL证书 数据库审计 堡垒机
导入ECS资产 云盾堡垒机既可以管理阿里云ECS服务器，也可以管理非阿里云云服务器，比如物理 机或其他云平台的云服务器。管理阿里云ECS时，可以一键导入资产信息；管理非阿 里云服务器，则需要手动添加服务器。本实践以管理阿里云ECS为例进行演示。步骤1 登录堡垒机实例管理页面。步骤2 在左侧导航栏单击资产管理>主机>导入...
阿里云日志服务SLS多云统一日志方案之腾讯云日志采集最佳实践
使用日志服务SLS统一采集、存储、查询和分析阿里云、腾讯云等不同云厂商上的业务日志、系统日志和云产品日志，实现在一个平台上管理多云架构下的所有日志。
专有网络 VPC 混合云：客户使用IDC、公有云混合云架构，需 云服务器 ECS 要集中化管理云上云下所有日志。云速搭 CADT 有容器、主机多种基础资源：支持虚拟机、云主 日志服务 SLS 机、自建K8S、半托管的K8S。腾讯云 不希望在运维工具投入太多人力：日志量大，现 轻量云服务器 有日志平台（比如ELK）稳定性不足，性能变差，...
基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
在大数据ETL场景，Kafka是数据的流转中心，Kafka中的数据一般是原始数据，可能存在多种数据混杂的情况，需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC，可以快速高效的搭建数据处理链路，用户只需要关注数据处理的逻辑，数据的触发，弹性伸缩，运维监控等阿里云函数计算都已经做了集成，函数计算FC也支持多种下游，OSS/数据库/消息队列/ES等都可以自定义的对接
VPC 阿里云交换机 解决问题 阿里云安全组•快速搭建起数据处理全链路 阿里云函数计算(FC)•全链路自适应弹性，无需为流量峰谷做频繁 对象存储 OSS 的手工处理 阿里云云消息队列 Kafka 版•内置 CICD平台能力，灰度，回滚，监控开箱 云速搭 CADT 即用•按量付费，没有资源闲置费用 最佳实 践频道 http://bp.aliyun.com...
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景，将Kafka中的消息流转到其他下游服务是很常见的场景，除了常规的消息流转外，很多场景还需要基于消息体内容做判断，然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后，会自动触发函数计算中的函数，接收到消息，对消息内容做判断，然后再操作MongoDB。用户可以对提供的默认函数代码做修改，来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品，并完成了大多数的配置，用户只需要到函数计算和MongoDB控制台做少量配置即可。
l 阿里云安全组 解决问题•实现根据 Kafka 消息的具体内容判断，该对 l 阿里云函数计算(FC)MongoDB 做哪种 DML 操作，并且用户可以自行 扩展函数计算中函数的逻辑，实现自己的业务场 l 阿里云云数据库 MongoDB 版 景。函数计算具有完善的日志系统、容错机制。可 l 阿里云云消息队列 Kafka 版 以清晰的看到对每条消息的处理...
移动开发秘籍：云上高效构建App
使用移动研发平台EMAS和研发协同平台云效来提供一站式App的开发、测试、运维、运营等应用全生命周期的管理能力，提升开发效率，降低运维成本。
相关产品云服务器 ECS云数据库 RDS MySQL 版云解析 DNS移动开发平台 mPaaS在线咨询方案优势开发效率高EMAS提供多种移动技术SDK，快速集成，降低开发成本。部署便捷通过云效搭建持续部署工作流，代码更新一键更新部署到服务器，提升部署效率。运维成本低可管理发布包版本，自动推送更新到用户。方案部署01云资源创建创建专有...
来自：
解决方案
通义万相文本绘图与人像美化
利用通义万相AIGC在Web服务中实现图像生成，包括文本到图像、涂鸦转换、人像风格重塑以及人物写真创建等功能，加快创作流程，提高创意效率。
方案介绍创意加速器：AI 绘画创作ECS云服务器用于运行Web程序，以接收用户的图像处理请求；对象存储OSS则用于存储某些场景中用户上传的图片，并通过签名的方式使得通义万相可以下载该图片，模型服务通过提供基于HTTP接口的API，实现应用程序的调用。相关产品模型服务灵积云服务器 ECS对象存储 OSS专有网络 VPC在线咨询方案...
来自：
解决方案
SLS数据入湖Kafka最佳实践
应用和数据分散在多云或混合云，在面对多云/混合云这样大的趋势下，数据无法进行统一的聚合、分析处理和导出等，本方案给出了在多云/混合云场景下，构建通过标准的Kafka协议和托管服务，SLS可以连接Kafka数据入湖导入，然后进行统一的海量数据的集中存储、智能转储、聚合分析查询等。
云虚拟机ECS 阿里云最佳实践分享群 云速搭CADT 钉钉搜索钉群号31852400入群 ARMS免费试用群 钉钉搜索钉群号3360022492入群 可观测可视化Grafana版用户群 钉钉搜索钉群号34785590入群 Kubernetes监控用户群 钉钉搜索钉群号31588365入群SLS数据入湖Kafka 最佳实践 文档版本：20240428（发布日期）SLS数据入湖Kafka最佳...
RocketMQ性能压测快速方案
在客户对产品性能存疑或者给客户进行POC验证时可以用本实践来快速完成性能测试。
云虚拟机ECS 阿里云最佳实践分享群 钉钉搜索钉群号31852400入群 弹性公网IP 消息队列RocketMQ版 云速搭CADT RocketMQ性能压测快速方案 最佳实践 文档版本：20240506（发布日期）RocketMQ性能压测快速方案 文档版本信息 文档版本信息 文档信息 属性 内容 文档名称 RocketMQ性能压测快速方案 文档编号 382 文档...
- 产品推荐
- 这些文档可能帮助您