自建Hadoop迁移到阿里云EMR
自建Hadoop迁移到阿里云EMR
场景描述 场景1:自建Hadoop集群数据(HDFS)迁移到 阿里云EMR集群的HDFS文件系统; 场景2:自建Hadoop集群数据(HDFS)迁移到 计算存储分离架构的阿里云EMR集群,以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案; 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce,VPC,ECS,OSS,VPN网关。
它使用一个简单 的可扩展数据模型,允许在线分析应用程序。文档版本:20200330 IV 自建Hadoop数据迁移到阿里云 EMR 目录 目录 文档版本信息.I 法律声明.II 前言.III 目录.V 最佳实践概述.1 前置条件.2 资源规划说明.3 1.自建 Hadoop集群环境搭建.4 1.1.使用云速搭 CADT快速创建资源.4 1.2.安装日志发生器.14 1.3.安装 ...
来自: 最佳实践 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,VPN网关,E-MapReduce,云速搭
基于Flink的资讯场景实时数仓
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景,Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
注:本实践通过云数据库 RDS存储维表 。3.数据分析:采用实时计算 Flink+AnalyticDB for MySQL实现实时数据分析+多维数据分析。数据分析包括以下两步:a)通过实时计算 Flink抽取 DWD中对应信息并进行轻度汇总(如部分业务指标 计算),生成 DWS(Data Warehouse Summary,汇总数据层),并将数据存 储到 AnalyticDB for...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,NAT网关,云原生数据仓库AnalyticDB My,云速搭CADT
自建Hadoop迁移MaxCompute
自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群,为了降低企业大数据计算平台的成本,提高 大数据应用开发效率,更有效保障数据安全,把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute,Dataworks、云数据库Hbase版、Datahub、VPC,ECS。
它使用一个简单 的可扩展数据模型,允许在线分析应用程序。文档版本:20210723 IV 自建Hadoop迁移MaxCompute 目录 目录 文档版本信息.I 法律声明.II 前言.III 目录.V 最佳实践概述.1 前置条件.3 资源规划说明.4 1.自建 Hadoop集群环境搭建.5 1.1.Hadoop集群安装规划.5 1.1.1.组件安装规划.5 1.1.2.组件运行规划.5 1.2.使用...
来自: 最佳实践 | 相关产品:云服务器ECS,DataWorks,大数据计算服务 MaxCompute,云数据库 HBase 版,数据总线,云速搭
微服务应用问题定位及故障演练
微服务<em>应用</em>问题定位及故障演练
场景描述 用户微服务架构应用基于阿里云 ACK 部署, 通 过 ARMS 监控发现微服务应用的容错能力是否 健壮, 容器编排配置是否合理, 以及节点故障引 发的问题等, 方案通过 AHAS 故障注入模拟生 产环境产生的故障, 通过 ARMS 及时发现问题、 定位问题, 并结合 ARMS 的告警功能快速发现 并解决问题。  发现调用下游一个服务实例出现异常。  发现业务 Pod 故障, 验证业务的稳定性。  发现调用数据库延迟故障, 验证 Pod 的水 平扩容能力。 解决问题 1. 定位并解决微服务应用的容错能力。 2. 定位并解决微服务应用编排合理性。 3. 发现故障并验证系统故障的告警时效性。 产品列表  应用高可用服务 AHAS  性能测试 PTS  应用实时监控服务 ARMS  容器服务 kubernetes 版  负载均衡 SLB  专有网络 VPC  日志服务 SLS
微服务应用问题定位及故障演练 最佳实践 业务架构图 场景描述 用户微服务架构应用基于阿里云 ACK部署, 过 ARMS监控发现微服务应用的容错能力是否 健壮,容器编排配置是否合理,以及节点故障引 发的问题等,方案通过 AHAS故障注入模拟生 产环境产生的故障,通过 ARMS及时发现问题、定位问题,并结合 ARMS的告警功能快速...
来自: 最佳实践 | 相关产品:容器服务 ACK,日志服务(SLS),性能测试 PTS,应用实时监控服务 ARMS ,应用高可用服务 AHAS,云速搭
区块链服务
阿里云区块链服务简称BaaS,提供简单易用、一键部署、快速验证、灵活可定制的区块链服务,降低区块链应用开发门槛、提高开发效率,适用于供应链金融、商品溯源、版权等业务场景。
不法商家利用生产、物流、经销、消费等各个环节中的漏洞和信息不透明,制造假冒伪劣商品,给企业和消费者带来巨大损害。区块链服务BaaS平台结合阿里云物联网、防伪标签等技术,提出商品溯源的区块链方案,构建多方确认、不可篡改的共享溯源信息及全流程交易历史记录,支持消费者、监管部门进行查询验真和审计;同时,支持...
来自: 云产品
智能媒体服务 IMS
智能媒体服务IMS(Intelligent Media Services),是围绕直播和点播场景下的媒体采集、媒资管理、内容生产、制作和分发能力的一站式服务集,提供广播级、全智能、灵活多样、可多云接入的专业能力,并面向多云复杂业务流场景提供成熟的低代码终端SDK集成方案。
通用媒体管理服务.智能媒体处理.直播点播转码.智能生产制作.音视频终端SDK.服务授权License.更多产品与服务.音视频资产管理、内容信息编目、检索查询、播放服务,提供PaaS和SaaS两种交付方案.多层次媒资服务.将音视频资产数字化、结构化存储,提供全面的管理服务.音视频资产管理.提供标题、分类、封面、字幕、点位信息等...
来自: 云产品
基于Elasticsearch的订单检索加速最佳实践
基于Elasticsearch的订单检索加速最佳实践
随着企业信息化程度越来越高,核心业务数据存储在传统关系型数据库中不可避免地会遇到一个问题:单表记录不断增多,数据检索速度会变慢,尤其是对中文的模糊查询(建立普通索引完全不起作用)。虽然数据库自身在不断完善,但效果有限且没办法灵活扩展,复杂场景无法应对。 本方案基于阿里云Elasticsearch作为二级索引库,数据集成产品提供Binlog实时订阅,实时解析、增量数据实时更新及二级索引库之间进行数据实时同步,为数据库提供“能力增益”, 不仅能从根本解决主库抗压问题,提升稳定性;同时支持高效率、高性能、高弹性、低成本、多复杂场景的检索加速服务。
基于 Elasticsearch的订单检索加速最佳实践 业务架构 场景描述 随着企业信息化程度越来越高,核心业 务数据存储在传统关系型数据库中不可避 免地会遇到一个问题:单表记录不断增多,数据检索速度会变慢,尤其是对中文的模糊 查询(建立普通索引完全不起作用)。虽然 数据库自身在不断完善,但效果有限且没办 法灵活扩展,...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,DataWorks,Elasticsearch
云迁移中心
云迁移中心,为应用程序上阿里云提供迁云成本分析,网络拓扑图自动生成,一站式应用程序迁移监控,同时支持IDC和他云环境,加速和简化应用迁移。
为辅助用户更好的划分自己的应用集群,CMH通过调研信息的分析和智能识别,提供架构图来展示应用架构中各组件的依赖关系,引导用户更快的构建应用集群.应用拓扑展示.为更好的配合用户展示其真实业务维度的迁移进展,CMH为用户业务打造专属的迁移大盘页面,用户可以一站式监控所有迁移任务.业务迁移大盘.云迁移中心CMH内置了...
来自: 云产品
文档智能
阿里云文档智能基于多年技术积累打造的多模态文档识别与理解引擎,为用户提供各类文档文字提取和文档处理,支持通用场景、行业场景和自定义场景下的多样化文档处理需求。
对各类办公文档和表单进行智能化处理,实现文档的结构化信息提取.将非结构化的办公文档解析为结构化数据,提取出关键字段信息,替代人工处理环节.文档智能解析.把不可编辑的PDF、图片等文档转换为可编辑的Word、Excel等格式,提升文档处理便利性.文档格式转换.文档格式转换.推荐搭配使用.对公司财报、研报等金融文档进行...
来自: 云产品
资源管理
资源<em>管理</em>
场景描述 随着企业IT成熟度不断提高、管理的云上资源 不断增多,如何对资源进行高效管理的问题就会 凸显出来。阿里云的资源管理服务支持您按照业 务需要搭建适合的资源组织关系,使用目录、资 源夹、账号、资源组分层次组织与管理您的全部 资源,更好的实现项目成功。 解决问题 1.按照企业组织结构管理账号体系。 2.指定结算账号进行统一结算 3.统一管理成员账号权限系统 4.账号下的资源按照资源组进行分类 5.可以按照自定义财务单元进行分账管理 产品列表 资源管理
使用 RAM,您可以创建、管理 RAM用户(例如员 工、系统或应用程序),并可以控制这些 RAM用户对资源的操作权限。当您的企 业存在多用户协同操作资源时,使用 RAM可以让您避免与其他用户共享云账号密 钥,按需为用户分配最小权限,从而降低企业信息安全风险。详见:https://www.aliyun.com/product/ram 成员账号:类型分为...
来自: 最佳实践 | 相关产品:资源管理
数据安全解决方案
数据是企业的核心资产,如何保护企业的云上数据,是每个企业管理者都应当重视的课题。在云平台提供更为安全便捷的数据保护能力的同时,阿里云根据自身多年的经验积累,结合大量云上客户的最佳实践,提供了一套完整的数据安全解决方案,帮助企业提升云上数据风险防御能力,实现企业核心及敏感数据安全可控。
“终端”是各类实现数据采集、输入和使用的用户交互设备,如APP、网页、应用程序等.数据安全中的“云端”.安全能力“云、、端”.数据采集阶段是组织内部系统中新产生数据,以及从外部系统收集数据的阶段。如何保证海量数据的安全可治理,是这一阶段的重点.数据采集阶段.数据安全中心服务.数据传输阶段是数据从一个...
来自: 解决方案
阿里云解决方案基因专题
阿里云解决方案包括通用解决方案, 行业解决方案和生态解决方案,沉淀阿里云十年、百万用户最全面的业务场景,结合阿里巴巴集团技术创新能力,提供云原生、数据智能、零售、金融、制造等多个领域的解决方案。
2.与本地HPC集群环境完全一致,应用程序无需任何改造,可以直接在阿里云环境运行。3.不需要固定集群,提供任务队列级别的计算节点扩缩容,从0到上千台几台。结合按需、竞价实例,预留实例券等付费方案,获得远超传统HPC集群的灵活性。4.使用NAS,CPFS等高吞吐的文件系统,提供作业级别的任务监控,最大化调整和保障分析性能...
来自: 解决方案
DDH集群运维管理
DDH集群运维<em>管理</em>
场景描述 当前许多企业的IDC业务场景,资源管理 等使用习惯与公共云不同,使用DDH集群 管理,继承IDC虚拟化使用习惯,比如自 定义ECS规格。同时针对CPU负载较低 的场景,通过CPU超分,可以有效提高资 源利用率,节省整体成本。并且可以通过账 号授权业务团队,结合云监控资源使用率, 方便业务使用的同时又能有效遏制资源浪 费。 方案优势 1.使用专有宿主机集群构建云上环境,通 过超分提高资源利用率,降低企业成 本。 2.通过访问控制授权,云监控资源,完成 专有宿主机集群运维管理使用闭环。 产品列表 访问控制RAM 专有网络VPC 云服务器ECS 云监控CloudMonitor
云服务器ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 DDH集群运维管理 最佳实践 文档版本:20200616 文档版本:20150122(发布日期)2 DDH集群运维管理最佳实践 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 DDH集群运维管理最佳实践 文档编号 164 文档版本 V1.0 版本日期 2020-06-16 文档状态 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,访问控制,云监控,专有宿主机
企业办公安全访问一体化
企业办公安全访问一体化
本场景模拟企业办公环境,基于 CSAS 服务构 建企业办公安全一体化方案,将“安全 + 网络” 能力无缝融合,实现了对云下办公终端安全的统 一管理,企业无需在投资复杂且昂贵的传统硬件 安全设备,即可快速构建安全、可靠、低成本的 办公安全防护体系。 1. 企业办公环境访问互联网的安全管理 2. 企业办公环境访问内网服务的安全管理 3. 企业办公网络、安全一体化管理
企业办公安全访问一体化最佳实践 业务架构 场景描述 本场景模拟企业办公环境,基于CSAS服务构建 企业办公安全一体化方案,将“安全+网络”能力 无缝融合,实现了对云下办公终端安全的统一 ,企业无需在投资复杂且昂贵的传统硬件安全 设备,即可快速构建安全、可靠、低成本的办公 安全防护体系。解决问题 1.企业办公环境...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云安全访问服务
混合云使用Ali-Perseus
混合云使用Ali-Perseus
场景描述 本文介绍了混合云场景中,自建 Kubernetes服务,线下集群+云上弹性扩 展阿里云GPU服务实例+飞天AI加速工 具,并采用阿里云CPFS存储,运行AI训 练+AI推理作业的操作步骤。 解决问题 1.利用云企业网打通两个地域的VPC, 自建Kubernetes集群 2.使用飞天AI加速工具运行训练和推理 作业 3.使用CPFS存储共享数据 产品列表 云企业网CEN GPU云服务器 并行文件存储CPFS 文件存储NAS
安装 arena 背景信息 Arena是阿里开源的一个管理工具,可以一键提交训练或者推理作业,进行作业 。详情请参考:https://github.com/kubeflow/arena/blob/master/docs/installation/INSTALL_FROM_B INARY.md 操作步骤 步骤1 到如下地址,下载 arena安装包:https://github.com/kubeflow/arena/releases 步骤2 拷贝到 ...
来自: 最佳实践 | 相关产品:云服务器ECS,文件存储NAS,云企业网
基于弹性计算的AI推理
基于弹性计算的AI推理
场景描述 本方案适用于使用GPU进行AI在线推理的场 景。在推理之前,模型已经训练完成。例如,刷脸 支付中,我们在刷脸的时候,就是推理的一个过 程。再比如图像分类,目标检测,语音识别,语 义分析等返回结果的过程。 解决问题 使用GPU云服务器搭建推理环境 使用容器服务Kubernetes版构建推理 环境 使用NAS存储模型数据 使用飞天AI加速推理工具加速推理 产品列表 GPU云服务器 容器服务Kubernetes版 NAS共享存储
Notebook:Jupyter Notebook是一款基于网页的交互计算应用程序,适用于全过 程计算,包括开发、文档编写、运行代码和展示结果。Jupyter Notebook通过网页启 动,用户可以在网页中直接编写代码和运行代码,代码的运行结果直接在代码块下显 示;Notebook 同时支持在编码页面直接编写说明文档。更多信息,请参见 ...
来自: 最佳实践 | 相关产品:云服务器ECS,文件存储NAS,容器服务 ACK
自建ElasticSearch迁移阿里云
自建ElasticSearch迁移阿里云
场景描述 以ElasticSearch为例,演示搭建模拟业务系统、 VPN网关和IPSecVPN隧道,介绍如何通过快照 的方式,将ElasticSearch索引数据安全备份到 阿里云OSS存储空间,以及介绍如何将备份在 OSS的快照仓库恢复到阿里云ElasticSearch实 例,进一步达到ElasticSearch迁移上云的目的。 解决的问题 自建ElasticSearch的云上/跨云备份需求。 自建ElasticSearch迁移到阿里云 ElasticSearch服务实例。 产品列表 VPC,ECS,VPN网关,OSS,阿里云ElasticSearch,云速搭CADT
它通常用作底层引擎/技术,为具有复 杂搜索功能和要求的应用程序提供支持。阿里云 Elasticsearch 提供 100%兼容开源 Elasticsearch的功能,以及 Security、Machine Learning、Graph、APM等商业功能,致力于数据分析、数据搜索等场景服 务。与开源社区背后商业公司 Elastic战略合作,为客户提供企业级权限管控、安全监控告警...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,VPN网关,Elasticsearch,云速搭
营销引擎云码
营销引擎云码(Intelligent Marketing Engine)是阿里云-企业云服务的数字化营销工具平台,围绕企业全域业务增长的目标,提供营销投放、用户建模、智能分发以及消费者触达的一站式全链路SaaS工具平台,并以营销效果为计费单元。
面向众多品牌用户,采用CPC、CPM的计价方式,通过各类垂直类App,使用行业标签及流量场景,深度挖掘商机线索,完成信息留资、应用推广等营销活动.商机收集-综合.对接支付宝App及小程序流量,满足试驾预约、在线课程付费预订等商机收集营销.商机收集-生活服务.面向众多品牌用户,采用CPS计价方式,通过高德、飞猪、UC等流量...
来自: 云产品
弹性计算OOS审批流程自动化运维
弹性计算OOS审批流程自动化运维
场景描述 本文以ECS、RDS、SLB搭建一个小型的WEB系 统为例,介绍如何利用OOS在运维常见的部署系统、 扩容系统、回收系统三个场景中添加审批流程,并以 钉钉通知到对应的审批人员。 解决问题 1.对接阿里云API,通过OOS模板执行运维 任务,实现了运维自动化与可视化。 2.运维操作集成了RAM访问控制权限管理, 无需担心操作安全,并可以快速增加审批流 程,提高运维安全与效率。 产品列表 1.运维编排OOS 2.访问控制RAM 3.云服务器ECS 4.RDSMySQL版 5.负载均衡SLB
 本方案重在演示迁移思路和做法,demo程序以及应用配置从简,请按照实际业务 需求配置。 有问题请扫钉钉二维码联系我们。文档版本:20191122 3 弹性计算OOS审批流程自动化运维 如何下载源码、脚本等附件 如何下载源码、脚本等附件 使用浏览器访问以下地址:...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,负载均衡 SLB,运维编排
< 1 2 3 4 >
共有4页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用