自建Hadoop迁移MaxCompute
自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群,为了降低企业大数据计算平台的成本,提高 大数据应用开发效率,更有效保障数据安全,把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute,Dataworks、云数据库Hbase版、Datahub、VPC,ECS。
名词解释 HDFS Hadoop 分布式文件系统(HDFS)被设计成适合运行在通用硬件上的分布式文 件系统,它和现有的分布式文件系统有很多共同点。但同时,它和其他的分布式 文件系统的区别也是很明显的。HDFS是一个高度容错性的系统,适合部署在廉 价的机器上。HDFS能提供高吞吐量的数据访问,非常适合大规模数据集上的应 。VPN...
来自: 最佳实践 相关产品:云服务器ECS,DataWorks,大数据计算服务 MaxCompute,云数据库 HBase 版,数据总线,云速搭
基于DataWorks的大数据一站式开发及数据治理
基于DataWorks的大数据一站式开发及数据治理
概述 基于Dataworks做大数据一站式开发,包含数据实时采集到kafka通过实时计算对数据进行ETL写入HDFS,使用Hive进行数据分析。通过Dataworks进行数据治理,数据地图查看数据信息和血缘关系,数据质量监控异常和报警。 适用场景  日志采集、处理及分析  日志使用Flink实时写入HDFS  日志数据实时ETL  日志HIVE分析  基于dataworks一站式开发  数据治理 方案优势  大数据一站式开发,完善的数据治理能力。  性能优越:高吞吐,高扩展性。  安全稳定:Exactly-Once,故障自动恢复,资源隔离。  简单易用:SQL语言,在线开发,全面支持UDX。  功能强大:支持SQL进行实时及离线数据清洗、数据分析、数据同步、异构数据源计算等Data Lake相关功能 ,以及各种流式及静态数据源关联查询。
名词解释 HDFS:Hadoop分布式文件系统(HDFS)被设计成适合运行在通用硬件上的分 布式文件系统,它和现有的分布式文件系统有很多共同点。但同时,它和其他的分 布式文件系统的区别也是很明显的。HDFS 是一个高度容错性的系统,适合部署 在廉价的机器上。HDFS 能提供高吞吐量的数据访问,非常适合大规模数据集上 的应用。...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,E-MapReduce,DataWorks,实时计算,云速搭
文件存储NAS
文件存储(Network Attached Storage,简称NAS),是阿里云对外提供的兼容POSXI接口的分布式文件存储,容量和处理能力的弹性扩展,按实际容量付费真正使您专注于核心业务。
提供简单的界面,可以快速创建和配置文件系统,为您管理文件存储软硬件基础设施,根据应用所需,动态提供存储容量和性能.完全托管&动态弹性.与容器ACK服务深度整合,为容器环境提供数据共享和数据持久化存储,并通过高性能文件锁保证数据的强一致性.面向应用的数据共享.云原生共享文件存储.拥有通用型和极速型两种针对特定...
来自: 云产品
企业办公安全访问一体化
企业办公安全访问一体化
本场景模拟企业办公环境,基于 CSAS 服务构 建企业办公安全一体化方案,将“安全 + 网络” 能力无缝融合,实现了对云下办公终端安全的统 一管理,企业无需在投资复杂且昂贵的传统硬件 安全设备,即可快速构建安全、可靠、低成本的 办公安全防护体系。 1. 企业办公环境访问互联网的安全管理 2. 企业办公环境访问内网服务的安全管理 3. 企业办公网络、安全一体化管理
企业办公安全访问一体化最佳实践 业务架构 场景描述 本场景模拟企业办公环境,基于CSAS服务构建 企业办公安全一体化方案,将“安全+网络”能力 无缝融合,实现了对云下办公终端安全的统一 ,企业无需在投资复杂且昂贵的传统硬件安全 设备,即可快速构建安全、可靠、低成本的办公 安全防护体系。解决问题 1.企业办公环境...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云安全访问服务
应用交付平台ADP
阿里云云原生应用交付平台ADP,借助容器和k8s等云原生技术带来的标准化编排交付和IaaS解耦能力,解决在私有化环境进行交付时的异构环境适配、部署复杂、云服务依赖和持续运维问题。
上架和管理各类通用中间件,提供给产品编排阶段进行引用和配置.ADP 服务目录.轻松实现 K8s 部署、一键完成私有云搭建并托管运行业务应用.提供常用的容器化中间件,可按需编排,支持高可用架构部署.灵活适配多种异构环境,物理机、虚拟机、信创架构及不同云环境.提供历经大规模生产实践的稳定底座,企业级中间件组件中心....
来自: 云产品
云服务器基准性能测试
云服务器基准性能测试
本最佳实践适合利用标准的benchmark工具对云服务器的CPU、内存、网络和磁盘性能进行测试的场景。
您可以像使用物理硬盘一样格式化并建立文件系统来使用块存储,满 足 大 部 分 业 务 场 景 下 的 数 据 存 储 需 求。详见 https://help.aliyun.com/document_detail/63136.html 云监控(CloudMonitor)是一项针对阿里云资源和互联网应用进行监控的服务。云监控为云上用户提供开箱即用的企业级开放型一站式监控解决...
来自: 最佳实践 | 相关产品:块存储,专有网络 VPC,云服务器ECS,云速搭CADT
配额中心
配额中心是阿里云提供的集中查看和管理用户云产品配额的服务。用户通过使用配额中心可以查询每个云产品的配额限制,也可以根据业务的需要在线调整用户的配额。
提供阿里云产品通用配额、API速率配额和权益配额的集中管理入口;统一的体验、统一的文档、统一的接口.快速了解当前配额限制、用量和可申请上限.通过使用平台、接口能力快速进行配额调整服务.结合组织形态、预警策略和自动化手段;帮助用户避免由于配额上限问题导致的系统运行错误.提供配额查询、调整和申请记录的统一界面....
来自: 云产品
BizWorks
Bizworks是阿里云基于中台实践研发运营的一体化数字平台,提供客户业务中台建模设计、开发运维、构建治理的端到端能力,普遍适用于中大型企业/组织构建中台业务并期望实现对中台IT资产的持续治理场景。
提供一站式的微服务开发所需要的工具,开箱即,省去自行维护与升级的工作,大幅提升应用开发与部署效率.一站式开发平台.集成和整合了各类阿里云产品,支持一键开通并快速配置使用,大幅降低云产品的配置与使用门槛.降低云门槛.提供全代码与低代码混合编码模式,通过快速组装业务能力,提升应用开发与上线效率.全代码与...
来自: 云产品
实时计算Flink版
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,具备实时应用的作业开发、数据调试、运行与监控、自动调优、智能诊断等全生命周期能力。内核引擎100%兼容Apache Flink,2倍性能提升,拥有FlinkCDC、动态CEP等企业级增值功能,内置丰富上下游连接器,助力企业构建高效、稳定和强大的实时数据应用。
提供完整的系统检查点和作业快照生命周期管理.提供状态兼容性检查和状态数据迁移.支持租户级和项目级的资源和代码隔离,满足跨团队协作需求.与阿里云账号体系打通,支持多角色的访问控制.新用户首购 0¥.实时计算Flink版(开箱即).开源 Apache Flink.通过实时计算Flink版进行实时内容热点分析,实时用户行为分析,用户增长...
来自: 云产品
文本翻译
多领域多场景适用,覆盖全球214种语言并针对电商,社交,医疗领域有垂直优化。
阿里翻译依托先进的自然语言处理技术和海量数据优势,研发基于注意力机制的深层神经网络翻译系统(NMT),并推出通用版翻译和专业版翻译。通用版覆盖全球214种语言,致力于解决全场景语言障碍,多领域适用;专业版在电商、社交、医疗3个垂直领域积累千万级双语语料和百万专业领域双语术语,钉钉加群:23369411.查看更多商品...
来自: 云产品
互联网+监管解决方案
互联网+监管解决方案基于阿里巴巴的大数据计算能力和风控模型优势,构建“互联网+监管”平台,通过多维监管数据汇聚和智能分析,实现对监管业务和科学管理决策方针,实现规范监管、联合监管、监管的全覆盖,推动政府监管更加高效、智能。
监管事项目录管理系统.接收国家平台转发的投诉举报信息,与本地投诉举报系统开展业务联动。实现投诉举报信息的受理、转办、督办、反馈等全流程管理.监管投诉举报处理系统.为专项协同监管任务(专项任务、联合执法、联合惩戒)提供数据支撑,接收国家平台分发的协同监管任务,开展任务分发,实现协同监管过程全记录,保证...
来自: 解决方案
工业智能解决方案
通过云计算、大数据、人工智能的技术,为钢铁、水泥、化工、固废等不同产业将能增效,提高产业营收能力,实现弯道超车。
利用算法预测,结合水泥质量管理应用系统,提升水泥产品质量,降本增效.水泥行业解决方案.推动工业互联网新基建平台建设!点击查看>.工业大脑联合行业合作伙伴,面向所有数字化转型的工业企业,剖析方案架构原理、挖掘通用之处、启发更多企业打造更加全面智能的创新解决方案.点击下载解决方案手册>.工业智能解决方案.优秀...
来自: 解决方案
基于弹性计算的AI推理
基于弹性计算的AI推理
场景描述 本方案适用于使用GPU进行AI在线推理的场 景。在推理之前,模型已经训练完成。例如,刷脸 支付中,我们在刷脸的时候,就是推理的一个过 程。再比如图像分类,目标检测,语音识别,语 义分析等返回结果的过程。 解决问题 使用GPU云服务器搭建推理环境 使用容器服务Kubernetes版构建推理 环境 使用NAS存储模型数据 使用飞天AI加速推理工具加速推理 产品列表 GPU云服务器 容器服务Kubernetes版 NAS共享存储
步骤3 在文件系统列表页面,将地域设置为华北 3(张家口),并单击创建通用性文件系统。15 企业上云实践 基于弹性计算的 AI推理|部署 Mobilenet推理demo 步骤4 在创建文件系统对话框中,完成以下配置,并单击确定。16 企业上云实践 基于弹性计算的 AI推理|部署 Mobilenet推理demo 成功创建文件系统。您可以在文件系统列表中...
来自: 最佳实践 | 相关产品:云服务器ECS,文件存储NAS,容器服务 ACK
云端影视渲染
云端影视渲染
场景描述 本文介绍如何搭建一个完整的混合云渲染服务架构,本地与云端的网络以SSL-VPN方式进行互联。 解决问题 1、使用SSL-VPN构建本地网络与云上VPC环境的安全互联。 2、使用批量计算服务管理渲染计算集群,集群计算节点自动加入Deadline资源池。 3、使用Deadline做渲染任务管理。 4、批量计算集群计算节点根据Deadline渲染任务自动扩容和收缩,资源管理自动化。 产品列表 1、云服务器ECS 2、GPU云服务器GPU 3、批量计算BCS 4、专有网络VPC 5、弹性公网IP 6、文件存储NAS
(https://home.console.aliyun.com)步骤2 通过产品与服务导航,定位到文件存储 NAS,单击进入 NAS文件系统管理控制台。步骤3 在左侧导航栏选择文件系统>文件系统列表,选择地域为华北 2(北京),并单击创 建文件系统。步骤4 选择通用型,单击按量付费。文档版本:20200220 16 云端影视渲染 创建并配置 NAS实例 步骤5 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,文件存储NAS,VPN网关,批量计算
行业文档识别
阿里云提供行业文档类识别,可以高精度识别各行业文档和表单表格,通用于各行业的通用文字识别。包含单字坐标,表格识别,图像旋转等功能,广泛应用于司法、金融、医疗等各行业,方便工作人员审核录入核对,节约人力时间成本。
广泛运用于司法行业卷宗管理系统,用于卷宗OCR识别、文档分类、在线校对、电子化存储等,有效提升司法电子化办公效率.司法卷宗管理.运用于企业内部的法务合同校对场景,通过OCR识别扫描件与电子版差异,规避合同回签差异,极大降低人工校对成本.企业法务合同审核.通过OCR的高精度识别,实现纸质文档的准确识别和结构化识别...
来自: 云产品
云迁移中心
云迁移中心,为应用程序上阿里云提供迁云成本分析,网络拓扑图自动生成,一站式应用程序迁移监控,同时支持IDC和他云环境,加速和简化应用迁移。
为广泛用户的迁移上云项目提供自动与智能的系统调研、云上规划、迁移管理,简化和加速用户上云过程,辅助用户业务化可视化管理迁移全生命周期.了解AWS云上使用成本评估.AWS迁云成本评估.了解AWS资源迁移至阿里云的过程.AWS迁移至阿里云.了解阿里云资源跨可用区迁移过程.阿里云跨可用区迁移.了解IDC资源信息采集的过程.离线...
来自: 云产品
基于k8s多集群隔离环境下的devops实现
基于k8s多集群隔离环境下的devops实现
场景描述 DevOps是一组过程、方法与系统 的统称,并通过工具实现自动化部署, 确保部署任务的可重复性、减少部署出 错的可能性。随着微服务、中台架构的 兴起,devops重要性日益显著。 本方案使用两个独立的k8s集群: 用户已有的k8s模拟测试,ack集群模 拟生产环境,保证环境的高度隔离,互 不影响。通过gitlab+Jenkins的黄金组 合,实现容器应用的自动化构建和持续 部署,提高迭代效率。 解决问题 1.微服务应用的CI/CD。 2.测试和生产环境的高度隔离。 3.自动化的测试与部署。 4.现有CI对接ACK。 产品列表 专有网络VPC 容器服务ACK 容器镜像服务ACR 弹性公网IP 负载均衡SLB
基于 K8S多集群隔离环境下的 DevOps实现 最佳实践 业务架构 场景描述 DevOps 是一组过程、方法与系统 称,并通过工具实现自动化部署,确保部署任 务的可重复性、减少部署出错的可能性。随着 微服务、中台架构的兴起,devops重要性日 益显著。本方案使用两个独立的 k8s集群:用户已 有的 k8s模拟测试,ack集群模拟生产...
来自: 最佳实践 | 相关产品:专有网络 VPC,弹性公网IP,容器服务 ACK,容器镜像服务 ACR
智慧水务基础能力云中心解决方案
智慧水务基础能力云中心解决方案,基于阿里云专有云和成熟中间价,构建符合中大型水司基础IT需求和智能化分析需求的水务云平台,满足中大型水务公司的一体化水务综合管理平台需求,解决IT基础设施统一管控运维、数据标准化和融通、智能分析决策等问题,通过数据整合分析,延伸价值链,促进水司业务多元化发展。
基于阿里云混合云平台和成熟中间件构建一站式全链路的水务解决方案,全面覆盖生产监控、表务管理、能耗管理、管网管理、水质管理、资产管理等基础业务应用及决策支持等数据创新应用,实现水务全链路数据的采集和融通,有效支撑数据分析决策需求,促进水务创新应用的快速落地.本方案基于云计算技术和数据整合分析,是一套...
来自: 解决方案
管理
面向企业上云和用云管理,提供管理云服务和云资源体系化工具及方案,帮助企业上好云、管好云。
《Well-Architected 云卓越架构白皮书》:助力企业好云好云.《金融企业上云登陆区(Landing Zone)白皮书》正式发布.阿里云联合埃森哲发布《跨国企业上云登陆区(Landing Zone)白皮书》.开放平台重磅发布“云上治理成熟度模型”,加速企业降本增效.SDK 发布报告—保障 SDK 的质量与稳定性.资源中心-助您轻松解决跨账号...
来自: 云产品
云上高并发系统改造
云上高并发<em>系统</em>改造
场景描述 随着业务的发展,系统并发压力越来越大,如何 进行系统改造以满足高并发场景的业务需求成 为了一个技术难题。本实践抽象于客户的实际场 景,提供高并发下系统改造的理论指导和部分实 操演示。主要适用于以下场景: 1.系统并发压力大,需要进行系统应用改造。 2.数据层并发压力大,需进行分库分表改造。 3.数据库数据量巨大,亟待分库分表解决查询 和写入瓶颈的场景。 方案优势/解决问题 1.在水平扩展阶段,我们除了通过SLB做负载 均衡外,我们可以通过SLB下挂nginx的方 式,增加负载均衡侧的可扩展性 2.在数据库拆分阶段,在做好数据规划后,我 们借助DTS进行数据迁移,通过DRDS将 RDS MySQL的数据拆分到多个分库和分 表中。 产品列表 专用网络VPC 负载均衡SLB 云服务器ECS 数据库RDSMySQL 数据传输服务DTS PrivateZone 分布式关系型数据库DRDS
尽可能避免跨库查询:关联查询的数据尽量分散到同一个分片中,跨库查询对 性能损耗很大。避免跨分表联表查询的方式有:a)剥离出高频访问的表,与核心表 1:1关系的,进行反范式设计,将核心表加 宽 b)如果与核心表是 N:1关系的,将高频访问字段冗余到核心表中 c)低频访问数据,业务功能设计上,避免一页展示大而全,...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,数据传输,云解析 PrivateZone,云原生分布式数据库PolarDB-X,云速搭CADT
< 1 2 3 4 ... 7 >
共有7页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用