大数据近实时数据投递MaxCompute
本文介绍离线大数据场景使MaxCompute构建云 上近实时数仓，打通云下数据上云链路，解决数据复杂类型支持和动态分区问题，满足高级数据处理需求的最佳实践。 l混合云环境下，现有业务系统零改造，打通数据上云链路。 l使用UDF实现复杂数据类型转换和数据动态分区。 l使用DataWorks配置周期调度业务流程，数据自动入仓。 l借助MaxCompute优化计算引擎，实现降本增效。 产品列表 云服务器ECS 专有网络VPC 访问控制RAM 数据总线DataHub E-MapReduceEMR DataWorks 大数据计算服务MaxCompute
上近实时数仓，打通云下数据上云链路，解决数据复 使用 UDF实现复杂数据类型转换和数据动态分 杂类型支持和动态分区问题，满足高级数据处理需求 区。的最佳实践。使用 DataWorks配置周期调度业务流程，数据自 产品列表 动入仓。借助 MaxCompute优化计算引擎，实现降本增 云服务器 ECS 效。云消息队列 Kafka 最佳实践频道 ...
EMR本地盘实例大规模数据集测试
场景描述 阿里云为了满足大数据场景下的存储需求，在云 上推出了本地盘D1机型，这个系列提供了本地 盘而非云盘作为存储，提高了磁盘的吞吐能力， 发挥Hadoop的就近计算优势。阿里云EMR 产品针对本地盘机型，推出了一整套的自动化运 维方案，帮助用户方便可靠地使用本地盘机型， 不需要关注整个运维过程同时数据的高可靠和 服务的高可用。 解决问题 1.云盘多份冗余数据导致成本高 2.磁盘吞吐量不高 3.节点的高可靠分布问题 4.本地盘与节点的故障监控问题 5.数据迁移时自动决策问题 6.自动故障节点迁移与数据平衡问题 产品列表 EMR(E-MapReduce) 本地盘 VPC
Master节点 通常可以生成 1TB的数据进行基准性能测试，首先进入 hive-testbench目录下执行如 下脚本并加载测试数据 参数说明：数据集规模参数单位为 GB,1000表示生成的数据量为 1TB/tpcdata/tpcds 为表数据生成的目录，目录不存在就自动生成，如果不指定目录,数 据目录就默认生成到/tmp/tpcds目录下 cd hive-testbench#如果...
基于DataWorks的大数据一站式开发及数据治理
概述 基于Dataworks做大数据一站式开发，包含数据实时采集到kafka通过实时计算对数据进行ETL写入HDFS，使用Hive进行数据分析。通过Dataworks进行数据治理，数据地图查看数据信息和血缘关系，数据质量监控异常和报警。 适用场景 日志采集、处理及分析 日志使用Flink实时写入HDFS 日志数据实时ETL 日志HIVE分析 基于dataworks一站式开发 数据治理 方案优势 大数据一站式开发，完善的数据治理能力。 性能优越：高吞吐，高扩展性。 安全稳定：Exactly-Once，故障自动恢复，资源隔离。 简单易用：SQL语言，在线开发，全面支持UDX。 功能强大：支持SQL进行实时及离线数据清洗、数据分析、数据同步、异构数据源计算等Data Lake相关功能 ，以及各种流式及静态数据源关联查询。
文档版本：20201020 43 基于 Dataworks的大数据一站式开发及数据治理 数据治理 步骤4 添加规格，比如本例监控错误数的波动情况，如果波动上升进行报警，即错误率飙升 的时候给我们报警，进一步查询错误原因。步骤5 可以先试跑测试数据规则。步骤6 关联调度，每次调度后都会检测数据规则。步骤7 添加 hive_log节点进行关联，...
互联网业务全球化互通组网
场景描述 本方案适用从事全球化业务的客户，希望借助全球 互通的网络，实现多地域的互通。 同时在全球互联的网络下，搭建应用多地部署。如果 业务中涉及到高速通道，提供高速通道迁移云企业网 的操作演练；涉及到跨账号多VPC下的数据迁移和 同步，本方案提供详细的操作步骤，帮助客户快速完 成演练。 解决问题 借助云企业网解决网络互通 高速通道到云企业网的平滑迁移 RDS的数据互通，特别是跨账号多VPC的数据同步 应用的快速部署 产品列表 云企业网（CEN）、云服务器（ECS）、数据库（RDS）、 数据库（Redis）、数据传输（DTS）、负载均衡（SLB） 块存储、专有网络（VPC）
制作人 阿瑟、明誉 审阅人 云护、江柳 文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 2019-05-07 阿瑟、明誉 云护 创建 V1.1 2019-07-25 阿瑟-更新模版 V1.2 2019-11-04 阿瑟 江柳 增加跨账号多VPC的数 据同步 V1.3 2019-11-13 筱晖-文档优化 V1.4 2019-12-17 阿瑟 增加概览页 文档版本：20191217 I 互联网业务全球化...
大数据workshop
大数据workshop
在 HoloWeb控制台，选择 SQL编辑器，然后点击新增 SQL窗口，选择对应的数 据库，编辑填写相应的 DDL建表语句（默认数据表的属性是列存模式，列存模式更 适合 OLAP数据分析，数据表的行存模式更适合高 QPS点查询场景）。1.首先创建 ads_province_info表。文档版本：20210628（发布日期）42 阿里云最佳实践大数据 WorkShop ...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
金融专属大数据workshop
实践目标 学习搭建一个实时数据仓库，掌握数据采集、存储、计算、输出、展示等整个业务流程。 整个实时数据仓库系统全部基于阿里云产品进行架构搭建，用户可以掌握并学会运用各个服务组件及各个组件之间如何联动。 理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方法。 前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解
在HoloWeb控制台，选择SQL编辑器，然后点击新增SQL窗口，选择对应的数 据库，编辑填写相应的DDL建表语句（默认数据表的属性是列存模式，列存模式更 适合OLAP数据分析，数据表的行存模式更适合高QPS点查询场景）。1.首先创建ads_province_info表。文档版本：20210803（发布日期）39阿里云最佳实践金融大数据WorkShop 最佳...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
同地域跨可用区容灾
场景描述 面向阿里云公共云客户， 1.业务在同一个地域（Region） 2.应用已经无状态 3.在不大幅增加成本的情况下，希望获得支持业务的跨可用区（Zone）容灾能力 3.希望对整体的应用做容灾备份（简称容灾），而非单独的数据库或存储等 解决问题 提供云上高可用架构方案并提供可参考的跨可用区架构提供简单的容灾演练 产品列表 云服务器（ECS）、数据库（RDS）、专有络（VPC）、负载均衡（SLB）、消息队列（MQ）等
业务节点互通，暂不连接 公网 业务云容灾 同地域跨可用区容灾方案 RDS 主数据地域 北京（高可用 C+E）和业务系统在一个地域，低延迟 中心数据 网络 使用网络规划 VPC 库系统信 实例规格 息 8 核 4GB 存储空间/存储类型 100G/本地 SSD 购买数量 1 数据库：类型，版本 MySQL5.6，高可用版 号，端口号 端口：3306 数据库配置：...
块存储EBS
阿里云块存储EBS是为云服务器ECS提供的低时延、持久性、高可靠的块级随机存储，拥有丰富的产品类型，多元的存储特性，适用于自建数据库加速，快照数据保护等场景，ESSD PL3规格最高可提供100万IOPS以及4000MB/S吞吐能力，有效提升存储性能，大大降低成本。
块存储的快照服务可以满足以上需求.ECS中运行众多关键业务系统，当发生数据误删、配置出错等故障时，需要快速进行恢复.线上有数百个业务系统，每个系统需要应用不同的保护策略，管理难度大.场景需求与痛点.根据实际保护需求，创建不同的自动快照策略，定期针对云盘创建快照。当云盘发生错误时，通过快照秒级进行回滚.解决...
来自：
云产品
ECS 数据备份与保护
随着企业核心业务规模不断扩大，需要根据业务需求对生产环境中的关键数据进行定期备份。
相关产品云服务器 ECS存储容量单位包 SCU在线咨询方案优势安全高效每一个快照都是完整时间点的备份，并且仅保留变化的数据块，可按需进行恢复。同时，快照采用了增量备份方式，它只备份数据的变化部分，而不需要对整个数据集进行备份，提高了数据备份恢复效率。灵活备份支持根据实际需求设置备份策略，包括定时自动备份和...
来自：
解决方案
无代理ECS数据备份与高效环境搭建
本方案是基于快照提供数据保护和环境搭建的解决方案。可以帮助您实现无代理且有效可靠的数据备份，同时还可以帮助您快速克隆部署开发测试环境。使用基于快照的备份不仅简单有效，在数据备份以及恢复中也能保证稳定可靠，同时基于快照的环境搭建，不仅可以免于从0到1搭建环境，还可以将环境、数据等全部打包克隆到新机器上。
相关产品云服务器 ECS块存储 EBS专有网络 VPC弹性公网 IP在线咨询方案优势无代理简单有效不占用云服务器CPU和内存，不影响生产，不借助第三方备份，不依赖任何插件，充分保证数据备份有效可靠且简单易用。灵活高效的备份和环境搭建提供手动/自动快照两种方式，可满足一次性的数据保护和按需的数据保护，提供快照和镜像等...
来自：
解决方案
Oracle RAC 12C云上部署
Oracle RAC架构迁移上云，提供高并发，高吞吐，高安全等特性，适用于金融，电力，电信，制造业等传统客户的核心交易系统。
类型 配置项 Disk卷名称 VOLCRS01(5G)OCR及VOTINGDISK VOLCRS02(5G)VOLCRS03(5G)共享块存储 VOLDATA01(500G)数据及日志等 VOLDATA02(200G)VOLDATA03(200G)1.2.3.VPC网络和HAVIP规划 类型 配置项 说明 名称 vpc-rac 专有网络 IPv4网段 192.168.0.0/16 名称 vsw-public 交换机-public 可用区 北京可用区K IPv4网段 192.168....
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例，使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer，模拟应用中的关键页面，比如登 录、课程内容等，之后构造若干用户使用的模拟 日志数据，投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖（EMR+OSS）搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
文档版本：20200331 6数据湖-在线学习场景数据分析 数据湖 JindoFS块存储模式 数据以Block形式存储在后端存储OSS上，本地Namespace服务维护元数据信息，该模式在性能上较优，无论是数据性能还是元数据性能。JindoFS块存储模式具有以下几个特点： 海量弹性的存储空间，基于OSS作为存储后端，存储不受限于本地集群，而且本 ...
本地数据中心基于SMB/NFS协议访问对象存储最佳实践
1. 云存储扩容和迁移 集成智能缓存算法，自动识别冷热数据，将热数据保留在本地缓存，保证数据访问体验，无感知的将海量云存储数据接入本地数据中心，拓展存储空间。同时在云端 保留全量数据(冷+热)保证数据的一致性 2.云容灾 随着云计算的普及，越来越多的用户把自己的业务放到了云上。但是随着业务的发展，如何提高业务的可靠性和连续性，跨云容灾是一个比较热门的话题。借助云存 储网关对虚拟化的全面支持，可以轻松应对各种第三方云厂商对接阿里云的数据容灾。 3. 多地数据共享和分发 通过多个异地部署的文件网关实例，对接同一个阿里云OSS Bucket，可以实现快速的异地文件共享和分发，非常适合多个分支机构之间互相同步和共享数据。 4. 适配传统应用 有很多用户在云上的业务是新老业务的结合，老业务是从数据中心迁移过来的使用的是标准的存储协议，例如: NFS/SMB/iSCSI。新的应用往往采用比较新的技 术，支持对象访问的协议。如何沟通两种业务之间的数据是一个比较麻烦的事情，云存储网关正好起到一个桥梁的作用，可以便捷的沟通新旧业务，进行数据交换。 5. 替代 ossfs 和 ossftp ossfs 和 ossftp 都是基于文件协议的开源工具，用户可以通过它们直接上传文件到OSS。但是这两个开源文件都不建议在生产环境使用(POSIX 兼容度低)，同时挂 载在用户的客户端需要额外的配置和缓存资源，对于多个客户端的情况安装配置繁琐。通过文件网关的服务可以完美替代 ossfs 和 ossftp。通过创建文件网关，用 户只需要执行简单的挂载(NFS)和映射(Windows SMB)就可以像使用本地文件系统一样使用 OSS。
本地数据中心基于 SMB/NFS协议访问对象存储 最佳实践 业务架构 场景描述 本地数据中心在本地存储有限的情况下可以基 于云存储网关搭建一个海量文件系统的文件存 储服务，实现多个数据中心互相之间高效的同步 和共享数据。云存储网关以对象存储 OSS为后 端存储，为云上和云下应用提供业界标准的文件 服务（NFS和 SMB）和块...
EBS部署高性能的MySQL服务
使用基于ESSD云盘的MySQL服务，可以确保数据一致性和可靠性，又能减少写入操作的次数和延迟，改善MySQL DoubleWrite机制带来的性能问题，提供更高性能的MySQL数据存储服务。
相关产品云服务器 ECS块存储 EBS专有网络 VPC弹性公网 IP在线咨询方案优势提高写入效率通过将多个写操作合并为一个较大的写操作，减少了写操作的次数，从而减少了写入数据的总时间。保持数据一致性16k原子写保证了每个写操作的原子性，要么全部写入成功，要么全部失败。这样可以避免数据写入的部分成功或部分失败，确保数据...
来自：
解决方案
一键训练大模型及部署GPU共享推理服务
通过创建ACK集群Pro版，使用云原生AI套件提交模型微调训练任务与部署GPU共享推理服务。支持快速创建Kubernetes集群，白屏配置任务数据共享存储和下载，并通过命令行工具Arena快速提交模型训练任务、部署推理服务。使用云原生AI套件可以让模型训练和推理提效，提高GPU资源利用率。
支持快速创建Kubernetes集群，白屏配置任务数据共享存储和下载，并通过命令行工具Arena快速提交模型训练任务、部署推理服务。使用云原生AI套件可以让模型训练和推理提效，提高GPU资源利用率。方案预估：体验本方案预计费用约为12～16元（假设您配置ACK集群、云原生AI套件和NAS实例时选择本文指导的规格资源，且资源运行时间...
来自：
解决方案
RDS MySQL迁移至PolarDB MySQL版
RDS MySQL的数据可在线实时同步到PolarDB MySQL版，并且升级切换后的PolarDB集群包含源RDS实例的账号信息、数据库、IP白名单和必要的参数。
解决问题：容量过大，存不下PolarDB采用计算与存储分离架构，基于全新打造的分布式块存储，不会受到单个数据库服务器的存储容量限制，可支撑单实例上百TB级别的数据规模。解决问题：多副本复制延迟PolarDB采用物理复制和共享存储技术，有效的降低RO节点延迟。同时，PolarDB支持业内独有的SCC（全局一致性-高性能模式）技术...
来自：
解决方案
云存储解决方案
云存储解决方案面向大数据存储、多媒体存储（视频存储）、视频监控、基因生命科学、数据迁移、自动驾驶、在线教育、混合云存储、数据迁移、数据容灾备份等多个行业用户的多元化场景，提供更安全稳定、更优化、无缝上云的智能数据存储服务，为企业上云、实现数字化转型奠定数据基础。
热数据用文件存储或块存储，冷数据可转存到 OSS，降低存储成本.自动驾驶解决方案.1.完整 Serverless 架构：无需估计云端存储计算资源，支撑业务快速增长；2.丰富的云上数据计算生态：OSS 灵活与周边产品打通，提供诸如文档转换、媒体转码等能力；3.深入场景的内容分析能力：配置智能媒体管理，挖掘课堂质量问题；4.强大的元...
来自：
解决方案
云服务器基准性能测试
本最佳实践适合利用标准的benchmark工具对云服务器的CPU、内存、网络和磁盘性能进行测试的场景。
您可以像使用物理硬盘一样格式化并建立文件系统来使用块存储，满 足 大 部 分 通 用 业 务 场 景 下 的 数 据 存 储 需 求。详见 https://help.aliyun.com/document_detail/63136.html 云监控（CloudMonitor）是一项针对阿里云资源和互联网应用进行监控的服务。云监控为云上用户提供开箱即用的企业级开放型一站式监控解决...
自建Hadoop迁移到阿里云EMR
场景描述 场景1：自建Hadoop集群数据（HDFS）迁移到 阿里云EMR集群的HDFS文件系统； 场景2：自建Hadoop集群数据（HDFS）迁移到 计算存储分离架构的阿里云EMR集群，以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案； 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
启动数据迁移.56 6.2.HDFS数据迁移到 JindoFS块存储模式存储空间.58 附件：Distcp任务通过公网进行传输.61 方案架构.61 执行步骤.62 源集群侧配置.62 目标集群配置.63 测试方法.64 网络连通.64 数据复制.65 其他要点.67 文档版本：20200330 V 自建Hadoop数据迁移到阿里云 EMR 最佳实践概述 最佳实践概述 应用场景 客户在 ...
- 产品推荐
- 这些文档可能帮助您