Function Compute构建高弹性大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中，对数据进行处理、分析，形成业务闭环。比如游戏行业中的游戏发行、游戏运营，产互行业中的数字营销，物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点，给整个数据采集传输系统带来很大的挑战。在这个场景中，有三个关键的环节，数据采集、数据传输、数据处理。该最佳实践主要涉
在这个 部署架构 场景中，有三个关键的环节，数据采集、数据传 输、数据处理。该最佳实践主要涉及到数据采集 和数据传输环节。方案优势 1.实现业务弹性高可用，削峰填谷的同时，实现按需低成本的计算服务。2.云原生架构构建业务系统，高效免运维。解决问题 1.利用服务器自建数据采集系统成本高，弹 性不足。2.利用服务器自...
弹性高性能计算E-HPC
弹性高性能计算（E-HPC）基于阿里云基础设施，拥有公有云、专有云等多种产品形态，为用户提供一站式HPC/HPDA平台服务，面向科研、生产、教育和行业大计算，提供快捷，弹性，安全的服务和拥有与阿里云产品互通的高性能计算服务平台。
支持PBS、Slurm等多种HPC行业常见的调度器，可通过控制台直接设置调度策略并提交作业到调度器，同时提供基于Web的SSH命令行操作.按需组建云上HPC集群，无需排队，自主增减节点及升降配.可扩展HPC软件栈.提供从操作系统，集群管理，任务调度到行业应用的多层次HPC软件，覆盖大部分用户需求.通过E-HPC的远程可视化功能，在...
来自：
云产品
弹性裸金属自建ORACLE数据库双机
场景描述 1.客户业务系统选型ORACLE数据库且不愿做 业务改造：由于历史原因，客户业务系统只支持 ORACLE数据库，客户没有技术/时间去做技术栈 改造。 2.高性能：希望拥有比虚拟机更高的性能和稳定 性，以保障数据库高性能，支撑高并发的业务系 统。 3.高可用：追求数据库服务的高可用，在某一台数 据库服务器宕机时快速切换备机，实现对业务应 用的最小影响。 4.数据安全性：极端情况下能找回数据，数据备份 和恢复更方便。
文档版本：20220207 III 弹性裸金属自建 ORACLE数据库双机 前言 快照：快照是某一时间点一块云盘和共享块存储（以下简称磁盘）的数据状态文 件。常用于数据备份、数据恢复和制作自定义镜像等。镜像：ECS镜像提供了创建 ECS实例所需的信息。创建 ECS实例时，必须选 择镜像。镜像文件相当于副本文件，该副本文件包含了一块或...
金融行业从经典网络向VPC容器化改造
本实践介绍经典网络向VPC容器化改造实践 以及配置步骤，可适用于金融等行业 方案优势 容器化完成经典网络完成向VPC网络改 造 应用发布灵活 运维效率提升 解决问题 1.经典网络管理困难 2.应用发布不灵活 3.运维效率低 产品列表 专有网络VPC 容器服务Kubernetes版 日志服务SLS 云数据库RDS版 NAT网关 容器镜像服务ACR 云盘
操作步骤 4推送文件 将经典网络dev_server的文件推送到VPC的file_server上 scp-rroot@10.111.0.61:/qianyi/mnt#登陆 file_server主机验证文件 sshroot@10.111.0.61 cd/mnt/qianyi ll 文档版本：20200703（发布日期）34 金融行业从经典网络向VPC容器化改造最佳实践 操作步骤 文档版本：20200703（发布日期）35 金融行业从...
自建Hive数仓迁移到阿里云EMR
场景描述 客户在IDC或者公有云环境自建Hadoop集群构 建数据仓库和分析系统，购买阿里云EMR集群之 后，涉及到将数据仓库和Hive元数据的数据库迁 移上云。目前主流Hive数据仓库迁移场景为1.x 版本迁移到阿里云EMR(Hive2.x版本），涉及到 数据订正更新步骤。 解决的问题 Hive数据仓库的数据迁移方案 Hive元数据库的迁移方案 Hive跨版本迁移后的数据订正 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
将订正后的转储文件导入到 RDS for MySQL实例中 步骤1 通过 ssh登录到客户 IDC的 MySQL服务器后台，执行命令下列命令，红色字体需要 替换为 RDS for MySQL实例的内网连接地址：cd~mysql-h rm-bp1876d26490b42uh.mysql.rds.aliyuncs.com -u hivedbuser -p 100 sort by date_value,count_value;当执行完成时，会生成 ...
云速搭CADT部署VMware服务
本方案适用客户云下使用VMware环境，在云上希望继续使用VMware环境，包括业务维护和扩容等，不希望改变云上使用环境。
支付方式：按量付费 实例名称：ECS-跳板机 规格：ecs.g6.large（2C 8G），镜像：Windows Server 2016 数据中心版 64位 系统盘：ESSD云盘，40GiB，PLO 安全组：勾选 ICMP协议、SSH 22、RDP 3389、HTTP 80和 HTTPS 443端口 自定义密码：本示例为 Test1234 说明：需要是 Windows操作系统，访问 VMware管理组件如 vCenter、NSX-...
互联网、电商Elasticsearch搜索
场景描述 每一个生活在互联网中的用户，每天都在经 历各种各样的“搜索”，查找电商网站商品、 信用卡账单、查电子发票、查附近的餐厅酒 店、查偶像、查交通等等。相对于传统的关 系型数据库，Elasticsearch只需要几毫秒的 时间，即可查询PB级数据并从中找到匹配 信息。利用Elasticsearch高可用性和易用 性，能够快速处理网站、APP丢给它的文本、 数字、日期、IP以及地理数据。 解决问题 1.电商网站商品、订单、物流等搜索 2.保险行业保单查询 3.互联网教育行业课程搜索 4.O2O行业地理位置搜索等 产品列表 云服务器ECS 专有网络VPC 负载均衡SLB 云数据库RDSMySQL版 Dataworks Elasticsearch 数据传输服务DTS
您 可以使用数据传输轻松构建安全、可扩展、高可用的数据架构。更多信息，请参见 DTS简介：（https://www.aliyun.com/product/dts）。云服务器 ECS（Elastic Compute Service）:是一种弹性可伸缩的计算服务，助您 降低 IT 成本，提升运维效率，使您更专注于核心业务创新。更多信息，请参见 ECS 简介：...
VMware on 弹性裸金属
场景描述 传统企业将VMware迁移到阿里云弹性裸 金属，利用云计算平台提供的弹性基础设 施，降低部分运维成本和学习成本，使用其 擅长的技术工具专注自身业务，实现线下业 务平滑迁移上云。 解决问题 1.VMware业务平滑迁移上云 2.集成云产品能力增强业务创新 3.降低混合云成本和复杂度 4.增强系统可用性 产品列表 EBM神龙 ECS NAS OSS ENI NAT EIP
步骤3 将 vCenter ISO 文 件 下 载 拷 贝 到 windows 服 务 器。本 示 例 使 用 VMware-VIM-all-6.5.0-8307201.iso。文档版本：20191121 51 VMwareon弹性裸金属 安装和部署VMware 步骤4 双击vCenter安装文件。步骤5 双击autorun。步骤6 根据安装向导，完成VMwarevCenterServer的安装。1.在适用于Windows的vCenterServer页面...
EMR本地盘实例大规模数据集测试
场景描述 阿里云为了满足大数据场景下的存储需求，在云 上推出了本地盘D1机型，这个系列提供了本地 盘而非云盘作为存储，提高了磁盘的吞吐能力， 发挥Hadoop的就近计算优势。阿里云EMR 产品针对本地盘机型，推出了一整套的自动化运 维方案，帮助用户方便可靠地使用本地盘机型， 不需要关注整个运维过程同时数据的高可靠和 服务的高可用。 解决问题 1.云盘多份冗余数据导致成本高 2.磁盘吞吐量不高 3.节点的高可靠分布问题 4.本地盘与节点的故障监控问题 5.数据迁移时自动决策问题 6.自动故障节点迁移与数据平衡问题 产品列表 EMR(E-MapReduce) 本地盘 VPC
安全组创建 步骤1 阿里云控制台检索 ECS进入 ECS控制台 步骤2 点击控制台界面左侧菜单栏的”网络与安全“的”安全组“，选择地域为”华北 2(北京)”开始创建安全组 文档版本：20191111（发布日期）4 EMR本地盘实例大规模数据集测试最佳实践 VPC环境创建 步骤3 这里创建的安全组以系统自带模版为例，专有网络选择之前创建的 ...
小型互联网迁移阿里云
场景描述 本方案主要适用于中小型互联网企业，从他云 迁移到阿里云的最佳实践。方案中会概述网络 规划、服务器、数据库、存储数据、Kafka和 镜像数据的迁移方案描述。同时在实践环节， 增加服务器和RDS的迁移操作演练和验证。 解决问题 提供服务器、数据库等关键环节的平滑迁移方 案 提供云上高可用架构参考 提供模拟简单的演练回归流程机制 产品列表 云服务器（ECS）、迁云工具（SMC）、数据库 （RDS）、数据库（Redis）、数据传输（DTS）、 负载均衡（SLB）、专有络（VPC）等
ssh-i“密钥地址”ec*@公网 IP 文档日期：20200114 22 小型互联网迁移上阿里云最佳实践 创建 ECS实例 步骤2 切换为 root账号：sudo-i 步骤3 打开 SSH配置文件/etc/ssh/sshd_config。vim/etc/ssh/sshd_config 步骤4 找到以下内容并修改配置。PermitRootLogin yes/默认为 forced-commands-only，需要开启 root用户访问改为 ...
企业上云数据安全
场景描述 企业是否选择上公共云，或者哪些系统或数据上 公共云，对数据安全的关心是重要因素之一。本 最佳实践重点在于介绍狭义的数据加密存储安 全范畴，即首先使用SDDP产品进行敏感数据发 现和分级分类，然后对高级别敏感数据进行按 需、不同类型的全链路加密存储。 解决问题 1.帮助客户发现敏感数据 2.对敏感数据进行分类、分级 3.对不同级别的数据如何选择加密方式 4.具体如何进行加密 产品列表 敏感数据识别SDDP 密钥管理服务KMS 云数据库RDS 对象存储OSS
企业上云数据安全 最佳实践 部署架构图 场景描述 企业是否选择上公共云，或者哪些系统或数据 上公共云，对数据安全的关心是重要因素之 一。本最佳实践重点在于介绍狭义的数据加密 存储安全范畴，即首先使用 SDDP产品进行敏 感数据发现和分级分类，然后对高级别敏感数 据进行按需、不同类型的全链路加密存储。解决问题 1....
大数据系统基准性能测试最佳实践
本方案适用于在阿里云上进行大数据基准性能测试的场景，包括 Teragen和Terasort测试，TestDFSIO测试。本文采用CADT工具结合阿里云的E-MapReduce服务快速构建测试集群，并提供了Teragen和Terasort测试，TestDFSIO测试的测试脚本，便于迅速开展测试。
EMR还可以与阿里云其他的云数据存储系统和数据库系统（例如，阿 里云 OSS和 RDS等）进行数据传输。EMR的 SmartData组件是 EMR Jindo引 擎的主要存储部分，为 EMR各个计算引擎提供统一的存储优化、缓存优化、计算 缓存加速优化和多个存储功能扩展。详见 https://help.aliyun.com/document_detail/28068.html 云架构设计工具 ...
电商网站数据埋点及分析
场景描述 数据埋点是数据产品经理、数据运营以及数据分 析师，基于业务需求（例如：CPC点击付费广 告中统计每一个广告位的点击次数），产品需求 （例如：推荐系统中推荐商品的曝光次数以及点 击的人数）对用户行为的每一个事件对应的位置 进行开发埋点，并通过SDK上报埋点的数据结 果，记录数据汇总后进行分析，推动产品优化或 指导运营。 解决问题 1.电商网站广告位效果统计分析 2.电网网站推荐商品曝光、点击、购买等行为统 计分析 3.电商网站用户分布分析 4.电商网站页面热点图分析等 产品列表 日志服务SLS Dataworks 云服务器ECS 云数据库RDS版 负载均衡SLB 专有网络VPC
文档版本：20220127 XXVI 电商网站数据埋点及分析 电商网站数据分析 步骤3 设置通知类型（可选邮件和钉钉机器人，本例使用邮件），输入收件人的主题名称提交。步骤4 提交成功后，每天 11点会收到已订阅数据图表。邮件示例如下：文档版本：20220127 XXVII 电商网站数据埋点及分析 附加说明 附加说明 如果您已经完成了本实践...
Oracle数据库与应用迁移PolarDB
场景描述 本最佳实践适用于Oracle数据库及应用迁 移到阿里云PolarDB数据库（Oracle兼容 版）。通过ADAM将Oracle数据库迁移到 PolarDB数据库，可以降低应用升级、运 维成本，同时提升系统弹性，实现数据库 及应用全栈上云。 解决问题 1.解决Oracle及其应用迁移上阿里云， 通过ADAM评估迁移工具，降低迁移 风险，提高迁移效率。 2.使用PolarDB（Oracle兼容版）数据 库，提升数据库并发读能力，降低运维 成本。 产品列表 数据库和应用迁移（ADAM） PolarDB（Oracle兼容版） 云服务器（ECS） 专有网络（VPC）
文档版本：20220210 52 Oracle数据库与应用迁移 PolarDB 应用评估及改造 步骤4 同意软件许可协议。5.2.采集应用数据 步骤1 应用采集器上传 adam-app ECS。应用采集器需要和应用部署在同一台 ECS服务器 上，首先上传应用采集器。上传的 ECS名字是 adam-app，应用放在 root目录下。步骤2 解压应用采集器。gunzip adam-app...
混合云灾备之HDR VMware虚拟机容灾
场景描述 本文为您介绍使用混合云容灾服务来备份虚拟机的 镜像，可以为云上或云下的VMware环境提供有效 的数据保护，保证数据快速、安全、高效地备份到云 上，并在需要时快速恢复备份镜像。 解决问题 1.云上和云下的VMware虚拟机容灾保护。 2.云下的VMware虚拟机环境如何在云上快速恢 复。 产品列表 1.弹性裸金属服务器 2.HDR混合云容灾服
混合云灾备之HDRVMware虚拟机容灾 最佳实践 业务架构图 场景描述 本文为您介绍使用混合云容灾服务来备份虚拟机的 镜像，可以为云上或云下的VMware环境提供有效 的数据保护，保证数据快速、安全、高效地备份到云 上，并在需要时快速恢复备份镜像。如有问题请使用钉钉扫码联系文档作者：解决问题 1.云上和云下的VMware虚拟机...
游戏数据运营融合分析
场景描述 1.游戏行业有结构化和非结构化数据融合分 析需求的客户。 2.游戏行业有数据实时分析需求的客户，无法 接受T+1延迟。 3.对数据成本有一定诉求的客户，希望物尽其 用尽量优化成本。 4.其他行业有类似需求的客户。 方案优势/解决问题 1.秒级实时分析：依托ADB计算密集型实例， 秒级监控DAU等数据，为广告投放效果提 供有力的在线决策支撑。 2.高效数据融合分析：打通结构化和非结构化 数据，支撑产品体验分析；广告买量投放效 果实时（分钟级）分析，渠道的评估更准确。 3.低成本：DLA融合冷数据分析+ADB存储密 集型温数据分析+ADB计算密集型热数据分 析，在满足各种分析场景需求的同时，有效 地降低的客户的总体使用成本。 4.学习成本低：DLA和ADB兼容标准SQL语 法，无需额外学习其他技术。 产品列表 专有网络VPC、负载均衡SLB、NAT网关、弹性公网IP 云服务器ECS、日志服务SLS、对象存储OSS 数据库RDSMySQL、数据传输服务DTS、数据管理DMS 分析型数据库MySQL版ADS 数据湖分析DLA、QuickBI
您可以使用数据传输轻松构建安全、可扩展、高可用的数据 架构。更多信息，请参见：help.aliyun.com/document_detail/26592.html RDS：云数据库 RDS MySQL 版本，MySQL是全球最受欢迎的开源数据库，阿里云 MySQL版通过深度的内核优化和独享实例提供稳定极致的数据库性能，同时灵活的部署架构及产品形态，可满足不同场景下的...
在线教育流量洪峰
1. 通过Tair缓存的性能增强型解决高并发读的性能问题，通过持久内存型解决大并发写性能及数据可靠性问题。 2. PolarDB作为主数据库保存业务的交易数据，通过弹性能力和并发SQL解决性能瓶颈。 3. ADB+QuickBI提供的数据仓库方案通过分时弹性能力和实时业务展现能力。
3.授课过程中考勤，互动，答题等环节涉及到频繁数据互动，适合采用关系型数据库 处理业务，此外下单约课等数据也需要异步传输至关系型数据库做后续业务支撑 使用。洪峰时段，关系型数据库面临并发压力激增，必然需要及时扩充资源提供更 高性能，此部分关系型数据库部署 PolarDB产品。PolarDB产品采用先进的计算 存储分离...
云服务器基准性能测试
本最佳实践适合利用标准的benchmark工具对云服务器的CPU、内存、网络和磁盘性能进行测试的场景。
帮助您构建更稳定、安全的应用，提升运维效率，降低 IT成本，使您更专注于核心业务创新。详见 https://help.aliyun.com/product/25365.html 专有网络 VPC（Virtual Private Cloud）是用户基于阿里云创建的自定义私有网络,不同的专有网络之间二层逻辑隔离，用户可以在自己创建的专有网络内创建和管 理云产品实例，比如 ECS、...
文件下载加速及成本优化
方案使用阿里云CDN来加快源站内容的分发速度，通过分布于全球的CDN节点来缓存源站的文件内容，并且调度用户请求到最近的CDN节点上快速下载所需文件，因此能够加快文件下载速度，提高网站性能。核心优势包括改善用户体验，提高网站可访问性，在降低源站服务器负载的同时，还能够节约源站的流量成本。
在线部署 适用客户 寻求成本效益高的内容分发解决方案 需提升应用加载速度和全球访问体验 需在不同地区提供一致的访问速度 方案优势 为什么使用CDN实现文件下载加速 CDN具有全球节点分布，智能调度系统，以及高效的缓存和安全技术等优势，确保快速、稳定的内容分发和卓越的用户体验。降低流量成本 将OSS上的文件缓存到CDN...
来自：
技术解决方案
告别资源瓶颈，函数计算驱动多媒体文件处理
本方案推荐使用函数计算，利用事件驱动和异步任务的方式，将文件处理任务与核心应用解耦，同时依靠函数计算自动弹性扩展和按使用付费的优势，提升高并发的处理效率和服务稳定性。
采用服务端签名的WEB直传方式，将文件上传直接发送到OSS，减少对应用网络资源的占用。文件上传到OSS后，通过事件驱动机制触发函数计算执行文件处理任务（示例代码是将PPT转换为PDF并添加水印）。处理完成后，通过OSS事件触发的MNS消息通知应用。立即部署 30分钟 30元（假设您配置的云服务器实例、RDS MySQL版实例与建议规格...
来自：
技术解决方案
- 产品推荐
- 这些文档可能帮助您