自建Hive数据仓库跨版本迁移到阿里云Databricks数据洞察
场景描述 客户在IDC或者公有云环境自建Hadoop集群构建数据仓库和分析系统，购买阿里云Databricks数据洞察集群之后，涉及到数仓数据和元数据的迁移以及Hive版本的订正更新。 方案优势 1. 全托管Spark集群免运维，节省人力成本。 2. Databricks数据洞察与阿里云其他产品（OSS、RDS、MaxCompute、EMR）进行深度整合，支持以这些产品为数据源的输入和输出。 3. 使用Databricks Runtime商业版引擎相比开源Spark性能有3-5倍的提升。 解决问题 1. Hive数仓数据迁移OSS方案。 2. Hive元数据库迁移阿里云RDS方案。 3. Hive跨版本迁移到Databricks数据洞察使用Delta表查询以提高查询效率。
ECS实例 由 Master和 Worker两种类型的节点组成：Master节点：主要负责集群资源管理和作业调度。默 认节点个数为 1。Worker节点：集群的计算节点，主要负责作业的执 行。最小节点数量 3。本实践方案中，Master实例和 Core实例的选型上，实例 规格保持默认配置。元数据选择 独立 RDS MySQL 文档版本：20210425 25 自建 Hive...
应用实时监控服务ARMS
作为云原生可观测平台，应用实时监控服务 ARMS 包含前端监控、应用监控、云拨测等模块。覆盖浏览器、小程序、APP、分布式应用、容器等不同可观测环境与场景。帮助企业实现全栈性能监控与端到端追踪诊断。提高监控效率，压降运维工作量。
多种拨测类型与节点.实时监测 CDN、DNS 等关键组件.监测周期精细至分钟级别，快速了解 CDN 加速性能与 DNS 解析性能，为站点和业务端口等提供 7×24 小时细颗粒度故障实时监测、告警及性能分析服务，真正做到精细化监测.错/慢请求根因定位.针对 HTTP 接口可用性拨测场景，与可观测 OpenTelemetry 版深度集成，支持从拨测...
来自：
云产品
阿里云最佳实践容器workshop
通过本篇最佳实践，可以熟悉容器及k8s的基本操作。基于eci的高弹性架构，能有效的应对业务流量洪峰，同时提升资源使用效率。
需要对节 点扩容进行配置。CA会检测处于 Pending状态的 Pod，若是因为资源不足导致无法 调度，则会按照规则进行节点扩容。步骤1 进入集群详情页，单击节点池>自动弹性伸缩配置。步骤2 需要完成 ESS的角色授权以及为集群添加 ESS授权策略。1.以下以节点权限未被授权为例。更 多 其 他 授 权 场 景，请 参 考：...
E-HPC低成本实现量化策略回测
在量化交易场景下，量化策略的构建流程一般包括：想法、数据获取、建模、回测、结果分析等，在回测过程中往往需要海量的算力，进行大量数据的分析和处理，如何快速、高效和低成本的进行批量任务的调度，并快速获取结果是量化领域遇到的普遍挑战，这也是云计算能够带给客户的巨大优势。
“节 点与队列”页面支持用户新建或删除队列，本次实验所创建计算节点均纳入 EHPC集 群默认队列“workq”中，计算任务亦提交到 workq队列。后续生产环境可根据生产需要 创建新的队列。文档版本：20220321 5 E-HPC低成本实现量化策略回测 实验背景 自动伸缩 点击 EHPC集群“自动伸缩”子标签，跳转到自动伸缩配置页面。1.3....
基于链路追踪+ECI的流量洪峰应对
云原生技术已经为越来越多的互联网客户接受，对于在线教育、互动娱乐、电商等类型的客户会由于业务的原因存在突增业务流量，因此对于系统的稳定性非常关注，结合阿里云的容器服务、链路追踪、弹性容器ECI等产品，帮助客户业务实现容器化改造，并且方便发现系统应用架构中的瓶颈等问题，实现系统高弹性的同时优化客户的云资源使用成本。 l 方案优势 ￚ 支持分布式追踪、调用链分析、DB调用分析、链路拓扑分析、业务指标统计等系统链路调用分析。 ￚ 运维研发效率提高，链路追踪服务端全托管，免运维。 ￚ 链路追踪的应用调用链分析能力结合ECI高弹性能力，提升应用系统在洪峰流量冲击下的稳定性。 ￚ 链路追踪接入方便，ECI POD弹性伸缩，节省用户运维成本和云资源使用成本。 ￚ 结合SLS Ingress可以基于应用前端访问性能指标做弹性伸缩，更丰富的云原生弹性能力。
基于链路追踪+ECI的洪峰流量应对 最佳实践 业务架构 场景描述 云原生技术已经为越来越多的互联网客户接 受，对于在线教育、互动娱乐、电商等类型的 客户会由于业务的原因存在突增业务流量，因 此对于系统的稳定性非常关注，结合阿里云的 容器服务、链路追踪、弹性容器 ECI等产品，帮助客户发现应用链路中的瓶颈，同时应对洪...
EHPC药物筛选
场景描述 本方案适用于使用弹性高性能计算 EHPC和文件存储NAS来搭建基础环 境，运行药物筛选应用AutodockVina 的场景中，这里采用批处理方式来提交 作业，并可以可视化计算结果。 方案架构 1.计算之前，将数据通过互联网/闪电立方/高速通道上传到阿里云OSS 2.计算时，将数据从OSS拉取到文件共享存储NAS上 3.计算时，在EHPC集群上进行，计算节点从NAS上读写数据 • 容量型NAS：低成本，大容量 • 性能型NAS：适合高IOPS应用，作为临时目录 • CPFS：适合超大规模，并行度极高的作业 4.计算节点： • 如果对计算时间不敏感，希望低成本运算，可选ECS实例 • 如果时效性要求高，建议采用SCC超级计算集群 5.可视化 • 如果可视化部分计算量不大，可以采用EHPC自带的可视化服务 解决问题 1.使用EHPC运行药物筛选应用 2.使用nas存储计算数据 3.使用OSS保存计算结果 • 通过分子对接（moleculardocking）模拟计算进行药物筛选，是模拟小分子配体和生物大分子受体的 相互作用，预测配体和受体的结合模式和亲和力。 • 通常，有很多已有的配体库，如商业化的Specs、Enamine和ChemDiv化合物库。提供大量配体，模 拟计算就是计算这些配体和给定受体的相互作用。 • 每次模拟计算通常处理一个配体和一个受体，不同配体之间没有依赖，因此可以同时大规模并行处 理。 本解决方案同样适用于有批量、高并发处理需求的其它生物、医药等场景。 产品列表 弹性高性能计算E-HPC 文件存储NAS 对象存储OSS
计算时，在 EHPC集群上进行，计算节点从 NAS上读写数据•容量型 NAS：低成本，大容量•性能型 NAS：适合高 IOPS应用，作为临时目录•CPFS：适合超大规模，并行度极高的作业 4.计算节点：•如果对计算时间不敏感，希望低成本运算，可选 ECS实例•如果时效性要求高，建议采用 SCC超级计算集群 5.可视化•如果可视化部分计算量...
企业应用（酒店PMS）混合云组网最佳实践
酒店上云是分阶段实施，线下和云上的混合云是长期 状态，需要保证线下多地域多分支、云上多地域之间 互相访问，且需要满足不同类型的企业节点的服务要 求，比如总部 IDC 要求带宽大，对安全可靠性要求 高等。
企业应用（酒店 PMS）混合云组网 最佳实践 场景描述 业务架构 酒店上云是分阶段实施，线下和云上的混合云是长期 状态，需要保证线下多地域多分支、云上多地域之间 互相访问，且需要满足不同类型的企业节点的服务要 求，比如总部 IDC要求带宽大，对安全可靠性要求 高等。解决问题 1.减小线下机房压力，优化成本。2.云上灵活...
自建K8S集群迁移ACK弹性裸金属集群
场景描述 在微服务化改造之后，企业在享受K8S带来应 用管理的便利的同时，存在硬件性能不足，本 地扩展性差，容器容灾难，K8S管理复杂等问 题。 解决问题 1.增强K8S扩展性：如何通过弹性裸金属服务 器的强劲硬件性能，实现云端资源急速扩 展，从容应对应用访问压力大的问题。 2.如何简化云端K8S运维：通过阿里云容器服 务（ACK）实现敏捷开发和部署落地，加速 企业业务迭代。 3.如何综合考虑迁移和容灾：如何整合云上和 云下容器资源实现遇到故障时可以通过健 康检查实现自动容灾。 4.如何不改应用上云：如何实现应用上云数据 库连接零修改。 5.数据库上云及回退：如何实现上云回退； 产品列表 ACK/ECS/SLB/NAT网关/弹性裸金属服务器/DTS/RDS MySQL
本章节通过对项目需求进行分析，理清项目架构里的各模块的需求点以及使用的阿里 云产品，基础环境可以使用阿里云的云上架构设计工具 CADT进行搭建。技术架构 本实践基于如下图所示的技术架构和主要流程进行介绍：文档版本：20220128 1 自建 K8S集群迁移 ACK弹性裸金属集群 最佳实践概述 方案优势 可扩展性强：应用端通过 K8...
FastGPU极速AI训练/推理
利用 FastGPU工具一键构建阿里云上的AI训练/推理环境，并使用AIACC加速工具进行加速。
步骤13 查看 GPU节点的私网 IP，并在 CPFS管理节点上使用 cpfs add 192.168.x.x添加节 点 IP。27 FastGPU极速 AI推理 运行 GTC Demo 步骤14 使用 mmlscluster可以查看节点已经添加成功。步骤15 使用 mmlsfs 03dd2792794bf67a-000001-T查看 CPFS默认路径（其中 03ddxxxxx 参考图示的内容获取）。步骤16 在 GPU服务器上使用 ...
开源Flink迁移实时计算Flink全托管版最佳实践
本方案介绍如何将自建开源Flink集群的流式任务（包含Datastream、Table/SQL、PyFlink任务）迁移至阿里云实时计算全托管版。
文档版本：20211222 8 开源 Flink迁移实时计算Flink全托管版 基础环境搭建 1.1.2.Flink集群资源评估 阿里云实时计算 Flink版产品按照 CU 计费，1CU=1Core+4G MEM，参考产品官 方介绍，每个计算 的 CU 节点每秒钟处理能力如下：简单作业(指仅仅进行数据同步，或者在数据同步中涉及一些简单的过滤清洗)1.每个计算 CU 可处理 ...
机场视频监控
场景描述 该最佳实践适用于国内机场的视频监控行业，将线下视频文件通过混合云阵列缓存后，通过专线上传到阿里云OSS上。 也适用于其他混合云场景中，利用阵列缓存文件，并通过网络传输到阿里云OSS上的场景。 解决问题 1.通过混合云阵列+专线将线下文件传到阿 里云OSS上 2.通过阿里云OSS跨区域复制功能实现异 地文件备份 3.通过OSS的自动生命周期管理功能实现 文件生命周期管理 产品列表 OSS对象存储 混合云阵列 高速通道（专线）
表示文件最后更新30天后，其存储类型由 标准型或者低频访问型自动转换为归档型。勾选删除文件，并填入90，表示文件最后更新90天后，将被自动删除。 碎片过期策略：点击过期天数，勾选删除碎片，填入90，表示文件碎片 生成90天后，将被删除。 单击 确定。注意：低频访问型存储(IA)，Object最短存储期限为30天，早于30...
Function Compute构建高弹性大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中，对数据进行处理、分析，形成业务闭环。比如游戏行业中的游戏发行、游戏运营，产互行业中的数字营销，物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点，给整个数据采集传输系统带来很大的挑战。在这个场景中，有三个关键的环节，数据采集、数据传输、数据处理。该最佳实践主要涉
函数计算的高级设置：函数实例类型：根据函数承载的业务属性以及运行函数时对资源的消耗情况选择不同的实例类 型。这里选择弹性实例，因为需要更强的横向扩展能力。弹性实例：函数执行内存 128MB—3072MB，代码包大小上限 50MB，函数执行时长上限 600s，磁盘大小 512MB。性能实例：实例规格最大为 8C16GB，代码包大小为 500...
自建K8S迁移镜像、应用至阿里云ACK最佳实践
云原生技术K8S以其易管控，自动化操作，自修复等特点充分满足了企业的需求，越来越多的企业都加入容器化这个队伍中。但随着技术的更新迭代，自建的K8S相关的容器镜像服务、集群管理、稳定性保障也让企业IT人员感觉到压力，所以上云成了一些企业的选择，将底层的IAAS基础设施和K8S的基础PASS能力交给阿里云来管理，企业本身抽出更多精力聚焦业务的创新。针对以上需求通过使用image-syncer、velero来介绍如何平滑、便捷的迁移自建的K8S镜像和应用至阿里云容器镜像服务和ACK。 针对以上需求场景通过使用image-syncer、velero来介绍如何平滑、便捷的迁移自建的K8S镜像和应用至阿里云容器镜像服务和ACK；本文通过使用河源的ECS自建K8S集群和Harbor镜像仓库来模拟IDC环境
目前，EIP可绑定到专有网络类型的 ECS实例、专有网络类型的私网 SLB实例、专有网络类型的辅助弹性网卡、NAT 网关和高可用虚拟 IP 上。详见：https://www.aliyun.com/product/eip 负载均衡 SLB：对多台云服务器进行流量分发的负载均衡服务，可以通过流量分 发扩展应用系统对外的服务能力，通过消除单点故障提升应用系统的...
微服务引擎的线上流量治理
随着业务不断创新，微服务架构及数字化转型不断落地，在这个过程中，大量企业采用了开源的组件构建了微服务，比如有开源微服务全家桶之称的Spring Cloud体系或Apache Dubbo等，微服务的好处之一，在于快速迭代，如何在迭代过程中保障线上流量不受损？ 开源产品无运维工具，常常需要投入较大的运维人力和成本。 本实践将重点介绍如何快速集成主流开源微服务框架，实现业务零改造，解决开源框架在生产落地过程中的痛点，例如无损上下线、标签路由等，并通过托管微服务开源组件（API网关、注册中心、配置中心等）的服务，提供白屏化监控告警、容灾、宕机重启、扩缩容等能力，帮助企业释放业务无关的运维成本，聚焦业务本身的运维和发展。 方案优势 快速集成：通过JavaAgent技术实现Sping Cloud和Dubbo框架可以实现业务零改造接入。 免运维：托管微服务依赖开源中间件的服务，提供白屏化监控告警、容灾、宕机重启、扩缩容等能力，帮助我们客户释放业务无关的运维成本，聚焦自身业务本身的运维和发展。 开源增强：提供开源框架在生产落地过程中的痛点，例如应用无损上下线/金丝雀发布/南北+东西流量打通等，帮助客户的业务提高自身SLA和降低自研成本。
核心模块 MSE微服务网关：目前支持 Spring Cloud Gateway、Zuul和 Kong三种引擎类 型 – 本实践选择 Zuul作为网关。如果业务应用服务是 Spring Cloud 或 Dubbo体系，建议您选择 Spring Cloud Gateway和 Zuul。以下列举 Spring Cloud Gateway和 Zuul的一些优势：ￚ 服务发现：集成了 Spring Cloud体系的注册中心组件（Nacos...
基于日志服务构建业务可观测性系统
现在已知的各种监控数据的工具，以及对应的监控系统有非常多的选择，比如ZABBIX，Prometheus，Skywalking等。但是这些系统都存在同样的一个问题，只覆盖了可观察性的一部分，举个简单的类比，大家在日常开车的过程中，会用到很多的辅助设备，仪表盘，行车记录仪，导航，倒车影像等等，这些设备都各自承载了一部分的功能，但是都存在着如下的问题： l 数据覆盖不完整 l 存在数据孤岛（无法关联协同） l 使用门槛高，不够人性化 核心价值 l 全覆盖，统一协议，支持各类平台。 l 数据关联，统一Schema，关联Metrics/Logs。 l 云原生，SaaS服务，拥抱云原生。 l 简单易用，自动化埋点，数十项易用功能。 智能化，异常诊断，根因分析。
在 OpenTelemetry发布之前，各个方案/公司都定义了一个自己的协议格式/数据类型，不同的方案之间很难兼容/互通，这一问题在 Tracing领域尤其凸显，Tracing的目的就 是把系统中所有的模块和组件的交互通过Trace ID完全串联起来，如果某些组件Trace 格式不统一，那这部分组件内部的调用记录就会断掉，Trace 完全发挥不出价值...
云上IT治理workshop
假设您负责假设您负责一家集团公司的IT 基础设施，集团 旗下有多个分公司（如制造分公司和销售分公 司），各分公司有独立的开发、测试以及运维团 队。现在选择阿里云作为合作伙伴，拟达到以下 业务目标： 1. 各个分公司拥有独立的账号，可以购买云资 源，由集团账号统一付费。 2. 集团对各个分公司的账号以及权限拥有管理 权限。 3. 网络资源由独立的平台账号统一规划和创 建，分配给各个公司使用。 4. 集团对分公司账号具有配置管理和操作审计 权限。 5. 各分公司内部独立管理账号权限以及资源。
更新以下配置项：实例规格：ecs.c6.large 镜像版本：Alibaba Cloud Linux 3.2104 64位 系统盘类型：cloud_essd 性能级别：PL0 资源组选择：测试资源组 文档版本：20210909（发布日期）73 云上 IT治理 Workshop 权限验证 重复上述步骤，更新开发 ECS配置，资源组选择开发资源组。步骤5 单击右上角保存按钮，自定义命名应用...
基于SLS实现统一告警最佳实践
告警对于企业的开发运维，安全运维，业务运维有着至关重要的作用。然而很多企业在告警运维方面存在着重复建设、监控质量差、告警风暴、触达不人性化、无法闭环等问题。 针对企业在告警管理方面存在的痛点问题，SLS告警提供了一站式云上告警管理方案，具有弹性易用、稳定可靠、功能持续升级、成本更低、噪音更少等优势。企业可以将现有的监控方案系统无缝接入到SLS告警平台，实现在SLS上一站式管理告警。
阿里云 ECS持续提供创新型服务器，解决多种业务需求，助力您的业务发展。详 情请参见：https://www.aliyun.com/product/ecs SLS：日志服务（SLS）是云原生观测分析平台，为 Log/Metric/Trace等数据提供 大规模、低成本、实时平台化服务。一站式提供数据采集、加工、分析、告警可视 化与投递功能，全面提升研发、运维、运营...
企业办公安全访问一体化
本场景模拟企业办公环境，基于 CSAS 服务构 建企业办公安全一体化方案，将“安全 + 网络” 能力无缝融合，实现了对云下办公终端安全的统 一管理，企业无需在投资复杂且昂贵的传统硬件 安全设备，即可快速构建安全、可靠、低成本的 办公安全防护体系。 1. 企业办公环境访问互联网的安全管理 2. 企业办公环境访问内网服务的安全管理 3. 企业办公网络、安全一体化管理
基础环境配置 本节介绍网络配置，基础资源部分本实践中使用CADT工具来进行配置。登录阿里云控制台，搜索CADT并打开。文档版本：20210129 4企业办公安全一体化最佳实践 基础环境配置 在CADT页面，基于官方模板库新建，选择《企业办公安全访问一体化最佳实践》模 板。基于方案新建，保存为新的应用，应用名称可以自定义。文档...
- 产品推荐
- 这些文档可能帮助您