自建Hadoop迁移到阿里云EMR
场景描述 场景1：自建Hadoop集群数据（HDFS）迁移到 阿里云EMR集群的HDFS文件系统； 场景2：自建Hadoop集群数据（HDFS）迁移到 计算存储分离架构的阿里云EMR集群，以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案； 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
它具有基于流数据流的简单灵活的体系结构。它具有可调整的可靠性机 制以及许多故障转移和恢复机制，具有强大的功能和容错能力。它使用一个简单 的可扩展数据模型，允许在线分析应用程序。文档版本：20200330 IV 自建Hadoop数据迁移到阿里云 EMR 目录 目录 文档版本信息.I 法律声明.II 前言.III 目录.V 最佳实践概述.1 前置...
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景，Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
文档版本：20220223（发布日期）5 基于 Flink的资讯场景实时数仓 实时数仓介绍 在数据架构设计上，可以依据数仓的基本方法论来构建 ODS/DWD/DWS层，从而 减少数据冗余，降低 OLAP系统的数据存储成本，并且使数据结构具有更好的可 扩展性。4.数据分析：经过数据加工处理好的数据，一部分可以直接被业务方使用，如 APP 当日...
基于日志服务构建业务可观测性系统
现在已知的各种监控数据的工具，以及对应的监控系统有非常多的选择，比如ZABBIX，Prometheus，Skywalking等。但是这些系统都存在同样的一个问题，只覆盖了可观察性的一部分，举个简单的类比，大家在日常开车的过程中，会用到很多的辅助设备，仪表盘，行车记录仪，导航，倒车影像等等，这些设备都各自承载了一部分的功能，但是都存在着如下的问题： l 数据覆盖不完整 l 存在数据孤岛（无法关联协同） l 使用门槛高，不够人性化 核心价值 l 全覆盖，统一协议，支持各类平台。 l 数据关联，统一Schema，关联Metrics/Logs。 l 云原生，SaaS服务，拥抱云原生。 l 简单易用，自动化埋点，数十项易用功能。 智能化，异常诊断，根因分析。
而 OpenTelemetry为我们带来了 Metrics、Tracing、Logging的统一标准，三者都有相同 的元数据结构，可以轻松实现互相关联。SLS当前的 trace方案主要基于 OpenTelemetry协议实现，能够支持接入 10多种开 发语言接入，除了主流的 opentelemetry协议外，也兼容 Jaeger、Zipkin等其他协议 直接接入 Trace数据。在 trace数据接入...
本地数据中心基于SMB/NFS协议访问对象存储最佳实践
1. 云存储扩容和迁移 集成智能缓存算法，自动识别冷热数据，将热数据保留在本地缓存，保证数据访问体验，无感知的将海量云存储数据接入本地数据中心，拓展存储空间。同时在云端 保留全量数据(冷+热)保证数据的一致性 2.云容灾 随着云计算的普及，越来越多的用户把自己的业务放到了云上。但是随着业务的发展，如何提高业务的可靠性和连续性，跨云容灾是一个比较热门的话题。借助云存 储网关对虚拟化的全面支持，可以轻松应对各种第三方云厂商对接阿里云的数据容灾。 3. 多地数据共享和分发 通过多个异地部署的文件网关实例，对接同一个阿里云OSS Bucket，可以实现快速的异地文件共享和分发，非常适合多个分支机构之间互相同步和共享数据。 4. 适配传统应用 有很多用户在云上的业务是新老业务的结合，老业务是从数据中心迁移过来的使用的是标准的存储协议，例如: NFS/SMB/iSCSI。新的应用往往采用比较新的技 术，支持对象访问的协议。如何沟通两种业务之间的数据是一个比较麻烦的事情，云存储网关正好起到一个桥梁的作用，可以便捷的沟通新旧业务，进行数据交换。 5. 替代 ossfs 和 ossftp ossfs 和 ossftp 都是基于文件协议的开源工具，用户可以通过它们直接上传文件到OSS。但是这两个开源文件都不建议在生产环境使用(POSIX 兼容度低)，同时挂 载在用户的客户端需要额外的配置和缓存资源，对于多个客户端的情况安装配置繁琐。通过文件网关的服务可以完美替代 ossfs 和 ossftp。通过创建文件网关，用 户只需要执行简单的挂载(NFS)和映射(Windows SMB)就可以像使用本地文件系统一样使用 OSS。
DNS服务器以本地数据中心 DNS地址为准，此处设置的是 阿里云 DNS地址。文档版本：20210525 18 本地数据中心基于 SMB/NFS协议访问对象存储 安装本地云存储网关 2.5.创建 Hyper-V虚拟机 步骤1 选择需要创建虚拟机的服务器，右键选择新建>虚拟机。步骤2 选择下一步，创建自定义虚拟机。文档版本：20210525 19 本地数据中心基于...
云效制品仓库 Packages
云效制品仓库 Packages提供Maven私有仓库、Npm私有仓库、通用制品仓库等企业级私有制品仓库服务，用于maven、npm等软件包和依赖管理。
国际公认的信息安全管理体系标准.ISO 27001 信息安全认证.广泛认可的质量管理体系认证.ISO 9001 质量管理认证.云效安全认证.支持多种制品类型.相比开源自建，云效制品仓库的优势.了解云效产品基本功能.缩短学习路径快速进阶.了解免费试用服务条款.体验 AI 编码，领键盘、鼠标、双肩包等.体验 AI 编码，领键盘、鼠标、双肩包...
来自：
云产品
游戏数据运营融合分析
场景描述 1.游戏行业有结构化和非结构化数据融合分 析需求的客户。 2.游戏行业有数据实时分析需求的客户，无法 接受T+1延迟。 3.对数据成本有一定诉求的客户，希望物尽其 用尽量优化成本。 4.其他行业有类似需求的客户。 方案优势/解决问题 1.秒级实时分析：依托ADB计算密集型实例， 秒级监控DAU等数据，为广告投放效果提 供有力的在线决策支撑。 2.高效数据融合分析：打通结构化和非结构化 数据，支撑产品体验分析；广告买量投放效 果实时（分钟级）分析，渠道的评估更准确。 3.低成本：DLA融合冷数据分析+ADB存储密 集型温数据分析+ADB计算密集型热数据分 析，在满足各种分析场景需求的同时，有效 地降低的客户的总体使用成本。 4.学习成本低：DLA和ADB兼容标准SQL语 法，无需额外学习其他技术。 产品列表 专有网络VPC、负载均衡SLB、NAT网关、弹性公网IP 云服务器ECS、日志服务SLS、对象存储OSS 数据库RDSMySQL、数据传输服务DTS、数据管理DMS 分析型数据库MySQL版ADS 数据湖分析DLA、QuickBI
测试等待表结构和数据同步完成 步骤1 数据同步实例显示同步中，单击实例 ID进入管理页面查看详情。文档版本：20210224 55 游戏数据运营融合分析 部署 RDS-ADB高性能库数据采集 文档版本：20210224 56 游戏数据运营融合分析 部署 ECS-SLS数据采集 3.部署 ECS-SLS数据采集 3.1.部署应用环境，模拟日志写入 本节将进入 3台应用...
多账号下企业分账
场景描述 财务分账，是根据企业的成本中心，将云上资源的成本划分到给各个项目组/业务部门；助力企业快速梳理云上成本结构，搭建复杂组织架构下的成本关系，便捷地进行财务和云上成本的管理。 大型企业或集团公司，由于组织架构复杂，业务复杂等原因，通常拥有多个阿里云账号来管理规模庞大的云上资源。针对云上资源，如何建立有效的分账方案，是财务关注的重要问题。 解决问题 解决CIO/CTO最关心的云上IT治理，IT成本核算等问题。 弄清楚企业内各部门成本及云上IT成本结构。 让CIO/CTO准确地掌握云上资源成本情况，清楚业务与成本的关系。 让采购/运维轻松搞定每月的IT成本汇报。
本最佳实践的资源规划仅作为实践演示，实际业务场景资源以用户实际需求为准。在本实践中，涉及到阿里云资源开通，本文后续实例中不单独展示服务开通相关 操作，请使用者自行开通 PolarDB、EMR、OSS等服务，并对操作账号授权。本例涉及的阿里云账号均需要完成企业实名认证，并已设置发票抬头。文档版本：20210128 2 多账号下...
新零售商超基于Serverless服务化改造
某零售商超行业龙头企业，主要业务涵盖购物中心、大卖场、综合超市、标准超市、精品超市、便利店、无人值守智慧商店等零售业态，涉及全渠道零售、仓储物流、餐饮、消费服务、数据服务、金融业务、跨境贸易等领域。为了持续支持业务高速且稳定地发展，其在快速上云后，将核心业务改造为全Serverless架构的中台模式，采用函数计算 + API网关 + 表格存储OTS 作为计算网络存储核心，弹性支撑日常和大促峰谷所需资源，轻松支撑618/双11/双12大促。 核心价值 l 全 Serverless 架构：FC + API 网关 + OTS Serverless 解决方案。 l 弹性高可用：毫秒级弹性扩容、充足的资源池水位、跨可用区高可用。 l 敏捷开发免运维：函数式极简编程可专注于业务创新，无采购和部署成本、提供监控报警等完备的可观测能力。
新零售商超基于 Serverless服务化改造 部署架构 场景描述 某零售商超行业龙头企业，主要业务涵盖购物中 心、大卖场、综合超市、标准超市、精品超市、便 利店、无人值守智慧商店等零售业态，涉及全渠道 零售、仓储物流、餐饮、消费服务、数据服务、金 融业务、跨境贸易等领域。为了持续支持业务高速 且稳定地发展，其在快速...
基于k8s多集群隔离环境下的devops实现
场景描述 DevOps是一组过程、方法与系统 的统称，并通过工具实现自动化部署， 确保部署任务的可重复性、减少部署出 错的可能性。随着微服务、中台架构的 兴起，devops重要性日益显著。 本方案使用两个独立的k8s集群： 用户已有的k8s模拟测试，ack集群模 拟生产环境，保证环境的高度隔离，互 不影响。通过gitlab+Jenkins的黄金组 合，实现容器应用的自动化构建和持续 部署，提高迭代效率。 解决问题 1.微服务应用的CI/CD。 2.测试和生产环境的高度隔离。 3.自动化的测试与部署。 4.现有CI对接ACK。 产品列表 专有网络VPC 容器服务ACK 容器镜像服务ACR 弹性公网IP 负载均衡SLB
groovy pipeline{ agent any environment{/定义环境变量 } stages{ stage('获取代码'){ steps{/git } } stage('代码静态检查'){ steps{ echo"start code check"} } stage('编译+测试'){ steps{/mvn package } } stage('镜像构建及上传'){ steps{ 文档版本：20220121 45 基于 K8S多集群隔离环境下的 DevOps实现 持续集成及...
阿里云最佳实践离线大数据workshop
本最佳实践，首先搭建一个简化的电商 demo 系统，然后为此 demo 系统构建一套离 线大数据分析系统。 实践目标 1. 学习搭建一个离线大数据分析系统，学习从数据采集到数据存储和业务分析的业 务流程。 2. 整个离线大数据分析系统全部基于阿里云产品进行搭建，学习掌运用各个服务组 件及各个组件之间如何联动。 背景知识要求 熟练掌握 SQL 语法 对大数据体系系统知识有一定的了解
步骤3 填写基本信息，最后单击创建项目，这里选择简单模式（开发和生产在一起的单环境），实际生产建议选择标准模式（开发和生产隔离）。文档版本：20210802（发布日期）18阿里云最佳实践金融大数据WorkShop 基础环境构建 步骤4 填写实例显示名称，选择按量付费，不加密。这里为了简化操作流程，采用主账号模式，实际生产...
来自：
最佳实践
相关产品：云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,日志服务（SLS）,大数据计算服务 MaxCompute,DataV数据可视化,数据总线,Quick BI,云速搭
云原生数据库
PolarDB是阿里云自研的云原生数据库，在存储计算分离架构下，利用了软硬件结合的优势，为用户提供秒级弹性、高性能、海量存储、安全可靠的数据库服务。100%兼容MySQL和PostgreSQL生态，支持分布式扩展，高度兼容Oracle语法。
通过中国信通院《金融分布式数据库标准》、《分布式数据库长期稳定性测试》.提供计算资源、存储资源和数据库三重监控，支持自定义报警策略，全方位展示实例运行状况.基于灵活、强大的查询语法，可快速定位问题 SQL，并提供 SQL 实时分析能力以及开箱即用的报表中心.PolarDB 分布式版.Share storage，计算存储分离.公共云、...
来自：
云产品
基于链路追踪+ECI的流量洪峰应对
云原生技术已经为越来越多的互联网客户接受，对于在线教育、互动娱乐、电商等类型的客户会由于业务的原因存在突增业务流量，因此对于系统的稳定性非常关注，结合阿里云的容器服务、链路追踪、弹性容器ECI等产品，帮助客户业务实现容器化改造，并且方便发现系统应用架构中的瓶颈等问题，实现系统高弹性的同时优化客户的云资源使用成本。 l 方案优势 ￚ 支持分布式追踪、调用链分析、DB调用分析、链路拓扑分析、业务指标统计等系统链路调用分析。 ￚ 运维研发效率提高，链路追踪服务端全托管，免运维。 ￚ 链路追踪的应用调用链分析能力结合ECI高弹性能力，提升应用系统在洪峰流量冲击下的稳定性。 ￚ 链路追踪接入方便，ECI POD弹性伸缩，节省用户运维成本和云资源使用成本。 ￚ 结合SLS Ingress可以基于应用前端访问性能指标做弹性伸缩，更丰富的云原生弹性能力。
小结.34 文档版本：20201222 V 基于链路追踪+ECI的洪峰流量应对实践 最佳实践概述 最佳实践概述 概述 本实践结合阿里云容器服务 Kubernetes版（ACK）、弹性容器实例（ECI）、链路追踪 TracingAnalysis、性能测试 PTS等核心阿里云产品，为需要在微服务架构下有效发现 应用架构性能瓶颈，提升开发诊断效率，应对突发流量洪峰...
Spark on ECI大数据分析
场景描述 方案优势 1.计算引擎弹性扩缩容，兼顾资源弹性与计 算资源成本优化。 2.计算与存储分离架构，结合阿里云原生云 存储产品，海量数据湖优势。 3.Kubernetes原生的调度性能优势，提升在 大规模分析作业时的分析性能优势分。 4.集群资源隔离和按需分配。 解决问题 1.计算资源弹性能力不足，计算资源成本管 控能力欠缺. 2.集群资源调度能力和隔离能力不足。 3.计算与存储无法分离，大数据量分析时出 现数据存储资源瓶颈。 4.Spark submit方式提交分析作业参数支持 有限等缺点。 产品列表 容器服务Kubernetes版(ACK) 弹性容器实例(ECI) 文件存储HDFS 对象存储OSS 专有网络VPC 容器镜像服务ACR
本地开发环境使用 IntelliJ IDEA，创建 Maven工程，创建的 Maven工程结构如下图 所示，并将修改后的 core-site.xml文件放入应用项目的 resources目录，这里以编写 一个常见的 WordCount函数作为用户分析作业示例并打包为 jar文件。文档版本：20200409 14 Spark on ECI大数据分析 应用开发 步骤2 添加 SPARK_HOME环境变量。1...
弹性计算OOS审批流程自动化运维
场景描述 本文以ECS、RDS、SLB搭建一个小型的WEB系 统为例，介绍如何利用OOS在运维常见的部署系统、 扩容系统、回收系统三个场景中添加审批流程，并以 钉钉通知到对应的审批人员。 解决问题 1.对接阿里云API，通过OOS模板执行运维 任务，实现了运维自动化与可视化。 2.运维操作集成了RAM访问控制权限管理， 无需担心操作安全，并可以快速增加审批流 程，提高运维安全与效率。 产品列表 1.运维编排OOS 2.访问控制RAM 3.云服务器ECS 4.RDSMySQL版 5.负载均衡SLB
机器人名字：运维助手 添加到群组：oss测试 安全设置：选择自定义关键词，添加运维监控和OOS两个关键词。 阅读、同意并勾选《自定义机器人服务及免责条款》文档版本：20191122 13 弹性计算OOS审批流程自动化运维 配置钉钉 步骤8 在弹出的页面上复制access_token备用，单击完成。Wenhook地址类似如下格式：...
网站文本内容安全检测
通过内容安全API的形式，提供直播场景的文本检测能力。响应时间短、支持类型多、并且可从频次、上下文、内容重复等多维度判断风险行为。
基础文本检测按量付费的收费标准为：7.5元/万次，体验本方案即调用API的费用预计不超过1元。（具体费用以控制台账单实际显示为准）方案部署一步步跟随方案教程，带你快速上手，进行方案部署。方案介绍网站文本内容安全检测本方案流程如下：用户对直播内容进行评论。业务服务端接收到评论内容，调用阿里云内容安全文本审核...
来自：
解决方案
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中，以图片，视频，音频居多。举一个图片处理的场景，现在各种终端种类繁多，不同的终端对图片的格式、分辨率要求也不同，所以一张图片往往会有很多张衍生图，那如果所有的衍生图都存在OSS中，那存储的成本会增加，所以就可以通过OSS Object FC的方案，在不同的终端请求时，对OSS中的原图基于终端的要求做实时处理，然后响应返回，这样OSS中只需要存储原图即可。音视频也有类似的场景。
基于OSSObjectFC实现非结构化文件实时处理最佳实践 业务架构 场景描述 基于阿里云OSS和函数计算共同实现的产品化 集成解决方案OSSObjectFC，实现可以OSS 中的非结构化数据在读取时插入自定义业务逻 辑，对非结构化数据做实时处理后再返回。应用场景 现在绝大多数客户都有很多非结构化的数据存 在OSS中，以图片，视频，音频...
- 产品推荐
- 这些文档可能帮助您