开源大数据平台 E-MapReduce 相关资源
阿里云大数据平台 E-MapReduce 提供详细的产品文档，面向开发者提供全方位的服务，有免费的实验课程和解决方案体验馆，帮助您快速上手。在阿里云 E-MapReduce 开发者社区，您可以和更多开发者交流。
A：您可以单独申请EIP地址，并绑定到未分配公网IP地址的专有网络VPC类型的实例上，使ECS实例可以通过公网访问，详情请参见绑定EIP。查看详情前往帮助文档社区内容甄选基于EMR Serverless StarRocks一键玩转世界杯基于EMR离线数据分析数据湖构建DLF快速入门技术交流内容分类：博文问答电子书阿里云 EMR Serverless StarRocks...
来自：
云产品
SLS数据入湖Kafka最佳实践
应用和数据分散在多云或混合云，在面对多云/混合云这样大的趋势下，数据无法进行统一的聚合、分析处理和导出等，本方案给出了在多云/混合云场景下，构建通过标准的Kafka协议和托管服务，SLS可以连接Kafka数据入湖导入，然后进行统一的海量数据的集中存储、智能转储、聚合分析查询等。
1.4、创建VPC对等连接，模拟专线连接，也可以通过公网连接 2、华东2（上海）region：2.1、开通云产品：Kafka、SAE 2.2、云服务器ECS（模拟业务产生日志）2.3、SAE模拟应用引擎（SAE或K8S集群等），产品日志数据，投递到 Kafka 文档版本：20240428 2SLS数据入湖Kafka最佳实践 最佳实践概述 产品介绍 专有网络VPC...
基于函数计算FC实现物联网音视频处理
在物联网场景中，智能设备会产生大量的非结构化数据，并且采集量和频率都很高。比如各类摄像头（家用摄像头、车载摄像头、工业监控摄像头等）采集的数据。企业需要对这些非结构化数据做快速的分析和处理，然后应用到下游业务中，所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
创建函数 步骤1 打开函数计算控制台（https://fcnext.console.aliyun.com/cn-shanghai/services），切换到 上海地域，进入服务及函数菜单，可以看到通过CADT创建的服务FC-SERVICE-APP，点击进入服务详情页面。步骤2 进入函数管理菜单，点击创建函数按钮。配置基础信息。文档版本：20240502 50基于函数计算FC实现物联网音...
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景，企业的Kafka实例可能存在多种情况，比如使用阿里云Kafka服务，可能是自建开源Kafka，或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例，在这个前提下Kafka实例之间可能会需要消息同步的情况： 同帐号容灾场景：比如Kafka实例都是阿里云Kafka，但是Kafka实例会有主备之分，需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾：这类场景比如主Kafka是阿里云Kafka，备Kafka是IDC开源自建Kafka，或者是其他云上的Kafka。 不同业务之间消息同步：因为现在的业务通常不会是信息孤岛，都需要消息互通，所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例，并且这两个Kafka实例归属不同的RAM角色，有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题（重试机制，容错机制，死信队列等）。 大幅提升构建消息同步架构的效率，降低构建复杂度问题。
因为kafka-sync-func-ram-a函数负责从阿里云上的业务系统Kafka实例向模拟线下自 建开源Kafka集群同步消息，所以目标Kafka的连接地址是部署在ECS上的开源Kafka 集群，因为北京Region和上海Region网络在架构图中通过VPC对等连接进行了打通，所以使用该ECS的内网IP地址即可。步骤3 找到层，点击编辑。添加层，选择添加自定义层...
容器多云统一监控日志
多云、混合云成为常态，Forrester 报告中指出，未来 89% 的企业至少使用两个云，74% 的企业至少使用三个甚至更多公有云，在面对多云/混合云这样大的趋势下，Gartner报告指出，安全、运维复杂性、财务复杂性是多云架构的主要挑战，本方案给出了在多云/混合云场景下，构建基于容器环境下的统一管理、统一监控和统一日志方案，解决多云、混合云场景下，运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商（AWS、Azure、GCP、TencentCloud、HuaweiCloud等）或者IDC基于容器（Kubernetes）运行业务系统，希望构建容器场景下的统一监控日志系统，方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统，在一个平台可以看到不同环境系统的运行情况。
20240322 28容器多云统一监控日志 场景验证 步骤4 双击CADT画布中上海region名为ecs_k8s_cluster的ecs实例，点击“远程登录”步骤5 通过命令终端查看上海ECS上自建K8Spod运行状态，执行命令:kubectlgetpo-A 需要确认全部状态为Running，文档版本：20240322 29容器多云统一监控日志 场景验证 步骤6 在ECS上创建名为tunnel....
新零售商超基于Serverless服务化改造
某零售商超行业龙头企业，主要业务涵盖购物中心、大卖场、综合超市、标准超市、精品超市、便利店、无人值守智慧商店等零售业态，涉及全渠道零售、仓储物流、餐饮、消费服务、数据服务、金融业务、跨境贸易等领域。为了持续支持业务高速且稳定地发展，其在快速上云后，将核心业务改造为全Serverless架构的中台模式，采用函数计算 + API网关 + 表格存储OTS 作为计算网络存储核心，弹性支撑日常和大促峰谷所需资源，轻松支撑618/双11/双12大促。 核心价值 l 全 Serverless 架构：FC + API 网关 + OTS Serverless 解决方案。 l 弹性高可用：毫秒级弹性扩容、充足的资源池水位、跨可用区高可用。 l 敏捷开发免运维：函数式极简编程可专注于业务创新，无采购和部署成本、提供监控报警等完备的可观测能力。
是阿里巴巴经济体核心基础设施之一，提供稳定与极致的数据服 务。详见：https://www.aliyun.com/product/ots DTS：支持关系型数据库、NoSQL、大数据(OLAP)等数据源，集数据迁移、订阅 及实时同步功能于一体，能够解决公共云、混合云场景下，远距离、毫秒级异步数 据传输难题。其底层基础设施采用阿里双 11异地多活架构，为...
云速搭CADT部署VMware服务
本方案适用客户云下使用VMware环境，在云上希望继续使用VMware环境，包括业务维护和扩容等，不希望改变云上使用环境。
弹性公网 IP可为您在云上部署的网站提供 Internet访问服 务。详见：https://www.aliyun.com/product/eip 混合云备份 HBR：作为阿里云统一灾备平台，是一种简单易用、敏捷高效、安全 可靠的公共云数据管理服务，可以为阿里云 ECS整机、ECS数据库、文件系统、NAS、OSS、Tablestore以及自建机房内的文件、数据库、虚拟机、大...
SpringCloud应用托管到ACK服务
场景描述 本实践适用于将SpringCloud应用托管到 ACK服务的场景中，创建容器服务ACK后， 利用Helm一键部署SpringCloud应用，将 SpringCloud应用托管到容器服务ACK。 解决问题 1.将SpringCloud应用托管到容器服务 ACK 产品列表 容器服务ACK 云服务器ECS
修改细节 V1.3 2019/08/08 敬海 产品更新后，更新截图 V1.4 2019/08/15 敬海 更换模板 V1.5 2019/08/21 敬海 更换模板，增加最佳实践概述 V1.6 2019/11/20 敬海 更新 git地址 V1.7 2019/11/20 敬海 删除部分内容 V1.8 2020/01/21 敬海 增加概览页 V1.9 2020/03/05 敬海 产品更新 V2.0 2021/11/04 敬海 增加 CADT 企业上云...
基于SpringCloud应用玩转MSE实践
随着业务不断创新，大型的单个应用和服务会被拆分为数个甚至数十个微服务，微服务架构已经被广泛应用。 微服务的好处在于快速迭代，如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具，常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
微服 务的好处在于快速迭代，迭代过程保障线上流量不受损。依赖开源产品缺少专业运维工具，常常需要投入较大的运 维人力和成本。本实践基于云原生应用产品提供微服务注册配置中心、微 服务治理和云原生网关等一系列高性能和高可用的企业级 云服务能力。方案优势 本实践通过云速搭CADT，一键完成基础环境的搭建和部 署，提供...
容器服务 Kubernetes 版 ACK
阿里云容器服务Kubernetes版ACK（容器服务Kubernetes版，简称ACK）支持企业级K8s容器化应用的全生命周期管理，提供高性能可伸缩的容器应用管理能力，助力企业高效运行云端K8s容器化应用。
12通过控制台快速使用 ACK产品动态内容甄选新版本容器服务 Kubernetes 版 v1.28 开放升级2024.01.03新功能托管节点池时开启指定自动化运维功能2024.01.03新功能基于多集群网关实现同城容灾2024.01.03入门必读快速上手容器服务ACK2023.07.10可观测性可观测性体系概述2023.07.10网络概述容器网络：设计应用部署模型和网络访问...
来自：
云产品
容器镜像服务
阿里云容器镜像服务（简称 ACR）是面向容器镜像、Helm Chart 等符合 OCI 标准的云原生制品安全托管及高效分发平台。 ACR 支持全球同步加速、大规模/大镜像分发加速、多代码源构建加速等全链路提效，与容器服务 ACK 无缝集成，帮助企业降低交付复杂度，打造云原生应用一站式解决方案。
容器镜像服务 ACR.阿里云容器镜像服务（简称 ACR）是面向容器镜像、Helm Chart 等符合 OCI 标准的云原生制品安全托管及高效分发平台。ACR 支持全球同步加速、大规模/大镜像分发加速、多代码源构建加速等全链路提效，与容器服务 ACK 无缝集成，帮助企业降低交付复杂度，打造云原生应用一站式解决方案.ACR EE 基础版首购限时...
来自：
云产品
通过云速搭创建具有IPv6地址的ECS
随着国家推进 IPv6 规模部署行动计划的贯彻落实，以及工业互联网、物联网、5G 等前沿技术的快速发展，各行业用户 IPv6 改造诉求愈发强烈。 阿里云 IPv6 在互联网、金融、政企、传媒等各行业，提供了丰富的产品选择和可靠安全的服务体验。本文针对希望部署具有IPv6地址的ECS场景，提供一键部署模版，进行部署和效果验证。 应用场景 l 针对具备IPv6地址的ECS提供可视化架构 l 支持方案的批量部署和效果验证
弹性公网 IP：弹性公网 IP是独立的公网 IP资源，可与阿里云专有网络 VPC类型的云服 务器ECS、NAT网关、ENI网卡、私网负载均衡 SLB绑定，并可以动态解绑满足灵活管理的要 求。弹性公网 IP可为您在云上部署的网站提供 Internet访问服务。NAT网关：阿里云 NAT网关提供公网 NAT和私网 NAT两种功能。公网 NAT网关通过自定义 SNAT...
阿里云数据库快速搭建疫情分析系统最佳实践
疫情态势分析和防控任务迫在眉睫，如果快速搭建高效的疫情态势分析系统是众多部门和单位的难题，阿里云polardb for PG+Ganos解决方案可在极短时间内完成分析系统搭建，有效助力疫情防。 方案优势： 1、性能优越：Ganos作为自研的时空数据库引擎，相比postgis性能更优秀。 2、安全稳定：故障自动切换自愈，资源隔离，多副本存储。 3、简单易用：开箱即用，兼容postgresql，打通quickbi快速搭建数据分析展示。 4、功能强大：相比postgis在时空模型上做了较多扩充，支持几何模型，栅格模型，网络模型，时空轨迹模型，点云模型，拓扑网络模型。
文档版本：20210725 42 阿里云数据库快速搭建疫情分析系统最佳实践 QuickBI 文档版本：20210725 43 阿里云数据库快速搭建疫情分析系统最佳实践 资源配置清单 附录 1：资源配置清单 网络资源规划 资源类别 配置项 配置明细 区域 区域 华东 2（上海）专有网络VPC 状态 新购（根据实际情况选择新购或已保有，本最佳实践新 及...
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例，使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer，模拟应用中的关键页面，比如登 录、课程内容等，之后构造若干用户使用的模拟 日志数据，投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖（EMR+OSS）搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
文档版本：20200331 6数据湖-在线学习场景数据分析 数据湖 JindoFS块存储模式 数据以Block形式存储在后端存储OSS上，本地Namespace服务维护元数据信息，该模式在性能上较优，无论是数据性能还是元数据性能。JindoFS块存储模式具有以下几个特点： 海量弹性的存储空间，基于OSS作为存储后端，存储不受限于本地集群，而且本 ...
轻量级GPU部署云游戏最佳实践
随着AI深度学习，视频处理，科学计算以及图形可视化等应用场景的普及，GPU的市场需求越来越大，但单颗物理GPU起步至超大规模弹性计算带来的计算能力过剩成本上升问题也越来越明显。轻量级GPU的诞生打破了传统直通模式的局限，可以提供比单颗物理GPU更细粒度的服务，从而让客户以更低成本、更高弹性开展业务。
说明：凡是涉及到阿里云资源的开通，统一将地域设置为华东 2（上海）产品或服务 类别 配置项 说明 专有网络VPC 专有网络 名称 gaminganywhere IPv4网段 推荐网段 192.168.0.0/16 交换机 名称 ga-switch 可用区 上海 可用区 E IPv4网段 192.168.1.0/24 云服务器ECS 基础配置 计费方式 按量付费 地域 华东 2（上海）可用区 E ...
FPGA加速图片和视频转码
场景描述 场景1：图片转码 移动互联网早已进入读图时代，目前的图片都是 JPEG格式，尺寸太大，导致传输占用更多的网络 带宽，花费更多的传输时间并占用更多的存储空 间。JPEG图片转码为WebP/HEIF需要消耗大量的 计算能力。使用阿里云FaaS加速图片转码解决 方案将使客户TCO降低约40%。 场景2：视频转码 到2022年，82%的IP流量都将来自于视频的录 制、上传和播放。HEVC/H.265无论从画质还是码 率，都比H.264有明显的优势，但是将视频将 H.264编码为H.265将消耗巨大的算力。使用阿 里云FaaS加速视频转码将显著降低视频大小， 节省网络流量，降低成本。 解决的问题 通过FPGA云服务器进行高效图片转 码 通过FPGA云服务器进行高效视频转 码 产品列表 VPC，ECS，FPGA，OSS
FPGA加速图片和视频转码 场景描述 解决的问题 通过 FPGA云服务器进行高效图片转码-场景1：图片转码 通过 FPGA云服务器进行高效视频转码 移动互联网早已进入读图时代，目前的图片都是 JPEG 格式，尺寸太大，导致传输占用更多的网络带宽，花 费更多的传输时间并占用更多的存储空间。JPEG图片 产品列表 转码为 WebP/HEIF需要...
远程办公-AD管控下的弹性云桌面
在弹性云桌面中部署企业基础办公环境时，IT人员通常会面临以下问题，本文希望通过场景实践的方式，示范如何结合使用不同阿里云产品，来解决这些问题：用户如何管理？企业已有AD用户如何上云？云上共享文件服务权限怎么管？数据安全问题有保障吗？该如何设置？云桌面能使用本地机房或IDC中的服务吗？ 本文使用的应用场景： 场景1：客户A在云上新建Windows ActiveDirectory（以下简称AD）；弹性云桌面，和NAS文件存储服务部署在AD所在的VPC内。场景2：客户B在阿里云上已有AD和NAS。弹性云桌面创建在与AD不同的VPC中。AD与云桌面的VPC通过CEN连接。场景3：客户C在云下IDC有自建AD和文件服务。弹性云桌面创建在阿里云上。云下机房与阿里云弹性云桌面所在VPC通过IPsec VPN连接。 方案优势： 易部署：弹性云桌面支持快速便捷的桌面环境创建、部署、统一管控与运维。 CEN和VPN网关服务开通即用，配置实时生效，快速完成部署。 低成本：弹性云桌面无需前期传统硬件投资，帮您快速构建安全、高性能、低成本的桌面办公体系。可广泛应用于具有高数据安全管控、高性能计算等要求的金融、设计、视频、教育等领域。VPN网关基于Internet建立加密通道，比建立专线更便宜，快速实现混合云。 安全性：VPN网关使用IKE（秘钥交换协议）和IPSec对传输数据或进行加密，保证数据安全可靠。云桌面自带的安全策略保证数据不落地。 集中管控：通过Windows AD对云桌面用户和共享文件服务进行统一权限管控。可实现AD用户自动同步上云，和文件级别的权限管控。
名词解释 弹性云桌面 弹性云桌面(Elastic Cloud Desktop），是一种易用、安全、高效的云上桌面服 务。它支持快速便捷的桌面环境创建、部署、统一管控与运维。无需前期传统 硬件投资，帮您快速构建安全、高性能、低成本的企业桌面办公体系。可广泛 应用于具有高数据安全管控、高性能计算等要求的安全办公、金融、设计、影 视...
云速搭构建大规模云手机压测集群
在互联网游戏行业新游发行前、金融行业的基金或券商APP在大版本更新前，均需要将APP部署到大规模测试环境中进行压测，确保大规模并发场景下对APP本身可靠性和后台业务系统的稳定性及资源准备情况做好验证。 本实践设计一个游戏压测场景，在阿里云的多地域快速部署共一万台云手机，每台云手机之间网络可互通，每台云手机通过阿里云提供的NAT网关可访问互联网。
详 见 https://www.aliyun.com/product/ecs 云企业网 CEN：云企业网（Cloud Enterprise Network，简称 CEN）是阿里云提 供的一款能够快速构建混合云和分布式业务系统的全球网络服务，为用户提供优 质、高效、稳定的网络传输环境，帮助用户打造一张具有企业级规模和通信能力的 云上网络。适用于集团企业、全球网络等场景。...
- 产品推荐
- 这些文档可能帮助您