ack-koordinator是 容器计算服务 ACS（Container Compute Service）中支持应用资源画像能力的核心应用，通过对资源使用量历史数据的分析，实现了容器粒度的资源规格推荐，有效简化了配置容器资源请求（requests）和限制（limits）的复杂度...
Apache Celeborn是阿里云开源的中间数据服务，旨在提升大数据计算引擎的性能、稳定性和灵活性。Celeborn设计独立于具体引擎，支持Spark、Flink、MapReduce(MR)和 Tez，并且是目前最流行的Remote Shuffle Service的实现。Celeborn架构 ...
阿里云E-MapReduce产品构建于阿里云云服务器ECS上，基于开源的Apache Hadoop和Apache Spark，做了大量优化。本文为您介绍E-MapReduce（简称EMR）Spark相对开源增强的功能。背景信息 阿里云EMR 100%采用社区开源组件，随开源版本升级迭代，...
本文描述EMR Workbench支持的所有系统权限策略及其对应的权限描述，供您授权 RAM 身份时参考。什么是系统权限策略 权限策略是用语法结构描述的一组权限的集合，可以精确地描述被授权的资源集、操作集以及授权条件。阿里云访问控制（RAM）...
列入黑名单的参数将被系统强制忽略，用户无法覆盖这些参数。更多关于Livy配置文件及其参数的详情信息，请参见 Livy Gateway配置示例。在Livy Gateway页面，单击已创建Livy Gateway操作列的 启动。管理Token 说明 Token使用时，请在请求的...
您可在系统中选择标签创建个体360˚画像，洞察个体特征。本文将指导您如何创建个体画像。前提条件 创建个体画像服务关联的应用。具体操作，请参见 创建及管理应用。创建个体画像服务前您需创建对应的实体。具体操作，请参见 创建实体。个体...
为确保RAM用户能正常使用EMR Serverless StarRocks控制台功能，您需要使用阿里云账号登录访问控制RAM（Resource Access Management）控制台，授予RAM用户相应的权限。背景信息 访问控制RAM是阿里云提供的资源访问控制服务，详情请参见 什么...
在SIMPLE认证方式下，客户端访问Alluxio服务时，会从操作系统获取当前的登录用户，一起发送请求到服务端，供服务端进行身份标识。如果客户端设置了 alluxio.security.login.username 参数，客户端将使用对应的配置作为请求服务端的用户。...
应用场景 JindoFS外部客户端实现了Hadoop文件系统的接口，在用户程序跟E-MapReduce JindoFS Namespace服务网络相通的情况下，用户可以通过JindoFS外部客户端去访问JindoFS上存储的数据，但外部客户端不能利用E-MapReduce JindoFS的数据缓存...
批次信息：因为分布式文件系统的元数据会跟随用户的使用发生变化，所以我们每次对元数据进行分析是基于命令执行当时的元数据信息的快照进行的。每次运行Jindo命令进行上传会在目录下，根据上传时间生成对应批次号作为本次上传文件的根目录...
Superset是一款轻量级BI工具。您可以使用Superset连接多个数据源自助...superset init 创建完成后，您需要创建隧道以查看开源组件的Web页面，然后使用新创建的用户登录Superset。创建隧道详情，请参见 通过SSH隧道方式访问开源组件Web UI。
OpenLDAP是LDAP协议（Lightweight Directory Access Protocol）的开源实现，在EMR集群中主要提供用户管理和身份认证的功能。服务集成OpenLDAP 在EMR集群中，Knox服务默认与OpenLDAP服务对接。当您通过EMR控制台的 访问链接与端口 功能访问...
同时，在授权用户读取云盘数据时，系统会自动解密，从而确保云盘数据的机密性和完整性。加密云盘后，盘上的动态数据传输以及静态数据均会被加密。如果您的业务存在安全合规要求，则可以使用该功能。您无需自建和维护密钥管理基础设施，即可...
例如，既支持与Block模式一致的使用方式，也支持原有OSS文件系统的使用方式，以满足用户不同的需要，详情请参见 JindoFS缓存模式使用说明。支持权限 Block模式支持Unix权限和Ranger权限两种文件系统权限功能：Unix权限：可以使用文件的777...
ACK为Kubernetes原生的工作负载提供了资源画像的能力，通过对资源使用量历史数据的分析，实现了容器粒度的资源规格推荐，可以有效简化为容器配置Request和Limit的复杂度。本文介绍如何通过控制台和命令行使用资源画像功能。前提条件及注意...
开源大数据平台E-MapReduce（Elastic MapReduce）是运行在阿里云平台上的一种大数据处理的系统解决方案。
StarRocks实例数据存储bucket上行带宽超过流控阈值 StarRocks实例数据存储bucket QPS超过流控阈值 当前用户下行带宽超过流控阈值 当前用户上行带宽超过流控阈值 当前用户QPS超过流控阈值 节点因系统维护需要重启 支持立即重启或预约时间...
适用客户 全网用户 新增功能/规格 阿里云E-MapReduce（简称EMR）支持使用倚天云服务器构建开源大数据集群。与现有X86架构实例体验完全相同的情况下，具有更高的性价比，帮助用户降低成本并提高效率。产品文档 ...
为了更好地融入开源生态，提供更加开放和多样...您可以通过使用开源Connector便捷地对接各种数据源和下游系统。说明 EMR-5.17.0、EMR-3.51.0版本开始使用Apache Flink 1.17.2版本，版本说明请参见 Apache Flink 1.17.2 Release Announcement。
为确保RAM用户能正常使用E-MapReduce控制台功能，您需要使用阿里云账号登录访问控制RAM（Resource Access Management）控制台，授予RAM用户相应的权限。背景信息 访问控制RAM是阿里云提供的资源访问控制服务，详情请参见 什么是访问控制。...
字段名称 对应资源 包含费用范围 InstanceID 整个 StarRocks 实例 FE节点费用 系统默认计算组（Warehouse）费用 nodeGroupID 用户创建的自定义计算组（Warehouse）自定义计算组资源消耗费用。通过上述两个维度，您可在费用中心灵活执行以下...
中间件 Grafana 9.2.10 开源组件 中间件 keepalived 2.2.8 开源组件 中间件 Nginx 1.23.3 开源组件 中间件 openjdk 1.8.0.422 开源组件 中间件 openjdk 11.0.23.0.9 开源组件 中间件 openjdk 17.0.11.0.9 开源组件 中间件 tengine 2.4.0 ...
在创建集群时，支持对系统盘绑定KMS密钥加密。适用客户 全网用户 新增功能/规格 在创建集群时，支持对系统盘绑定KMS密钥加密。产品文档 创建集群
对比项 子项目 开源Clickhouse实时数仓 开源Hive离线数仓 阿里云Iceberg数据湖 系统架构 架构 计算存储一体 计算存储分离 计算存储分离 多计算引擎支持 不支持 支持 支持 数据存储在对象存储 不支持 支持不完善 支持 数据存储在HDFS 不支持...
变更生效时间 2024年03年01日 变更范围 EMR Serverless StarRocks（标准版）存量用户 变更内容 标题及适用范围调整：将从“开源大数据平台E-MapReduce Serverless服务等级协议”调整为“开源大数据平台E-MapReduce Serverless StarRocks...
适用客户 全网用户 新增功能/规格 托管弹性伸缩功能开启后，系统将持续监控集群YARN的负载，您只需要填写集群最大最小Task节点数，集群将自动按负载调整Task节点的数量，实现资源利用最大化。产品文档 添加托管弹性伸缩规则
JindoManager系统管理 支持通过UI来查看JindoFS存储系统上的系统状态、文件统计和缓存系统上的缓存指标统计。JindoTools工具集 改进Jindo DistCp工具的分发机制，针对EMR集群内使用场景和非EMR集群环境使用场景，分别使用不同的发行包。...
背景信息 Hadoop提供了以下两种用于决定用户身份的操作模式：简单模式（Simple）：用户的身份由与HDFS建立链接的客户端操作系统决定。在类Unix系统中，等同于 whoami 命令。Kerberos集群模式：客户端的身份由用户自己的Kerberos证书决定。...
Alluxio是一个面向基于云的数据分析和人工智能的开源的数据编排技术。Alluxio为数据驱动型应用和存储系统构建了桥梁，将数据从存储层移动到距离数据驱动型应用更近的位置，从而能够更容易被访问，同时使得应用程序能够通过一个公共接口连接...
通过Kyuubi Gateway，以兼容开源Kyuubi的方式提交SQL任务。数据目录 支持使用RAM用户（子账号）身份访问DLF。支持访问DLF 2.0 Hive Catalog。资源观测 支持观测工作空间、队列的资源消耗情况。运行环境 Spark Submit工具支持通过配置参数-...
配置应用连接开源版 SOFA 注册中心 在应用启动参数中配置以下系统变量：Dcom.alipay.confreg.url=127.0.0.1-Dcom.alipay.env=normal-Dspring.cloud.sofa.ldc.zone=DEFAULT_ZONE 配置完成后启动应用，即可连接上开源版 SOFA 注册中心。开源...
全托管Spark 支持将OSS Bucket作为文件系统，以目录方式挂载到Notebook会话资源。适用客户 全网用户 新增功能/规格 EMR Serverless Spark 支持将OSS Bucket作为文件系统，以目录方式挂载到Notebook会话资源。产品文档 管理Notebook会话
为什么Ranger UserSync无法自动同步Linux/LDAP用户？问题分析：该问题主要存在于EMR-3.23.0及之前的版本。解决方法：登录集群的emr-header-1节点，手动修改配置文件/etc/ecm/ranger-usersync-conf/ranger-ugsync-site.xml 中 ranger....
兼容开源 EMR Notebook兼容开源Jupyter Notebook，您可以通过文件导入、导出的方式实现开发工具的自由切换，从而降低了使用门槛。产品功能 交互式编程环境 支持逐步执行SQL和Python代码，并根据运行结果调整后续代码。多种数据源类型 支持...
访问Web UI页面需要进行用户身份认证，添加EMR用户后可以访问相应的UI页面。集群创建后，默认仅支持集群创建者对应的阿里云账号访问开源组件的Web UI，如果其他阿里云账号（主账号）或RAM用户（子账号）需要访问当前集群的Web UI，请按照...
在进行按量付费节点组的扩容时，系统将尽最大努力交付所有创建成功的...适用客户 全网用户 新增功能/规格 在进行按量付费节点组的扩容时，如果ECS库存不足或ECS服务部署失败，系统将尽最大努力交付所有创建成功的节点。产品文档 管理尽力交付
通过工作空间，您可以创建和编辑Notebook文件，方便地上传和下载文件，与其他用户共享Notebook和数据，并灵活地管理访问权限。前提条件 已完成系统角色授权，详情请参见 EMR Notebook角色授权。账号与访问权限 账号类型 说明 阿里云账号...
与自建Hadoop集群相比，开源大数据开发平台EMR提供弹性资源管理和自动化运维，降低运维复杂度，通过用户管理、数据加密和权限管理等为数据安全保驾护航，同时EMR集成了丰富的开源组件并打通开源生态与阿里云生态，便于快速搭建大数据处理和...
版本说明 MSE Nacos 版本 开源控制台默认状态 是否支持鉴权 描述 1.x及2.2.3.1之前的2.x版本 开启 不支持 默认开启开源控制台，且不支持鉴权，开源控制台的URL可被任何人访问，建议使用商业化控制台。若确实需要使用，建议 设置白名单 来...
在EMR集群中，为了确保集群安全，Hadoop、Spark和Flink等开源组件的Web界面端口均未对外开放。如果您想直接访问开源组件的Web界面，可根据实际场景选择 原生UI地址、Knox代理地址、SSH本地端口转发 或 SSH动态端口转发 方式进行访问。快速...