《开源大数据平台E-MapReduce Serverless服务等级协议》已于2024年02月02日修订，并将于2024年03月01日生效。当前服务等级协议详情，请在 服务等级协议 中查看。变更生效时间 2024年03年01日 变更范围 EMR Serverless StarRocks（标准版）...
本文介绍JournalNode出现异常的原因和解决方案。具体报错 JournalNode日志...观察HDFS Web UI的Journal Status情况，参见 HDFS Web UI介绍。如果此时NameNode无法启动，可参见 JournalNode EditsLog异常导致NameNode启动失败 进行排查解决。
通过审计日志功能，您能够追踪并查阅工作空间成员对项目、工作流、任务和文件等资源的操作记录。使用限制 仅工作空间的管理员可以查看审计日志。开启审计日志 审计日志默认关闭，如果您需要收集、查看指定工作空间的Workflow操作日志，则...
本文描述开源大数据平台 E-MapReduce支持的所有系统权限策略及其对应的权限描述，供您授权 RAM 身份时参考。什么是系统权限策略 权限策略是用语法结构描述的一组权限的集合，可以精确地描述被授权的资源集、操作集以及授权条件。阿里云访问...
本文描述开源大数据平台 E-MapReduce支持的所有系统权限策略及其对应的权限描述，供您授权 RAM 身份时参考。什么是系统权限策略 权限策略是用语法结构描述的一组权限的集合，可以精确地描述被授权的资源集、操作集以及授权条件。阿里云访问...
背景信息 EMR Flink完全兼容开源Flink，相关内容请参见社区文档。例如：DataStream API Table API&SQ Python API 使用场景 Flink广泛应用于大数据实时化的场景，本文从技术领域和企业应用场景进行介绍。技术领域 从技术领域的角度，Flink...
前提条件 已创建好项目，详情请参见 项目管理。操作步骤 进入数据开发的项目列表页面。通过阿里云账号登录 阿里云E-MapReduce控制台。在顶部菜单栏处，根据实际情况选择地域 和资源组。单击上方的 数据开发 页签。单击待编辑项目所在行的 ...
当您需要使用图形化界面在集群中创建或查询HBase表格时，可以通过Hue实现。本文以EMR-4.9.0版本为例，为您介绍如何通过Hue WebUI创建或删除HBase表格。前提条件 已创建集群，并选择了HBase服务。已打开8888端口。重要 设置安全组规则时要...
与开源Delta Lake对比 EMR-Delta Lake丰富了开源Delta Lake的特性，例如对SQL和Optimize的支持等。下表列出了Delta Lake的基本特性，并对比EMR-Delta Lake与开源Delta Lake（0.6.1）。特性 EMR-Delta 开源Delta SQL ALTER CONVERT CREATE ...
在这种高安全级别的集群中，所有开源组件均采用Kerberos安全模式启动，确保只有经过Kerberos认证的客户端能够访问集群提供的服务（例如HDFS）。背景信息 集群开启Kerberos之后：客户端：可以对可信任的客户端提供认证，使得可信任客户端...
添加依赖 需要判断的依赖任务，可以是某一个项目中的工作流具体的任务执行情况。依赖失败策略 失败（默认）：依赖的上游工作流失败后，当前任务会立即标记为失败。等待：依赖的上游工作流失败后，当前任务不会立即失败，而是保持等待状态，...
高性能计算引擎：内置 Fusion Engine，性能可达开源 Spark 的 4 倍；支持 Remote Shuffle Service Celeborn，提供 PB 级 Shuffle 能力并降低计算成本。高扩展性与弹性：基于阿里云 Serverless 底座，提供秒级资源弹性伸缩，按实际计算资源...
背景信息 本文为您介绍运维中心的相关操作，具体如下：查看项目任务概览 管理工作流记录 查看审计日志 前提条件 已创建项目，具体请参见 项目管理。查看项目任务概览 进入数据开发的项目列表页面。通过阿里云账号登录 阿里云E-MapReduce...
网站接入Web应用防火墙防护后，您可以通过设置Web入侵防护白名单，让满足指定特征的请求不经过规则防护引擎的检测。Web入侵防护白名单一般用于放行因触发Web入侵防护相关规则被误拦截的特殊业务请求。前提条件 已开通Web应用防火墙实例。已...
Hadoop DistCp和Jindo DistCp的区别 DistCp类型 功能 使用场景 Hadoop DistCp 开源Hadoop内置的DistCp工具，用于大型集群间或集群内数据的复制。HDFS到HDFS间的数据复制。Jindo DistCp JindoFS的数据迁移工具，支持OSS、OSS-HDFS服务、兼容...
本文为您介绍 开源大数据平台 E-MapReduce 为 RAM 权限策略定义的操作（Action）、资源（Resource）和条件（Condition）。开源大数据平台 E-MapReduce 的 RAM 代码（RamCode）为 starrocks,sr，支持的授权粒度为 操作级。权限策略通用结构 ...
您可以将开源大数据服务部署在阿里云容器服务Kubernetes版（ACK）之上，利用ACK在服务部署和容器应用管理的优势，减少对底层集群资源的运维投入，以便于您可以更加专注大数据任务本身。前置概念 阅读本文前，您可能需要了解如下概念：什么...
计费组成 EMR Serverless Spark的计费项目主要来源于计算资源，即实际可用于计算的资源。费用将根据您按量付费的实际使用量进行收取，计量单位为CU。按量付费的使用量可以通过计算资源抵扣包进行抵扣，详情请参见 资源抵扣包。计算资源 CU ...
在使用阿里云E-MapReduce服务时，为了避免数据泄露、误操作等安全风险，有必要对项目内成员的权限进行合理的管控。本文将为您介绍E-MapReduce服务的权限管理体系。权限体系 类别 说明 权限主体 E-MapReduce支持的权限主体如下：用户：包含...
在 项目管理 页面，单击已有项目的项目名称。在左侧导航栏，选择 实例运维 工作流实例。在 工作流实例 页面，可以查看所有工作流实例。查看任务日志 在 工作流实例 页面，单击工作流实例名称。在DAG页面，双击任务节点。在 当前任务设置 ...
主要介绍如何通过DMS连接StarRocks实例。适用客户 全网用户 新增功能/规格 数据管理DMS（Data Management）是一...您可以在DMS控制台录入StarRocks实例信息，从而通过图形化的Web界面来管理StarRocks实例。产品文档 通过DMS连接StarRocks实例
注意 开启LDAP后第一次登录Hue Web UI的用户将成为管理员用户。关闭LDAP认证 进入Hue页面。登录 阿里云E-MapReduce控制台。在顶部菜单栏处，根据实际情况选择地域 和资源组。单击上方的 集群管理 页签。在 集群管理 页面，单击相应集群所在...
调用DeleteFlowProjectUser接口，删除项目用户。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String ...
操作 访问级别 资源类型 条件关键字 关联操作 sr:TagResources create*全部资源*无 无 请求语法 POST/webapi/tags HTTP/1.1 请求参数 名称 类型 必填 描述 示例值 body object 否 请求体参数。ResourceType string 是 资源类型。instance ...
通过Kyuubi Gateway，以兼容开源Kyuubi的方式提交SQL任务。数据目录 支持使用RAM用户（子账号）身份访问DLF。支持访问DLF 2.0 Hive Catalog。资源观测 支持观测工作空间、队列的资源消耗情况。运行环境 Spark Submit工具支持通过配置参数-...
公测面向所有用户开放，您可以在 E-MapReduce控制台，选择 EMR Workbench Workflow，进入EMR Workflow页面创建项目并进行测试。重要 公测期间您可以免费试用EMR Workflow服务，但EMR Workflow工作流运行时需要关联EMR集群，创建或使用已有...
returns catalog_sales customer_address customer_demographics customer date_dim household_demographics income_band inventory item promotion reason ship_mode store store_returns store_sales time_dim warehouse web_page web_...
混合云接入 云产品接入 ALB接入 如果您的Web业务启用了阿里云应用型负载均衡（Application Load Balancer，简称ALB），您可以为ALB实例开启Web应用防火墙（Web Application Firewall，简称WAF）防护，将Web业务流量引流到WAF进行安全防护。...
前提条件 已创建好项目，详情请参见 项目管理。已准备好Hive SQL的脚本，并上传到OSS的某个目录中（例如 oss:/path/to/uservisits_aggre_hdfs.hive）。uservisits_aggre_hdfs.hive 内容如下。USE DEFAULT;DROP TABLE uservisits;CREATE ...
调用ModifyFlowProject接口，修改数据开发项目。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String ...
本文介绍开源大数据平台E-MapReduce使用过程中遇到的常用名词的基本概念和简要描述。集群 E-MapReduce产品中的一个独立的机器组合，为上层业务提供一些基础的引擎服务。一个E-MapReduce集群是由一个或多个阿里云ECS实例组成的。ECS实例 在E...
操作步骤 进入数据开发的项目列表页面。通过阿里云账号登录 阿里云E-MapReduce控制台。在顶部菜单栏处，根据实际情况选择地域 和资源组。单击上方的 数据开发 页签。在 项目列表 页面，单击右上角的 集群模板。在集群模板列表页面，您可以...
操作 访问级别 资源类型 条件关键字 关联操作 sr:UnTagResources create*全部资源*无 无 请求语法 DELETE/webapi/tags HTTP/1.1 请求参数 名称 类型 必填 描述 示例值 RegionId string 是 地域 ID。cn-hangzhou ResourceType string 是 ...
后续操作 创建完工作空间后，您可以在弹出的对话框中单击 管理项目成员，或者进入工作空间单击 设置，为该工作空间配置成员，方便RAM用户可以快速使用该工作空间，详情请参见 管理用户。创建笔记本前，您需要先绑定集群或添加数据库，详情...
您可以将开源大数据服务部署在阿里云容器服务Kubernetes版（ACK）之上，利用ACK在服务部署和容器应用管理的优势，减少对底层集群资源的运维投入，以便于您可以更加专注大数据任务本身。收费标准 阿里云EMR on ACK正式商业化后，将根据集群...
调用CreateFlowProject接口，创建数据开发项目。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String ...
前提条件 已创建好项目，详情请参见 项目管理。已准备好作业所需的资源，以及作业要处理的数据。操作步骤 进入数据开发的项目列表页面。通过阿里云账号登录 阿里云E-MapReduce控制台。在顶部菜单栏处，根据实际情况选择地域 和资源组。单击...
本文介绍了Web应用防火墙的流量访问示意流程。下图展示了Web应用防火墙的流量访问示意流程。流程说明如下：说明 Web应用防火墙的IP均在云上，即Web应用防火墙的VIP能够通过Banff查看流量。Web应用防火墙的VIP是一个LVS集群，您可以将Web...