函数：在同步运行时进行函数计算，将计算结果赋值给新字段，如果函数处理过程发生异常，对应记录将被视为脏数据处理，计入同步任务脏数据统计并根据脏数据容忍配置决定任务是否异常退出。支持函数 函数名称 参数 说明 DATE_FORMAT 参数1：...
DescribeSqlLogStatistic 查询DAS企业版数据统计信息 调用DescribeSqlLogStatistic接口，查询DAS企业版的数据统计信息。GetDasSQLLogHotData 查询DAS企业版热存储数据明细 获取审计日志热数据。CreateSqlLogTask 创建DAS企业版离线任务 ...
例如，运营平台数据集市。详情请参见 数据集市。主题域 主题域用于将数据集市按照分析视角进行划分，通常是联系较为紧密的数据主题的集合。您可以根据业务的关注点，将这些数据主题划分至不同的主题域。例如，电商行业通常分为交易域、会员...
例如，运营平台数据集市。详情请参见 数据集市。主题域 主题域用于将数据集市按照分析视角进行划分，通常是联系较为紧密的数据主题的集合。您可以根据业务的关注点，将这些数据主题划分至不同的主题域。例如，电商行业通常分为交易域、会员...
目录 pg_statistic 存储有关数据库内容的统计数据。其中的项由ANALYZE创建，查询规划器会使用这些数据来进行查询规划。所有的统计数据天然就是近似的，即使它刚刚被更新。通常对于数据表中一个已经被 ANALYZE 过的列，在本目录中会存在一个...
本文为您介绍数据质量对象的模板类型。数据表/指标模板类型 模板分类 模板说明 完整性 字段空值校验 用于对单字段是否是...稳定性 实时统计值检测 实时数据为指标值或可统计数据时，用于判断数据是否正确 可选择和固定值或者历史进行对比。
应用场景 跨境电商平台 实现跨境电商订单信息的数据增信，帮助业务平台构建行业信用体系，并提供实时、穿透式业务数据追溯能力。军工企业 助力军工企业打造档案存证、供应链信息存证、电子合同存证等多场景存证，打破信息黑盒，形成可靠可...
本文为您介绍数据质量对象的模板类型。数据表/指标模板类型 模板分类 模板说明 完整性 字段空值校验 用于对单字段是否是...稳定性 实时统计值检测 实时数据为指标值或可统计数据时，用于判断数据是否正确 可选择和固定值或者历史进行对比。
应用层基于实际应用需求，获取公共层加工整合后的数据，面向具体应用场景或指定产品进行的个性化数据统计。创建的模型可归属于 公共层 或 应用层，不同层级归属需单独完成如下准备：公共层：已创建数据域，用于确定模型所统计的业务数据...
DataWorks作为阿里云大数据平台操作系统，对接各种大数据计算引擎，以all in one box的方式提供专业高效、安全可靠的全域智能大数据平台，高效率完成数据全链路研发流程，建设企业数据治理体系，同时提供优质高效的交流服务，本文为您介绍...
企业数据云平台Cloudera Data Platform（简称阿里云CDP），是阿里云和Cloudera联合打造的阿里云上的大数据平台。前置概念 阅读本文前，您可能需要了解如下概念：什么是边缘计算？什么是人工智能（AI）？什么是SQL？Cloudera CDP企业数据云...
深度集成：可对接 CRM、ERP、电商平台、客服系统（如 Zendesk、Salesforce）；模板消息：在用户 24 小时窗口期外，通过审核模板发送通知（如订单确认、物流提醒）；高级分析：消息送达率、响应时长、会话量等数据看板；全球号码支持：可...
应用系统 样例场景 电商平台 在电商平台中使用多元索引实现商品的分类、属性筛选等功能，方便用户进行快速的商品搜索和筛选。社交应用 在社交网络中使用多元索引实现用户的关注关系、好友关系等查询以及根据用户的兴趣标签进行推荐和匹配。...
修饰词用于限定统计数据的业务范围。创建修饰词后，可对数据进行多维度修饰，以分析特定业务场景（例如“上海区域”、“生鲜门店”）。修饰词与原子指标、时间周期组合后，可构成派生指标。概念说明 修饰词是一种业务修饰，用来圈定或者...
中国国际大数据产业博览会十佳大数据案例 中国信通院：数据集成工具、数据管理工具、数据开发平台、数据脱敏工具、数据分类分级等评测 更多阅读 云计算主题概念了解：数据湖、数据仓库、数据中心。DataWorks概念和产品生态：基本概念、产品...
数据同步量统计 根据数据源类型展示所选业务日期内，同步数据量的拉取和写入曲线，快速查看同步数据量较大的引擎任务，后续可考虑向该类引擎任务进行资源倾斜。最新榜单 Top10 统计最近10个 最新失败实例 和 最新成功实例，以便您全局查看...
电商秒杀大促带来流量洪峰的挑战 秒杀大促是各大电商平台常用的营销手段之一，每逢双11、618等活动都会有面临瞬间流量突增的挑战。既要支撑热点商品的高频访问请求，也要做到访问页面不卡顿的用户体验，对系统的健壮性存在极大的挑战。数据...
数据服务提供了计量大屏功能，您可以通过该功能查看各类可视化图表和统计数据，包括工作空间下的API总数、总调用次数以及总执行时长用量等信息，帮助您全面了解API的调用情况。同时，您也可以针对单个API查看监控图表，获取API网关状态码、...
汇总表用于组织一个数据域下相同时间周期、相同维度的多个派生指标的统计数据，为后续的业务查询，OLAP分析，数据分发等提供基础。本文为您介绍如何创建汇总表。功能介绍 汇总表是将一个数据域中的多个派生指标通过时间周期及关联维度整合...
应用表是面向具体业务场景时，用于组织相同时间周期、相同维度的多个原子指标、派生指标或统计粒度的统计数据，为后续的业务查询，OLAP分析，数据分发等提供基础。本文为您介绍如何创建应用表。功能介绍 应用表是将一个数据集市或主题域中...
本文以统计电商行业中的订单数据为示例，为您介绍如何使用 do-while 节点。背景信息 DataWorks为您提供循环节点（do-while节点），您可以编排do-while节点内部的业务流程，将需要循环执行的逻辑写在节点内，再编辑end循环判断节点来控制...
将应用、服务、数据源等资源生成整体解决方案包，便于在其他系统或工作组中快速部署。本文以按应用关联为例，介绍如何创建解决方案。前提条件 已创建“信息中心（xxzx）”工作组，具体操作，请参见 新建工作组并添加成员。线上场景已上线，...
将数据库接入数据库审计系统后，您可以通过云盾数据库审计系统，查看系统审计到的SQL语句。本文为您介绍如何查看数据库审计系统审计到的SQL语句。操作步骤 登录 云盾数据库审计管理控制台。在左侧导航栏，单击 A100实例。在 A100实例 页面...
API计量详情提供了各类可视化图表及统计数据，可以针对单个API分别查看监控图表，包括API网关状态码、数据服务错误码、App请求次数、流量带宽、平均响应时间。进入计量详情页面 登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 ...
目前阿里云开源大数据平台E-MapReduce常见的计算引擎（例如Flink、Spark、Hive或Trino）都与Paimon有着较为完善的集成度。您可以借助Apache Paimon快速地在HDFS或者云端OSS上构建自己的数据湖存储服务，并接入上述计算引擎实现数据湖的分析...
本文介绍如何封装流式数据API。前提条件 工作组管理员账号登录。已创建“信息中心（xxzx）”工作组，具体操作，请参见 新建工作组并添加成员。已在系统设置添加DataHub云计算资源，具体操作，请参见 新建云计算资源。已创建API归属应用，...
具体的业务场景如下所示：OLAP多维分析 用户行为分析 用户画像、标签分析、圈人 高维业务指标报表 自助式报表平台 业务问题探查分析 跨主题业务分析 财务报表 系统监控分析 实时数仓 电商大促数据分析 教育行业的直播质量分析 物流行业的...
统计周期即统计数据的时间范围，例如最近7天、最近30天等。本文为您介绍如何新建统计周期。前提条件 需开通智能研发版或资产运营 高级版 功能才能使用统计周期。完成计算引擎类型设置，详情请参见 计算设置。计算引擎类型设置完成后，系统...
统计周期即统计数据的时间范围，例如最近7天、最近30天等。本文为您介绍如何新建统计周期。前提条件 需开通智能研发版或资产运营 功能才能使用统计周期。完成计算引擎类型设置，详情请参见 计算设置。计算引擎类型设置完成后，系统会自动...
统计说明 实例统计功能统计的数据为 生产环境 的实例数据。对于逻辑表实例，统计的是逻辑表对应的实际物化实例的数量，可能与明细及汇总表列表中展示的实例数不同。实例统计入口 在Dataphin首页，单击顶部菜单栏的 研发。默认进入数据 开发...
统计说明 实例统计功能统计的数据为 生产环境 的实例数据。对于逻辑表实例，统计的是逻辑表对应的实际物化实例的数量，可能与明细及汇总表列表中展示的实例数不同。实例统计入口 在Dataphin首页，单击顶部菜单栏的 研发。默认进入数据 开发...
DataWorks智能数据建模的关系图，帮助您快速构建数据仓库模型架构图，直观展示数据仓库中维度、维度表、明细表、汇总表、应用表等各模型之间的关系。一个关系图承载一个数据仓库模型，一个账号支持创建多个关系图。本文为您介绍关系图的...
数据服务API是一种API类型，由云计算资源中的数据通过参数配置生成，生成的API便于后续调用，可减少资源操作成本。本文介绍如何通过向导模式新建API。对原始数据层表“ys_xyk_bkxx”封装API 前提条件 工作组管理员账号登录。已创建“信息...
在排查云数据库 Tair（兼容 Redis）数据库实例的故障和性能降低的原因时，您可以通过时延洞察功能，对数据库所有命令以及自定义特殊事件进行时延统计，得到精确到微秒级别的延迟时间，从事件、时间、时延三个维度对实例进行分析，快速定位...
CloudDBA的时延洞察功能可以对 云数据库 Tair（兼容 Redis）数据库所有命令以及自定义特殊事件进行时延统计，并给出精确到微秒级别的延迟时间。您可以通过该功能排查 云数据库 Tair（兼容 Redis）数据库的故障和性能降低的原因。功能简介 ...
开源大数据开发平台E-MapReduce（简称EMR）是运行在阿里云平台上的一种大数据处理系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。EMR还可以与阿里云...
在 统计信息 区域，您可以查看数据库当前会话统计信息和租户会话详情，包括活跃会话和空闲会话。您也可以选择租户后，通过 租户会话、会话统计、死锁检测、行锁分析 四个页签查看对应详情。查看租户会话 在 租户会话 页签：说明 代理会话 ...
本案例以简单的网站用户画像分析为例，带您熟悉DataWorks的主要功能和常见任务，主要包含同步数据、加工数据、管理数据以及消费数据操作。案例目标 案例 预期 通过本案例的实操，您将能够在DataWorks中独立完成数据同步、数据开发和任务运...
原子指标用于明确业务的统计口径和计算逻辑，是基于用户的业务活动（即业务过程）创建的，用于统计业务活动中某一业务状况的数值。例如，用户的业务活动为购买，则原子指标就可以指定为支付金额。本文为您介绍如何创建原子指标。准备工作 ...
Data Studio是阿里巴巴基于15年大数据经验打造的智能湖仓一体数据开发平台，兼容阿里云多项计算服务，提供智能化ETL、数据目录管理及跨引擎工作流编排的产品能力。通过个人开发环境实例支持Python开发、Notebook分析与Git集成，Data Studio...