例如,电商公司的商品维度可能有近百个维度属性,为下游的数据统计、分析、探查提供了良好的基础。尽可能多的给出包含一些富有意义的文字性描述。属性不应该是编码,而应该是真正的文字。在阿里巴巴维度建模中,通常是编码和文字同时存在,...
背景信息 某公司的订单系统使用MySQL作为存储数据库,其中的oms_order为存储订单的表。现在要开始设计一个营销活动,在活动期间需要实时地统计每个产品类型的销售数量,用于快速地支持活动方案调整。以下为数据流向的示意图:订单系统MySQL...
背景信息 某公司的订单系统使用MySQL作为存储数据库,其中的oms_order为存储订单的表。现在要开始设计一个营销活动,在活动期间需要实时地统计每个产品类型的销售数量,用于快速地支持活动方案调整。以下为数据流向的示意图:订单系统MySQL...
进行离线数仓建设前您需完成相关云资源的准备。云资源准备包括阿里云账号资源准备、Dataphin开通与AccessKey配置、MaxCompute计算源的开通与配置、以及数据源的准备。本文将指导您完成本教程的云资源准备工作。步骤一:阿里云账号资源准备 ...
进行离线数仓建设前您需完成相关云资源的准备。云资源准备包括阿里云账号资源准备、Dataphin开通与AccessKey配置、MaxCompute计算源的开通与配置、以及数据源的准备。本文将指导您完成本教程的云资源准备工作。步骤一:阿里云账号资源准备 ...
产品描述 Dataphin是集产品、技术、方法论于一体的智能大数据平台建设引擎,为您提供数据引入、规范定义、建模研发、资产管理、数据服务等全链路智能数据建设及治理服务。功能 描述 Dataphin共享模式(全托管版)全托管又称公共云多租户...
注意事项 开通Dataphin前,请您了解以下几点:购买前建议您先联系阿里云 售前咨询 并提供企业数据建设需求及背景信息。待阿里云售前咨询帮您确认Dataphin当前版本及功能是否符合您的需求后,会为您开通购买权限。Dataphin不支持无条件退款...
业务租户:统称为 开发租户,进行数据中台建设的租户,即进行数据开发和治理的核心使用租户。一个Dataphin实例可以创建多个开发租户,由元仓租户在租户设置页面创建并分配可用资源(数据处理单元数、质量规则数等)。元仓共享模型数据说明 ...
管理中心 全局规划 基于Dataphin建设数据中台的第一步,同时也是数据体系的顶层设计中至关重要的一步。在您开始数据开发前,需要完成 数据仓库 的规划,包括定义业务板块、数据域、项目、数据源、计算源和统计周期。数仓规划 数据引入 基于...
本教程中,以A电商公司的营销业务板块为例,在交易主题域中,我们重点分析确认收货(交易成功)的业务过程。在确认收货的业务过程中,维度所依赖的业务角度主要有两个,即商品和收货地点(地域)。本教程中,假设收货和购买是同一个地点。...
数据服务(OneService)是基于Dataphin建设数据中台的最后一步。数据服务作为统一的数据服务出口,实现了数据的统一市场化管理,有效地降低数据开放门槛的同时,保障了数据开放的安全。前提条件 已购买 数据服务 增值服务,开通Dataphin ...
数据服务(OneService)是基于Dataphin建设数据中台的最后一步。数据服务作为统一的数据服务出口,实现了数据的统一市场化管理,有效地降低数据开放门槛的同时,保障了数据开放的安全。前提条件 已购买 数据服务 增值服务并且当前租户已...
当数据的业务含义存在较大差异时,您可以创建不同的数据板块,独立管理不同的业务,后续数据仓库的建设将按照数据板块进行划分。在Dataphin中,项目可以归属至数据板块以实现规范建模功能,同一个数据板块中可能包含多个不同的项目,所以...
导入预制模型 是Dataphin内置零售行业数据模型,可快速导入体验模型建设功能。新建流程引导 帮助您从零开始逐步完成数据规划与研发步骤,了解Dataphin的基础操作步骤。单击 去导入 按钮,进入 管理中心-预制模型-模型市场 页面,详情请参见...
数仓规划是基于Dataphin建设数据中台的第一步,同时也是数据体系的顶层设计中至关重要的一步。在开始数据开发前,需要完成数据仓库的规划,包括定义数据板块、项目、数据源、计算源和统计周期。本文将指导您完成本教程的规划数仓。背景信息...
在开发网站的时候,您可以使用FTP客户端将网站程序或者网页通过FTP协议上传到Web服务器。如果您使用的是FTP,在对接Dataphin进行数据开发或将Dataphin的数据写入至FTP的场景中,您需要先完成FTP数据源的创建。权限说明 仅支持拥有 新建数据...
数仓规划是基于Dataphin建设数据中台的第一步,同时也是数据体系的顶层设计中至关重要的一步。在开始数据开发前,需要完成数据仓库的规划,包括定义数据板块、项目、数据源、计算源和统计周期。本文将指导您完成本教程的规划数仓。背景信息...
在开发网站的时候,您可以使用FTP客户端将网站程序或者网页通过FTP协议上传到Web服务器。如果您使用的是FTP,在对接Dataphin进行数据开发或将Dataphin的数据写入至FTP的场景中,您需要先完成FTP数据源的创建。更多FTP信息,请参见 FTP官网...
能够使用标准的SQL语法进行业务的建设,并且能够给用户提供多模型数据分析、实时数据处理、存储与计算模块解耦、异构服务器混合部署等先进技术能力。更多详情,请参见 ArgoDB官网。操作步骤 请参见 数仓规划入口,进入数仓 规划 页面。在数...
在您开始创建用于研发数据的...单击 确认并开始数据建设。后续步骤 完成Dataphin实例计算引擎的设置后,系统支持为创建的项目空间添加相应的计算源,为项目空间提供计算和存储的资源。如何创建项目空间及添加计算源,请参见 创建通用项目。
背景信息 Amazon S3(Simple Storage Service)是亚马逊公司提供的一种云存储服务。它允许个人、组织和企业在云中存储和检索数据。如果您使用的是Amazon S3,在对接Dataphin进行数据开发或将Dataphin的数据写入至Amazon S3时,您需要先完成...
数据建设与治理 开启后,可勾选目标租户所负责的功能模块。数据处理单元:设置数据处理单元配置数。数据处理单元配额需大于0,但不能超过剩余处理单元。规则配额:包括域内质量规则和全域质量规则,统计已开启监控的质量规则数。说明 租户...
背景信息 Amazon S3(Simple Storage Service)是亚马逊公司提供的一种云存储服务。它允许个人、组织和企业在云中存储和检索数据。如果您使用的是Amazon S3,在对接Dataphin进行数据开发或将Dataphin的数据写入至Amazon S3时,您需要先完成...
本文为您介绍Dataphin支持SQL常用开发命令。类型 属性 是否支持 SET yarn.timeline-service.enabled 是
Dataphin支持对数据表、数据源的权限进行查看、搜索、审计与下载,及时发现不合理的授权用户并处理,确保权限体系健康,防止权限泄露。Dataphin支持对数据表、数据源的权限变更操作进行查看、搜索、审计与下载,以此来判断授权、回收、交还...
用户在Dataphin配置的敏感信息会采用AES256、DES、RSA等算法加密存储,敏感数据包括数据源、计算源的连接信息和用户授权的采样数据;敏感数据在Dataphin产品上脱敏显示,用户不会通过Dataphin获取到敏感数据。密钥根据不同的部署云环境进行...
设置IP白名单后,用户仅能从配置的IP地址登录,默认关闭,开启后立即生效。白名单在身份认证环节对用户生效,在不同租户登录都会进行拦截。当前仅公共云独立部署环境支持配置IP白名单,需联系Dataphin运维团队开启。
在公共云SaaS下,Dataphin支持了沙箱执行以隔离数据访问。任务调度引擎在启动任务时,会将任务运行在内置的安全沙箱内,保障任务和服务的安全性。安全沙箱提供以下能力:限制网络请求:禁止用户任务请求敏感服务,如Dataphin内部服务等。...
SAAS版本:Dataphin元数据库采用跨可用区高可用版本,每天自动快照备份。
本文为您介绍Dataphin支持的函数操作。功能 是否支持 函数操作 是 MAX_PT 是 支持使用Dataphin项目名称进行检索数据。例如,Dataphin的项目英文名称为biz_cdm,该项目下有分区表biz_order、分区键为ds。则您可以执行以下语句查询数据。...
Dataphin支持对数据表、数据源的权限进行查看、搜索、审计与下载,及时发现不合理的授权用户并处理,确保权限体系健康,防止权限泄露。Dataphin支持对数据表、数据源的权限变更操作进行查看、搜索、审计与下载,以此来判断授权、回收、交还...
用户在Dataphin配置的敏感信息会采用AES256、DES、RSA等算法加密存储,敏感数据包括数据源、计算源的连接信息和用户授权的采样数据;敏感数据在Dataphin产品上脱敏显示,用户不会通过Dataphin获取到敏感数据。密钥根据不同的部署云环境进行...
Dataphin产品提供了操作的审计日志输出,根据不同的部署模式提供不同的审计日志导出方式。阿里云公共云独立部署模式下,容器服务集成对接了阿里云日志服务(LogService),可通过LogService自动采集和可视化过滤、检索。...
本文为您介绍资产质量中的数据对象、质量规则、强规则和弱规则等基本概念。概念 描述 质量规则 数据对象进行质量校验时的规则,质量规则可以覆盖到字段。例如,如果您需要关注某个表中的行数变化及主键是否重复,则您可以将行数变化和主键...
本文为您介绍Dataphin支持的函数操作。功能 是否支持 函数操作 是 MAX_PT 是 支持使用Dataphin项目名称进行检索数据。例如,Dataphin的项目英文名称为biz_cdm,该项目下有分区表biz_order、分区键为ds。则您可以执行以下语句查询数据。...