本教程以MySQL数据源中的用户基本信息 ods_user_info_d 表和HttpFile中的网站访问日志数据 user_log.txt 文件为例，通过数据集成离线同步任务分别同步至私有OSS中，再通过Spark SQL创建外部表来访问私有OSS数据存储。本章节旨在完成数据...
该功能允许用户通过选择目标备份集并创建数据湖，在离线数据湖中使用SQL语句查询不同备份集中的数据。但随着DLA服务的停止，数据灾备（DBS）的备份数据查询功能也将于2024年05月起逐步下线。更多详情，请参见【通知】停止售卖云原生数据湖...
DataV-Board 7.0（数据看板）提供完整的可视化搭建工具链，支持接入多种数据源（例如，静态数据、CSV文件、API、RDS for MySQL等各类数据库），支持通过图形化界面轻松搭建PC看板、移动端看板等多种应用，满足企业经营分析、展示汇报、业务...
方案亮点：PB级数据量、同时支持在线和离线数据分析。业务挑战 通过对游戏服的用户行为日志进行收集、存储和分析，计算玩家留存率、LTV、ARPU、充值总金额等。游戏运营变化快，需要灵活的Schema。在线用户基数大，日志数据规模大，需要高...
MaxCompute支持通过DataWorks的数据集成功能将MaxCompute中的数据以离线方式导出至其他数据源。当您需要将MaxCompute中的数据导出至其他数据源执行后续数据处理操作时，您可以使用数据集成功能导出数据。本文为您介绍如何将MaxCompute的...
配置DTS数据迁移节点 配置离线数据集成节点 数据开发 显示任务流中的数据开发节点：除数据集成节点之外的其他节点。数据开发节点，试运行和发布后的调度功能相同。任务类型介绍 配置DTS位点检查节点 表 数仓表可被其任务流引用并操作，您...
配置DTS数据迁移节点 离线数据集成 用于数据迁移、数据传输等场景，实现数据源之间的数据同步。配置离线数据集成节点 数据加工 单实例SQL 将SQL语句发放到指定的关系型数据库上并执行。说明 如果目标实例已开启无锁结构变更，单实例SQL任务...
Dataphin标签支持将离线数据集输出指标直接定义成为标签。本文将指导您如何通过指标映射方式创建离线标签。前提条件 通过指标映射创建离线标签前需创建对应的离线数据集。更多信息，请参见 创建并配置离线数据集。操作步骤 在Dataphin首页...
Dataphin标签支持将离线数据集输出指标直接定义成为标签。本文将指导您如何通过指标映射方式创建离线标签。前提条件 通过指标映射创建离线标签前需创建对应的离线数据集。更多信息，请参见 离线数据集概述。操作步骤 在Dataphin首页，在...
数据写入 您可以通过多种模式将数据写入到MaxCompute，介绍如下：离线批量写入（数据通道）：通过多种方式将离线数据批量写入到MaxCompute表，对数据延迟不敏感（只要在调度周期执行完成即可满足需求）。离线数据流式写入（数据通道）：...
研发：包括离线管道、事实逻辑表、维度逻辑表、业务限定、原子指标、派生指标、衍生指标、汇总逻辑表、资源、函数、计算任务（不同计算引擎支持的计算任务不同，以实际为准）、数据库SQL、SHELL、PYTHON、VIRTUAL、元表、镜像表、离线计算...
研发：包括离线管道、事实逻辑表、维度逻辑表、业务限定、原子指标、派生指标、衍生指标、汇总逻辑表、资源、函数、计算任务（不同计算引擎支持的计算任务不同，以实际为准）、数据库SQL、SHELL、PYTHON、VIRTUAL、元表、镜像表、离线计算...
读/写-TSDB数据源 写-Vertica数据源 读/写-TOS数据源 读-常见业务场景 MySQL整库实时同步至AnalyticDB for MySQL 3.0 Kafka单表实时同步至ApsaraDB for OceanBase MySQL整库实时同步至ApsaraDB for OceanBase MaxCompute单表离线同步至...
注意事项 将MongoDB的离线数据迁移至Lindorm宽表时，需要将MongoDB嵌套的JSON数据展开成水平结构，并且不涉及数据的变换。说明 如果迁移过程中需要对某些数据进行处理，例如对MongoDB数据中主键进行MD5散列，需要按照如下步骤操作：通过...
版本适用场景 智能研发版（离线&实时）：支持离线研发和实时研发场景，可创建生产开发隔离的双环境项目，提供智能建模、逻辑运维等特色功能，适用于数据量丰富、权限管控严格、具备专业大数据开发团队的企业用户。购买数量 仅阿里云账号...
在左侧导航栏，单击 图标，将鼠标悬停在 离线数据同步 上，单击 图标。在同步任务列表，单击“信用卡客户数据上云_d”操作列的 上线，弹出 确定上线 提示页面，单击 确定。预期结果 在 周期任务管理 页面，“信用卡客户数据上云_d”任务的...
已新建周期任务“信用卡客户数据上云_d”且已上线成功，具体操作，请参见 创建离线周期任务 和 运行离线周期任务。操作步骤 登录 数据资源平台控制台。在页面左上角，选择 协同。在顶部菜单栏，单击 图标，选择目标工作组。在左侧导航栏，...
数据建设：数据建设支持离线代码研发、实时代码研发、智能建模研发、流批一体研发等多种研发方式，其中首创的智能建模研发模式通过设计即开发的数据模型设计+自动化代码开发提供高效地数据研发生产力。资产治理：资产管理通过数据标准、...
管控项 智能研发版、基础研发版 试用版（免费）：离线标签10个、离线数据集、行为关系、标签市场、标签离线服务、应用管理 基础版：离线标签50个、离线数据集、行为关系、标签市场、标签离线服务、应用管理 标准版：离线标签、离线数据集、...
数据分析：实现了实时数据分析生成的数据可以直接用于Serving，从而实现了实时和离线数据的统一融合。实时数据建模：提供了实时数据建模聚合表，以支持实时聚合能力。强大的引擎和优化器保证了数据库在实时数据建模时的高效性。实时更新：...
DataWorks 内置了开箱即用的公共数据集数据源，帮助您零配置快速体验单表离线数据同步。本文为您介绍DataWorks的公共数据集数据同步能力支持情况。支持的数据集详情及地域 支持的公共数据集列表以及数据集的详情参见 DataWorks Gallery 云...
ETL离线数据处理 面对复杂SQL优化和海量数据大规模聚合分析等挑战，云原生数据仓库AnalyticDB PostgreSQL版 具有如下技术优势：支持标准SQL、OLAP窗口函数和存储过程。ORCA分布式SQL优化器，复杂查询免调优。MPP多节点全并行计算，PB级数据...
进行数据分析及报告制作前，您需先将您的数据库、数据仓库及本地文件数据接入DataV-Note，作为DataV-Note的原始数据集，供分析单元进行查询分析。详情请参见 数据源管理。数据分析及报告制作。数据预处理。您可按需创建SQL或Python分析单元...
计算源 数据源 支持创建离线数据源和实时数据源，通过数据源将业务数据引入Dataphin平台。数据源 业务板块 创建业务板块时，支持设定板块管理员，帮助您更好地管理业务板块。业务板块 发布管理 新增数据集成、实时计算任务的发布管理。管理...
聚合（Aggregation）：当同一个度量（Metric）的查询有多条时间线产生（多个指标采集设备），那么为了将空间的多维数据展现为成同一条时间线，需要进行合并计算，例如，当选定了某个城市某个城区的污染指数时，通常将各个环境监测点的指标...
在线离线业务分离 通过LTS，将在线业务数据实时同步到HDFS或者OSS等存储，结合Spark、MR等大数据组件进行数据分析，从而不影响在线业务的查询。主备容灾 通过LTS在主备集群之间实现实时数据的双向同步，当主集群出现问题，可以切换到备集群...
开启 跳过点和线 会忽略选中的点和线数据。几何差集：选中两个及以上 面类型要素 后单击 图标执行面数据差集计算操作。开启 跳过点和线 会忽略选中的点和线数据。要素处理工具集 要素处理工具集包括 要素打散、要素剪裁、要素简化、面内...
如离线指标映射标签包括来源数据集、数据集主体、数据集指标、指标值类型、指标描述信息。标签测试：开启了在线服务的离线标签和实时标签可以通过输入主键值方式，测试标签主键值的计算结果。说明 标签测试将使用标签在线服务，数据传输到...
如离线指标映射标签包括来源数据集、数据集主体、数据集指标、指标值类型、指标描述信息。标签血缘：可以查看标签的血缘链路信息。详情请参见 标签血缘说明。标签血缘说明 在标签详情页面单击 标签血缘 页签，将展示当前标签的 血缘关系图...
环境信息排查 问题 解决方案 查询数据时，数据源、表、分区选择错误 DataWorks标准模式下的工作空间数据源 开发生产隔离，单表离线同步在开发环境运行任务使用开发数据源，在生产环境运行任务使用生产数据源。在对数据的数量和内容进行比对...
图表样式 轨迹层是3D地球的子组件，支持独立的样式和数据配置，能够通过轨迹线来展示两个或多个地理位置之间的过渡效果，从而模拟运动轨迹。配置面板 搜索配置：单击 配置 面板右上角的 搜索配置，可在 搜索配置 面板中输入您需要搜索的...
图表样式 流程图是以节点和线的形式表现事物之间关系的组件，支持自定义节点和连接线的样式，能够以节点和线的形式在可视化应用中展示复杂的流程关系。样式面板 搜索配置：单击 样式 面板右上角的搜索配置项图标，可在搜索配置面板中输入您...
当配置完数据来源、数据处理和数据去向后，离线同步将自动生成字段映射关系，由于目标端为无固定结构数据源，默认按同行映射执行，因此，需要单击 来源字段 或 目标字段 后的 编辑，调整字段映射顺序，或者删减不需要的字段，以确保映射...
创建及管理标签离线服务 创建及管理群组离线服务 标签资产市场概述 创建规则组合标签 个人数据中心 支持查看我在资产清单收藏的所有资产，包括数据表、API、指标和标准。支持查看我所负责的全量表资产。查看及管理我负责的资产 查看及管理...
具体数据示例请参见画布编辑器中组件右侧配置面板 数据源 页签的 数据响应结果 轨迹线。动作 动作 说明 请求数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如动态轨迹层配置了API数据源为 ...
如何将多个VPC下的数据库资产接入数据库审计系统？数据库审计服务未审计到数据，如何排查？usr/local/rmagent/rmagent.ini文件中server_host的地址为xx.xx.xx.xx格式的IP，如何解决？存储空间占满后如何处理？开启数据库审计后，对数据库有...
说明 在内置的数据源类型中，未有所需接入的数据源类型时，您可自定义离线或实时数据源类型，并将自定义的数据源对接到Dataphin，以满足不同的数据源接入需求。具体操作，请参见：新建离线自定义源类型 新建实时自定义源类型 数据源说明 ...
说明 在内置的数据源类型中，未有所需接入的数据源类型时，您可自定义离线或实时数据源类型，并将自定义的数据源对接到Dataphin，以满足不同的数据源接入需求。具体操作，请参见：新建离线自定义源类型 新建实时自定义源类型 数据源说明 ...
问题分类 问题关键字 相关文档 离线同步任务运维常见问题 网络通信问题 为什么数据源测试连通性成功，但是离线同步任务执行报错数据源连接失败？切换资源组 如何切换离线同步任务的执行资源组？脏数据 脏数据如何排查和定位？如何查看脏...
流利说基于数据库自治服务DAS的 7*24异常检测、SQL诊断引擎、自动SQL限流、自动性能扩展、自动SQL优化 和 流量回放与压测 六项核心能力构建了“基础服务自治平台”的数据库部分，通过 DAS服务接口 实现了线上故障修复自动化、数据库优化...