实时数据通道 接入多种异构数据并投递到下游多种大数据系统 通过数据总线，您可以实时接入APP、WEB、IoT和数据库等产生的异构数据，统一管理，并投递到下游的分析、归档等系统，构建清晰的数据流，让您更好的释放数据的价值。收益 系统解耦...
大数据专家服务 大数据专家服务（Bigdata Expert Service）是由阿里云大数据专家基于阿里云多年大数据架构、应用、运维、AI算法建模等最佳实践经验及方法论为用户提供全方位的大数据产品技术、咨询服务及售后专家服务运维保障，帮助用户...
您可在系统大盘页面，进行以下操作：采集系统诊断数据：单击 采集系统诊断数据，若当天无采集记录，则直接开始采集，您可单击 采集记录，查看采集进展和采集日志；若当前已有采集记录，您可重新采集或查看采集记录，采集记录中仅展示当天...
问题分类 数据地图 为什么数据地图数据总览页存储量和存储趋势图相差较大？数据地图新建表搜不到 当前表业务逻辑变更如何通知下游？哪些类型的Hive表支持在数据地图中预览？数据保护伞 数据保护伞为什么有时候查询脱敏有时候查询不脱敏 为...
需购买OpenAPI功能，使用Dataphin JDBC对接Dataphin和Quick BI系统进行数据采集和消费。权限说明 超级管理员、运营管理员及拥有 消费-消费渠道管理 权限的自定义全局角色支持资产消费。消费渠道 Dataphin支持通过Notebook、仪表板、自助取...
DataWorks数据地图为您提供 元数据采集 功能，方便您将DataWorks不同数据源的元数据进行统一汇总管理，您可以在数据地图查看从各数据源汇集而来的元数据信息。本文为您介绍如何创建采集器，将各数据源的元数据信息汇集至DataWorks。功能...
采集Lindorm元数据 单击数据地图左侧导航栏中的 图标，进入数据源采集器管理页面。在 数据源视角 的 Lindorm 采集器中配置元数据采集计划，即可采集Lindorm表的元数据信息，详情请参见 元数据采集。查找表 等待Lindorm元数据采集计划执行...
说明 如需在数据资产治理中使用Hologres计算资源，请先在数据地图中采集Hologres元数据。具体操作，请参见 元数据采集。当前仅华北2（北京）、华东2（上海）、华东1（杭州）和华南1（深圳）地域的数据资产治理支持Hologres计算资源。查看...
依托于日志采集组件多维度Kubernetes资源选择能力，采集Go程序的性能指标数据时，也支持通过环境变量、Kubernetes Labels、Namespace、Pod名称、容器名称过滤数据。更多信息，请参见 日志采集组件多维度Kubernetes资源选择能力。另外，Go...
针对这些数据，可根据业务需求和环境特点，选择相应的方案进行数据采集，并将其传输至Elasticsearch服务。本文对服务器数据采集方案进行了汇总。相关文档 方案描述 阿里云Elasticsearch数据采集解决方案 本文提供Beats、Logstash、语言客户...
如需查看Hologres数据源下的表，请先在数据地图中采集Hologres元数据。具体操作，请参见 元数据采集。说明 当前仅华北2（北京）、华东2（上海）、华东1（杭州）和华南1（深圳）地域的数据资产治理支持Hologres计算资源。进入资产360页面 ...
Beats数据采集中心 Beats是轻量级的数据采集工具，集合了多种单一用途的数据采集器。它们从成百上千或成千上万台机器和系统向Logstash或Elasticsearch发送数据。阿里云Elasticsearch的Beats采集中心支持Filebeat、Metricbeat、Auditbeat和...
LoongCollector 是日志服务推出的一款集性能、稳定性和可编程性于一身的新一代数据采集器，专为构建下一代可观测 Pipeline 设计。LoongCollector扩展融合了可观测性技术栈，改变传统日志采集器的单一场景限制，支持Logs、Metrics、Traces、...
借助一站式数据采集、处理加工、存储、查询与分析、监控、输出与集成等功能，提升开发、运维、运营、安全等场景数字化能力。典型应用场景 日志管理 提供客户端、服务端、云产品等完整渠道的数据采集能力。支持冷热分层存储，适应不同生命...
单击 前往采集中心查看，返回 Beats数据采集中心 页面，在 采集器管理 区域中，查看启动成功的Metricbeat采集器。等待 采集器状态 变为 已生效 后，单击右侧 操作 栏下的 查看运行实例。在 查看运行实例 页面，查看 采集器安装情况，当显示...
AnalyticDB for MySQL 云原生数据仓库 AnalyticDB MySQL 版（AnalyticDB for MySQL）是海量数据实时高并发在线分析（Realtime OLAP）云计算服务，与MaxCompute结合应用于大数据驱动业务系统的场景。通过MaxCompute离线计算挖掘，产出高质量...
能够解决的问题如下 海量非结构化数据快速预处理 利用数据管理并行计算框架，在阿里云上以 云原生 的方式分布式处理海量非结构化数据，采集到的感知数据处理效率提高10倍。感知数据多模态检索 无论是经过标注还是未经标注的传感器输出数据...
步骤二：聚合店铺数量，查看店铺分布 为了进一步分析美食地图数据，需要聚合美食店铺的数量，查看店铺的分布情况。下文将通过SQL查询方式对店铺数量和店铺分布数据进行分析。单击 图标进入数据源页面，单击 添加数据，选择 SQL查询，单击 ...
DataWorks作为阿里云一站式大数据开发与治理平台，通常会与计算引擎产品联合使用，此外使用DataWorks进行数据集成时通常联合进行数据传输的数据源产品一起使用。本文为您介绍典型场景下，使用DataWorks时通常会使用到的其他云产品。计算...
本产品（大数据开发治理平台 DataWorks/2024-05-18）的OpenAPI采用 RPC 签名风格，签名细节参见 签名机制说明。我们已经为开发者封装了常见编程语言的SDK，开发者可通过 下载SDK 直接调用本产品OpenAPI而无需关心技术细节。如果现有SDK不能...
数据上云与集成：使用 数据集成 模块将源业务系统的数据采集至大数据平台。支持离线（批量）、实时（流式）、全量及增量等多种同步方式。规范模型设计：在进行大规模数据开发前，进行规范化的模型设计，以保证数据体系的有序与可维护性。此...
2024-11-21 所有地域 所有用户 ApsaraDB for OceanBase整库实时同步至MaxCompute 数据地图 数据地图元数据采集支持采集并管理AnalyticDB for Spark元数据。2024-11-21 所有地域 使用新版数据开发（Data Studio）的用户 元数据采集 数据地图...
支持资源组的资源类型 大数据开发治理平台DataWorks支持资源组的资源类型如下表所示：云服务 云服务代码 资源类型 大数据开发治理平台DataWorks dide Proyek:大数据开发治理平台DataWorks dide dwresourcegroup:DataWorks资源组 大数据开发...
元数据采集 MaxCompute元数据&DLF元数据：系统默认内置MaxCompute元数据采集器和DLF元数据采集器，数据地图将自动获取元数据。其他类型元数据：通过自定义元数据采集功能将不同数据源中的元数据导入数据地图进行统一管理。目前数据地图支持...
版本 发布时间 发布说明 v0.2.0 2024年11月19日 新增自定义异常数据采集。新增自定义事件数据采集。新增自定义日志数据采集。新增用户扩展信息设置。新增崩溃数据捕获能力。新增CEF框架数据采集能力。v0.1.0 2024年07月29日 支持Session、...
采集对数据库压力大吗？采集过程全部都是读取操作，唯一消耗CPU资源的操作来自于getddl操作，一般压力都很小。但为了采集顺利进行，建议在业务低峰期执行，否则容易出现Socket Timeout的超时错误（采集sql无法执行完成），导致必须重新采集...
版本 发布时间 发布说明 0.3.0 2025年11月11日 优化崩溃数据采集 0.2.1 2024年11月22日 优化自定义设备ID 优化与三方SDK的兼容性 新增支持设置用户ID v0.2.0 2024年11月19日 新增自定义异常数据采集。新增自定义事件数据采集。新增自定义...
流转 大数据系统通常是端到端的一整套数据开发和治理服务，不仅要采集数据、加工数据，更要将数据提供给业务方使用。因此，其存在错综复杂的数据流转链路，包括但不限于即席查询链路、离线传输链路、实时传输链路、数据服务API链路、其他...
数据总览：从宏观视角洞察 数据总览为您提供数据源的整体使用情况。在数据地图 首页，单击 元数据采集 后的 数据总览。在数据总览页，查看当前地域所有的引擎资源。MaxCompute关键指标说明：名称 描述 总项目数 当前地域下，所有MaxCompute...
支持的AI资产 DataWorks支持您在数据地图中搜索和查看以下AI资产的元数据详情信息：数据集 AI模型 算法任务 模型服务 采集AI资产 当您的工作空间开启PAI服务后，数据地图将自动采集您AI工作空间中的资产信息。搜索AI资产 通过搜索功能，您...
DataWorks默认租户成员可进入数据地图模块，在数据地图模块中，默认可查看已接入数据地图的项目元数据，您可通过当前文档针对以上场景进行不同粒度的访问控制。数据地图权限管控介绍 数据地图支持的 功能模块、项目、表 这三个级别的元数据...
②图例 为您展示当前资产的所属层级，包括业务系统（即数据源表、自定义指标所属系统）、数据采集层（即贴源层）、数据加工层（即中间层、逻辑表/建模指标所属系统）、数据应用层（即应用层）、数据服务、报表应用层、通用层。③血缘图展示...
②图例 为您展示当前资产的所属层级，包括业务系统（即数据源表、自定义指标所属系统）、数据采集层（即贴源层）、数据加工层（即中间层、逻辑表/建模指标所属系统）、数据应用层（即应用层）、数据服务、报表应用层、通用层。③血缘图展示...
元数据支持丰富的采集源类型，如传统数据库MySQL、Oracle，大数据存储Hologres、应用系统等，可一览不同数据源类型或应用系统已创建的采集任务数、采集对象类型等信息。前提条件 需先在 管理中心 数据源管理 应用系统 创建应用系统，才能...
对象存储OSS：将查询结果以指定格式（如CSV、Parquet）导出至阿里云对象存储OSS（Object Storage Service）空间，适用于大数据量归档或与其他云产品集成的场景。首次使用时，您需要为DataWorks进行授权，以允许其访问您的OSS资源。请在 ...
日志服务一站式提供数据采集、加工、查询与分析、可视化、告警、消费与投递等功能，全面提升您在研发、运维、运营、安全等场景的数字化能力。收费，详情参见 产品定价。名词解释 名称 说明 Logtail Logtail是日志服务提供的日志采集Agent，...
按照元数据层级结构，数据地图支持的完整元数据实体层级分为：Catalog（数据目录）Database（数据库）Schema（数据库模式）Table（数据表）Column（字段）其中，不同采集器类型对于实体层级的支持情况不同。采集器类型（CrawlerType）支持...
字段 类型 描述 id String 数据采集ID name String 数据采集名称 type String 数据采集端的类型-server-web-app注：目前只支持 server status Integer 状态-0 未开通-1 开通中-2 开通成功-3 开通失败 dataCollectionType String 数据采集的...
查看 1.1 接入公众号 产品路径：「数据采集」-「数据源管理」-「公众号管理」点击「接入公众号」按钮，弹出右侧「接入数据源」页面完成新建接入公众号，完成接入需要填写如下信息：「基础信息」公众号名称：填写要接入的公众号名称 公众号...
数据地图 数据地图模块支持对StarRocks数据的元数据采集、搜索和表详情页。元数据采集 进入数据地图页面。登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据治理 数据地图，在右侧页面中单击 进入数据地图。在左侧导航栏单击...