操作流程 步骤一：准备工作 步骤二：配置并安装Filebeat采集器 步骤三：配置Logstash管道过滤并同步数据 步骤四：查看数据采集结果 步骤一：准备工作 创建阿里云Elasticsearch实例和Logstash实例，两者版本相同，并且在同一专有网络VPC...
名称 类型 描述 示例值 object 元数据采集器类型 Type string 类型标识，当前支持的元数据采集器类型，取值有 maxcompute dlf hms（使用 HMS 管理元数据的 EMR 集群或 CDH_HIVE 集群）holo mysql oracle postgresql sqlserver analyticdb_...
时序数据采集 进程时序数据 计算资源包括：CPU使用率。存储资源包括：IO吞吐、IOUtil、IOPS、存储空间使用量、存储空间使用率。服务时序数据 在服务级别根据进程的角色不同，对各类时序数据进行了采集。业务相关的时序数据主要包括：QPS、...
任务配置上下游节点依赖前，您需先确认当前节点的表血缘关系（例如，表数据间的血缘关系、表产出的分区数据），基于血缘关系配置节点的调度依赖。本文为您介绍如何确认表血缘，以及未基于表血缘配置节点依赖的影响。背景信息 确认表血缘，...
任务配置上下游节点依赖前，您需先确认当前节点的表血缘关系（例如，表数据间的血缘关系、表产出的分区数据），基于血缘关系配置节点的调度依赖。本文为您介绍如何确认表血缘，以及未基于表血缘配置节点依赖的影响。背景信息 确认表血缘，...
新一代智能数据采集与分析工具，简单采集、轻松分析。在大数据与AI时代，丰富、准确的数据对于提升用户体验、促进业务增长至关重要。Quick Tracking 智能采集分析助手基于先进的大模型技术，智能理解页面信息并推荐埋点方案，生成埋点代码...
下载采集器：如果源库不能对外使用公网，或者无法从云上去访问，可以通过ADAM数据采集器采集数据库。更多信息，请参见 采集器采集。在线采集 登录 数据管理DMS 5.0。在顶部菜单栏中，选择 Data+AI 异构数据库迁移（ADAM）数据库评估。在 ...
数据采集层 数据采集层采用DataWorks数据集成 作为统一的数据入口，用于接入三类核心数据源：业务系统数据库（如商品中心、交易中心、品牌库）。埋点数据。日志数据。选型理由：支持多种异构数据源，高兼容性与扩展性。提供可视化调度能力...
数据编辑器是一款支持多种地理数据编辑与管理功能的小工具，本文介绍数据编辑器的详细功能。进入数据编辑器 单击 DataV.GeoAtlas地理小工具系列，打开 数据编辑器 工具页面。界面概述 数据编辑器页面分为三大主要功能面板，分别为 地图面板...
前提条件 需在 元数据中心 配置MySQL和Oracle数据库的采集任务才能使用数据源表权限。使用限制 仅Oracle和MySQL类型的数据源表支持申请表权限。审批流程说明 若数据表权限申请审批单生成后，修改了审批流程设置（如权限申请从开启变更为...
二、查看表详情 在采集对应数据源完成后，需要通过搜索来查询已采集到的用户画像分析流程中的表，以查看表的详情。搜索对应表 登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据目录 数据地图，在 数据地图 详情页面中单击 ...
准资产列表为您展示通过采集适配器指定数据源采集的资产和从数据中台获取的资产。本文为您介绍如何查看及管理准资产。前提条件 表资产：已开通智能研发版或已购买资产运营-标准版增值模块。指标资产/仪表板资产：已开通智能研发版或已购买...
准资产列表为您展示通过采集适配器指定数据源采集的资产和从数据中台获取的资产。本文为您介绍如何查看及管理准资产。前提条件 需在 超级X 智能应用管理 智能应用 页面开启X-数据管家才能使用智能生成功能。表/指标资产/仪表板资产：已购买...
② 图例区 表级血缘支持的数据表，包括 物理表、维度逻辑表、事实逻辑表、汇总逻辑表、标签逻辑表、物理视图、物化视图、逻辑视图、元表、镜像表、数据源表。③ 血缘图展示区 为您展示完整的血缘链路图，可手动展开多级上游或下游，支持...
分类 文档链接 安装部署 使用OOS批量安装或升级Logtail 采集 通过Logtail跨阿里云账号采集日志 通过Logtail跨阿里云账号采集容器日志 通过Logtail采集Zabbix数据 采集企业内网服务器日志 警惕日志采集失败的6大经典雷区 主机场景下如何使用...
② 图例区 表级血缘支持的数据表，包括 物理表、维度逻辑表、事实逻辑表、汇总逻辑表、标签逻辑表、物理视图、物化视图、逻辑视图、元表、镜像表、数据源表。③ 血缘图展示区 为您展示完整的血缘链路图，可手动展开多级上游或下游，支持...
维度与事实逻辑表数据延迟用于自动重跑逻辑表在 最大延迟天数 周期内的全部数据。本文为您介绍如何配置维度与事实逻辑表数据延迟。使用限制 事实逻辑表数据时效须为天时效（离线T+1）且该逻辑表设置了 事件时间 字段，才可配置是否开启数据...
维度与事实逻辑表数据延迟用于自动重跑逻辑表在 最大延迟天数 周期内的全部数据。本文为您介绍如何配置维度与事实逻辑表数据延迟。使用限制 事实逻辑表数据时效须为天时效（离线T+1）且该逻辑表设置了 事件时间 字段，才可配置是否开启数据...
敏感数据保护：为保证数据库的敏感信息不被泄漏，数据采集器会对采集到的数据进行脱敏。兼容性分析：源库特性匹配：识别对象使用了哪些特性，并给出在目标库上的解决方案。源库使用场景匹配：针对一些特定的使用场景（通常可能会影响性能）...
背景信息 创建 旧版数据开发：EMR计算资源 后，平台将自动在 数据地图 新建EMR元数据采集器来采集该集群元数据，若您创建EMR计算资源后仍无法在此界面选择到EMR库，请前往数据地图找到该集群的元数据采集器重新采集，详情请参见 采集E-...
1 打开埋点验证 打开产品首页，点击顶部导航“数据采集”进入数据采集模块，点击顶部导航“埋点验证”在埋点验证模块内，选择“服务端验证”2 生成DebugKey 3 将DebugKey设置在代码中 将第2步生成的DebugKey配置在上报的日志中，注意代码...
CloudLens for ALB支持一键开启数据采集功能，用于采集ALB访问日志。本文介绍开启数据采集功能的操作步骤及相关操作。前提条件 已创建应用型负载均衡实例。具体操作，请参见 创建应用型负载均衡。已创建日志服务Project和Logstore。具体...
前提条件 需在 元数据中心 配置MySQL和Oracle数据库的采集任务才能使用数据源表权限。使用限制 仅Oracle和MySQL类型的数据源表支持申请表权限。审批流程说明 若数据表权限申请审批单生成后，修改了审批流程设置（如权限申请从开启变更为...
通过采集器YML配置，您可以根据需求修改对应的配置，并启用该配置，完成数据采集任务。本文介绍采集器YML文件的配置方法和配置参数详情。前提条件 创建阿里云Elasticsearch实例，并开启实例的 自动创建索引 功能。创建实例的具体步骤请参见...
CloudLens for PolarDB支持一键开启数据采集功能，用于采集PolarDB MySQL集群的审计日志、慢查询日志、错误日志和性能指标。本文介绍开启数据采集功能的操作步骤及相关操作。前提条件 已创建PolarDB MySQL集群。具体操作，请参见 购买按量...
规则配置流程 您可基于表配置单个表的数据质量监控规则，也可基于模板，批量配置多个表的数据质量监控规则，具体如下。基于表配置数据质量监控规则（单个配置监控规则）按表配置质量规则主要流程如下：选择待配置规则校验的表。为表 创建...
CloudLens for EBS 支持手动或自动化开启数据采集功能。手动开启采集功能针对单个或当前所有的云盘，自动化开启采集功能支持设置采集条件，并自动采集符合条件的云盘（包括未来创建的）的秒级监控数据。本文介绍开启数据采集功能的操作步骤...
数据读取 MaxCompute存储的数据主要在MaxCompute上进行分析查询，同时支持用户通过数据通道和JDBC进行批量数据读取，或通过外部表-湖仓一体读数据，并将数据写入OSS等湖存储。数据生命周期 MaxCompute表的 生命周期（Lifecycle），指表...
建设效果 目前图扑软件联合阿里云端支撑泛在电力物联网及智能楼宇行业客户实现终端设备传感器云端数据采集、存储、检索，实现并发量100万TPS以上的传感器采集数据的并发写入，最高存储时序时间线40万能力，节约数据存储和系统维护成本达6成...
您可以自行采集数据库对象定义，也可以下载迁移评估采集器完成数据库对象的采集。本文为您介绍如何通过迁移评估采集器采集数据库对象。背景信息 迁移评估采集器是用于在公有云环境采集用户 Schema 数据的工具。您在公有云环境下不可以使用...
数据查询提供通过SQL查询预览数据资源，为开发人员和数据应用人员提供全面直观的数据呈现。本文介绍如何查询物理表数据。前提条件 已新建云计算资源，具体操作，请参见 新建云计算资源。操作步骤 登录 数据资源平台控制台。在页面左上角，...
通过我的资产清晰掌握可使用、可管理、已授权的数据表和数据服务API数据资产相关信息。功能特性 支持以用户的视角展示自有权限或申请授权成功的数据表、数据服务API资产。支持特定角色对数据表、数据服务API等数据资产进行管理。工作组管理...
问题数据采集结果将存储于MaxCompute临时表中，此过程将产生MaxCompute计算引擎存储费用。保留问题数据配置入口 您可在按表配置数据质量监控规则，添加模板规则时，在部分字段级规则配置入口，开启问题数据保留配置。开启问题数据保留配置...
当您为Logstore关联了数据写入处理器后，可以通过处理器对日志数据进行处理。例如将某网站的访问日志（单行文本）采集到Logstore，您可以创建一个写入处理器，解析原始日志，提取出有效的日志字段，进行查询和分析。操作视频 前提条件 已有...
应用场景 公网数据采集包含移动端、外部服务器、网页和设备数据的采集，采集完成后需要进行实时计算、数据仓库等数据应用。方案1：前端服务器+Kafka 由于Kafka不提供RESTful协议，更多是在集群内使用，因此一般需要Nginx服务器做公网代理，...
CloudLens for CLB 支持一键开启数据采集功能，用于采集CLB访问日志、配置审计日志和云监控事件。本文介绍开启数据采集功能的操作步骤及相关操作。前提条件 已创建CLB实例。具体操作，请参见 创建实例。已为CLB实例配置7层监听，即配置HTTP...
背景信息 使用一键同步MaxCompute数据至Hologres进行数据查询时，您需要先在Hologres中创建外部表，该外部表可视为MaxCompute源表（即需要同步的MaxCompute数据所在的表）与Hologres内部表的链接，通过该连接将MaxCompute源表数据同步至...
TSDB 具备秒级写入百万级时序数据的性能，提供高压缩比低成本存储、预降采样、插值、多维聚合计算、可视化查询结果等功能，解决由设备采集点数量巨大、数据采集频率高造成的存储成本高、写入和查询分析效率低的问题。TSDB是一个分布式时间...
前提条件 需在 元数据中心 配置MySQL和Oracle数据库的采集任务才能使用数据源表权限。使用限制 仅Oracle和MySQL类型的数据源表支持批量授权或批量回收。权限说明 超级管理员支持批量授权或批量回收所有表权限。项目管理员支持批量授权或...
前提条件 需在 元数据中心 配置MySQL和Oracle数据库的采集任务才能使用数据源表权限。使用限制 仅Oracle和MySQL类型的数据源表支持批量授权或批量回收。权限说明 超级管理员支持批量授权或批量回收所有表权限。项目管理员支持批量授权或...