本文详细介绍DataWorks 的应用场景：如何构建离线与实时一体化的企业级智能云数仓，打破数据时效性壁垒，加速业务决策。构建离线实时一体化企业级智能云数仓 业务挑战 在数字化竞争日益激烈的今天，企业对数据时效性的要求越来越高，但传统...
在您完成离线数据集的创建或行为关系的定义后，您可为所创建的离线数据集或行为关系创建对应的离线标签，以便后续的资产应用创建。如标签服务、画像服务的创建。功能概述 您可根据业务需求创建所需的离线标签，离线标签的加工方式不同创建...
图表样式 飞线层是3D球形地图的子组件，支持独立的样式和数据配置，包括飞线的速度、高度、色调以及起始点经纬度等，适用于OD数据的线型表达，通常表示两地之间的关联，如物流、交易等。配置面板 搜索配置：单击 配置 面板右上角的 搜索...
OD飞线是三维城市构建器的图层，支持独立的样式和数据配置，能够以飞线的形式表现地理位置上两个点之间的OD数据，可以用来展示两地之间的关联信息，如物流、交易等。本文介绍OD飞线各配置项的含义。在场景编辑器左侧图层列表中，单击 OD飞...
如何使用“埋点验证”模块确认“服务端埋点数据上报”的准确性。说明 文档说明：本文内容为使用QuickTracking 服务端埋点时，如何使用“埋点验证”模块确认“服务端埋点数据上报”的准确性。1 打开埋点验证 打开产品首页，点击顶部导航...
本文简介Logtail采集数据时在运行环境、文件采集、容器采集、CheckPoint管理、Logtail采集配置、机器组、性能、错误处理等方面的限制。运行环境 限制项 限制说明 体系结构 Linux Logtail版本支持x86_64和arm64。Windows Logtail版本支持x86...
工作机制 日志服务基于Telegraf开发的监控模板，支持将Telegraf采集的监控数据（MySQL监控数据、Redis监控数据、Elasticsearch监控数据等）通过InfluxDB协议写入Logtail，Logtail再将监控数据上传到日志服务MetricStore中。针对常用插件，...
新人需知道 首先，让我们了解一次完整的埋点流程，从提出需求到数据采集到Quick Tracking展示包含哪些关键环节：第1步：业务准备（需求｜业务技术）由需求人员主导整体的需求梳理、指标体系设计和埋点方案设计。其中，业务人员配合进行需求...
当飞线请求失败时 飞线数据接口请求失败时（请求失败的情况可能是：网络问题或接口报错等）返回并经过过滤器处理后抛出的事件，同时抛出处理后的JSON格式的数据。具体数据示例请参见画布编辑器中组件右侧配置面板 数据 页签的 数据响应结果...
TSDB基础版 II（规格为4核 8 GB，数量为2个），测试项和数据如下表：测试次数 数据量 任务进程数 配置 时间线文件大小 每秒迁移的数据点数 迁移用时 TSDB资源消耗 1 总时间线数据为3万 总数据点数为86400000 1 channel:2 oidCache:true ...
Dataphin支持自定义离线数据源，以满足不同业务场景数据同步的需求。前提条件 对于RDBMS数据库，已获取数据库驱动文件。对于其他类型数据库，获取数据源连接配置项的JSON代码和读/写插件。背景信息 RDBMS数据库即关系型数据库，如MySQL、...
Dataphin支持自定义离线数据源，以满足不同业务场景数据同步的需求。前提条件 对于RDBMS数据库，已获取数据库驱动文件。对于其他类型数据库，获取数据源连接配置项的JSON代码和读/写插件。背景信息 RDBMS数据库即关系型数据库，如MySQL、...
在翻页或者加载的过程中，如果结果重复出现在第二页算一个新的曝光PV，结果不去重 如果开通数据采集功能并上传了曝光数据，则每次曝光记1否则，记每次返回的Item数 依赖开通数据采集功能，并且上传了用户曝光行为数据/也可不开通或上传，但...
设备协议模块可创建的协议以及各协议的功能如下：设备采集协议：将设备数据自动推送到云控平台数据采集端口。数据转化协议：将数据采集协议推动上来的设备数据转化为交通云控平台的标准格式。数据（控制）下发协议：使交通云控平台下发的...
修复指标采集数据格式错误问题。修复容器采集场景部分容器元信息缺失问题。2.1.6 发布时间：2025-03-03 优化 添加FORCE_RELEASE_STOP_CONTAINER_FILE环境变量，支持在业务容器停止的情况下强制释放文件句柄。修复 修复容器文件采集场景，...
新一代智能数据采集与分析工具，简单采集、轻松分析。在大数据与AI时代，丰富、准确的数据对于提升用户体验、促进业务增长至关重要。Quick Tracking 智能采集分析助手基于先进的大模型技术，智能理解页面信息并推荐埋点方案，生成埋点代码...
数据同步提供批量、实时多源异构数据的便捷同步或接入能力，系统提供完善的数据接入配置、任务运行监控等功能，有效保障数据接入的稳定性和可控性，满足各类平台、数据源及应用系统间的数据汇聚需求。同时支持对存储在基于ArcGIS、超图等...
本文为您介绍如何使用智能制造平台AICS实时数据采集模块。创建通道 登录 工业数据中台IGate。在通道管理页面，单击右上角 新增通道 按钮。通道是测点数据的来源，如果不使用IGate主动采集则不需要添加通道，可使用默认提供的平台标准通道，...
您可手动采集数据库信息，请右键单击实例名称，选择 刷新/同步字典，再单击 确认，稍等片刻刷新实例列表即可。创建表 以在自由操作的MySQL数据库中创建test_table表举例。使用SQL语句创建表 在SQL Console中输入创建表的SQL语句。创建一个...
数据同步为用户提供批量、实时多源异构数据的便捷同步或接入能力，系统提供完善的数据接入配置、任务运行监控等功能，有效保障数据接入的稳定性和可控性，满足各类平台、数据源及应用系统间的数据汇聚需求。同时支持对存储在基于ArcGIS、...
查看采集数据。SELECT*FROM show_samples('server');结果示例如下：sample|sample_time|sizes_collected|dbstats_reset|bgwrstats_reset|archstats_reset-+-+-+-+-+-1|2022-09-30 02:14:07+00|t|2|2022-09-30 02:16:59+00|t|3|2022-09-30 ...
注意事项 将MongoDB的离线数据迁移至Lindorm宽表时，需要将MongoDB嵌套的JSON数据展开成水平结构，并且不涉及数据的变换。说明 如果迁移过程中需要对某些数据进行处理，例如对MongoDB数据中主键进行MD5散列，需要按照如下步骤操作：通过...
具体操作，请参见 使用日志服务采集数据面集群AccessLog。采集控制平面日志及设置告警 ASM支持采集控制平面日志和日志告警，例如采集ASM控制平面向数据平面Envoy代理推送配置的相关日志。ASM控制面组件的主要功能之一是推送网格的规则配置...
采集配置项 采集配置项是定义 如何采集、处理日志数据 的核心规则。其目的是通过灵活配置，实现日志的高效采集、结构化解析、过滤加工等效果。在日志服务控制台上创建、查看、修改及删除Logtail采集配置等操作请参考 管理Logtail采集配置。...
慢加载统一使用页面采集的日志）1 白屏数据 1 白屏截屏 50 重要 白屏监控分为“极有可能白屏”和“有可能白屏”两种，“有可能白屏”仅采集白屏数据，“极有可能白屏”采集白屏数据和白屏发生时的截图，因截图为图片消耗较大，系数为50。...
name 可选，动态轨迹线名称 数据项配置 说明 数据源 组件的数据源中通过 代码编辑 或 可视化编辑 展示了组件所包含的数据字段。也可以修改 数据类型，灵活配置组件数据。数据映射 当您需要自定义图表字段配置时，可以在 数据映射 模块设置...
应用场景 公网数据采集包含移动端、外部服务器、网页和设备数据的采集，采集完成后需要进行实时计算、数据仓库等数据应用。方案1：前端服务器+Kafka 由于Kafka不提供RESTful协议，更多是在集群内使用，因此一般需要Nginx服务器做公网代理，...
事件 事件 说明 当飞线请求完成时 飞线数据接口请求返回并经过过滤器处理后抛出的事件，同时抛出处理后的JSON格式的数据。具体数据示例请参见画布编辑器中组件右侧配置面板 数据源 页签的 数据响应结果 区域。动作 动作 说明 请求飞线 重新...
什么是Prometheus实例 Prometheus实例是阿里云 可观测监控 Prometheus 版 服务提供的管理Prometheus数据采集和数据存储分析的逻辑单元，每个 Prometheus实例 提供对应的Prometheus数据采集配置、时序数据库实例、Dashboard监控大盘和报警...
DataWorks数据集成支持复杂网络环境下的数据同步，您可在数据开发（DataStudio）界面直接 创建离线同步节点，用于离线（批量）数据周期性同步；实时同步任务运维，用于单表或整库增量数据实时同步。本文为您介绍数据同步的相关内容。背景...
什么是Prometheus实例 Prometheus实例是阿里云 可观测监控 Prometheus 版 服务提供的管理Prometheus数据采集和数据存储分析的逻辑单元，每个 Prometheus实例 提供对应的Prometheus数据采集配置、时序数据库实例、Dashboard监控大盘和报警...
文件打开行为 Logtail会保持被采集的文件和轮转队列中待采集的文件处于打开状态，以保证采集数据完整性。出现以下情况，会关闭文件。文件超过5分钟未被修改。发生轮转且采集完毕。Logtail采集配置发生变更。如果无论文件是否采集完成或仍有...
支持的数据库部署位置 有公网IP的自建数据库 无公网IP:Port的数据库（通过数据库网关DG接入）通过云企业网CEN接入的自建数据库 ECS上的自建数据库 通过专线/VPN网关/智能接入网关接入的自建数据库 ECS上的自建数据库 通过专线/VPN网关/智能...
v2.0.9 开始 5 数据采集开关 SDK默认开启数据采集能力，您也可以通过开启/关闭的 API控制数据采集的时机。（2.2.2 及以上版本支持）重要 默认为开启采集，如果开发者未设置或删除了 localstorage 中的 aplus-sdk-disable 字段，则仍会开启...
线热力层是基础平面地图的子组件，支持独立的样式、数据和交互配置，能够以热力线的形式表现地理位置上的线路信息，适用于地图上线路图的大屏展示，例如展示地铁线路图。本文介绍线热力层各配置项的含义。重要 当前为v1.x版本的线热力层子...
实时物化视图 差异 数据湖 Spark离线处理 查询性能的智能诊断与调优 RAG应用 时空分析 应用场景 共同点 实时数仓 实时日志分析 商业智能报表 差异 精准营销 多源联合分析 大数据存储分析 离线数据加速 其它数据湖或数据仓库业务迁移...
TSDB 具备秒级写入百万级时序数据的性能，提供高压缩比低成本存储、预降采样、插值、多维聚合计算、可视化查询结果等功能，解决由设备采集点数量巨大、数据采集频率高造成的存储成本高、写入和查询分析效率低的问题。TSDB是一个分布式时间...
线热力层是基础平面地图的子组件，支持独立的样式、数据和交互配置，能够以热力线的形式表现地理位置上的线路信息，适用于地图上线路图的大屏展示，例如展示地铁线路图。本文介绍线热力层各配置项的含义。重要 当前为v2.x版本的线热力层子...
本教程以MySQL数据源中的用户基本信息 ods_user_info_d 表和HttpFile中的网站访问日志数据 user_log.txt 文件为例，通过数据集成离线同步任务分别同步至私有OSS中，再通过Spark SQL创建外部表来访问私有OSS数据存储。本章节旨在完成数据...
本教程以MySQL数据源中的用户基本信息 ods_user_info_d 表和HttpFile中的网站访问日志数据 user_log.txt 文件为例，通过数据集成离线同步任务分别同步至私有OSS中，再通过Spark SQL创建外部表来访问私有OSS数据存储。本章节旨在完成数据...