开源大数据平台E-MapReduce（Elastic MapReduce）是运行在阿里云平台上的一种大数据处理的系统解决方案。
如何开启传输加速服务加速日志服务数据采集，请参考 采集加速。如果有重要日志需要实时监控，可以使用日志服务的内置告警监控规则，并可通过钉钉等渠道接收到告警通知，相关内容参考 使用内置的Logtail告警监控规则。您在使用Logtail采集...
高可用性 双副本：数据采集、处理和存储组件支持多副本横向扩展，保证核心数据链路高可用。水平扩展：基于集群规模可直接进行弹性扩容。数据重传：支持数据自动重传，彻底解决丢弃逻辑弊病，确保数据完整性与准确性。可观测监控 Prometheus...
高可用性 双副本：数据采集、处理和存储组件支持多副本横向扩展，保证核心数据链路高可用。水平扩展：基于集群规模可直接进行弹性扩容。数据重传：支持数据自动重传，彻底解决丢弃逻辑弊病，确保数据完整性与准确性。可观测监控 Prometheus...
安装Logtail Logtail组件是用于采集Kubernetes日志的Agent，支持多种日志类型及标准容器和Kubernetes集群的日志数据采集。步骤二：创建采集配置 根据采集需求选择文本日志或标准输出。采集文本日志 文本日志是由容器内的程序生成并保存到...
其他操作 数据总览 您可以在数据总览页面查看当前地域（Region）下配置了数据采集器的Hologres数据库统计信息和表信息，进入数据总览详细步骤请参见 数据总览。查找表 数据地图支持通过表名，表描述、字段名及字段描述等搜索表，同时还可以...
同时，数据采集的需求不断增长，近半年来集群写入流量已经翻倍，因此需要存储层具备优异的弹性和线性扩展能力，以适应车辆数量，采集点，以及采集频率的变化。业务写入请求高并发，当前峰值写请求近4w/s，对写入吞吐有较高的要求。高并发的...
v1.1.6 arms-prom-operator:v3.1.0 gpu-prometheus-exporter:v1.0.1-26c5321 修复GPU-Exporter v1.x版本数据采集问题。2022年06月 此次升级不会对业务造成影响。v1.1.5 registry.{REGION}.aliyuncs.com/acs/arms-prometheus-agent:v3.1.0 ...
v1.1.6 arms-prom-operator:v3.1.0 gpu-prometheus-exporter:v1.0.1-26c5321 修复GPU-Exporter v1.x版本数据采集问题。2022年06月 此次升级不会对业务造成影响。v1.1.5 registry.{REGION}.aliyuncs.com/acs/arms-prometheus-agent:v3.1.0 ...
v1.1.6 arms-prom-operator:v3.1.0 gpu-prometheus-exporter:v1.0.1-26c5321 修复GPU-Exporter v1.x版本数据采集问题。2022年06月 此次升级不会对业务造成影响。v1.1.5 registry.{REGION}.aliyuncs.com/acs/arms-prometheus-agent:v3.1.0 ...
v0.2.0 2024年08月20日 新增自定义异常数据采集。新增自定义事件数据采集。新增自定义日志数据采集。新增用户扩展信息设置。Android、iOS RUM SDK最低依赖版本更新：Android：0.3.3+iOS：0.3.1+v0.1.0 2024年05月27日 支持Flutter框架，...
连接profile数据库所在实例，再次进行数据采集。SELECT take_sample();查看采集数据。SELECT*FROM show_samples('server');结果示例如下：sample|sample_time|sizes_collected|dbstats_reset|bgwrstats_reset|archstats_reset-+-+-+-+-+-1|...
v0.2.0 2024年08月20日 新增自定义异常数据采集。新增自定义事件数据采集。新增自定义日志数据采集。新增用户扩展信息设置。Android、iOS RUM SDK最低依赖版本更新：Android：0.3.3+iOS：0.3.1+v0.1.0 2024年05月27日 支持Flutter框架，...
②图例 为您展示当前资产的所属层级，包括业务系统（即数据源表、自定义指标所属系统）、数据采集层（即贴源层）、数据加工层（即中间层、逻辑表/建模指标所属系统）、数据应用层（即应用层）、数据服务、报表应用层、通用层。③血缘图展示...
configName:systemd-journal-log-config inputDetail:plugin:inputs:detail:JournalPaths:"/logtail_host/var/log/journal"Kernel:true ParsePriority:true ParseSyslogFacility:true type:service_journal 步骤二：查询和分析采集数据 ...
背景信息 DataWorks的大部分功能（创建数据源、数据同步、数据分析、数据采集、数据服务等）均基于接入的数据源或计算资源进行相关操作，如果涉及访问的数据源不在当前DataWorks资源组绑定的VPC中（例如数据源在其他VPC或IDC中），需要根据...
背景信息 DataWorks的大部分功能（创建数据源、数据同步、数据分析、数据采集、数据服务等）均基于接入的数据源或计算资源进行相关操作，如果涉及访问的数据源不在当前DataWorks资源组绑定的VPC中（例如数据源在其他VPC或IDC中），需要根据...
②图例 为您展示当前资产的所属层级，包括业务系统（即数据源表、自定义指标所属系统）、数据采集层（即贴源层）、数据加工层（即中间层、逻辑表/建模指标所属系统）、数据应用层（即应用层）、数据服务、报表应用层、通用层。③血缘图展示...
flush_interval 1s buffer_chunk_limit 3m buffer_queue_limit 128 dirty_data_continue true dirty_data_file 脏数据记录文件路径 retry_times 3 put_data_batch_size 1000/match 使用如下命令启动Fluentd，即可完成CSV文件数据采集进入...
`profiler.classpath.blacklist=org.apache,net.sf` 配置当cpu达到多少时暂停数据采集。`profiler.cpu.threshold=85` 系统信息收集间隔，默认15分钟。`profiler.sys.send.interval=15` sql动态信息收集间隔，默认15分钟。`profiler.sql....
在Service Mesh中实现可观测性，涉及了日志、监控指标、链路追踪这些可观测性数据的生成规则配置和采集配置，以及如何将这些可观测数据采集到云托管服务或者自建服务中。同时，还需要考虑如何支持针对网格代理与网关Pod分别定义采集配置，...
通过采集器YML配置，您可以根据需求修改对应的配置，并启用该配置，完成数据采集任务。本文介绍采集器YML文件的配置方法和配置参数详情。前提条件 创建阿里云Elasticsearch实例，并开启实例的 自动创建索引 功能。创建实例的具体步骤请参见...
当下次执行SELECT语句时，会将上一次保存的CheckPoint带入到SELECT语句中，以此实现增量数据采集。重要 开启CheckPoint时，需要在SELECT语句中对CheckPoint字段进行排序，否则会造成数据重复或其他问题。功能 支持采集SQL Server数据库的...
仅支持单表的数据采集，不支持多表、整库。系统按照固定频率 query，定时请求时间 需要 自行配置，如果配置的时间较长，将会导致实时性降低；如果配置的时间很短，将会增加数据库查询压力。系统采集到的数据都是 INSERT 类型的，如果想获取...
仅支持单表的数据采集，不支持多表、整库。系统按照固定频率 query，定时请求时间 需要 自行配置，如果配置的时间较长，将会导致实时性降低；如果配置的时间很短，将会增加数据库查询压力。系统采集到的数据都是 INSERT 类型的，如果想获取...
为了能够快速上手Quick Tracking，建议先了解和学习下采集SDK和流量分析产品的基本概念，这些基本概念会贯穿数据采集到数据分析的全流程。行为采集 在行为采集中，有如下四个基本概念需要了解：系统事件 系统事件是指由采集SDK发出，用来...
{."cpu_usage_limit":2,"mem_usage_limit":2048,.} 数据可靠性 建议您启用MySQL服务器的全局事务ID（GTID）功能，并将Logtail升级到0.16.15及以上版本以保证数据可靠性，避免因主备切换造成的数据重复采集。数据漏采集：Logtail与MySQL...
数据资产编目，数据管理者对平台数据资产进行梳理，确定其共享属性，并按照技术标准，进行数据类目定义。数据资产上线，将已经注册管理的高质量数据资产资源发布，供数据使用者查询和使用。数据资产申请，数据使用者向数据管理方提出使用...
数据资产编目，数据管理者对平台数据资产进行梳理，确定其共享属性，并按照技术标准，进行数据类目定义。数据资产上线，将已经注册管理的高质量数据资产资源发布，供数据使用者查询和使用。数据资产申请，数据使用者向数据管理方提出使用...
在使用LoongCollector进行数据采集时，可能会遇到采集异常问题。本文将介绍排查采集异常问题的流程，以及一些常见场景下的处理示例。采集异常问题排查指引 采集异常问题的成因复杂多样，且不同原因可能导致相同表象，甚至有时异常无法及时...
宕机时的处理 由于CheckPoint是定期保存，因此宕机恢复时将从上一个完整保存的CheckPoint开始恢复，可能导致数据采集重复。调整Checkpoint保存策略以减少数据被重复采集。Logtail采集配置 限制项 限制说明 配置更新生效的延时 从通过控制台...
宕机时的处理 由于CheckPoint是定期保存，因此宕机恢复时将从上一个完整保存的CheckPoint开始恢复，可能导致数据采集重复。调整Checkpoint保存策略以减少数据被重复采集。Logtail采集配置 限制项 限制说明 配置更新生效的延时 从通过控制台...
目前支持进行对象评估的数据库类型及版本如下：Oracle 数据库：11g/12c/18c/19c MySQL 数据库：5.6/5.7/8.0 DB2 LUW 数据库（仅支持采集文件上传评估）云数据库 RDS PolarDB MySQL 引擎 支持对 Oracle 和 MySQL 数据库的 DDL 语句进行兼容...
说明 数据库采集SQL受数据库系统本身影响，兼容度不作为评估参考。架构蓝图：通过拓扑图的形式，直观展示各迁移分组的情况。迁移分组评估结果 迁移分组是迁移数据库包含的应用的最小子集，迁移单个应用分组不会对其他分组的数据库节点产生...
元数据清单以列表形式为您展示采集到的元数据信息，您可以从不同视角出发查询数据。本文为您介绍如何管理元数据清单。权限说明 超级管理员、系统管理员和具有 元数据清单-查看 权限的自定义全局角色支持管理元数据清单、查看元数据详情。...
元数据清单以列表形式为您展示采集到的元数据信息，您可以从不同视角出发查询数据。本文为您介绍如何管理元数据清单。权限说明 超级管理员、系统管理员和具有 元数据清单-查看 权限的自定义全局角色支持管理元数据清单、查看元数据详情。...
背景信息 阿里云日志服务SLS（Log Service）是针对日志数据的一站式服务，无需开发就能快捷完成日志数据采集、消费、投递以及查询分析等功能。更多信息，请参见 日志服务简介。前提条件 已开通日志服务。登录 日志服务控制台 时，如果没有...
当您为该云产品创建至少一条数据采集规则时，下拉列表会自动展示已存在的实例名称。地域列表、资源标签 只有当资源匹配模式为 属性模式 时有效，只采集 满足指定地域集合和资源标签组合 下的云产品实例日志。如果 地域 或 资源标签 置空，...
您可以通过 日志服务 全栈可观测中的Golang拉取功能采集Go Pprof性能数据，以及在全栈可观测中分析及可视化展示数据。前提条件 已创建全栈可观测实例。具体操作，请参见 创建实例。使用限制 Logtail为Linux Logtail 1.7及以上版本。工作...
背景信息 在线评估是直接连接目标数据库，采集源端数据库的对象、SQL 语句和数据库负载等信息，与 OceanBase 数据库的现有能力进行兼容性对标，查找其不兼容点并提供修复方法。使用限制 仅具备 AliyunOceanBaseFullAccess 权限的用户支持...