时序数据在滴滴实时数据开发平台中的处理和应用

时序数据库 2019-03-07

架构 监控 消息队列 数据库 spark 索引 权限管理 page 存储 数据存储 数据管理

本文根据演讲视频以及PPT整理而成。

本文将主要围绕以下三个方面进行分享:

  1. 背景简介
  2. 技术方案
  3. 当前现状

一、 背景简介
滴滴实时数据开发平台源于这样的初衷,即构建业务监控的双眼,用以监控发生的时事对系统业务交易量是否产生影响。此外,数据可能存在异常和波动,直接监控数据较为低效,时序数据还用以实时报警,帮助相关运营人员排查情况。实时监控和实时报警是滴滴数据管理的两个最核心场景。

1

2015年以前,滴滴数据管理的架构非常简单。通过扫描Mysql的从表和api数据进行预计算,预计算的操作结果先存储于本地文件,再定时上传到CKV数据库。以计算城市订单量为例,一级目录是城市id,二级目录是日期,预计算的操作结果先按照目录结构存储于本地文件,再定时上传到CKV数据库中。这种简单架构的瓶颈是显而易见的,即指标开发和扩展的难度较大。随着指标增多,在Mys

登录 后评论
下一篇
我是小助手
30377人浏览
2019-07-31
相关推荐
HBase全网最佳学习资料汇总
22765人浏览
2017-08-13 19:11:08
时间序列数据的处理
2989人浏览
2018-05-23 09:56:27
0
1
0
1635