大数据业务中台系统优化

_相关内容

客户案例

基于飞天数据平台产品DataWorks+MaxCompute大大提高了数据业务的开发效率,构建大润发的数据中台体系。新金融行业:某互联网金融公司湖仓一体案例 客户架构如下。客户简介 公司的第一代数据湖是基于Hadoop+OSS搭建的,同时引入的数据中台...

JindoData概述

JindoData是阿里云开源大数据团队自研的数据湖存储加速套件,面向大数据和AI生态,为阿里云和业界主要数据湖存储系统提供全方位访问加速解决方案。JindoData套件基于统一架构和内核实现,主要包括JindoFS存储系统(原JindoFS Block模式)、...

亿海蓝-航运大数据的可视化案例

解决方案 DLA Ganos 引擎对不同时空存储的存取进行了统一封装,降低编码难度。原始数据使用DLA Ganos进行高效预处理,降低数据提取和结果数据再落地时间。数据抽取结果存储到Ganos on Lindorm,Lindorm的低延迟、高性能、高吞吐查询能力...

Transaction Table2.0概述

更多的需求是分钟级或者小时级的近实时数据处理叠加海量数据批处理场景,MaxCompute支持基于Transaction Table2.0实现近实时的增全量一体的数据存储、计算解决方案,本文为您介绍本方案可解决的业务痛点和主要架构功能。现状分析 当前典型...

应用场景

将深耦合业务优化为通过实时消息通知实现的异步耦合,让核心业务逻辑更简单可靠,具体调整为:该场景,买家下单系统只要完成下单操作,就直接返回,底层通过DTS的数据订阅实时获取订单系统的变更数据业务通过SDK订阅这些变更数据,并...

面临的业务挑战

这些不同来源、不同格式的数据,各自又有不同的访问和分析方式,而大量传统企业基于关系数据库构建自己的业务系统,已经非常熟悉按SQL的方式去使用数据,这无疑增加了企业存储和使用数据的成本。分析不实时 企业运营的形式越来越多样化,...

安装Agent

Agent程序是数据库审计系统提供的功能插件,您需要在用户终端、目标数据库服务器或连接数据库的应用服务器上安装Agent,用于将数据库访问流量转发到审计系统。本文介绍安装及卸载Agent的具体操作。安装位置 根据待审计的数据库类型,您需要...

EMR Studio概述

EMR Studio是E-MapReduce提供的开源大数据开发套件,包含Apache Zeppelin、Jupyter Notebook和Apache Airflow等开源组件。能够无缝关联EMR集群(EMR on ECS和EMR on ACK)的计算引擎提交任务,并提供了交互式开发、任务调度和任务监控等...

产品概述

可视化的数据资产:系统化构建业务数据资产图,从数据视角还原业务系统、提取业务数据,快速感知业务关键环节及数据数据使用简单可依赖:通过主题式数据查询服务,您可以快速查询和访问研发构建的数据逻辑表,简化约80%的查询代码。...

产品概述

产品特点 稳定 对于绝部分应用而言,关系型数据库所承担的职责是整个数据管理系统中最为核心和基础的,不光直接影响到终端用户的服务体验,同时也是业务数据的最后一道保险,所以稳定性是数据库最核心的选型因素。PolarDB-X 1.0 的稳定性...

IoT数据自动化同步至云端解决方案

下图为您展示使用DataWorks数据集成完成OSS数据同步至大数据系统解决方案流程。新建离线同步节点,详情请参见 通过向导模式配置离线同步任务。选择数据来源OSS进行读取,详情请参见 OSS Reader。选择数据去向进行写入,本文以 MaxCompute...

通过自治服务解决MySQL实例CPU使用率过高的问题

本文将介绍如何使用数据库自治服务DAS(Database Autonomy Service)(原CloudDBA)来定位系统中的慢SQL和其它异常SQL语句,您可通过自治服务提供的建议优化这些SQL语句,降低实例的CPU使用率以提升系统效率。问题描述 在使用云数据库RDS ...

数据页面管理

在管理数据页面数据的类型分为 ...上传数据 管理数据页面数据类型有 矢量、栅格、地理服务、三维模型、三维瓦片 和 业务数据类,不同类型的数据可上传的数据格式互不相同,具体三种类型数据上传数据的详细说明请参见 上传数据

数据页面管理

在管理数据页面数据的类型分为 ...上传数据 管理数据页面数据类型有 矢量、栅格、地理服务、三维模型、三维瓦片 和 业务数据类,不同类型的数据可上传的数据格式互不相同,具体三种类型数据上传数据的详细说明请参见 上传数据

大数据用户画像解决方案

进入互联网,特别是移动互联网时代,用户随时随地都会在...多维度&复杂查询:原生全局二级索引、Lindorm Search满足多维度查询需求 方案详情&专家服务 解决方案详情参见:基于Lindorm的大数据用户画像解决方案 任何问题,欢迎联系 技术支持。

保险行业解决方案与案例

也是信创工作的重点和难点,因此该公司以数据库替代作为信创工作的切入点和突破口,计划用一年时间完成所有系统数据库信创替代,根据实际情况逐步分步实施,利用 PolarDB PostgreSQL版(兼容Oracle)充分发挥高度兼容原生产数据库的...

深度检测

功能说明 您可以通过深度检测功能,检测数据库实例如下指标是否异常:数据库空间使用情况 阻塞死锁数量 慢SQL数据 平均活跃会话 数据库日志增长方式 操作步骤 登录 DAS控制。在左侧导航栏,单击 实例监控。找到目标实例,单击实例ID,...

A100售后支持相关问题

912:Rma_ConnectServer connect<审计系统IP地址>:9266 failed,Connection timed out 解决方案:检查该日志连接超时的IP是否为控制上查询到的数据库审计系统的IP。如不是,请将 rmagent.ini 配置文件的IP地址修改为审计系统的IP地址。...

风险审计报告

您可以通过 数据管理DMS 的风险报告,搜集和评估数据库在使用过程产生的各类风险,并获取系统提供的优化建议,使数据库运行得更加安全、稳定。什么是风险审计报告 风险审计报告是基于实例维度,对实例(或实例指定的库)进行风险分析...

作业优先级管理与成本优化

作业优先级 MaxCompute的包年包月计算资源有限,在实际数据开发过程系统需要优先保障重要作业的计算资源。您可以通过MaxCompute设置使用包年包月计算资源Project的作业优先级,优先保障高优先级作业的计算资源。当高优先级作业启动时,...

计算引擎版本说明

1.5.0 功能优化 优化CDC(数据源)在数据读取过程对 null 的处理。修复稳定性问题。1.3.1 新特性 支持运行指定SQL的SparkSQL作业。资源配置项支持resourceTag,详细说明,请参见 资源配置项。功能优化 CDC(数据源)支持将HBase数据解析...

规范定义最佳实践

创建业务过程,即从顶层视角,规范业务中的事务内容的类型及唯一性。例如电商订单是一个业务过程,业务过程由下单、支付、发货和确认收货等不可拆分的事件组成,每个事件就是一个业务过程。统计周期 统计的时间范围,也可以称为时间周期。...

PolarDB-X适用场景

峰谷差流量 场景描述 峰谷差是指特定周期内系统峰值负载是谷值负载的20倍以上的系统访问场景,该场景多见于“秒杀”、“拼团”和“限时优惠”相关业务中系统管理员常陷于容量安全与成本控制之间的两难,所以成本优化方案和平滑扩缩容...

规范定义最佳实践

创建业务过程,即从顶层视角,规范业务中的事务内容的类型及唯一性。例如电商订单是一个业务过程,业务过程由下单、支付、发货和确认收货等不可拆分的事件组成,每个事件就是一个业务过程。统计周期 统计的时间范围,也可以称为时间周期。...

功能简介

AnalyticDB PostgreSQL版 的企业数据智能平台是数据资产定义、加工、管理、服务的全流程平台,提供数据同步、数据查询、数据建模、数据开发、质量评估、资产管理等功能,为智能数据应用持续稳定供给全量、标准、干净、智能的数据资源。...

结束数据迁移任务

对于需要停止或迁移失败(不再需要)的任务,您可以结束数据迁移任务,避免源数据库的数据覆盖写入至目标数据。前提条件 数据迁移任务处于 迁移、已暂停、迁移失败 状态。影响 结束数据迁移任务后,数据迁移任务将处于 已完成 状态,...

查看优化记录

优化记录展示了用户在自治服务执行的优化操作信息。登录 OceanBase 管理控制。在左侧导航栏,单击 自治服务。在 实例详情 区域,单击需要查看的集群实例名称。在左侧导航栏单击 优化中心。在 优化记录 页签,您可以查看在自治服务...

逻辑结构说明

项目 项目是一种物理空间上的划分,便于用户在数据中台建设过程中对物理资源及开发人员进行隔离化管理。业务对象 人们观察事物的角度,是指一种视角,是确定事物的多方位、多角度、多层次的条件和概念。业务活动 业务过程即企业的业务活动...

应用场景

互联网类应用 Cassandra能够支持并发低延时的访问需求,具备高...在一些需要应用大量数据对用户行为进行分析的场景,可以通过整合多种数据来源,存储用户行为数据,构建用户画像,实时存储在Cassandra,提供大数据风控、推荐等服务。

近实时增量导入

实际业务数据处理场景,涉及的数据源丰富多样,可能存在数据库、日志系统或者其他消息队列等系统,为了方便用户将数据写入MaxCompute的Transactional Table 2.0,MaxCompute深度定制开发了开源 Flink Connector工具,联合DataWorks数据...

产品概述

什么是E-MapReduce 开源大数据开发平台E-MapReduce(简称EMR),是运行在阿里云平台上的一种大数据处理的系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark,让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理...

克隆快照

您可以基于已有的快照克隆出新的数据库文件系统。控制上克隆快照 在数据库文件存储控制左侧导航栏点击 快照 进入 数据库文件系统快照 页面。在顶部菜单栏左上角处,选择地域。选择需要克隆的快照,在右侧 操作 列单击 克隆。设置文件...

数仓构建流程

本文为您介绍如何基于阿里巴巴OneData方法论最佳实践,使用Dataphin助力企业数据中台的建设与管理,快速构建标准、规范的数据仓库。数仓构建流程 下图为使用Dataphin构建数据仓库的基本流程。基本概念 在正式学习本教程之前,您需要了解...

添加业务实时监控服务ARMS数据源(已下线)

本文档为您介绍在DataV添加实时监控服务ARMS数据源的方法,以及相关参数配置说明。业务实时监控服务(Application Real-Time Monitoring Service,简称ARMS)是一款APM类的监控产品。用户可基于ARMS的前端、应用和自定义监控功能,快速...

8.0.1和8.0.2版功能对比

通过列存索引,PolarDB for MySQL 版实现了一体化的实时事务处理和实时数据分析的能力,成为一站式HTAP数据库产品解决方案。通过一套数据系统,即可满足业务的OLTP及OLAP需求。支持 支持 Hash Join 支持Hash Join,基于代价选择Hash Join...

什么是EMR on ACK

阿里云E-MapReduce(简称EMR)on ACK提供了全新构建大数据平台的方式。您可以将开源大数据服务部署在阿里云容器服务Kubernetes版(ACK)之上,利用ACK在服务部署和容器应用管理的优势,减少对底层集群资源的运维投入,以便于您可以更加专注...

产品简介

开源大数据开发平台E-MapReduce(简称EMR)是运行在阿里云平台上的一种大数据处理系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark,让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。EMR还可以与阿里云...

数据资产等级定义

本文为您介绍数据资产等级的定义,以及如何定义生产链路上的相关数据的资产等级...根据血缘往上追溯,将这几个表的上游都打上A2的标记,一直标记到源数据业务系统,如图所示。icmsDocProps={'productMethod':'created','language':'zh-CN',};

受众与核心能力

本文为您介绍DataWorks的产品定位、产品受众和产品的核心能力。产品定位 DataWorks致力于为数据开发者、数据分析师、数据资产管理者,打造一个具备...让数据从采集到展现、从分析到驱动应用得以一站式解决,真正实现数据业务化、业务数据化。

什么是数据库自治服务DAS

管理成本高 随着云技术的普及,企业可以更为便捷的根据不同的业务类型,使用不同的数据库,或者将数据库部署在不同的环境,多环境和多种数据库的管理的挑战也随之而来:精通多种数据库的专业DBA是稀缺人才,招聘难。管理部署在多种环境的...
< 1 2 3 4 ... 200 >
共有200页 跳转至: GO
新人特惠 爆款特惠 最新活动 免费试用