基于Flink的资讯场景实时数仓
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景,Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
数据库中的数据,可通过数据传输服务 DTS被实时数据同步到消息 队列 Kafka中。3.数据加工:消息队列收到的原始数据,往往存在格式不齐或内容不全,需要经过 清洗(ETL)之后,才能更好的被下游业务使用。而整个 ETL过程,是实时数 仓架构设计上非常重要的一环,该环节要做到延时小,成本低,可扩展性好,业务 指标计算...
来自: 最佳实践 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,NAT网关,云原生数据仓库AnalyticDB My,云速搭CADT
构建云上OLTP+OLAP数据库服务解决方案
HTAP是OLTP和OLAP的组合数据库技术,既能保证事务,满足线上业务高效数据读写需求,同时还能兼顾海量数据实时分析查询需求。
采用DTS数据同步功能,链路自带高可用,可断点续,并行复制机制大幅提高向下游同步效率,正常业务写入压力下,数据到OLAP传输延迟在ms级别.DTS同步延迟低,保证OLAP实时性.OLTP数据库看重访问低时延,高吞吐,不能影响用户体验;OLAP数据本身就是应对高计算、高磁盘IO消耗类查询,此方案实现二者物理隔离,绝无资源争抢....
来自: 解决方案
中小企业基于SAG APP实现云上移动办公
中小企业基于SAG APP实现云上移动办公
1. 客户端一键接入上云,配置自动化 2. 城域内 Internet 就近接入,快速高效 3. 数据加密传输,满足安全性要求 4. 阿里云控制台统一配置管理
联合云企业网访问 OSS等云服务 云服务指使用阿里云云服务地址段 100.64.0.0/10 提供服务的云产品,例如对象存储(OSS)、日志服务(SLS)、数据传输服务DTS)等。本地终端通过 SAG接入阿里 云之后,就可以通过云企业网内网访问云服务。内网访问指的是阿里云同地域产品之 间的内部通信网络。OSS是阿里云提供的对象存储服务...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,云企业网,云解析 PrivateZone,智能接入网关,云速搭
基于MaxCompute的大数据BI分析
基于MaxCompute的大数据BI分析
场景描述 本文以电商行业为例,将业务数据和日志数据使用 MaxCompute做ETL之后,同步到ADB进行实时 分析,之后通过QuickBI进行快速可视化展示。 解决问题 1.互联网行业、电商、游戏行业等网站、App、 小程序应用内BI分析场景。 2.可扩展到各类网站BI分析场景使用。 产品列表 1.MaxCompute 2.分析型数据MySQL版 3.日志服务SLS 4.QuickBI 5.云服务器ECS 6.RDSMySQL版
它是一种集数据迁移、数据订阅及数据实时 同步于一体的数据传输服务数据传输致力于在公共云、混合云场景下,解决远距 离、毫秒级异步数据传输难题。它底层的数据流基础设施为阿里双 11异地多活 基础架构,为千下游应用提供实时数据流,已在线上稳定运行 5年之久。您 可以使用数据传输轻松构建安全、可扩展、高可用的...
来自: 最佳实践 | 相关产品:日志服务(SLS),大数据计算服务 MaxCompute,云原生数据仓库AnalyticDB My,Quick BI,云速搭CADT
云数据库产品总览(瑶池)
阿里云提供完善的数据库解决方案,多款数据库产品,满足99%的业务场景,荣获Gartner、信通院等国内外多项认证。轻松满足高可靠、高可用性、高性能等数据库需求;运维工作量大幅减少,让企业一站式享受数据上云及分布式架构的技术红利!
通过PolarDB+数据传输服务+AnalyticDB MySQL组成HTAP解决方案,每秒成交的订单再创历史新高,订单峰值比历史最高峰值再次提高了几倍,高峰业务流量比半年前提高了50倍,系统丝般顺滑!利用云原生数据库 PolarDB 分布式版产品的高并发写和海量存储能力,支撑特步全国千家门店零售的全渠道业务中台的数据写入和读取。...
来自: 云产品
云原生数据仓库AnalyticDB MySQL数据仓库
阿里云云原生数据仓库AnalyticDB MySQL版(简称AnalyticDB)是融合数据库、大数据技术于一体的云原生企业级数据仓库平台。云原生数据仓库AnalyticDB MySQL版支持数据实时写入和同步更新、实时计算和实时服务,可用于构建企业级报表系统、数据仓库和数据服务引擎。
业务数据通过数据传输DTS实时同步至ADB MySQL,实时监控每个设备终端的信息,如智慧交通场景下,提升交通系统运行效率,优化出行方式.数据实时入仓.通过智能的业务分析系统快速获得实时的业务数据,实现海量数据的即席分析查询,充分挖掘数据价值,支撑更高效的业务决策.运营效率提升.云服务器ECS.云数据库RDS MySQL版.数据...
来自: 云产品
AHAS多活容灾MSHA
多活容灾MSHA是在阿里电商业务环境演进出来的多活容灾商业化产品,是应用高可用服务AHAS的核心模块,为客户提供容灾架构建设能力。横向支持容灾架构的上线、运维、演练、切流,升级到下线。纵向支持业务流量的全链路管理,从流量接入到服务化调用再到异步化消息,最终完成数据落库。
数据传输 DTS.推荐搭配使用.异地应用双活.异地应用双活.用户如果使用主备模式实现异地容灾,由于备中心平时不处理业务负载,会导致成本浪费、关键时刻不敢切换.基于异地双活(单元化)架构,可按路由标将请求分配到不同区域单元的后端应⽤,分片数据相关的服务调用在单元内封闭,日常及切流场景下数据零脏写。两个单元的...
来自: 云产品
自建K8S集群迁移ACK弹性裸金属集群
自建K8S集群迁移ACK弹性裸金属集群
场景描述 在微服务化改造之后,企业在享受K8S带来应 用管理的便利的同时,存在硬件性能不足,本 地扩展性差,容器容灾难,K8S管理复杂等问 题。 解决问题 1.增强K8S扩展性:如何通过弹性裸金属服务 器的强劲硬件性能,实现云端资源急速扩 展,从容应对应用访问压力大的问题。 2.如何简化云端K8S运维:通过阿里云容器服 务(ACK)实现敏捷开发和部署落地,加速 企业业务迭代。 3.如何综合考虑迁移和容灾:如何整合云上和 云下容器资源实现遇到故障时可以通过健 康检查实现自动容灾。 4.如何不改应用上云:如何实现应用上云数据 库连接零修改。 5.数据库上云及回退:如何实现上云回退; 产品列表 ACK/ECS/SLB/NAT网关/弹性裸金属服务器/DTS/RDS MySQL
详 见:https://www.aliyun.com/product/rds/mysql DTS:Data Transmission Service,简称 DTS,是一种集数据迁移、数据订阅及 数据实时同步于一体的数据传输服务。解决远距离、毫秒级异步数据传输难题。详 见:https://www.aliyun.com/product/dts 全局流量管理:全局流量管理(Global Traffic Manager),简称 GTM,可以将...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,负载均衡 SLB,容器服务 ACK,NAT网关,弹性裸金属服务器(神龙),云速搭
小型互联网迁移阿里云
小型互联网迁移阿里云
场景描述 本方案主要适用于中小型互联网企业,从他云 迁移到阿里云的最佳实践。方案中会概述网络 规划、服务器、数据库、存储数据、Kafka和 镜像数据的迁移方案描述。同时在实践环节, 增加服务器和RDS的迁移操作演练和验证。 解决问题 提供服务器、数据库等关键环节的平滑迁移方 案 提供云上高可用架构参考 提供模拟简单的演练回归流程机制 产品列表 云服务器(ECS)、迁云工具(SMC)、数据库 (RDS)、数据库(Redis)、数据传输(DTS)、 负载均衡(SLB)、专有络(VPC)等
它是一种集数据迁移、数据订阅及数据实时同步于一体 的数据传输服务。解决远距离、毫秒级异步数据传输难题。详见:https://www.aliyun.com/product/dts RDS:(Relational Database Service)是一种稳定可靠、可弹性伸缩的在线数据 库服务。基于阿里云分布式文件系统和 SSD盘高性能存储,RDS支持 MySQL、SQL Server、...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS
专有云企业版
阿里云专有云企业版是面向政企客户的全栈云平台,可一键式弹性扩展至公共云,提供不同应用场景需求下的混合云方案,支撑企业级核心应用平滑上云。
数据传输工具DTS,支持25+数据源引擎,支持跨引擎、跨平台、跨版本的高性能数据传输,可实现同城容灾.数据传输场景.企业版基于企业级分布式服务框架、消息服务、分布式容器服务、数据库等产品帮助政企客户构建业务中台场景,帮助客户打破业务孤岛、实现多业态多渠道融合,快速完成业务创新,加速完成数字化转型目标.大中台...
来自: 云产品
自建Hive数仓迁移到阿里云EMR
自建Hive数仓迁移到阿里云EMR
场景描述 客户在IDC或者公有云环境自建Hadoop集群构 建数据仓库和分析系统,购买阿里云EMR集群之 后,涉及到将数据仓库和Hive元数据的数据库迁 移上云。目前主流Hive数据仓库迁移场景为1.x 版本迁移到阿里云EMR(Hive2.x版本),涉及到 数据订正更新步骤。 解决的问题 Hive数据仓库的数据迁移方案 Hive元数据库的迁移方案 Hive跨版本迁移后的数据订正 产品列表 E-MapReduce,VPC,ECS,OSS,VPN网关。
步骤2 部署完成后,重启 Hive MetaStore和 HiveServer2 步骤3 由于在创建 EMR集群时我们指定了 RDS for MySQL实例的数据库作为 Hive的元 库,但是此时元数据库还未创建,因此在 EMR控制台可以看到 Hive MetaStore 异常停止。文档版本:20210721 25 自建Hive数据仓库跨版本迁移到阿里云 EMR 创建 EMR集群 通过查看 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,VPN网关,E-MapReduce,云速搭
云原生数据库
PolarDB是阿里云自研的云原生数据库,在存储计算分离架构下,利用了软硬件结合的优势,为用户提供秒级弹性、高性能、海量存储、安全可靠的数据库服务。100%兼容MySQL和PostgreSQL生态,支持分布式扩展,高度兼容Oracle语法。
数据传输DTS.云原生数据仓库ADB MySQL.推荐搭配产品.电商零售:大促秒杀.平稳应对单表数据量过大、业务潮汐.业务的发展伴随着历史数据的飞速增长,单库能达到TB级别。在这种情况下,传统数据库的存储和性能都碰到了瓶颈。PolarDB采用存储和分离架构,单实例最高100TB存储,节点支持纵向扩展(升/降配节点)和横向扩展(增/...
来自: 云产品
金融智能数仓解决方案
金融智能数仓解决方案是阿里云自研高性能、海量可扩展数据仓库服务、兼容部分 Oracle/Teradata 语法生态,大量应用于阿里巴巴集团内部电商,物流,文娱,广告等业务部门,服务于阿里云的金融、政企、互联网等各行业用户,支持快速构建新一代云化数据仓库服务。
兼容 Greenplum/PostgreSQL 数据库产品生态,可集成数据智能与构建 Dataphin、数据管理 DMS、数据传输 DTS数据报表 QuikBI 等云产品,同时支持第三方数据开发管理、ETL、BI 报表等工具,满足用户多种业务需求.结合阿里巴巴多年内部应用和数据库的迁移经验,自主研发的应用和数据迁移评估工具 ADAM,能帮助用户最大限度...
来自: 解决方案
数据库灾备解决方案
对于大多数企业,制定数据库灾备方案是一件非常有挑战的事情。根据企业所在行业、合规要求、数据规模、RPO/RTO要求的不同,数据库灾备目的和要求各不相同,投入成本也是不同的。数据库灾备解决方案提供实时数据备份能力,满足企业备份多样化选择
阿里双11增量数据流技术,提供实时数据备份能力,通过数据库备份DBS(冷备)或者数据传输DTS(热备)构建备份中心。当业务中心故障时,将业务流量切换到本地数据中心、或者备份中心.数据库灾备架构.实时备份,RPO达到秒级.表级恢复,故障恢复时间大大缩短.长期归档,自动管理备份生命周期.异地灾备,构建数据库备份中心.本...
来自: 解决方案
数据库安全解决方案
通过云数据库原生安全能力,数据管理DMS和数据备份DBS,构建云上三位一体的完整数据库安全解决方案
安全体系涵盖数据传输安全,权限隔离安全,持久化存储安全和访问审计能力,提供全链路全方位的安全防护.云数据库原生安全能力.在企业内部数据库访问场景中,存在大量人员用数据库账号密码直连数据库,业务敏感数据泄露、人为慢查询拖垮数据库的情况;另外,由于企业人员的频繁流动离职转岗等问题的存在,安全合规上需要定期...
来自: 解决方案
基于Flink+ClickHouse构建实时游戏数据分析
基于Flink+ClickHouse构建实时游戏<em>数据</em>分析
在互联网、游戏行业中,常常需要对用户行为日志进行分析,通过数据挖掘,来更好地支持业务运营,比如用户轨迹,热力图,登录行为分析,实时业务大屏等。当业务数据量达到千亿规模时,常常导致分析不实时,平均响应时间长达10分钟,影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据,实现秒级响应的实时用户行为分析,并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析,得到用户特征和画像,实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓,对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能,千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高,支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用,免运维,全球多Region部署,快速支持新游戏开服。 Flink+ClickHouse+QuickBI
本实践介绍如何快速收集海量用户行为 ,实现秒级响应的实时用户行为分析,并 通过实时流计算、云数据库 ClickHouse等 技术进行深入挖掘和分析,得到用户特征和 画像,实现个性化系统推荐服务。产品列表 最佳实践频道 阿里云最佳实践分享群 专有网络 VPC 弹性公网 IP EIP 云服务器 ECS 消息队列 Kafka版 云数据库 ...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,实时计算,Quick BI,消息队列 Kafka 版,云数据库 ClickHouse
专有云敏捷版
专有云敏捷版为云化各阶段客户提供大数据、数据库、云原生Paas三大优势场景的轻量化产品组合,支持与阿里云公共云、企业版形成一朵云,构建中心+分支的多级云平台。
政务中台将数据服务整合拉通,信息做到共享,群众少填报、工作人员少审核,让数据多跑,提高了政务服务的效率和群众满意度.云原生能力:基于敏捷版平台构建云原生容器服务、云原生中间件.企业级容器平台:作为政务“复杂业务系统”的交付底座.企业级分布式应用服务:实现云原生应用管理和监管控三位一体,保障业务线上...
来自: 云产品
企业级分布式数据库解决方案
企业级分布式数据库解决方案挂载管理多个云数据库 RDS for MySQL,可线性提升数据存储容量及并发吞吐。为企业级客户提供弹性、稳定、高效的企业级分布式关系型数据库解决方案。
根据您提交的需求,将有售前专家免费服务!根据您提交的需求,将有售前专家免费服务!售前专家免费服务.PolarDB-X 全新升级.通过阿里云云原生分布式数据库 PolarDB-X 1.0 挂载管理多个云数据库 RDS for MySQL,可线性提升数据存储容量及并发吞吐。...数据传输DTS.数据管理DMS.企业级分布式数据库解决方案.
来自: 解决方案
云数据库Redis
云数据库 Redis 版是一种全托管、兼容Redis协议的内存数据库服务,包含社区版Redis和企业版Tair,支持主从、集群和读写分离架构,具备低延迟、大吞吐、弹性扩缩容的特点。Tair提供多种系列满足不同场景的性价比要求,更有全球多活、数据闪回、大热Key探测与优化、丰富的数据结构,赋能大规模高性能要求的在线数据业务。
特步通过全渠道Tair方案支撑千家门店十万的QPS,提升客户数据链路的时效性和客户业务系统的吞吐能力.Tair集群提供超过千万的高QPS,毫秒级延迟,助力客户轻松应对双11、618等大促时期的高并发流量,提升数据库性能.Tair专属集群单实例顺利支撑峰值1200MB/s的消息传输,并做到无消息丢失,直播效果更佳流畅,质量也更...
来自: 云产品
< 1 2 3 4 >
共有4页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用