实时计算Flink版
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,具备实时应用的作业开发、数据调试、运行与监控、自动调优、智能诊断等全生命周期能力。内核引擎100%兼容Apache Flink,2倍性能提升,拥有FlinkCDC、动态CEP等企业级增值功能,内置丰富上下游连接器,助力企业构建高效、稳定和强大的实时数据应用。
钱大妈风控业务架构,主要由事件接入,风险应对,风险感知,风险回溯四个部分构成,阿里云实时计算Flink版产品在线ETL加工实时用户画像标签和销售事实指标,为钱大妈实时规则引擎的事件接入提供了重要的数据源支持。该风控技术方案已应用于钱大妈集团业务中,准确识别营销活动风险点,为用户利益保驾护航.查看案例详情.易仓...
来自: 云产品
开源Flink迁移实时计算Flink全托管最佳实践
开源Flink迁移<em>实时计算Flink</em>全托管<em>版</em>最佳实践
本方案介绍如何将自建开源Flink集群的流式任务(包含Datastream、Table/SQL、PyFlink任务)迁移至阿里云实时计算全托管版。
文档版本:20211222 8 开源 Flink迁移实时计算Flink全托管版 基础环境搭建 1.1.2.Flink集群资源评估 阿里云实时计算 Flink版产品按照 CU 计费,1CU=1Core+4G MEM,参考产品官 方介绍,每个计算 的 CU 节点每秒钟处理能力如下:简单作业(指仅仅进行数据同步,或者在数据同步中涉及一些简单的过滤清洗)1.每个计算 CU 可处理 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云数据库RDS MySQL 版,E-MapReduce,实时计算,消息队列 Kafka 版,云速搭CADT
基于Flink+ClickHouse构建实时游戏数据分析
基于<em>Flink</em>+ClickHouse构建<em>实时</em>游戏数据分析
在互联网、游戏行业中,常常需要对用户行为日志进行分析,通过数据挖掘,来更好地支持业务运营,比如用户轨迹,热力图,登录行为分析,实时业务大屏等。当业务数据量达到千亿规模时,常常导致分析不实时,平均响应时间长达10分钟,影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据,实现秒级响应的实时用户行为分析,并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析,得到用户特征和画像,实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓,对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能,千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高,支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用,免运维,全球多Region部署,快速支持新游戏开服。 Flink+ClickHouse+QuickBI
产品列表 最佳实践频道 阿里云最佳实践分享群 专有网络 VPC 弹性公网 IP EIP 云服务器 ECS 消息队列 Kafka版 云数据库 ClickHouse 实时计算 Flink版 如二维码过期,Quick BI数据可视化分析平台 请搜索群号:31852400 云服务器 ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 基于 Flink+ClickHouse 构建实时游戏...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,实时计算,Quick BI,消息队列 Kafka 版,云数据库 ClickHouse
云速搭部署Flink应用
云速搭部署<em>Flink</em>应用
本水煎通过云速搭实现一个DataHub+Flink的实时流计算引擎架构,利用DataHub收集原始数据,推送到Flink进行基于流式数据的分析和应用。
详见:https://www.aliyun.com/product/vpc 实时计算 Flink 实时计算 Flink (Alibaba Cloud Realtime Compute for Apache Flink,Powered by Ververica)是阿里云基于 Apache Flink 构建的企业 级、高性能实时大数据处理系统,由 Apache Flink 创始团队官方出品,拥有全球 统一商业化品牌,完全兼容开源 Flink API,...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,实时计算,数据总线,云速搭CADT
基于DataWorks的大数据一站式开发及数据治理
基于DataWorks的大数据一站式开发及数据治理
概述 基于Dataworks做大数据一站式开发,包含数据实时采集到kafka通过实时计算对数据进行ETL写入HDFS,使用Hive进行数据分析。通过Dataworks进行数据治理,数据地图查看数据信息和血缘关系,数据质量监控异常和报警。 适用场景  日志采集、处理及分析  日志使用Flink实时写入HDFS  日志数据实时ETL  日志HIVE分析  基于dataworks一站式开发  数据治理 方案优势  大数据一站式开发,完善的数据治理能力。  性能优越:高吞吐,高扩展性。  安全稳定:Exactly-Once,故障自动恢复,资源隔离。  简单易用:SQL语言,在线开发,全面支持UDX。  功能强大:支持SQL进行实时及离线数据清洗、数据分析、数据同步、异构数据源计算等Data Lake相关功能 ,以及各种流式及静态数据源关联查询。
文档版本:20201020 14 基于 Dataworks的大数据一站式开发及数据治理 基础环境搭建 步骤4 输入实时计算引擎和 EMR相关配置,创建工作空间。步骤5 对于已经创建的项目也可以在工作工具配置中配置计算引擎。文档版本:20201020 15 基于 Dataworks的大数据一站式开发及数据治理 基础环境搭建 文档版本:20201020 16 基于 ...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,E-MapReduce,DataWorks,实时计算,云速搭
利用交互式分析(Hologres)进行数据查询
利用交互式分析(Hologres)进行数据查询
场景描述:随着收集数据的方式不断丰富,企业信息化 程度越来越高,企业掌握的数据量呈TB、 PB或EB级别增长。同时,数据中台的快 速推进,使数据应用主要为数据支撑、用户 画像、实时圈人及广告精准投放等核心业务 服务。高可靠和低延时地数据服务成为企业 数字化转型的关键。 Hologres致力于低成本和高性能地大规模 计算型存储和强大的查询能力,为您提供海 量数据的实时数据仓库解决方案和实时交 互式查询服务。 解决问题 1.加速查询MaxCompute数据 2.快速搭建实时数据仓库 3.无缝对接主流BI工具 产品列表 MaxCompute Hologres 实时计算Flink 专有网络VPC DataWorks DataV
实时计算 阿里云实时计算Flink版(,PoweredbyVerverica)是阿里云基于ApacheFlink构建的企业级、高性能实时大数 据处理系统,由ApacheFlink创始团队官方出品,拥有全球统一商业化品牌,完全 兼容开源FlinkAPI,提供丰富的企业级增值功能。选型建议:7 文档版本:20240425利用交互式分析工具进行数据查询 产品简介 Flink...
来自: 最佳实践 | 相关产品:大数据计算服务 MaxCompute,DataV数据可视化,实时计算,Hologres,云速搭CADT
大数据workshop
大数据workshop
大数据workshop
阿里云技术框架 阿里云产品 简介 类比 ECS 弹性计算服务器 Linux服务器 RDS 关系型数据库 自有 MySQL服务器 DataHub 数据总线 Kafka+各种服务接口 实时计算 Flink版 实时计算 Spark、Flink MaxCompute-Hologres 交互式查询分析产品 PostgreSQL 文档版本:20210628(发布日期)3 阿里云最佳实践大数据 WorkShop 最佳实践方案...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
金融专属大数据workshop
金融专属大数据workshop
实践目标 学习搭建一个实时数据仓库,掌握数据采集、存储、计算、输出、展示等整个业务流程。 整个实时数据仓库系统全部基于阿里云产品进行架构搭建,用户可以掌握并学会运用各个服务组件及各个组件之间如何联动。 理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方法。 前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解
阿里云技术框架 阿里云产品 简介 类比 ECS 弹性计算服务器 Linux服务器 RDS 关系型数据库 自有MySQL服务器 DataHub 数据总线 Kafka+各种服务接口 实时计算Flink版 实时计算 Spark、Flink Dataworks 一站式数据开发平台 目前没有 Hologres 交互式查询分析产品 PostgreSQL DataV 可视化数据展示工具 Tableau、Echarts、Kibana...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
基于OSS Object FC实现非结构化文件实时处理最佳实践
基于OSS Object FC实现非结构化文件<em>实时</em>处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中,以图片,视频,音频居多。举一个图片处理的场景,现在各种终端种类繁多,不同的终端对图片的格式、分辨率要求也不同,所以一张图片往往会有很多张衍生图,那如果所有的衍生图都存在OSS中,那存储的成本会增加,所以就可以通过OSS Object FC的方案,在不同的终端请求时,对OSS中的原图基于终端的要求做实时处理,然后响应返回,这样OSS中只需要存储原图即可。音视频也有类似的场景。
比如请求时实时加水印、 美颜处理、实时裁剪图片、实时截帧等。部署架构 名词解释  OPAP(ObjectProcessAccessPoint):是在AP的能力上,拓展了FC功能,通过OPAP访问 的GetObject会触发FC。其他类型的请求会退化到绑定的AP。文档版本:20240304 4基于OSSObjectFC实现非结构化文件实时处理最佳实践 最佳实践概述  AP...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
大数据近实时数据投递MaxCompute
大数据近<em>实时</em>数据投递MaxCompute
本文介绍离线大数据场景使MaxCompute构建云 上近实时数仓,打通云下数据上云链路,解决数据复杂类型支持和动态分区问题,满足高级数据处理需求的最佳实践。 l混合云环境下,现有业务系统零改造,打通数据上云链路。 l使用UDF实现复杂数据类型转换和数据动态分区。 l使用DataWorks配置周期调度业务流程,数据自动入仓。 l借助MaxCompute优化计算引擎,实现降本增效。 产品列表 云服务器ECS 专有网络VPC 访问控制RAM 数据总线DataHub E-MapReduceEMR DataWorks 大数据计算服务MaxCompute
MaxCompute支持 SQL、MapReduce、UDF(Java/Python)、Graph、基于 DAG的处理、交互式、内存计算、机器学习等 类型及 MPI迭代类算法。大幅简化了企业大数据平台的应用架构,具有强数据安 全、低成本、免运维、极致弹性扩展等特点。MaxCompute已与数据集成、DataWorks、QuickBI、机器学习 PAI、ADB、推荐引擎、移动数据...
来自: 最佳实践 | 相关产品:块存储,专有网络 VPC,云服务器ECS,访问控制,E-MapReduce,DataWorks,大数据计算服务 MaxCompute,数据总线,云速搭CADT
实时数仓Hologres
Hologres(原交互式分析)是一站式实时数据仓库引擎,支持海量数据实时写入、实时更新、实时分析,支持标准SQL(兼容PostgreSQL协议),支持PB级数据多维分析(OLAP)与自助分析(Ad Hoc),支持高并发低延迟的在线数据服务(Serving),与MaxCompute、Flink、DataWorks深度融合,提供离在线一体化全栈数仓解决方案。
以Hologres行存表替换HBase,Flink实时关联Hologres维表,实时生成用户标签,助力业务实时运营决策,实时用户触达和推荐.实时业务推荐.标准SQL语法,充分支持精细化运营复杂多维分析诉求,数据加工延迟从3小时加速到实时,多表关联join秒级返回,流量匹配效率提升300%.灵活多维分析.Flink+Hologres一套架构支持多种业务场景...
来自: 云产品
云原生大数据计算服务MaxCompute
阿里云云原生大数据计算服务MaxCompute是面向分析的企业级云数仓,作为一体化大数据智能计算平台ODPS的大规模批量计算引擎,MaxCompute以 Serverless 架构提供快速、全托管的在线数据仓库服务,使您经济高效的分析处理海量数据,进行敏捷的业务洞察。
实时计算Flink版.推荐搭配使用.在云计算、大数据时代,数据仓库的重要性毋庸置疑,其建设也在不断的进化中。某知名新零售客户在横向对比之后,毅然决定基于MaxCompute强大的计算能力进行数据仓库的建设.第一阶段通过DataX和Tunnel向MaxCompute同步数据.第二阶段通过内部产品打通在DataWorks进行同步和数据清洗.DataWorks...
来自: 云产品
日志服务sls
日志服务(Log Service,简称Log)是针对实时数据一站式服务,在阿里集团经历大量大数据场景锤炼而成。无需开发就能快捷完成数据采集、消费、投递以及查询分析等功能,帮助提升运维、运营效率,建立DT时代海量日志处理能力。
与各种实时计算及服务实时对接,并可以实现自定义消费。支持数据投递至存储类服务,支持压缩、自定义Partition以及行列等各种存储格式.PB级容量设计,根据流量变化自动弹性伸缩,提供任务状态监控及异常告警.开箱即用免运维,无需编写代码,仅需控制台简单配置即可完成任务配置.提供20+种数据对接手段,无缝对接主流(Flink...
来自: 云产品
CDN
阿里云内容分发网络CDN(全称Content Delivery Network)将源站内容分发至全国所有的节点,缩短用户查看资源的延迟,提高用户访问网站的响应速度与网站的可用性,解决源站带宽小、用户访问量大、网点分布不均等问题。
边缘节点服务(Edge Node Service,ENS)基于运营商边缘节点和网络构建,一站式提供“融合、开放、联动、弹性”的分布式力资源,帮助用户业务下沉至运营商侧边缘,有效降低计算时延和成本.ENS-全覆盖、易接入的弹性边缘基础设施.边缘网络加速服务(Edge Network Acceleration)基于阿里云广泛分布的边缘计算节点及运营商...
来自: 云产品
云原生数据库
PolarDB是阿里云自研的云原生数据库,在存储计算分离架构下,利用了软硬件结合的优势,为用户提供秒级弹性、高性能、海量存储、安全可靠的数据库服务。100%兼容MySQL和PostgreSQL生态,支持分布式扩展,高度兼容Oracle语法。
深度集成达摩院时空数据存储计算引擎Ganos,为PolarDB数据库添加时空数据存储、管理、索引、计算能力.高效的海量时空数据存储计算能力.PolarDB PostgreSQL .PolarDB 分布式标准.与MySQL完全兼容,采用一主一备一日志的Paxos多副本架构,规格丰富,性价比高。提供平滑迁移到企业能力.PolarDB 分布式企业.计算...
来自: 云产品
全站加速DCDN
阿里云全站加速旨在提升动静态资源混合站点的访问体验,支持静态资源边缘缓存,动态内容最优路由回源传输,同时满足整体站点的全网访问速度及稳定性需求。全站加速构建于阿里云CDN平台之上,适用于动静混合型、纯动态型站点或应用的内容分发加速服务。
独有的频次控制引擎,可基于默认策略或自定义策略进行恶意流量拦截,保证业务流畅性,有效防护CC攻击.保护网站内容不被篡改.使用HTTPS构建从用户到DCDN、从DCDN到源站的全链路安全传输,有效防止HTTP明文传输中的窃听、篡改、冒充和劫持风险.HTTPS加密传输.支持基于BABASSL标准的国密算法加密机制,支持SM2(椭圆曲线公钥...
来自: 云产品
离线实时一体化数仓
将OLAP分析、即席分析、在线服务等多个系统统一, 能够极大简化数仓架构,并实现一份数据、多种查询分析与服务,为企业大数据平台降本提效。
相关产品云原生大数据计算服务 MaxCompute实时数仓 Hologres实时计算 Flink版DataV 数据可视化在线咨询方案优势简化数仓架构将原先的OLAP系统与KV数据库/Serving系统统一在一个大数据计算引擎中,极大降低数据搬运与维护成本。强大的实时能力实时查询性能刷新TPC-H 30000GB世界纪录,1.3亿实时写入TPS,PB级数据亚秒级查询...
来自: 解决方案
Flink+Hologres搭建实时数仓
Flink+Hologres搭建实时数仓解决方案将Hologres与Flink深度集成,提供一体化的实时数仓联合解决方案,实现了数仓分层之间实时数据的高效流动,解决实时数仓分层问题。
相关产品实时计算 Flink 版实时数仓 Hologres云数据库 RDS MySQL 版专有网络 VPC在线咨询方案优势高性能Hologres与Flink原生深度集成,通过内置连接器,支持源表、结果表、维度表多种场景,支持宽表Merge、局部更新等操作,支持海量数据高性能的实时写入与更新,数据写入即可查询。高可用Hologres提供了主从多实例部署方式...
来自: 解决方案
基于Flink的资讯场景实时数仓
基于<em>Flink</em>的资讯场景<em>实时</em>数仓
场景描述 本实践针对资讯聚合类业务场景,Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
4.通过实时计算 Flink实现事件触发。最佳实践频道 阿里云最佳实践分享群 云服务器 ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 基于Flink的资讯场景实时数仓 最佳实践 文档版本:20220223(发布日期)文档版本:20150122(发布日期)I 基于 Flink的资讯场景实时数仓 文档版本信息 文档版本信息 文本信息 属性...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,NAT网关,云原生数据仓库AnalyticDB My,云速搭CADT
应用实时监控服务ARMS
作为云原生可观测平台,应用实时监控服务 ARMS 包含前端监控、应用监控、云拨测等模块。覆盖浏览器、小程序、APP、分布式应用、容器等不同可观测环境与场景。帮助企业实现全栈性能监控与端到端追踪诊断。提高监控效率,压降运维工作量。
支持汇总结果实时计算,延迟在一分钟以内.拓扑结果,可根据链路上报信息实时绘制而出,结果准确,真实反应情况.监控数据支持对接云监控进行报警.数据可对接 MaxCompute 进行数据挖掘.下游对接场景.系统层指标观测.如 CPU、内存、磁盘、I/O 等基础指标.多云、多集群指标观测.如阿里云集群容器集群、ECS 集群、非阿里云集群等...
来自: 云产品
< 1 2 3 4 ... 16 >
共有16页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用