大数据近实时数据投递MaxCompute
大数据近<em>实时</em>数据投递MaxCompute
本文介绍离线大数据场景使MaxCompute构建云 上近实时数仓,打通云下数据上云链路,解决数据复杂类型支持和动态分区问题,满足高级数据处理需求的最佳实践。 l混合云环境下,现有业务系统零改造,打通数据上云链路。 l使用UDF实现复杂数据类型转换和数据动态分区。 l使用DataWorks配置周期调度业务流程,数据自动入仓。 l借助MaxCompute优化计算引擎,实现降本增效。 产品列表 云服务器ECS 专有网络VPC 访问控制RAM 数据总线DataHub E-MapReduceEMR DataWorks 大数据计算服务MaxCompute
大数据近实时数据投递 MaxCompute 最佳实践 业务架构 最佳实践 解决问题 场景描述 混合云环境下,现有业务系统零改造,打通数据 本文介绍离线大数据场景使用 MaxCompute构建云 上云链路。上近实时数仓,打通云下数据上云链路,解决数据复 使用 UDF实现复杂数据类型转换和数据动态分 杂类型支持和动态分区问题,满足高级数据...
来自: 最佳实践 相关产品:块存储,专有网络 VPC,云服务器ECS,访问控制,E-MapReduce,DataWorks,大数据计算服务 MaxCompute,数据总线,云速搭CADT
基于Flink+ClickHouse构建实时游戏数据分析
基于Flink+ClickHouse构建<em>实时</em>游戏数据分析
在互联网、游戏行业中,常常需要对用户行为日志进行分析,通过数据挖掘,来更好地支持业务运营,比如用户轨迹,热力图,登录行为分析,实时业务大屏等。当业务数据量达到千亿规模时,常常导致分析不实时,平均响应时间长达10分钟,影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据,实现秒级响应的实时用户行为分析,并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析,得到用户特征和画像,实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓,对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能,千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高,支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用,免运维,全球多Region部署,快速支持新游戏开服。 Flink+ClickHouse+QuickBI
可视化仪表板.69 文档版本:20201224 V 基于 Flink+ClickHouse构建实时游戏数据分析 最佳实践概述 最佳实践概述 业务场景 互联网、游戏中的用户行为频繁且较复杂,系统上线运行一段时间后,可以收集到大 量的用户行为数据,特别是一些爆款游戏,在业务高峰,能达到每小时 200亿以上 的用户行为数据写入速度。本实践将模拟...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,实时计算,Quick BI,消息队列 Kafka 版,云数据库 ClickHouse
开源Flink迁移实时计算Flink全托管版最佳实践
开源Flink迁移<em>实时</em>计算Flink全托管版最佳实践
本方案介绍如何将自建开源Flink集群的流式任务(包含Datastream、Table/SQL、PyFlink任务)迁移至阿里云实时计算全托管版。
开源 Flink迁移实时计算 Flink全托管版 最佳实践 业务架构 场景描述 解决的问题 Flink全托管产品(Flink Serverless)是一款基于 Flink各类任务如何迁移 Apache Flink 构建的全托管产品,为您提供全托 数据准确性如何校验 管一站式的实时计算服务,具有免运费、高增值、业务稳定性如何验证 低成本等特性。本方案介绍如何将...
来自: 最佳实践 | 相关产品:专有网络 VPC,云数据库RDS MySQL 版,E-MapReduce,实时计算,消息队列 Kafka 版,云速搭CADT
机场视频监控
机场视频<em>监控</em>
场景描述 该最佳实践适用于国内机场的视频监控行业,将线下视频文件通过混合云阵列缓存后,通过专线上传到阿里云OSS上。 也适用于其他混合云场景中,利用阵列缓存文件,并通过网络传输到阿里云OSS上的场景。 解决问题 1.通过混合云阵列+专线将线下文件传到阿 里云OSS上 2.通过阿里云OSS跨区域复制功能实现异 地文件备份 3.通过OSS的自动生命周期管理功能实现 文件生命周期管理 产品列表 OSS对象存储 混合云阵列 高速通道(专线)
2017.10.1执行的《民用运输机场安全保卫设施》(MH/T7003-2017)做了如下要求:要求新、改、扩建视频监控系统应采用高清摄像机;通常至少,码流。1.1080P 4Mb/s 2.要求视频监控系统要符合GB/T28181《安全防范视频监控联网系统信息传输、交换、控制技术要求》,包 括停车场区域也要实现联网整合;摄像头要支持ONVIF协议。3....
来自: 最佳实践 | 相关产品:对象存储 OSS,高速通道,混合云存储阵列 Hybrid Cloud
终端访问控制系统UEM
阿里云终端访问控制系统UEM是以网络安全准入、终端安全管理、应用管理为基础的远程办公零信任解决方案产品,帮助用户构建安全、高效、易用的远程办公能力,支持基于多因素动态安全分析及准入,支持全终端类型全生命周期的管理能力
可记录入网行为,包括人员、终端、时间、入网方式等信息,实现对网络准入状态的实时监控.终端访问控制,无论是有线、WiFi还是VPN,提供最优的入网体验.远程办公一键安全入网.可实现对Windows以及macOS平台的应用分发,支持静默或用户通知安装,支持分批定时启动分发任务.摆脱投屏连接线的束缚,实现一键无线投屏,提供更优...
来自: 云产品
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
可观测可视化 Grafana 版免费试用作为云原生数据可视化与告警工具,可观测可视化 Grafana 版支持多种数据源接入,提供丰富的图表类型和自定义选项,以及强大灵活的的告警能力,为运维监控、经营分析、汇报展示等不同场景的数据查询、可视化、告警需求。可观测链路 OpenTelemetry 版兼容开源标准的应用性能监控和分布式链路...
来自: 云产品
云上高并发系统改造
云上高并发<em>系统</em>改造
场景描述 随着业务的发展,系统并发压力越来越大,如何 进行系统改造以满足高并发场景的业务需求成 为了一个技术难题。本实践抽象于客户的实际场 景,提供高并发下系统改造的理论指导和部分实 操演示。主要适用于以下场景: 1.系统并发压力大,需要进行系统应用改造。 2.数据层并发压力大,需进行分库分表改造。 3.数据库数据量巨大,亟待分库分表解决查询 和写入瓶颈的场景。 方案优势/解决问题 1.在水平扩展阶段,我们除了通过SLB做负载 均衡外,我们可以通过SLB下挂nginx的方 式,增加负载均衡侧的可扩展性 2.在数据库拆分阶段,在做好数据规划后,我 们借助DTS进行数据迁移,通过DRDS将 RDS MySQL的数据拆分到多个分库和分 表中。 产品列表 专用网络VPC 负载均衡SLB 云服务器ECS 数据库RDSMySQL 数据传输服务DTS PrivateZone 分布式关系型数据库DRDS
基于阿里云分布式文件系统和 SSD盘高性能存储,RDS 支持 MySQL、SQL Server、PostgreSQL、PPAS和 MariaDB引擎,提供了容 文档版本:20220506(发布日期)III 云上高并发系统改造 前言 灾、备份、恢复、监控、迁移等方面的全套解决方案,彻底解决数据库运维的 烦恼。更多信息,请参见:...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,数据传输,云解析 PrivateZone,云原生分布式数据库PolarDB-X,云速搭CADT
基于日志服务构建业务可观测性系统
基于日志服务构建业务可观测性<em>系统</em>
现在已知的各种监控数据的工具,以及对应的监控系统有非常多的选择,比如ZABBIX,Prometheus,Skywalking等。但是这些系统都存在同样的一个问题,只覆盖了可观察性的一部分,举个简单的类比,大家在日常开车的过程中,会用到很多的辅助设备,仪表盘,行车记录仪,导航,倒车影像等等,这些设备都各自承载了一部分的功能,但是都存在着如下的问题: l 数据覆盖不完整 l 存在数据孤岛(无法关联协同) l 使用门槛高,不够人性化 核心价值 l 全覆盖,统一协议,支持各类平台。 l 数据关联,统一Schema,关联Metrics/Logs。 l 云原生,SaaS服务,拥抱云原生。 l 简单易用,自动化埋点,数十项易用功能。 智能化,异常诊断,根因分析。
基于日志服务构建业务可观察性系统 部署架构 场景描述 现在已知的各种监控数据的工具,以及对应的 控系统有非常多的选择,比如 ZABBIX,Prometheus,Skywalking等。但是这些系统都存 在同样的一个问题,只覆盖了可观察性的一部分,举个简单的类比,大家在日常开车的过程中,会用 到很多的辅助设备,仪表盘,行车记录仪,...
来自: 最佳实践 | 相关产品:云服务器ECS,容器服务 ACK,日志服务(SLS)
Function Compute构建高弹性大数据采集系统
Function Compute构建高弹性大数据采集<em>系统</em>
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中,对数据进行处理、分析,形成业务闭环。比如游戏行业中的游戏发行、游戏运营,产互行业中的数字营销,物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点,给整个数据采集传输系统带来很大的挑战。在这个场景中,有三个关键的环节,数据采集、数据传输、数据处理。该最佳实践主要涉
性能压测.51 文档版本:20210806(发布日期)1 Function Compute构建高弹性大数据采集系统 最佳实践概述 最佳实践概述 概述 当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类 服务中,对数据进行处理、分析,形成业务闭环。比如游戏行业中的游戏发行、游 戏运营,产互行业中的数字营销,...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,日志服务(SLS),函数计算,消息队列 Kafka 版,云速搭CADT
函数计算实现弹性音视频处理系统
函数计算实现弹性音视频处理<em>系统</em>
场景描述 本示例通过函数计算部署一个高弹性高可用的 音视频处理系统。尤其适合视频网站使用,每天 有大量的上传视频,需要及时转码处理以适配各 种终端及网络条件,要求短时间内准备大量的计 算资源进行大规模并行转码处理,同时希望基于 FFmpeg自建的转码服务能简单迁移。 解决问题 1.如何使用函数计算部署音视频处理系统。 2.如何进行系统的压测。 产品列表 函数计算服务 文件存储NAS 对象存储OSS 函数工作流FnF 日志服务SLS
这使您的函数可以像访问本地文件 一样编写访问存储在其中一个 NAS 文件系统上的文件。详见 https://cn.aliyun.com/product/nas 对象存储 OSS:海量、安全、低成本、高可靠的云存储服务,提供 99.9999999999%的数据可靠性。使用 RESTful API 可以在互联网任何位置存储和访问,容量和处 理能力弹性扩展,多种存储类型供...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,文件存储NAS,日志服务(SLS),Serverless 工作流
E-MapReduce Serverless StarRocks 版
E-MapReduce Serverless StarRocks版简称EMR StarRocks,是阿里云提供的全托管服务,内核100%兼容StarRocks,性能比传统OLAP引擎提升3-10倍,助力企业高效构建湖仓分析、高并发查询及实时分析等大数据应用。
全托管免运维,极大降低运维成本及使用的复杂度,开箱即用,提供弹性伸缩、可视化监控运维、SQL Editor 及慢 SQL 分析等能力.企业级运维及易用性.兼容 MySQL 协议,兼容多种 BI 报表工具,与 DLF、Flink VVP、MaxCompute 等阿里云产品深度集成,与 OSS 集成构建存算分离架构.兼容开源生态.本文通过示例介绍如何基于 EMR ...
来自: 云产品
云数据库 RDS MySQL 版
阿里云云数据库RDS MySQL是一种稳定可靠、可弹性伸缩的在线MySQL数据库服务, 提供了高可用、高可靠、高安全、易运维等一站式的数据库解决方案,帮助您免除MySQL运维的烦恼。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台云数据库 RDS MySQL 版产品简介产品优势产品功能产品选型入门与试用技术解决方案产品定价安全合规客户案例常见问题社区云数据库 RDS MySQL 版稳定可靠、可弹性伸缩的在线 MySQL 数据库服务,帮助您免除 MySQL 运维的烦恼。立即购买免费试用...
来自: 云产品
视频直播
阿里云视频直播服务(ApsaraVideo Live)是基于领先的内容接入与分发网络和大规模分布式实时流媒体转码技术打造的直播平台,提供便捷接入、高清流畅、低延迟、高并发的音视频云高清直播直播服务。
秒级全链路监控实时获知直播动态;多源合流方案,保障直播稳定。产品功能多元融合流媒体网络通信级流媒体传输网络,流媒体动态智能选路和Qos抗弱网能力,支持RTMP、RTP、SRT、QUIC、Web RTC等多种协议接入,服务标准直播、超低延时直播、互动直播多业务场景。直播转码覆盖主流直播转码格式,提供专业和高可定制的转码模板...
来自: 云产品
车辆数据安全稳定上云和分析
阿里云物联网平台提供全托管的企业级实例服务,无需自建物联网基础设施即可实现车辆数据的安全稳定上云。
产品解决方案文档与社区权益中心定价云市场合作...方案介绍车辆数据安全稳定上云和分析车辆通过物联网卡将数据上传到云端(端侧可选择集成由物联网无线连接服务提供的网络聚合算法SDK),车辆直接上报或聚合后的数据会流转到物联网平台尊享型实例中,提供SLA为99.99%的双副本容灾保障,出现故障秒级切流分钟级恢复...
来自: 解决方案
传统企业业务上云基础安全防护
传统企业业务上云基础安全防护
场景描述 越来越多的企业客户选择把自己的生产系统部 署在公共云平台上,以满足自身业务的发展及弹 性扩缩容、稳定性等方面的需求。如何在公共云 上构建基本的网络安全、主机安全、入侵检测、 运维审计等方案,是企业首选的最佳实践。 解决问题 1.服务器安全、应用安全 2.网络安全、数据安全 3.安全审计、安全管理 产品列表 云安全中心 Web应用防火墙 云防火墙 SSL证书 数据库审计 堡垒机
可以监控系统性能、控制 网络配置、管理系统升级和系统安全管理。 审计管理员:是针对本系统执行审计管理操作。其中,系统管理员和系统审计员需要由安全管理员开通,且只能通过数据库审计实例 的公网IP地址访问系统。步骤1 单击实例下的配置,在公网访问控制选择白名单访问模式,在配置白名单里填入本机 IP。文档版本:...
来自: 最佳实践 | 相关产品:云安全中心,Web应用防火墙,数据库审计,堡垒机,云防火墙,云速搭CADT
计算巢服务
阿里云计算巢服务是一个面向ISV、SI、MSP和开发者的云集成PaaS平台,方便服务商更好的将产品、服务集成,借助云原生的能力提升软件服务交付、部署及后续管理。
追溯和审计能力:提供操作系统运维录屏,保留运维现场,提升服务可信度。运维操作记录存档可追溯,安心服务无纠纷。客户案例“计算巢的自动化交付完美的解决了在给客户交付过程中云资源采购及系统部署方面难沟通、易出错的问题,过程操作变得简单;另一方面,计算巢代运维能力有效的解决了跨账号运维客户基础组件的安全性...
来自: 云产品
医院互联网安全解决方案
医院互联网安全解决方案提供数据备份和恢复,强化网络访问控制,帮助医疗机构划分安全区域,加强对网络的访问控制。定期安全测试,发现安全漏洞,减少可能被利用入侵的突破口。建立全局的外部威胁和情报感知能力,能够及早发现潜在的威胁。
云服务器自动宕机迁移,云监控实时监控系统性能并以多种方式及时通知运维人员,最大程度的保障系统的高可用。云数据库采用主从热备的架构,主实例不可用,系统会自动将数据库连接切换至备实例。对象存储数据自动多重冗余备份,数据持久性不低于99%.DevOps支持业务快速创新,技术推动业务发展。互联网医疗业务不断前行,...
来自: 解决方案
高性能计算存储解决方案
基于阿里云强大的存储产品能力,助力AI、基因、自动驾驶、天文和能源等行业打造高性能计算平台。
提供日志实时监控和告警能力,支持性能在线弹性扩展,便于日常系统运维管理.\\u00A0\\u00A0高性能:\\u00A0卓越的元数据管理、适配高性能计算的专业定制客户端、文件系统负载均衡读写\\u00A0\\u00A0\\u00A0•高可用:支持三副本和EC等冗余方式;具备快照、同步/异步复制、日志监控和数据修复能力,保证数据安全可靠\\u00...
来自: 解决方案
阿里云时序时空数据库TSDB
时序时空数据库 ( Time Series and Spatial-Temporal Database , 简称 TSDB) 是一种集时序数据高效读写,压缩存储,实时计算能力为一体的数据库服务,可广泛应用于物联网和互联网领域,实现对设备及业务服务的实时监控,实时预测告警。
全面监控运维.零距离接触Lindorm TSDB技术-深度解析.零距离接触Lindorm TSDB技术-深度解析.购买TSDB.购买InfluxDB.零距离接触TSDB技术-深度解析.购买TSDB.购买InfluxDB.零距离接触Lindorm TSDB技术-深度解析.零距离接触TSDB技术-深度解析.时间序列数据库 Lindorm TSDB.阿里云时间序列数据库(Lindorm Time Series Database,...
来自: 云产品
< 1 2 3 4 ... 12 >
共有12页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用