Function Compute构建高弹性大数据采集系统
Function Compute构建高弹性大数据采集<em>系统</em>
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中,对数据进行处理、分析,形成业务闭环。比如游戏行业中的游戏发行、游戏运营,产互行业中的数字营销,物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点,给整个数据采集传输系统带来很大的挑战。在这个场景中,有三个关键的环节,数据采集、数据传输、数据处理。该最佳实践主要涉
性能压测.51 文档版本:20210806(发布日期)1 Function Compute构建高弹性大数据采集系统 最佳实践概述 最佳实践概述 概述 当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类 服务中,对数据进行处理、分析,形成业务闭环。比如游戏行业中的游戏发行、游 戏运营,产互行业中的数字营销,...
来自: 最佳实践 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,日志服务(SLS),函数计算,消息队列 Kafka 版,云速搭CADT
云数据库 Cassandra 版
Cassandra是连续9年DB-Engines排名第一的宽表数据库,支持类SQL语法CQL,开发体验类似MySQL,可扩展PB级存储。推出企业版Lindorm for Cassandra云原生多模数据库,采用存储计算分离架构,支持海量数据的低成本存储和按需付费,具备更高性价比和更为丰富的企业级功能。
不会因单节点故障而引发系统切换,导致卡顿、断等问题,保障业务连续性.Always Online,业务持续在线.-优异的高并发写性能,支持千万OPS读写能力,毫秒级低延迟.高吞吐、低延迟.-单个集群1节点起配,线性扩展,最大可扩展至500节点,及PB级存储容量。满足业务系统初期、中长期的不同规模及成本要求.起配门槛低,水平扩展...
来自: 云产品
新零售全渠道营销解决方案
新零售全渠道营销解决方案利用阿里云双中台能力,帮助线上线下多渠道企业打通商品、会员、库存等各类数据,通过数据挖掘对会员进行精准触达,并统一线上线下营销活动,防止渠道冲突。让终端用户对品牌认知统一,有更佳的购物体验。
基于物联网平台的IT+OT融合.统一入口和账户体系.帮助企业实现先“智人”后“智造”的转变.通过数据中台和业务中台打通企业内外的信息孤岛.快部署、快迭代、易运维的工业应用支撑业务和组织变化.新零售全渠道营销解决方案.可以解决的问题.根据您提交的需求,将有售前专家免费服务!根据您提交的需求,将有售前专家免费服务!...
来自: 解决方案
云原生内存数据库Tair
云原生内存数据库Tair是阿里云推出的,基于云原生架构的内存数据库,兼容Redis API,支持内存、持久内存、ESSD三种存储介质,并提供大量扩展型数据结构及企业级能力。
电商行业中如大型促销秒杀系统或者带有计数系统的库存系统系统整体访问压力巨大,云原生内存数据库Tair可轻松承载读压力,提供数据持久化.Tair多线程模型提供最高30万的QPS,满足高并发场景.提供定时快照RDB和附件文件AOF两种模式,保障数据持久化.Tair+RDS存储架构,缓存+持久化存储,提升数据库性能.优化存储架构.云...
来自: 云产品
云数据库RDS PostgreSQL
云数据库RDS PostgreSQL 版完全兼容开源PostgreSQL,基于云原生架构,软硬协同优化,提供稳定可靠、高性价比的数据库服务。通过丰富的插件拓展,支撑各领域场景化业务,如自研Ganos多维多模时空引擎及开源PostGIS地理信息引擎、向量引擎、时序引擎等百余款插件。
通过全文搜索,应用将不再需要额外搭建搜索引擎,只通过SQL操作即可实现全文检索(Full Text Search)及模糊查询.支持向量相似.支持pgvector(高维向量)、Smlar(文本相似)、Pase(高维向量模块)等插件,满足AIGC、图像识别、图像检索等场景需求.支持实时推荐.支持ltree(树模块)、varbitx(位图模块)、pg_roaringbitmap(高级位图...
来自: 云产品
云数据库Redis
云数据库 Redis 版是一种全托管、兼容Redis协议的内存数据库服务,包含社区版Redis和企业版Tair,支持主从、集群和读写分离架构,具备低延迟、大吞吐、弹性扩缩容的特点。Tair提供多种系列满足不同场景的性价比要求,更有全球多活、数据闪回、大热Key探测与优化、丰富的数据结构,赋能大规模高性能要求的在线数据业务。
智能运维:专业监控和数据管理平台,主动升级.SQL Server是发行最早的商用数据库产品之一,支持复杂的SQL查询,性能优秀,对基于Windows平台.NET架构的应用程序具有完美的支持.云数据库RDS SQL Server 版.高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求.云数据库 Redis 版.云...
来自: 云产品
全球加速 GA
阿里云全球加速GA(Global Accelerator)是一款覆盖全球的互联网加速服务,实现网络服务全球范围就近接入和跨地域部署。依托阿里云优质的全球网络大幅减少网络延迟、丢包,传输效率提升10+倍。在跨境加速/游戏加速/应用加速等场景中为用户构建一个高性能、高可靠、高安全、易部署的加速网络。
针对全球移动应用加速、中国制造企业海外物联网终端访问国内源站、中国电商企业海外用户访问国内服务等典型场景,加速全球应用传输,提升互联网应用体验.全球数据传输零丢包.应用体验提升.减少底层网络的运维和开发精力.应用开发简单.源站服务可以支持弹性扩缩.负载均衡SLB.DDoS防护.Web应用防火墙.推荐搭配使用.互联网应用...
来自: 云产品
蚂蚁链摩斯多方安全计算平台解决方案
蚂蚁链摩斯多方安全计算平台解决方案利用多方安全计算、隐私保护、区块链技术,打造数据安全共享的基础设施。解决企业之间数据合作过程中的数据安全和隐私保护问题,打通数据孤岛,将计算移动到数据端,达成数据可用不可见,安全促进业务创新。
图形化界面:操作门槛更低.Docker化部署,支持多种操作系统,支持主流数据源和数据服务,支持云及本地部署,机构可灵活投入硬件与计算资源.多样化部署:部署更轻量便捷.安全认证&行业标准.保护数据安全和模型安全,较单方数据建模预测能力提升20%~50%.远程测试、部署分布式策略,保证数据安全,提升风控能力.实现分布式安全...
来自: 解决方案
云原生数据仓库AnalyticDB PostgreSQL版
阿里云MPP架构的云原生数据仓库,可提供PB级海量数据在线/离线分析服务,是面向各行各业的有竞争力的数仓方案,真正做到“人人可用的数据分析服务”。
得益于云原生数据仓库AnalyticDB PostgreSQL版的OLAP数据综合分析能力,用户更可以实现基于地理信息的海量数据分析工作,为物联网、移动互联网、物流配送、智慧出行(智慧城市)、LBS位置服务、O2O业务系统等提供强大的决策分析支持.基于PostGIS,支持地理信息数据存储分析.地理信息数据分析.使用Ganos对时空数据进行管理和...
来自: 云产品
云消息队列 RocketMQ 版
云消息队列 RocketMQ 版是基于 Apache RocketMQ 构建的分布式消息中间件,广泛用于异步解耦、削峰填谷等场景。可支撑千万级并发、万亿级数据洪峰,更稳定,更安全。
支持开箱即的消息清洗、转化等后处理操作,可以实现消息导出存储到数据库、大数据、分析计算等下游产品.支持消息服务和数据同城多机房容灾,灾难场景自动切换,并保障状态一致.支持异地多机房消息容灾,支持按业务自定义标签进行收发流量调度.多样的企业级增强特性,从消息治理、流量调度、企业级容灾特性多方面提供开箱...
来自: 云产品
消息服务MNS
消息服务 MNS 是一款易集成、高并发、可弹性扩展的轻量消息队列服务。消息服务的轻量队列模型、按量后付费的计费模式、自动适应高并发的弹性可扩展能力,让开发者低成本快速构建分布式、松耦合系统,高效地传递数据和通知消息。
业务要求新增业务系统时,不会影响基础的技术架构改动,也不会影响其他系统间的正常运转.灵活适应业务的快速增长.云消息队列 MQ.云消息队列 Kafka.推荐搭配使用.交易系统解耦.交易系统解耦.满足业务在特殊时期,比如秒杀、抢红包、企业开门红等大型活动时皆会带来较高的流量脉冲,防止系统超负荷甚至崩溃,或请求大量失败...
来自: 云产品
云消息队列 Kafka 版
云消息队列 Kafka 版是阿里云基于Apache Kafka构建的大数据消息中间件,广泛用于日志收集和分析、数据处理等场景。可提供全托管服务,用户无需部署运维,更专业、更可靠、更安全。
淘宝、天猫平台等公司每天都会产生大量的日志。Kafka 性能高效,采集日志时业务无感知以及Hadoop/ODPS 等离线仓库存储和 Storm/Spark 等实时在线分析对接的特性决定它非常适合作为\\.构建应用系统和分析系统的桥梁,并将它们之间的关联解耦;应用与分析解耦.支持实时在线分析系统和类似于Hadoop之类的离线分析系统;在线/...
来自: 云产品
化工行业解决方案
化工行业解决方案借助工业大脑算法平台与知识图谱技术为客户建立大数据分析平台,实现:生产/控制参数优化,关键机组设备预防性维护,长输管线泄露预警,装置/全厂能源优化,产业链协同/供应链优化,产品质量预测,市场/消费者行为画像分析等。
依托阿里云强大的云计算、物联网与大数据技术,建立化工大数据平台,对于企业生产设备、运营的数据进行数据价值挖掘,帮助企业优化工艺,降低人力成本,提高生产安全.化工行业解决方案.对锅炉燃烧涉及的数百个变量间的逻辑关系做实时动态的参数综合分析,构建动态的燃煤优化模型,并根据燃烧场景实时分析最优组合参数,平均...
来自: 解决方案
数据库自治服务DAS
阿里云数据库自治服务(Database Autonomy Service,简称DAS)是一种基于机器学习和专家经验实现数据库自感知、自修复、自优化、自运维及自安全的云服务,帮助用户消除数据库管理的复杂性及人工操作引发的服务故障,有效保障数据库服务的稳定、安全及高效。
提供高危SQL识别、SQL注入检测、新增访问来源识别、敏感数据访问发现等服务,快速识别数据库异常访问、拖库等行为,有效保障数据库安全.SQL Server是发行最早的商用数据库产品之一,支持复杂的SQL查询,性能优秀,对基于Windows平台.NET架构的应用程序具有完美的支持.云数据库RDS SQL Server 版.高可靠双机热备架构及可无缝...
来自: 云产品
云原生分布式数据库PolarDB-X
阿里云云原生分布式数据库PolarDB-X(原DRDS升级版),可解决分库分表、海量数据存储、超高并发吞吐、复杂计算效率等问题。最高可支撑千万级并发和百PB级海量存储。
提供丰富的算法放置数据,将数据分散到多个存储节点,有效解决单表数据量膨胀问题.SQL Server是发行最早的商用数据库产品之一,支持复杂的SQL查询,性能优秀,对基于Windows平台.NET架构的应用程序具有完美的支持.云数据库RDS SQL Server 版.高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配...
来自: 云产品
新零售商超基于Serverless服务化改造
新零售商超基于Serverless服务化改造
某零售商超行业龙头企业,主要业务涵盖购物中心、大卖场、综合超市、标准超市、精品超市、便利店、无人值守智慧商店等零售业态,涉及全渠道零售、仓储物流、餐饮、消费服务、数据服务、金融业务、跨境贸易等领域。为了持续支持业务高速且稳定地发展,其在快速上云后,将核心业务改造为全Serverless架构的中台模式,采用函数计算 + API网关 + 表格存储OTS 作为计算网络存储核心,弹性支撑日常和大促峰谷所需资源,轻松支撑618/双11/双12大促。 核心价值 l 全 Serverless 架构:FC + API 网关 + OTS Serverless 解决方案。 l 弹性高可用:毫秒级弹性扩容、充足的资源池水位、跨可用区高可用。 l 敏捷开发免运维:函数式极简编程可专注于业务创新,无采购和部署成本、提供监控报警等完备的可观测能力。
系统全面迁移上云后一些改进和不足:改进 ᅳ 不再需要关心网络、操作系统的硬件细节 比如阿里云的 ECS 会提前做调度和预警,把用户数据转移并做多份数据的备 灾,防止磁盘坏掉的情况发生。ᅳ 硬件升级快捷简单 比如用户使用的是 4 核的机器,当发现业务增长迅速需要做硬件升级时,就 只需要做一个镜像。比如在夜间做一个...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,数据传输,函数计算,API网关,表格存储
云数据库产品总览(瑶池)
阿里云提供完善的数据库解决方案,多款数据库产品,满足99%的业务场景,荣获Gartner、信通院等国内外多项认证。轻松满足高可靠、高可用性、高性能等数据库需求;运维工作量大幅减少,让企业一站式享受数据上云及分布式架构的技术红利!
阿里云原生多模数据库Lindorm(灵动)针对工业物联网数据高并发写入,实时存取等特点,创新性地融合时序、索引、宽表等多模引擎能力,为存储、分析低价值密度、高通量、高实时性的工业物联网监控数据提供了高性价比的最优解决方案,大幅度降低了数据存储和存储系统运维成本.数据库上云优选,RDS MySQL 99元/年起,更享超多...
来自: 云产品
云数据库RDS SQL Server版
阿里云SQL Server数据库已含微软License,支持复杂的SQL查询,性能优秀,对基于Windows平台.NET架构的应用程序具有完美的支持,广泛应用于新零售、医疗、房地产等行业。
云数据库 RDS MySQL 版是全球最受欢迎的开源数据库之一,广泛应用于各类应用场景.云数据库 RDS MySQL 版.高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求.云数据库 Redis 版.云数据库 MongoDB 版支持副本集和分片集群两种部署架构,具备分钟级弹性扩缩容、快速备份恢复、安全审计...
来自: 云产品
SLS多云日志采集、处理及分析
SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务,通过日志服务 进行数据分析,帮助提升运维、运营效率, 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户,推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输;针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况,可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
首先购买一台 ECS服务器作为日志服务器,以规格为 2核 4G,实例规格为计算网络 增强型、操作系统为 CentOS 7.6 64位为例;开放 22端口远程控制访问服务器;创 建 ECS实例过程不再赘述 步骤2 创建弹性公网 IP 在购买的 ECS服务器同一 Region创建购买弹性公网 IP(EIP),创建过程不再赘述。注:EIP的作用是为了方便绑定 ECS...
来自: 最佳实践 | 相关产品:云服务器ECS,日志服务(SLS),NAT网关,E-MapReduce,全站加速 DCDN,云速搭CADT
< 1 2 3 4 ... 6 >
共有6页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用