Function Compute构建高弹性大数据采集系统
Function Compute构建高弹性大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中,对数据进行处理、分析,形成业务闭环。比如游戏行业中的游戏发行、游戏运营,产互行业中的数字营销,物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点,给整个数据采集传输系统带来很大的挑战。在这个场景中,有三个关键的环节,数据采集、数据传输、数据处理。该最佳实践主要涉
步骤21 可以在函数的日志查询中看到此次调用的日志:同时,我们也可以查看函数的链路追踪来分析每一个步骤的调用耗时,比如函数接到 请求→冷启动(无活跃实例时)→准备代码→执行初始化方法→执行入口函数逻辑这 个过程:打开一个新的浏览器窗口,重新执行一次函数调用,可以查看调用的链路追踪信息:文档版本:20210806...
来自: 最佳实践 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,日志服务(SLS),函数计算,消息队列 Kafka 版,云速搭CADT
数据湖-在线学习场景数据分析
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例,使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer,模拟应用中的关键页面,比如登 录、课程内容等,之后构造若干用户使用的模拟 日志数据,投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖(EMR+OSS)搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
本场景以在线教育中一个答题闯关类的应用为例,使用WebServer来模拟演示这类 数据的分析处理。通过Nginx和Pythonflask搭建WebServer,模拟应用中的关键 页面,比如登录、课程内容等,之后构造若干用户使用的模拟日志数据,投递到数据 湖进行分析后获取应用PV、UV、课程内容访问排行、平均得分等等。文档版本:20200331 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,访问控制,E-MapReduce
基于ECI+FaaS构建游戏战斗结算服
基于ECI+FaaS构建游戏战斗结算服
在游戏行业的很多SLG游戏作品中,为了防止客户端作弊,在每局战斗之后,在客户端预判玩家胜利的情况下,需要服务端来进行战斗数据的结算,从而确定玩家是不是真正的胜利。战斗结算是强CPU密集型,结算系统每日需要大量的计算力,尤其是开服或者活动期间忽然涌入的大量玩家,导致需要的计算量瞬间几倍增长,同时需要结算系统保持稳定的延时来保证玩家的用户体验。 1. ECI支持500台实例30S弹出,快速解决业务模块扩容压力。FaaS毫秒级伸缩扩容,化解算力瓶颈,平滑解决暴增调用请求。 2. 降低成本:ECI每天弹性运行8小时,与6代同规格包月相比节省成本40%+,FaaS按需付费,即开即用,节省预留资源消耗。 3. 免运维:FaaS和ECI都是全托管免运维的服务,客户专注业务开发即可。 4. 模块公共化:减轻游戏逻辑服的压力,结算需求复用到类似需求的游戏。
说明:运行环境选择 nodejs10,执行内存选择 1.5G(在弹性实例中,1.5G对应 1核 cpu 的能力,很多真实的游戏客户选择它来满足战斗结算服)、超时时间一般 设置为 10s 步骤6 函数实例类型,选择弹性实例(支持弹性实例\性能实例)。文档版本:20201127 10 基于ECI+FaaS构建游戏战斗结算服 游戏架构搭建篇 说明:由于性能实例...
来自: 最佳实践 | 相关产品:容器服务 ACK,函数计算,弹性容器实例 ECI
阿里云日志服务SLS多云统一日方案之腾讯云日志采集最佳实践
阿里云<em>日志</em>服务SLS多云统一日<em>志</em>方案之腾讯云<em>日志</em>采集最佳实践
使用日志服务SLS统一采集、存储、查询和分析阿里云、腾讯云等不同云厂商上的业务日志、系统日志和云产品日志,实现在一个平台上管理多云架构下的所有日志。
步骤9 至此,阿里云 ECS日志、腾讯云云主机日志、腾讯云云产品日志就都汇总到阿里云 服务 SLS的一个 project中了,可以随时进入对应的 logstore进行查询和分析。文档版本:20240422 22 阿里云 SLS多云统一日志方案之腾讯云日志采集最佳实践 释放资源 3.一键释放阿里云资源 可以将验证通过的环境直接用于生产。如果不再...
来自: 最佳实践 | 相关产品:日志服务(SLS),云速搭
可观测链路 OpenTelemetry版结合日志服务SLS关联分析最佳实践
可观测链路 OpenTelemetry版结合<em>日志</em>服务SLS关联分析最佳实践
可观测链路 OpenTelemetry 版为分布式应用的开发者提供了完整的调用链路还原、调用请求量统计、链路拓扑、应用依赖分析等工具,可以帮助开发者快速分析和诊断分布式应用架构下的性能瓶颈,当应用出现业务异常问题时,您可以在可观测链路 OpenTelemetry 版控制台关联查看日志进行分析,精准定位业务异常。
专有网络 VPC 容器服务 Kubernetes 版 ACK 可观测链路 OpenTelemetry 版 解决问题 日志服务 SLS 基于开源标准,接入多语言应用的链路和日 云速搭 CADT 数据 当应用出现性能问题,快速分析和诊断瓶颈 所在;关联链路数据和日志数据,定位业务异常;最佳实践频道 http://bp.aliyun.com 阿里云最佳实践分享群 钉钉搜索钉群号...
来自: 最佳实践 | 相关产品:日志服务(SLS),云速搭
容器多云统一监控日志
容器多云统一监控<em>日志</em>
多云、混合云成为常态,Forrester 报告中指出,未来 89% 的企业至少使用两个云,74% 的企业至少使用三个甚至更多公有云,在面对多云/混合云这样大的趋势下,Gartner报告指出,安全、运维复杂性、财务复杂性是多云架构的主要挑战,本方案给出了在多云/混合云场景下,构建基于容器环境下的统一管理、统一监控和统一日志方案,解决多云、混合云场景下,运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商(AWS、Azure、GCP、TencentCloud、HuaweiCloud等)或者IDC基于容器(Kubernetes)运行业务系统,希望构建容器场景下的统一监控日志系统,方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统,在一个平台可以看到不同环境系统的运行情况。
6.在非阿里云容器集群部署Nginx应用,将标准输出 收集到日志服务SLS 6.1.在ACK注册集群中部署Nginx应用 步骤1 通过CADT画布登录ACK注册集群控制台,或者通过容器控制台Link访问(https://cs.console.aliyun.com/#/k8s/cluster/list)文档版本:20240322 45容器多云统一监控日志 场景验证 6.2.配置镜像地址 anolis-...
来自: 最佳实践 | 相关产品:专有网络 VPC,容器服务 ACK,日志服务(SLS),应用实时监控服务 ARMS ,微服务引擎
SLS数据入湖Kafka最佳实践
SLS数据入湖Kafka最佳实践
应用和数据分散在多云或混合云,在面对多云/混合云这样大的趋势下,数据无法进行统一的聚合、分析处理和导出等,本方案给出了在多云/混合云场景下,构建通过标准的Kafka协议和托管服务,SLS可以连接Kafka数据入湖导入,然后进行统一的海量数据的集中存储、智能转储、聚合分析查询等。
应用场景 客户在阿里云不同region、阿里云以外的其他 云服务商(AWS、Azure、GCP、TencentCloud、HuaweiCloud等)、或者IDC 等业务数据或应 用系统产品的日志数据等,汇总处理后,通过 标准的通用的协议Kafka,数据入湖到阿里云 SLS日志中心,进行统一分析和处理。解决问题 将多云、IDC分散的数据,通过标准协议,汇 产品...
来自: 最佳实践 | 相关产品:云服务器ECS,日志服务(SLS),Serverless 应用引擎,消息队列 Kafka 版
通过ES兼容接口方式使用Kibana访问SLS数据
通过ES兼容接口方式使用Kibana访问SLS数据
自建ELK日志系统的客户迁移到阿里云日志服务SLS后,对SLS查询分析语法不太熟悉的客户,可以继续沿用原有的查询分析习惯,在不改变使用方式习惯的情况下,通过Elasticsearch兼容接口的方式使用Kibana访问SLS。
通过ES兼容接口方式使用Kibana访问SLS数据最佳实践 业务架构 场景描述 日志服务SLS提供Elasticsearch兼容接口,支 持客户将日志采集到日志服务后,仍可以继续沿 用Elasticsearch的查询方案,即通过使用 Kibana访问日志服务的Elasticsearch兼容接 口,实现查询SLS数据。应用场景 自建ELK日志系统的客户迁移到阿里云日志服 务...
来自: 最佳实践 | 相关产品:云服务器ECS,容器服务 ACK,日志服务(SLS)
应用日志数据归档
方案为企业提供云上日志数据的存储成本优化。提供了访问日志数据采集、自动压缩、持久化存储,满足企业的网站访问日志数据的归档需求。具有低成本、免运维、弹性扩容的优势。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台方案介绍方案优势应用场景方案部署方案权益方案为企业提供云上日志数据的存储成本优化。提供了访问日志数据采集、自动压缩、持久化存储,满足企业的网站访问日志数据的归档需求。具有低成本、免运维、弹性扩容的优势。方案预估:体验本方案...
来自: 解决方案
基于SpringCloud应用玩转MSE实践
基于SpringCloud应用玩转MSE实践
随着业务不断创新,大型的单个应用和服务会被拆分为数个甚至数十个微服务,微服务架构已经被广泛应用。 微服务的好处在于快速迭代,如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具,常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
例如容器服务、 微服务引擎MSE-云原生网关 日志服务、应用监控、Web应用防火墙等,为您提供一站  微服务引擎MSE-微服务治理 式的微服务解决方案。 容器服务ACK  容器镜像ACR  消息队列RocketMQ版 最佳实践频道  弹性公网IP http://bp.aliyun.com  NAT网关 阿里云最佳实践分享群  云速搭CADT 钉钉搜索钉群号...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,日志服务(SLS),NAT网关,微服务引擎,消息队列 RocketMQ 版,云速搭
跨阿里云账号采集日志
跨阿里云账号采集日志可以实现多个账号间的日志共享和集中管理,降低了管理成本和风险,提高了日志数据的安全性和可靠性。同时,跨账号日志采集还可以满足多租户场景下的日志管理需求,提高了系统的可扩展性。
查看详情应用日志数据归档应用日志数据归档方案为企业提供云上日志数据的存储成本优化。提供了访问日志数据采集、自动压缩、持久化存储,满足企业的网站访问日志数据的归档需求。具有低成本、免运维、弹性扩容的优势。查看详情技术解决方案咨询我们将根据您提交的需求,安排技术解决方案专家为您服务!立即咨询
来自: 解决方案
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
本方案基于云速搭 CADT提供一个快速构建云上Serverless版HPC批量计算环境的模板,针对生物制药领域的药物筛选场景,提供开箱即用的整套解决方案工具包,整个云上环境仅需1个小时即可完成自动化部署搭建。
h)操作审计/SLS:GxP合规要求,为云上所有操作进行审计跟踪,数据留存在 SLS 日志库中。i)云防火墙:提供云环境的边界安全。2、通过云速搭 CADT模板部署,将自动化完成以下任务:模板将自动化完成上述产品实例的构建,以及云资源之间的关联关系绑定。同时本方案提供一个初始化脚本,完成以下运行环境的构建。docker 环境...
来自: 最佳实践 | 相关产品:弹性公网IP,文件存储NAS,日志服务(SLS),容器镜像服务 ACR,操作审计,密钥管理服务,云防火墙,弹性高性能计算E-HPC,云速搭
远程日志
APP开发人员可通过远程日志拉取目标手机的日志文件(不包括用户隐私数据),进而帮助开发人员更快的定位线上疑难杂症,提升线上应用质量。
远程日志产品相关文档.远程日志服务的计量与付费介绍.快速试用远程日志产品.Android 和 iOS 的SDK接入.移动DevOps.多端低代码开发平台魔笔.移动用户反馈.超级App解决方案.通过心跳检测,探测已安装App的移动终端.通过设备标识、应用版本、设备机型等信息筛选移动终端.移动端设备管理.支持通过手动添加/智能筛选的方式,创建...
来自: 云产品
日志服务sls
日志服务(Log Service,简称Log)是针对实时数据一站式服务,在阿里集团经历大量大数据场景锤炼而成。无需开发就能快捷完成数据采集、消费、投递以及查询分析等功能,帮助提升运维、运营效率,建立DT时代海量日志处理能力。
全面支持云产品日志、开源系统、多云日志、云下日志接入.具备秒级分析百亿级数据能力;支持完整AIOps能力,支持智能异常检测与根因分析.支持采集、加工、分析、可视化、告警等一站式日志功能;全面兼容Flink,Spark等流批数据分析平台.具备PB/Day规模弹性伸缩能力;支持按量付费,仅需为实际用量付费,TCO降低50%以上.注册...
来自: 云产品
云上日志集中审计
云上<em>日志</em>集中审计
场景描述 云上的各类云产品和客户部署的业务系统会产生各类 日志,企业合规及安全运营等都需要在一个地方能 集中的查看和分析日志;目前各云产品日志大部分 都进了sls,但都是产品独立的project,不方便集中 审计;客户的业务系统日志各种形态都有;多云和混 合云的场景,日志也需要能集中审计。 解决问题 1.所有日志集中到SLS一个中心project下。 2.满足等保合规和内部合规需求。 3.满足运维和安全运营需求。 产品列表 日志服务SLS 专有网络VPC 弹性公网IPEIP 负载均衡SLB 云服务器ECS 云数据库RDS 云防火墙CFW
需要集中一起审计的日志,一般都是配置、事件、告警等日志,不包括业务流量的 (业务流量日志一般独立分析、查询即可),所以日志集中审计不会增加多少费用。本章节以云防火墙产品为例,迁移云防火产品的日志日志审计服务的中心 project下。其他产品的接入,都可以采用相同的方法。5.1.开通云防火墙 步骤1 通过产品与...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,负载均衡 SLB,弹性公网IP,日志服务(SLS)
云速搭部署SLS实现日志采集处理分析
云速搭部署SLS实现<em>日志</em>采集处理分析
通过云速搭部署ECS+SLS,在ECS上安装logtail收集Nginx应用日志写入SLS。通过日志生成器模拟Nginx日志生成,并通过SLS进行日志分析。
文档版本:20211203 30 云速搭部署 SLS实现日志采集处理分析 Logtail日志采集处理分析 注意:查询分析设置的修改操作只会对新写入的数据生效,如果您需要提前对查询分 析设置的某些字段分析统计生效,请使用指定字段查询的自定义方式在日志写入到 库之前进行开启统计查询。步骤4 再次启动日志发生器和停止日志发生器。...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,日志服务(SLS),云速搭CADT
SLS多云日志采集、处理及分析
SLS多云<em>日志</em>采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务,通过日志服务 进行数据分析,帮助提升运维、运营效率, 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户,推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输;针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况,可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
按照 2.5节的方式分别在日志机器组的两台 ECS实例开启日志发生器,等待数分钟 后停止 文档版本:20211203 76 SLS多云日志采集、处理及分析 日志服务器集群公网日志数据传递到日志服务 步骤15 查看日志日志 回到日志服务控制台,选择创建的日志库 test20191009,可以看到日志机器组的 已经传递到日志服务:文档版本:...
来自: 最佳实践 | 相关产品:云服务器ECS,日志服务(SLS),NAT网关,E-MapReduce,全站加速 DCDN,云速搭CADT
自建ELK迁移阿里云日志服务
自建ELK迁移阿里云<em>日志</em>服务
场景描述 ELK Stack(Elastic/Logstash/Kibana) 通常 被用于日志实时分析, 在开源社区中有大量 的内容和使用案例。 本文介绍如何将自建的 ELK 系统迁移到阿里云 SLS 日志服务。 解决问题 1. 自建 ELK 如何迁移到阿里云日志服务。 2. 如何使用 Logtail 采集日志。 3. 如何使用阿里云日志服务对日志进行查 询、 分析。 产品列表  阿里云日志服务(SLS)  VPN 网关  IPSec VPN  云服务器
自建 ELK迁移阿里云日志服务 SLS最佳实践 业务架构 场景描述 ELKStack(Elastic/Logstash/Kibana)通常被用于 实时分析场景,在开源社区中有大量的内容和使用 案例。通常自建的ELK系统在弹性、功能、成本、优化、稳定性等方面客户会遇到较多问题,本文介绍 如何将自建的ELK系统迁移到阿里云SLS日志服 务。应用场景 1.自...
来自: 最佳实践 | 相关产品:云服务器ECS,日志服务(SLS)
基于日志服务构建业务可观测性系统
基于<em>日志</em>服务构建业务可观测性系统
现在已知的各种监控数据的工具,以及对应的监控系统有非常多的选择,比如ZABBIX,Prometheus,Skywalking等。但是这些系统都存在同样的一个问题,只覆盖了可观察性的一部分,举个简单的类比,大家在日常开车的过程中,会用到很多的辅助设备,仪表盘,行车记录仪,导航,倒车影像等等,这些设备都各自承载了一部分的功能,但是都存在着如下的问题: l 数据覆盖不完整 l 存在数据孤岛(无法关联协同) l 使用门槛高,不够人性化 核心价值 l 全覆盖,统一协议,支持各类平台。 l 数据关联,统一Schema,关联Metrics/Logs。 l 云原生,SaaS服务,拥抱云原生。 l 简单易用,自动化埋点,数十项易用功能。 智能化,异常诊断,根因分析。
基于日志服务构建业务可观察性系统 部署架构 场景描述 现在已知的各种监控数据的工具,以及对应的监 控系统有非常多的选择,比如 ZABBIX,Prometheus,Skywalking等。但是这些系统都存 在同样的一个问题,只覆盖了可观察性的一部分,举个简单的类比,大家在日常开车的过程中,会用 到很多的辅助设备,仪表盘,行车记录仪,...
来自: 最佳实践 | 相关产品:云服务器ECS,容器服务 ACK,日志服务(SLS)
Node.js性能平台
Node.js 性能平台(Node.js Performance Platform)是阿里云面向中大型 Node.js 应用提供性能监控、安全提醒、故障排查、性能优化等服务的整体性解决方案。凭借对 Node.js 内核深入的理解,我们提供完善的工具链和服务,协助客户主动、快速发现和定位线上问题。
查看全部日志.查看Node.js性能平台所有相关文档.了解如何快速使用Node.js性能平台.更多问题交流讨论FAQ.来自阿里内部或客户的最佳实践.通过以应用为视角,以提供更贴合开发者和运维的使用习惯.应用视角,DevOps 优先.全兼容 Node.js,无需任何代码更改,即可提供深入内核的在线监控.深入底层的性能监控.提供实时诊断线上...
来自: 云产品
< 1 2 >
共有2页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用