SLS数据入湖Kafka最佳实践
SLS数据入湖Kafka最佳实践
应用和数据分散在多云或混合云,在面对多云/混合云这样大的趋势下,数据无法进行统一的聚合、分析处理和导出等,本方案给出了在多云/混合云场景下,构建通过标准的Kafka协议和托管服务,SLS可以连接Kafka数据入湖导入,然后进行统一的海量数据的集中存储、智能转储、聚合分析查询等。
添加北京region的SLS白名单的方法:文档版本:20240428 16SLS数据入湖Kafka最佳实践 场景验证 点击【添加白名单分组】,填写【分组名称】,添加【组内白名单】,多个白名单用英文逗号隔开:59.110.6.146,39.105.19.110,47.93.61.189,182.92.187.76。SLS白名单的查 询,详见:...
来自: 最佳实践 相关产品:云服务器ECS,日志服务(SLS),Serverless 应用引擎,消息队列 Kafka 版
基于函数计算FC实现物联网音视频处理
基于函数计算FC实现物联网音视频处理
在物联网场景中,智能设备会产生大量的非结构化数据,并且采集量和频率都很高。比如各类摄像头(家用摄像头、车载摄像头、工业监控摄像头等)采集的数据。企业需要对这些非结构化数据做快速的分析和处理,然后应用到下游业务中,所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
演示环境整体部署 步骤1 单击右上角的保存按钮,好应用名称(将模板保存为CADT中的应用),单击确认。步骤2 单击右上角部署应用。步骤3 进入资源验证阶段,这个阶段会对架构中的资源在可用区下的库存情况进行查询,同 时可以对资源规格进行review。资源验证是实时进行的,请耐心等待。文档版本:20240502 27基于函数计算...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
通过ES兼容接口方式使用Kibana访问SLS数据
通过ES兼容接口方式使用Kibana访问SLS数据
自建ELK日志系统的客户迁移到阿里云日志服务SLS后,对SLS查询分析语法不太熟悉的客户,可以继续沿用原有的查询分析习惯,在不改变使用方式习惯的情况下,通过Elasticsearch兼容接口的方式使用Kibana访问SLS。
20240418 38基于MSE云原生网关同城多活最佳实践 释放环境 步骤5 创建IndexPattern Name 框 中 project 名 称.logstore 名 称,本 文 即 是 k8s-log-.wordpress,Name填写正确右 边会自动弹出该Index,然后Timestamp框中选择@timestamp 步骤6 通过Kibana查看日志 在Kibana控制台的Discovery里可以看到,SLSProject:k8...
来自: 最佳实践 | 相关产品:云服务器ECS,容器服务 ACK,日志服务(SLS)
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
文档版本:20240330 50基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步 场景验证  oss_bucket_for_metadata:根据实际需求填写OSSBucket名称,为了存放Topic,Group信息文件。 source_kafka_instance_id:业务系统Kafka实例的实例ID。 target_kafka_instance_id:业务系统Kafka云上备份实例的实例ID。 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
基于SpringCloud应用玩转MSE实践
基于SpringCloud应用玩转MSE实践
随着业务不断创新,大型的单个应用和服务会被拆分为数个甚至数十个微服务,微服务架构已经被广泛应用。 微服务的好处在于快速迭代,如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具,常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
调整慢调用生效 步骤1 在MSE的配置中心中,创建配送规则 路径:配置管理-配置列表-创建配置 填写相关配置项:DataID:nacosconsumer.properties Group:DEFAULT_GROUP 配置内容:blow=1 发布配置,详见下图 文档版本:20240229基于SpringCloud玩转MSE 登录治理中心,web服务的规则已经生效 路径:治理中心-应用治理-...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,日志服务(SLS),NAT网关,微服务引擎,消息队列 RocketMQ 版,云速搭
SAE-ACK应用双跑最佳实践
SAE-ACK应用双跑最佳实践
场景描述 实现ACK、SAE中部署的应用在东西向和南北向互通,实现SAE-ACK应用双跑。 应用场景 该最佳实践应用于两类场景: l 因为SAE支持更丰富自动扩缩指标(比如QPS,RT,TCP连接数等),所以将相对稳态的应用部署在ACK中,将相对弹性波动大的应用部署在SAE,借助SAE更强大的自动扩缩应对流量洪峰。 l 将K8s架构迁移到Serverless架构时,需要平滑过渡,所以该最佳实践中的双跑架构可以有效帮用户平滑的完成迁移。
文档版本:20240311 40SAE-ACK应用双跑 场景验证 入以下yaml内容:apiVersion:v1 kind:Service metadata:name:sae-consumer-svc spec:ports:port:80-kind:Endpoints apiVersion:v1 metadata:name:sae-consumer-svc namespace:default subsets:addresses:ip:xx.xx.xx.xx ports:port:8080 addresses属性下的ip属性值为绑定...
来自: 最佳实践 | 相关产品:容器服务 ACK,Serverless 应用引擎,微服务引擎
云速搭部署 ALB 实现负载分发
云速搭部署 ALB 实现负载分发
本实践通过云速搭构建一个基于 http(s)的负载均衡业务架构,实现终端浏览器发起http(s)请求后,经过 ALB 监听配置的转发规则,分别负载分担到后端 ECS 服务器、CLB 和 ACK 集群。
3.此处 IP填写 ACK中刚才创建的服务所挂载 LB的 IP 文档版本:20211028 44 云速搭部署 ALB实现负载分发 验证通过 ALB转发到ACK集群实现负载分发 步骤12 配置 ALB转发规则,参考章节 4 步骤 11。根据域名转发到 ACK集群的应用上。步骤13 验证转发效果。浏览器输入 http://product-lab.xxx.xxx 文档版本:20211028 45 云速搭...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,负载均衡 SLB,弹性公网IP,容器服务 ACK,云速搭CADT
E-HPC低成本实现量化策略回测
E-HPC低成本实现量化策略回测
在量化交易场景下,量化策略的构建流程一般包括:想法、数据获取、建模、回测、结果分析等,在回测过程中往往需要海量的算力,进行大量数据的分析和处理,如何快速、高效和低成本的进行批量任务的调度,并快速获取结果是量化领域遇到的普遍挑战,这也是云计算能够带给客户的巨大优势。
步骤2 填写自定义镜像名称和自定义镜像描述,单击确认开始创建镜像。文档版本:20220321 18 E-HPC低成本实现量化策略回测 操作步骤 步骤3 进入 ECS 控 制 台镜像 页 面,确 认 镜 像 创 建 完 成。(https://ecs.console.aliyun.com/image/region/cn-zhangjiakou/imageList)说明:创建镜像耗时受镜像大小影响,本例的...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,弹性公网IP,文件存储NAS,弹性高性能计算E-HPC,云速搭
轻量级GPU部署云游戏最佳实践
轻量级GPU部署云游戏最佳实践
随着AI深度学习,视频处理,科学计算以及图形可视化等应用场景的普及,GPU的市场需求越来越大,但单颗物理GPU起步至超大规模弹性计算带来的计算能力过剩成本上升问题也越来越明显。轻量级GPU的诞生打破了传统直通模式的局限,可以提供比单颗物理GPU更细粒度的服务,从而让客户以更低成本、更高弹性开展业务。
开源云游戏框架 gaminganywhere官网:http://gaminganywhere.org/index.html 7.2. 如何获取 NVIDIA License 访问 NVIDIA官网填写注册信息,审批通过后即获取 90天试用的 License。https://www.nvidia.com/object/nvidia-enterprise- account.html?spm=a2c4g.11186623.2.10.723a674dN7Ooot 联系阿里云客户支持人员获取用于...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,弹性公网IP,云速搭
企业上云workshop
企业上云workshop
本文模拟了如下场景: 1. 线下 IDC 环境中部署了一个业务系统,业务是利用 wordpress 系统提供网站服务。 2. 本文详细介绍了如何将以上线下系统搬迁到云上, 包括如何在云上构建以上业务系统,如何迁移线下 系统到云上,如何割接。 3. 最后介绍了迁移上云后,如何部署安全系统。 解决问题 IDC 业务系统搬迁上云 云上构建业务系统 部署安全系统
策略组名称:WAF回源地址 所属资源组:默认资源组 IP版本:IPv4 批量添加地址和备注:入 WAF的回源 IP地址 说明:填写白名单的 IP地址段时,每行只能一个地址段,然后换行下一个地址段。文档版本:20200127 91 部署 Web应用防火墙(WAF)企业上云 workshop-IDC业务迁移上云 文档版本:20200127 92 部署 Web应用防火墙...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,负载均衡 SLB,弹性公网IP,文件存储NAS,云数据库PolarDB,Web应用防火墙,云防火墙,SSL证书,云速搭
VMware on 弹性裸金属
VMware on 弹性裸金属
场景描述 传统企业将VMware迁移到阿里云弹性裸 金属,利用云计算平台提供的弹性基础设 施,降低部分运维成本和学习成本,使用其 擅长的技术工具专注自身业务,实现线下业 务平滑迁移上云。 解决问题 1.VMware业务平滑迁移上云 2.集成云产品能力增强业务创新 3.降低混合云成本和复杂度 4.增强系统可用性 产品列表 EBM神龙 ECS NAS OSS ENI NAT EIP
 Action:SNAT  SourceIP:入步骤5中使用的vm2的inetIP地址(步骤5中用作TranslatedIP) TranslatedIP:入步骤5中使用的ext-network网卡的私网IP(步骤5中用作 文档版本:20191121 210 VMwareon弹性裸金属 应用VMC DestinationIP)步骤8 打开tier1的Configuration>LogicalRouterPorts页签,查看tier1的uplink地址...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,文件存储NAS,NAT网关,弹性裸金属服务器(神龙)
互联网业务全球化互通组网
互联网业务全球化互通组网
场景描述 本方案适用从事全球化业务的客户,希望借助全球 互通的网络,实现多地域的互通。 同时在全球互联的网络下,搭建应用多地部署。如果 业务中涉及到高速通道,提供高速通道迁移云企业网 的操作演练;涉及到跨账号多VPC下的数据迁移和 同步,本方案提供详细的操作步骤,帮助客户快速完 成演练。 解决问题 借助云企业网解决网络互通 高速通道到云企业网的平滑迁移 RDS的数据互通,特别是跨账号多VPC的数据同步 应用的快速部署 产品列表 云企业网(CEN)、云服务器(ECS)、数据库(RDS)、 数据库(Redis)、数据传输(DTS)、负载均衡(SLB) 块存储、专有网络(VPC)
版本类型 Redis 4.0 架构类型 标准版 说明:测试选择标准版,根据业务可以平滑升级到集群版或读 分离版。性能类型 标准性能 存储类型 高性能内存型 节点类型 双副本 套餐类型 标准套餐 实例规格 2G主从版 说明:支持变配规格,变配过程会有 30秒内连接闪断及 1分 钟内的实例只读。密码设置 立即设置 输入密码 设置符合...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,云数据库RDS MySQL 版,数据传输,云企业网
虚拟桌面架构的高性能体验云上部署
虚拟桌面架构的高性能体验云上部署
场景描述 针对自建虚拟化桌面架构迁移阿里云,以及有虚拟化桌面 架构需求上云。包括但不限于: 1.有许可证合规要求,利用自带license快速上云的客户。 2.对数据安全较高要求,需要快速构建虚拟化桌面的客 户。 解决问题 利用云上灵活性和规模化优势,构建云上更加高效、高性 能体验的服务,为客户解决: 1.客户VDI部署的需求,能够更及时的得到满足。 2.解决硬件资源限制,根据业务规模化部署并集中管 控。 3.利用公共云的网络、计算、备份容灾方案、安全防护 等,提供高可靠、高性能、高体验的远程桌面服务。 产品列表 VPC(专有网络) SLB(负载均衡) CEN(云企业网) 专有宿主机 OpenAPI
40 企业上云实践 虚拟化远程桌面架构的云上部署|创建并部署文件服务器 在添加 FTP站点对话框的站点信息导航页,根据下表说明填写相关信息,并单击下 一步。配置项 说明 FTP站点名称 ftptest 物理路径 共享文件夹的物理路径。本实践为 C:\ftp-files 在绑定和 SSL设置导航页,根据下表说明绑定 IP和 SSL设置,并单击下一步。...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,负载均衡 SLB,云企业网,专有宿主机
KVM on弹性裸金属
KVM on弹性裸金属
场景描述 神龙是一款兼具虚拟机弹性和物理机性能及特性的 新型计算产品,为用户上云提供便捷。上一篇《阿里 云弹性裸金属最佳实践之VMwareon神龙》介绍了 基于阿里云神龙部署VMware,本篇指导用户基于神 龙自行创建KVM虚拟机。用户在将线下基于KVM 的业务灵活部署上云的同时,可充分管理和利用云上 计算资源。 解决问题 1.为传统企业提供在阿里云上自建KVM虚拟化平 台的解决方案。 2.基于KVM虚拟化平台的系统如何迁移上云。 产品列表 1.弹性裸金属服务器 2.文件系统NAS 3.弹性公网IP
启动KVM虚拟机VM1  file填写qcow2的镜像文件路径  id=eth_vm1和/dev/tap11填写ipvtap设备名称  mac填写vm1使用的ENI的mac地址 -vnc0.0.0.0:port1就是5901,2就是5902,依次类推/root/qemu-2.3.0-rc4/x86_64-softmmu/qemu-system-x86_64-machine pc-i440fx-2.1,accel=kvm,kernel_irqchip=off-cpu host-smp 2-m 8192-...
来自: 最佳实践 | 相关产品:弹性公网IP,文件存储NAS,弹性裸金属服务器(神龙)
自建ElasticSearch迁移阿里云
自建ElasticSearch迁移阿里云
场景描述 以ElasticSearch为例,演示搭建模拟业务系统、 VPN网关和IPSecVPN隧道,介绍如何通过快照 的方式,将ElasticSearch索引数据安全备份到 阿里云OSS存储空间,以及介绍如何将备份在 OSS的快照仓库恢复到阿里云ElasticSearch实 例,进一步达到ElasticSearch迁移上云的目的。 解决的问题 自建ElasticSearch的云上/跨云备份需求。 自建ElasticSearch迁移到阿里云 ElasticSearch服务实例。 产品列表 VPC,ECS,VPN网关,OSS,阿里云ElasticSearch,云速搭CADT
在下面标注 11的位置,填写 2.2步骤 7获取到的预共享密钥。文档版本:20210802 20 自建 ElasticSearch快照备份 OSS 创建 IPSec VPN隧道 单击保存按钮,查看状态为 Online。步骤3 查看杭州区域 IPSec VPN连接状态,变为第二阶段协商成功。文档版本:20210802 21 自建 ElasticSearch快照备份 OSS 创建 IPSec VPN隧道 2.4.在...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,VPN网关,Elasticsearch,云速搭
自建Hadoop迁移到阿里云EMR
自建Hadoop迁移到阿里云EMR
场景描述 场景1:自建Hadoop集群数据(HDFS)迁移到 阿里云EMR集群的HDFS文件系统; 场景2:自建Hadoop集群数据(HDFS)迁移到 计算存储分离架构的阿里云EMR集群,以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案; 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce,VPC,ECS,OSS,VPN网关。
用于缓存模式和块存储模式:填写目录名 cache_mode,点击页面的确定按钮 同样方式创建另一个目录 block_mode,完成后如下图所示:文档版本:20210714 54 自建Hadoop数据迁移到阿里云 EMR 迁移到其他阿里云存储服务 步骤5 重启 SmartData服务组件使 JindoFS生效 在 SmartData服务的操作历史中可查看操作记录:步骤6 验证是否...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,VPN网关,E-MapReduce,云速搭
云端影视渲染
云端影视渲染
场景描述 本文介绍如何搭建一个完整的混合云渲染服务架构,本地与云端的网络以SSL-VPN方式进行互联。 解决问题 1、使用SSL-VPN构建本地网络与云上VPC环境的安全互联。 2、使用批量计算服务管理渲染计算集群,集群计算节点自动加入Deadline资源池。 3、使用Deadline做渲染任务管理。 4、批量计算集群计算节点根据Deadline渲染任务自动扩容和收缩,资源管理自动化。 产品列表 1、云服务器ECS 2、GPU云服务器GPU 3、批量计算BCS 4、专有网络VPC 5、弹性公网IP 6、文件存储NAS
文档版本:20200220 78 云端影视渲染 基于批量计算服务部署渲染集群 Cidr Block 172.16.10.0/24 数据挂载 此处填写 nas路径,路径格式:protocol:/host:path,如 nas:/172xxxxxxxxxx.cn-beijing.nas.aliyuncs.com:/ 缓存总容量 4096 步骤6 没有使用环境变量,单击提交。步骤7 集群创建成功,记录集群 id备用。文档版本:...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,文件存储NAS,VPN网关,批量计算
函数计算实现弹性音视频处理系统
函数计算实现弹性音视频处理系统
场景描述 本示例通过函数计算部署一个高弹性高可用的 音视频处理系统。尤其适合视频网站使用,每天 有大量的上传视频,需要及时转码处理以适配各 种终端及网络条件,要求短时间内准备大量的计 算资源进行大规模并行转码处理,同时希望基于 FFmpeg自建的转码服务能简单迁移。 解决问题 1.如何使用函数计算部署音视频处理系统。 2.如何进行系统的压测。 产品列表 函数计算服务 文件存储NAS 对象存储OSS 函数工作流FnF 日志服务SLS
Function Compute 挂载 NAS,解决可目录能容纳大视频的问题。FNF编排转码流程,比如同时并行转码成 3种目标格式的视频。Function Compute 的自动伸缩+视频切片分治可以加快转码速度。转码应用架构图:文档版本:20201228(发布日期)17 Function Compute 实现弹性音视频处理系统 部署 Function Compute 应用 文档版本:...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,文件存储NAS,日志服务(SLS),Serverless 工作流
Dubbo应用上云
Dubbo应用上云
场景描述 本最佳实践适用于企业自建 Dubbo 应用上云, 应 用采用 docker 方式部署, 降低部署成本。同时利 用 MSE 提供 Zookeeper 服务注册管理。 通过阿 里云的 ARMS 和 AHAS 服务提供应用监控和服务 限流管理,简化运维并提供服务的全生命周期管 理。 解决问题 1. 自建 dubbo 应用迁移上阿里云。 2. 应用部署在容器内降低成本。 3. 通过 MSE 提供 ZK 服务,提高稳定性。 4. 通过 ARMS/AHAS 提供监控和服务限流能力 产品列表 容器服务 Kubernetes 版(ACK) 微服务引擎(MSE) 关系数据库服务(RDS) 应用高可用服务(AHAS) 应用实时监控服务(ARMS)
Dubbo应用上云 最佳实践 部署架构 场景描述 本最佳实践适用于企业自建 Dubbo应用上云,应 用采用 docker方式...增加步骤和 consumer一样,应用名填写为 dubbo-provider。查看监控情况 对应用程序进行访问,然后单击 ARMS控制台,查看监控情况。文档版本:20220208 42 Dubbo应用上云 部署 Dubbo云应用 文档版本:20220208 43
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,容器服务 ACK,应用实时监控服务 ARMS ,应用高可用服务 AHAS,微服务引擎,云速搭
云上高并发系统改造
云上高并发系统改造
场景描述 随着业务的发展,系统并发压力越来越大,如何 进行系统改造以满足高并发场景的业务需求成 为了一个技术难题。本实践抽象于客户的实际场 景,提供高并发下系统改造的理论指导和部分实 操演示。主要适用于以下场景: 1.系统并发压力大,需要进行系统应用改造。 2.数据层并发压力大,需进行分库分表改造。 3.数据库数据量巨大,亟待分库分表解决查询 和写入瓶颈的场景。 方案优势/解决问题 1.在水平扩展阶段,我们除了通过SLB做负载 均衡外,我们可以通过SLB下挂nginx的方 式,增加负载均衡侧的可扩展性 2.在数据库拆分阶段,在做好数据规划后,我 们借助DTS进行数据迁移,通过DRDS将 RDS MySQL的数据拆分到多个分库和分 表中。 产品列表 专用网络VPC 负载均衡SLB 云服务器ECS 数据库RDSMySQL 数据传输服务DTS PrivateZone 分布式关系型数据库DRDS
水平切分相对简单,一主多从、多主都可以,根据业务的需要,多主切分设计时需要注意主键的关 系,解决多在进行数据同步时的冲突问题;垂直拆分更加复杂,一般都会涉 文档版本:20220506(发布日期)1 云上高并发系统改造 最佳实践概述 及到架构逻辑的改造,需要引入中间件,来进行数据源的管理,垂直拆分时把 关系紧密...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,数据传输,云解析 PrivateZone,云原生分布式数据库PolarDB-X,云速搭CADT
< 1 2 >
共有2页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用