Function Compute构建高弹性大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中，对数据进行处理、分析，形成业务闭环。比如游戏行业中的游戏发行、游戏运营，产互行业中的数字营销，物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点，给整个数据采集传输系统带来很大的挑战。在这个场景中，有三个关键的环节，数据采集、数据传输、数据处理。该最佳实践主要涉
步骤1 进入函数计算控制台，找到我们创建的服务下的 fun01这个函数，需要在函数详情页在 线编辑 Python代码，代码修改如下：#-*-coding:utf-8-*-import logging import json import urllib.parse#引入函数计算库 import fc2 client=None HELLO_WORLD=b'Hello world!' def my_initializer(context):logger=logging.getLogger...
云上成本优化workshop
某金融科技公司，它主要提供信贷，理财，电商等 服务，目前已经拥有千万级注册用户。该公司在将 在线业务系统和大数据业务从自建 IDC 机房迁移 到阿里云后，今年大数据集群经历过多次因为资 源不足导致弹性扩容失败的故障，运维负责人非 常苦恼。由于该公司从事互联网金融的借贷业务， 白天的催收非常依赖晚上大数据计算的结果，若 因为资源不足导致计算结果失败则意味着白天催 收业务员无事可做，会对公司业务造成严重影响。 后来，通过阿里云解决方案架构师建议的方案，将 大数据集群迁移到资源较充足的可用区以及配置 弹性伸缩多规格 ECS 选型增加交付成功率等方 法，目前已阶段性的解决因资源不足导致弹性扩 容失败的问题，但该方案在 Spot 计算资源不足 时，启用大量按量收费算力，带来了较高的成本， 并且抢占式实例和按量付费实例都不保证资源 100%交付，还是存在交付失败的可能性，特别是 在双 11 期间由于其他客户的资源需求上升带来 的资源挤兑客观上存在，就进一步增加了弹性扩 容失败的风险，从而影响业务正常运行。
系统基于模板生成应用架构图：文档版本：20210329 5 云上成本优化 workshop 架构设计 注意：业务 k8s集群，使用了 EIP暴露 API Serve（可将 r EIP加入到后面的共享带宽包，同时，为集群打上了标签 team：team1）K8s集群，通过统一的 NAT网关，访问外网 EMR集群，采用了高可用的部署方式（同时，为集群打上了标签 team：team...
来自：
最佳实践
相关产品：云服务器ECS,负载均衡 SLB,弹性公网IP,容器服务 ACK,日志服务（SLS）,NAT网关,函数计算,E-MapReduce,云数据库PolarDB,弹性容器实例 ECI,存储容量单位包,预留实例券,Hologres
在线业务一站式性能优化
方案使用阿里云DCDN产品来同时加速源站的动态资源和静态资源，一方面通过全球分布式缓存来提高静态内容分发速度，另一方面通过动态选路技术来提高动态内容全链路传输速度，解决在线业务访问速度慢、源站服务器压力大等问题。核心优势在于DCDN产品可以同时支持动态资源和静态资源的访问加速，从而提升在线业务网站的综合访问体验。
方案使用阿里云DCDN产品来同时加速源站的动态资源和静态资源，一方面通过全球分布式缓存来提高静态内容分发速度，另一方面通过动态选路技术来提高动态内容全链路传输速度，解决在线业务访问速度慢、源站服务器压力大等问题。核心优势在于DCDN产品可以同时支持动态资源和静态资源的访问加速，从而提升在线业务网站的综合访问...
来自：
技术解决方案
MSE云原生网关解析body内容进行路由转发
MSE云原生网关中通过自定义插件transformer解析body内容，并用以路由转发规则判断
MSE网 关的访问地址在实例基本概览页面可以看到。4.1.带自定义插件测试 由于本次测试需要模拟发送 post请求，请求体 body的格式为 json字符串，因此我们 采用 postman这个工具进行测试。请访问 https://www.postman.com/downloads/ 下载安装并完成注册。打开 postman界面，创建新的测试场景 文档版本：20240426 22 MSE云...
基于MSE云原生网关实现全链路灰度
在微服务场景中，应用间的调用是随机的。当您部署的Spring Cloud应用或Dubbo应用存在升级版本时，可能会导致无法将具有一定特征的流量路由到应用的目标版本。通过MSE提供的全链路灰度能力，您无需修改业务代码，就可以实现端到端的全链路流量控制。泳道可以将应用的相关版本隔离成一个独立的运行环境。通过设置泳道规则，可以将满足规则的请求流量路由到目标版本的应用。
步骤2微服务治理可观测 文档版本：20240429 34基于MSE云原生网关实现全链路灰度最佳实践 在MSE微服务治理的全链路灰度页面，单击目标应用，在QPS数据区域，可查看对应泳道基 线版本和灰度版本的流量情况。总数：该应用总的QPS。异常QPS：该应用出错的请求数。gray：该应用gray版本的QP 文档版本：20240429 35基于MSE云原生...
MSE网关使用JWT进行认证鉴权
MSE网关中调用外部的认证鉴权服务，通过JWT的方式进行全局认证鉴权。 对网关有认证鉴权安全需求的场景，对于敏感的服务路由（可通过黑白名单方式配置）在网关层进行认证鉴权。
应用场景 对网关有认证鉴权安全需求的场景，对于敏感 的服务路由（可通过黑白名单方式配置）在网 关层进行认证鉴权。解决问题 MSE网关和认证鉴权服务的集成问题 产品列表 专有网络 VPC 传统负载均衡 CLB 云原生网关 MSE 最佳实践频道 Serverless应用引擎 SAE http://bp.aliyun.com 云速搭 CADT 阿里云最佳实践分享群 钉钉...
基于MSE云原生网关同城多活
借助云原生微服务MSE网关，MSE配置注册中心的同城容灾多活微服务应用。构建一个经典的微服务场景，实现同城容灾的步骤，体现云原生相关产品在用户上云，高可用同城容灾多活场景下的能力。
步骤2 在笔记本电脑上准备验证脚本 test.sh，替换下列脚本中红色 ip地址为 MSE云原生网 关入口地址。bin/bash for((i=1;i;i+));do curl http://x.x.x.x/helloDuohuo #ip需要替换成您网关的公网 IP sleep 0.5 echo 文档版本：20240423 35 基于MSE云原生网关同城多活最佳实践 场景验证 done 使用 vi或者其他文本编辑器创建，...
IPv4网关实现流量统一出入口
对公网流量出入有严格的限制，禁止ECS直接通过挂载公网IP访问互联网带来安全隐患
IPv4网关实现流量统一出入口 最佳实践 业务架构 场景描述 云服务器 ECS拥有了公网 IP（例如固定公网 IP或 者 EIP），可以直接访问公网，不受 VPC路由表控 制。为了降低 ECS直接访问公网可能带来的安全管 控风险，可以使用 IPv4网关及子网路由能力，对 VPC 中访问公网的行为进行约束，根据需求使得子网具备 访问公网的能力...
容器场景下的应用性能监控、调用链拓扑、内存剖析
场景描述 随着云原生及微服务技术的普及，越来越多的系统已经通过云原生和微服务技术实现企业的降本增效，同时因微服务及云原生的复杂性给系统运维带来非常大的挑战，云原生应用监控arms通过全链路应用监控，从端到端及代码级别的链路下钻能力、CPU、内存持续剖析及诊断能力，帮助客户降低系统故障定位难度，此demo，您将体验arms的链路监控、内存剖析等能力 应用场景 微服务+容器场景下链路调用拓扑，调用链可以显示出服务之间的调用顺序和层次关系，帮助开发人员理解和追踪代码的执行流程 在分布式系统中，一个请求往往需要通过多个服务来完成。当出现问题时，如请求超时、错误或异常，很难快速定位问题所在。 解决问题 调用链可以帮助运维人员解决以下问题： · 故障排查：当请求失败或出现错误时，调用链可以显示整个请求的路径和每个服务的执行情况，从而帮助运维人员快速定位问题所在。 · 性能优化：通过调用链，运维人员可以了解请求在系统中的执行时间和瓶颈所在，从而进行优化。 · 系统监测：调用链可以提供实时的系统监测和分析，帮助运维人员了解系统的健康状况和资源利用情况。
该示例使用的是杭州Region 在Region下会创建1个VPC 在该VPC下会创建2个交换机分布在J和K可用区 在该VPC下会创建一个安全组（ACK自动创建） ACK在该VPC的交换机下，NODE节点分布在2个交换机 1个EIP+1个NATGW用于VPC内的NODE节点访问外网拉取镜像使用 在VPC下创建1个MSE云原生网关，产品介绍 MSE微服务...
基于SpringCloud应用玩转MSE实践
随着业务不断创新，大型的单个应用和服务会被拆分为数个甚至数十个微服务，微服务架构已经被广泛应用。 微服务的好处在于快速迭代，如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具，常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
微服 务的好处在于快速迭代，迭代过程保障线上流量不受损。依赖开源产品缺少专业运维工具，常常需要投入较大的运 维人力和成本。本实践基于云原生应用产品提供微服务注册配置中心、微 服务治理和云原生网关等一系列高性能和高可用的企业级 云服务能力。方案优势 本实践通过云速搭CADT，一键完成基础环境的搭建和部 署，提供...
在线业务一站式性能优化
使用DCDN来同时加速源站的动态资源和静态资源，一方面通过全球分布式缓存来提高静态内容分发速度，另一方面通过动态选路技术来提高动态内容全链路传输速度。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云AI 助理备案控制台在线业务一站式性能优化方案介绍方案优势应用场景方案部署方案权益在线业务一站式性能优化方案使用阿里云DCDN产品来同时加速源站的动态资源和静态资源，一方面通过全球分布式缓存来提高静态内容分发速度，另一方面通过动态选路技术...
来自：
解决方案
智能接入网关SAG
智能接入网关（Smart Access Gateway，简称SAG）是阿里云提供的一站式快速上云接入产品，企业可通过智能接入网关SDWAN技术实现Internet就近加密上云，适用于中小数据中心、分支互联、移动办公、应用加速及混合云等场景。阿里云SAG产品配置高度自动化，即插即用，网络拓扑变化自适应快速收敛，自动探测最优链路，故障时主动实时切换，高质量、高安全、高效率的帮助用户解决网络接入最后一公里难题。
未来智能接入网关也将支持哒哒英语在线上、线下快速拓展全球业务.延锋彼欧是国内领先的汽车外饰零部件供应商，通过采用阿里云智能接入网关SAG，实现全国20-30家生产制造基地业务无感知上云，SAG高质量低成本的上云方式，帮助用户降低每个工厂的IT运维成本。同时通过云上大数据分析平台，延锋彼欧可以进行业务灵活扩展，为...
来自：
云产品
VPN网关
阿里云VPN网关（VPN Gateway）是一款基于Internet，通过加密隧道将企业数据中心、办公网或终端与阿里云专有网络（VPC）安全可靠连接起来的服务。VPN网关在国家相关政策法规下提供服务，支持IPsec VPN、SSL VPN及国密算法等丰富特性，满足分支互联、移动办公等接入场景。
负载均衡SLB.NAT网关帮助您在VPC环境下构建一个公网流量的出入口，通过自定义SNAT，DNAT规则灵活使用网络资源，快速构建混合云网络。支持多IP、共享公网带宽、丰富监控指标等价值特性.SAG提供一站式快速上云解决方案。企业可通过智能接入网关实现Internet就近加密接入，获得更智能、更可靠、更安全的上云体验.智能接入网关...
来自：
云产品
云速搭部署智能接入网关SAG APP
本篇最佳实践通过CADT在华东2上海和美西弗吉尼亚创建跨地域的VPC，在VPC内部署ECS模拟办公系统应用。通过CADT购买SAG APP版并挂载到云连接网CCN，通过云企业网CEN将云上跨地域的VPC和云连接网CCN打通，实现内网互联互通。登录SAG客户端之后，就可以通过内网IP访问云上资源。
云速搭部署智能接入网关 SAG APP 文档版本信息 云速搭 部署智能接入网关 SAG APP 最佳实践 文档版本：20211023（发布日期）云速搭部署智能接入网关 SAG APP 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 云速搭部署智能接入网关 SAG APP 文档编号 243 文档版本 V1.0 版本日期 2021-10-23 文档状态 对外发布 制作...
在线教育流量洪峰
1. 通过Tair缓存的性能增强型解决高并发读的性能问题，通过持久内存型解决大并发写性能及数据可靠性问题。 2. PolarDB作为主数据库保存业务的交易数据，通过弹性能力和并发SQL解决性能瓶颈。 3. ADB+QuickBI提供的数据仓库方案通过分时弹性能力和实时业务展现能力。
除了在线教育行业，所有存在大流量并发访问的在 线交易应用都可以参考本最佳实践在数据库方面的设计。1.查课/选课业务数据内容大多是静态信息，数据量不大但峰值期间访问频繁，数据 可靠性要求不高，需重点解决高并发访问问题，此处部署 Tair性能增强型，以支 持 Redis协议的高性能缓存承载大并发业务。2.下单/约课业务并发...
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例，使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer，模拟应用中的关键页面，比如登 录、课程内容等，之后构造若干用户使用的模拟 日志数据，投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖（EMR+OSS）搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
传统的Hadoop 方案中原始数据和ETL之后的数据都存储于HDFS，随着业务数据量增大，特别是在 线教育学习平台，文本、图片、音频、视频等文件对于数据存储的需求非常大，对大 数据集群规模的压力越来越大，对存储的压力越来越大，集群扩展时DataNode节点 需要退役更换，移动数据的成本很大，造成集群扩展的时间太长。...
- 产品推荐
- 这些文档可能帮助您