基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
在大数据ETL场景，Kafka是数据的流转中心，Kafka中的数据一般是原始数据，可能存在多种数据混杂的情况，需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC，可以快速高效的搭建数据处理链路，用户只需要关注数据处理的逻辑，数据的触发，弹性伸缩，运维监控等阿里云函数计算都已经做了集成，函数计算FC也支持多种下游，OSS/数据库/消息队列/ES等都可以自定义的对接
基于函数计算 FC实现阿里云 Kafka消息轻量级ETL处理 最佳实践 业务架构 场景描述 基于函数计算 FC处理消息队列 Kafka中的数据，进行 ETL处理后，将清洗归档后的数据上传到 OSS存储。应用场景 在大数据 ETL场景，Kafka是数据的流转中心，Kafka 中的数据一般是原始数据，可能存在多种 数据混杂的情况，需要进一步做数据清洗后...
基于SAE的一站式Web服务托管方案
通过SAE提供的内置CICD能力，代码提交后可以触发自动构建，并部署应用到SAE，部署完成后，应用自动产生访问域名，外部请求通过域名可以直接访问应用。SAE提供了内置的可观测，灰度，回滚能力，通过控制台可以白屏化完成整个操作。SAE适合应用容器化快速上云，客户只需要提供代码仓库，后续的CICD，应用访问，弹性管理，运维监控，SAE都提供了内置的集成能力
产品介绍 专有网络 VPC（Virtual Private Cloud）：是用户基于阿里云创建的自定义私有网络,不 同的专有网络之间二层逻辑隔离，用户可以在自己创建的专有网络内创建和管理云产品实 例，比如 ECS、负载均衡、RDS等。Serverless 应用引擎 SAE（Serverless App Engine）：是一款零代码改造、极简易用、自适应弹性的应用全托管...
基于Fortinet的出海业务访问加速方案
本方案基于CADT提供一个一键交付零配置的部署模板，帮助企业快速构建出海业务访问加速的环境。方案结合了Fortinet产品以及阿里云的ECS，BGP公网精品IP等产品，实现低成本的出海业务加速。
方案结合了 Fortinet产品以 及阿里云的 ECS，BGP公网精品 IP等产 品，实现低成本的出海业务加速。应用场景 出海业务访问加速,SD-WAN组网等 解决问题 1、一键交付零配置，解决 Fortinet手动配置 复杂，缺少专业指导的问题。2、云环境构建自动化，解决客户对阿里云零 基础的操作门槛。方案优势 1、低成本出海加速业务 2、最小...
基于MSE云原生网关同城多活
借助云原生微服务MSE网关，MSE配置注册中心的同城容灾多活微服务应用。构建一个经典的微服务场景，实现同城容灾的步骤，体现云原生相关产品在用户上云，高可用同城容灾多活场景下的能力。
ACK 整合了阿里 云的虚拟化、存储、网络和安全能力，助力企业高效运行云端 Kubernetes 容器化 应用。微服务引擎 MSE：微服务引擎 MSE 面向业界主流开源微服务项目，提供注册 配置中心和分布式协调（原生支持 Nacos/ZooKeeper/Eureka）、云原生网关（原 生支持 Higress/Nginx/Envoy，遵循 Ingress 标准）、微服务治理和...
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景，将Kafka中的消息流转到其他下游服务是很常见的场景，除了常规的消息流转外，很多场景还需要基于消息体内容做判断，然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后，会自动触发函数计算中的函数，接收到消息，对消息内容做判断，然后再操作MongoDB。用户可以对提供的默认函数代码做修改，来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品，并完成了大多数的配置，用户只需要到函数计算和MongoDB控制台做少量配置即可。
基于函数计算 FC 实现阿里云 Kafka 消息内容控制 MongoDB DML 操作 最佳实践 场景描述 业务架构 基于阿里云 Kafka 消息的 Key 或者消息体里的内 容做判断，然后对 MongoDB 做增，删，改的操 作。在传统 ETL 流程的基础上进一步增加了灵活 性和可扩展性。应用场景 在大数据 ETL 场景，将 Kafka 中的消息流转到其 他下游服务...
基于FC实现的Web端视频录制最佳实践
场景描述在很多互娱场景，在线教育领域会有直播视频录制的需求，但是往往一个页面上的内容是多种多样的，不止有直播流，可能还有白板，评论等其他元素，如果只是录直播流，那内容是不完整的，所以需要将整个屏幕的内容录制为视频。该最佳实践可以有效解决这个场景。
基于 FC实现的 Web端视频录制最佳实践 业务架构 场景描述 解决问题 在很多互娱场景，在线教育领域会有直播视频录制的 解决 Web端全屏录制复杂度高的问题。需求，但是往往一个页面上的内容是多种多样的，不 解决 Web端全屏录制灵活扩展性的问题。止有直播流，可能还有白板，评论等其他元素，如果 只是录直播流，那内容是不...
基于MSE和SAE的微服务部署与压测
通过云原生微服务引擎MSE、SAE、PTS、ARMS产品，为spring cloud微服务应用提供部署和测试能力，提供一个经典微服务应用上云的典型架构，实现微服务应用的快速落地。
通过云原生产品快 速、高效的构建微服务应用环境，为微服务高效、稳 定的上云提供支持，体现云原生产品在微服务应用上 云的支持价值。解决问题 快速完成springCloud微服务应用的部署、监控与测 试。产品列表 专有网络VPC 弹性公网IPEIP 负载均衡CLB 微服务引擎MSE注册配置中心 无服务应用引擎SAE 最佳实践...
基于函数计算FC实现物联网音视频处理
在物联网场景中，智能设备会产生大量的非结构化数据，并且采集量和频率都很高。比如各类摄像头（家用摄像头、车载摄像头、工业监控摄像头等）采集的数据。企业需要对这些非结构化数据做快速的分析和处理，然后应用到下游业务中，所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
基于函数计算FC实现物联网音视频处理最佳实践 场景描述 业务架构 基于阿里云函数计算FC和云工作流（CloudFlow）实现对物联网智能设备采集的音视频做切片、转解码 等视频处理，回传OSS，然后在客户端拉流观看的 自动化流程。应用场景 在物联网场景中，智能设备会产生大量的非结构化数 据，并且采集量和频率都很高。比如各类...
基于函数计算FC实现大语言模型部署
在现代AI应用中， Qwen /chatglm2-6b 和Stable Diffusion等模型因其强大的功能而受到关注。然而，这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑，而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境，包括冷启动、弹性伸缩等，确保模型能够在大规模的请求下稳定运行。
FC和NAS服务，并确认函数计算 FC和文件存储 NAS状态为已开通，(登录 FC控制台 https://fcnext.console.aliyun.com/overview)（登录 NAS控制台 https://nasnext.console.aliyun.com/overview）步骤8（可选）开通时推荐领取阿里云的 free额度 文档版本：20240429 5 基于函数计算 FC实现大语言模型部署最佳实践 使用魔搭将社区...
基于函数计算实现直播流录制-存储-通知
在互娱、教育、电商等行业都会有直播相关的业务，大部分场合都需要对直播相关的业务做安全审核，或者对直播的课程进行录制和转码。该方案实现了一种完全按需拉起、按量弹性、按实际使用付费的录制方案。基于本方案还可以扩展实现直播流截帧、自动化安全审核等能力
搜索关键字，找到“基于函数计算实现自定义直播-拉流-录制-存储-通知”，单击基 于方案新建。文档版本：20240422 8 基于函数计算实现自定义直播-拉流-录制-存储-通知 环境搭建 双击 Region，可以选择应用期望部署的 Region 地域 双击 vpc，查看 VPC 信息。购买方式：可以选择新购，或导入已保有，可以根据实际情况选择。VPC...
基于云拨测的网站用户体验监测最佳实践
网站作为电商行业开展业务的核心场景，不同区域、不同运营商、不同的终端用户，给网站体验带来了巨大的一致性挑战。打开卡顿、缓慢，甚至无响应，都会影响到运营效果、甚至出现负面影响。阿里云基于多年业务经验，为云上客户提供完整的电商网站运营期间的用户体验监测方案。
基于云拨测的网站用户体验监测 最佳实践 业务架构图 场景描述 网站作为电商行业开展业务的核心场景，不同区 域、不同运营商、不同的终端用户，给网站体验 带来了巨大的一致性挑战。打开卡顿、缓慢，甚 至无响应，都会影响到运营效果、甚至出现负面 影响。阿里云基于多年业务经验，为云上客户提 供完整的电商网站运营期间的...
基于函数计算FC镜像部署Stable Diffusion大模型
在现代AI应用中， Stable Diffusion等模型因其强大的功能而受到关注。然而，这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑，而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境，包括冷启动、弹性伸缩等，确保模型能够在大规模的请求下稳定运行。
文档版本：20240426 5 基于函数计算 FC镜像部署 SD大模型 场景验证 步骤3 用Docker tag命令为想要上传到 ACR的镜像打上新的标签 步骤4 在ECS上将输入下图对应的命令将本地镜像推送到 ACR 文档版本：20240426 6 基于函数计算 FC镜像部署 SD大模型 场景验证 在阿里云 ACR打开应用的镜像仓库，点击镜像版本，可以看到刚刚推送...
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景，企业的Kafka实例可能存在多种情况，比如使用阿里云Kafka服务，可能是自建开源Kafka，或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例，在这个前提下Kafka实例之间可能会需要消息同步的情况： 同帐号容灾场景：比如Kafka实例都是阿里云Kafka，但是Kafka实例会有主备之分，需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾：这类场景比如主Kafka是阿里云Kafka，备Kafka是IDC开源自建Kafka，或者是其他云上的Kafka。 不同业务之间消息同步：因为现在的业务通常不会是信息孤岛，都需要消息互通，所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例，并且这两个Kafka实例归属不同的RAM角色，有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题（重试机制，容错机制，死信队列等）。 大幅提升构建消息同步架构的效率，降低构建复杂度问题。
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步最佳实践 场景描述 业务架构 基于阿里云函数计算FC实现同帐号阿里云Kafka实 例之间消息、元数据同步，跨帐号阿里云Kafka实例 之间消息、元数据同步，阿里云Kafka实例和IDC 自建Kafka（其他云Kafka）之间消息、元数据同步。应用场景 在大数据场景，企业的Kafka实例...
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中，以图片，视频，音频居多。举一个图片处理的场景，现在各种终端种类繁多，不同的终端对图片的格式、分辨率要求也不同，所以一张图片往往会有很多张衍生图，那如果所有的衍生图都存在OSS中，那存储的成本会增加，所以就可以通过OSS Object FC的方案，在不同的终端请求时，对OSS中的原图基于终端的要求做实时处理，然后响应返回，这样OSS中只需要存储原图即可。音视频也有类似的场景。
基于OSSObjectFC实现非结构化文件实时处理最佳实践 业务架构 场景描述 基于阿里云OSS和函数计算共同实现的产品化 集成解决方案OSSObjectFC，实现可以OSS 中的非结构化数据在读取时插入自定义业务逻 辑，对非结构化数据做实时处理后再返回。应用场景 现在绝大多数客户都有很多非结构化的数据存 在OSS中，以图片，视频，音频...
基于SpringCloud应用玩转MSE实践
随着业务不断创新，大型的单个应用和服务会被拆分为数个甚至数十个微服务，微服务架构已经被广泛应用。 微服务的好处在于快速迭代，如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具，常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
场景描述 针对已经启用微服务架构或者准备改造为微服务架构的用户，通过实践熟悉云上基于云原生产品的微服务 架构实践，熟悉服务注册和网关路由配置、全链路灰度发布、无损上下线、限流降级能力验证等。方案架构 文档版本：20240229基于SpringCloud应用玩转MSE 最佳实践概述 方案优势 本实践通过云速搭CADT，一键完成基础...
基于HBR云上统一备份
场景描述 混合云备份（简称HBR）是一种简单易用且高性价 比的在线备份服务，可以为阿里云ECS，NAS，OSS 以及自建机房内的各类数据提供安全，高效的保护。 本文介绍如何通过HBR对云上数据进行统一备份管 理。 解决问题 1.备份阿里云云上数据。 2.备份数据中心数据。 适用云资源 ECS文件系统 NAS文件 OSS文件 ECS上自建的MySQL、Oracle、SQLServer数据库 ESC上自建的SAPHANA数据库 产品列表 1.HBR备份服务 2.云服务器ECS 3.文件系统NAS 4.对象存储OSS 云上统一备份 云下统一备份 上云备份 备份上云
产品列表 适用云资源 混合云备份 HBR ECS文件系统 云服务器 ECS NAS文件 文件系统 NAS OSS文件 对象存储 OSS ECS上自建的 SQL Server数据库 ECS上自建的 My SQL 数据库 ECS上自建的 Oracle 数据库 ECS上自建的 SAP HANA数据库 阿里云最佳实践技术分享群 最佳实践频道 云服务器 ECS（产品名称）文档模板（手册名称）/文档...
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
本方案基于云速搭 CADT提供一个快速构建云上Serverless版HPC批量计算环境的模板，针对生物制药领域的药物筛选场景，提供开箱即用的整套解决方案工具包，整个云上环境仅需1个小时即可完成自动化部署搭建。
基于云速搭 CADT快速部署药物筛选批量计算环境-Serverless版 场景描述 部署架构 本方案基于云速搭 CADT 提供一个快速构建云上 Serverless版 HPC批量计算环境的模板，针对生物 制药领域的药物筛选场景，提供开箱即用的整套解 决方案工具包，整个云上环境仅需 1个小时即可完 成自动化部署搭建。解决问题 快速构建适用于药物...
中小企业基于SAG APP实现云上移动办公
1. 客户端一键接入上云，配置自动化 2. 城域内 Internet 就近接入，快速高效 3. 数据加密传输，满足安全性要求 4. 阿里云控制台统一配置管理
中小企业基于 SAG APP实现云上移动办公 最佳实践 业务架构 场景描述 公司已在阿里云上部署了应用服务，如 OA系统、办公管理后台等，公司员工日常通过办公网络访 问云上资源。随着公司的不断发展，移动办公的场 景越来越多，如出差、在家办公等。公司运维人员 也要求在任何时间和任何地方都能安全访问云资 源。解决问题 1....
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景，Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
每个过程又会涉及多个系统，如数据加工部分会涉及到数据通道类系 统（如阿里云消息队列 Kafka等）；数据多维分析会涉及到 OLAP相关系统（如阿里 云分析型数据库等）。实时数仓的数据处理过程涉及到以下几个关键环节：1.数据产生：一般场景下，数据有两个来源：a)用户行为日志：如用户在 App上的操作会产生一系列日志，包括...
基于DataWorks的大数据一站式开发及数据治理
概述 基于Dataworks做大数据一站式开发，包含数据实时采集到kafka通过实时计算对数据进行ETL写入HDFS，使用Hive进行数据分析。通过Dataworks进行数据治理，数据地图查看数据信息和血缘关系，数据质量监控异常和报警。 适用场景 日志采集、处理及分析 日志使用Flink实时写入HDFS 日志数据实时ETL 日志HIVE分析 基于dataworks一站式开发 数据治理 方案优势 大数据一站式开发，完善的数据治理能力。 性能优越：高吞吐，高扩展性。 安全稳定：Exactly-Once，故障自动恢复，资源隔离。 简单易用：SQL语言，在线开发，全面支持UDX。 功能强大：支持SQL进行实时及离线数据清洗、数据分析、数据同步、异构数据源计算等Data Lake相关功能 ，以及各种流式及静态数据源关联查询。
日志 HIVE分析 基于 DataWorks一站式开发 数据治理 产品列表 最佳实践频道 阿里云最佳实践技术分享群 实时计算、EMR EIP、VPC ECS DataWorks 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 基于Dataworks的大数据 一站式开发及数据治理 最佳实践 文档版本：20210207 文档版本：20150122（发布日期）II...
- 产品推荐
- 这些文档可能帮助您