基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
在大数据ETL场景，Kafka是数据的流转中心，Kafka中的数据一般是原始数据，可能存在多种数据混杂的情况，需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC，可以快速高效的搭建数据处理链路，用户只需要关注数据处理的逻辑，数据的触发，弹性伸缩，运维监控等阿里云函数计算都已经做了集成，函数计算FC也支持多种下游，OSS/数据库/消息队列/ES等都可以自定义的对接
文档编号 文档版本 版本日期 2024-04-08 文档状态 外部发布 制作人 尘辉 审阅人 嘉辽 变更记录 版本编号 日期 作者 审阅人 说明 V1.0 2024-04-08 尘辉 嘉辽 初始版本 V1.1 2024-04-08 尘辉 嘉辽 优化版本 V1.2 2024-04-26 尘辉 吉宪，世振 优化版本 文档版本：20240408 I 基于函数计算 FC实现阿里云 Kafka消息轻量级 ...
基于函数计算FC实现物联网音视频处理
在物联网场景中，智能设备会产生大量的非结构化数据，并且采集量和频率都很高。比如各类摄像头（家用摄像头、车载摄像头、工业监控摄像头等）采集的数据。企业需要对这些非结构化数据做快速的分析和处理，然后应用到下游业务中，所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
vCPU规格：选择1vCPU 内存规格：选择2048MB 实例并发度：1 环境变量：文档版本：20240502 51基于函数计算FC实现物联网音视频处理最佳实践 场景验证 ak：阿 里 云 帐 号 的 AccessKey，如 无 AK，可 以 访 问 https://ram.console.aliyun.com/manage/ak生成 sk：阿里云帐号的AccessKeySecret bucket：...
基于SAE的一站式Web服务托管方案
通过SAE提供的内置CICD能力，代码提交后可以触发自动构建，并部署应用到SAE，部署完成后，应用自动产生访问域名，外部请求通过域名可以直接访问应用。SAE提供了内置的可观测，灰度，回滚能力，通过控制台可以白屏化完成整个操作。SAE适合应用容器化快速上云，客户只需要提供代码仓库，后续的CICD，应用访问，弹性管理，运维监控，SAE都提供了内置的集成能力
基于 SAE 2.0的一站式 Web服务托管方案 文档编号 381 文档版本 V1.1 版本日期 2024-04-30 文档状态 外部发布 制作人 尘辉 审阅人 嘉辽，厉博 变更记录 版本编号 日期 作者 审阅人 说明 V1.0 2024-04-26 尘辉 嘉辽 初始版本 V1.1 2024-04-30 尘辉 厉博 文字优化 文档版本：20240430 I 基于SAE 2.0的一站式 Web服务托管方案 ...
基于函数计算实现直播流录制-存储-通知
在互娱、教育、电商等行业都会有直播相关的业务，大部分场合都需要对直播相关的业务做安全审核，或者对直播的课程进行录制和转码。该方案实现了一种完全按需拉起、按量弹性、按实际使用付费的录制方案。基于本方案还可以扩展实现直播流截帧、自动化安全审核等能力
基于函数计算实现直播流录制-存储-通知最佳实践 业务架构 场景描述 基于阿里云函数计算实现对直播流的实时录制，录制结束后会把录制的结果写入 OSS 存储桶，并把录制的结果写到消息队列，下游服务可以通 过订阅的方式来消费消息 应用场景 在互娱、教育、电商等行业都会有直播相关的业 务，大部分场合都需要对直播相关的业务...
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景，企业的Kafka实例可能存在多种情况，比如使用阿里云Kafka服务，可能是自建开源Kafka，或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例，在这个前提下Kafka实例之间可能会需要消息同步的情况： 同帐号容灾场景：比如Kafka实例都是阿里云Kafka，但是Kafka实例会有主备之分，需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾：这类场景比如主Kafka是阿里云Kafka，备Kafka是IDC开源自建Kafka，或者是其他云上的Kafka。 不同业务之间消息同步：因为现在的业务通常不会是信息孤岛，都需要消息互通，所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例，并且这两个Kafka实例归属不同的RAM角色，有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题（重试机制，容错机制，死信队列等）。 大幅提升构建消息同步架构的效率，降低构建复杂度问题。
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步最佳实践 场景描述 业务架构 基于阿里云函数计算FC实现同帐号阿里云Kafka实 例之间消息、元数据同步，跨帐号阿里云Kafka实例 之间消息、元数据同步，阿里云Kafka实例和IDC 自建Kafka（其他云Kafka）之间消息、元数据同步。应用场景 在大数据场景，企业的Kafka实例...
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中，以图片，视频，音频居多。举一个图片处理的场景，现在各种终端种类繁多，不同的终端对图片的格式、分辨率要求也不同，所以一张图片往往会有很多张衍生图，那如果所有的衍生图都存在OSS中，那存储的成本会增加，所以就可以通过OSS Object FC的方案，在不同的终端请求时，对OSS中的原图基于终端的要求做实时处理，然后响应返回，这样OSS中只需要存储原图即可。音视频也有类似的场景。
文档名称 基于OSSObjectFC实现非结构化文件实时处理 文档编号 366 文档版本 V1 版本日期 2024-03-04 文档状态 外部发布 制作人 计缘 审阅人 游圣 变更记录 版本编号 日期 作者 审阅人 说明 V1.0 2024-03-04 计缘 游圣 初始版本 文档版本：20240304 I基于OSSObjectFC实现非结构化文件实时处理最佳实践 目录 目录 文档版本...
基于MSE和SAE的微服务部署与压测
通过云原生微服务引擎MSE、SAE、PTS、ARMS产品，为spring cloud微服务应用提供部署和测试能力，提供一个经典微服务应用上云的典型架构，实现微服务应用的快速落地。
基于MSE和SAE的微服务部署与压测最佳实践 业务架构 场景描述 通过云原生微服务引擎MSE、SAE、PTS、ARMS 产品，为SpringCloud微服务应用提供部署和测试 能力，提供一个经典微服务应用上云的典型架构，实 现微服务应用的快速落地。应用场景 微服务应用运行需要的支撑包括注册中心、运行时、应用监控、服务测试等典型能力。...
基于SpringCloud应用玩转MSE实践
随着业务不断创新，大型的单个应用和服务会被拆分为数个甚至数十个微服务，微服务架构已经被广泛应用。 微服务的好处在于快速迭代，如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具，常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
MQ 产品生态丰富，多 个子产品线联合打造金融级高可用消息服务以及对物联网的原生支持，覆盖金融保险、（新）零售、物联网、移动互联网、教育、物流、能源、交通等行业。 弹性公网IP：是独立的公网IP资源，可与阿里云专有网络VPC类型的云服务器ECS、NAT网关、ENI 网卡、私网负载均衡SLB绑定，并可以动态解绑满足灵活管理...
Oracle RAC 12C云上部署
Oracle RAC架构迁移上云，提供高并发，高吞吐，高安全等特性，适用于金融，电力，电信，制造业等传统客户的核心交易系统。
云企业网CEN：云企业网（CloudEnterpriseNetwork，简称CEN）是阿里云提 供的一款能够快速构建混合云和分布式业务系统的全球网络服务，为用户提供优 质、高效、稳定的网络传输环境，帮助用户打造一张具有企业级规模和通信能力 的云上网络。适用于集团企业、全球网络等场景。 转发路由器TR（TransitRouter）：提供连接...
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
本方案基于云速搭 CADT提供一个快速构建云上Serverless版HPC批量计算环境的模板，针对生物制药领域的药物筛选场景，提供开箱即用的整套解决方案工具包，整个云上环境仅需1个小时即可完成自动化部署搭建。
Serverless版 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 基于云速搭 CADT快速部署药物筛选批量计算环境-Serverless版 文档编号 354 文档版本 v1.1 版本日期 2024-02-04 文档状态 外部发布 制作人 厉博 审阅人 石益,潇凡，瑜姝，游圣 文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 2024-01-22 厉博 石益,...
自建Hive数据仓库跨版本迁移到阿里云Databricks数据洞察
场景描述 客户在IDC或者公有云环境自建Hadoop集群构建数据仓库和分析系统，购买阿里云Databricks数据洞察集群之后，涉及到数仓数据和元数据的迁移以及Hive版本的订正更新。 方案优势 1. 全托管Spark集群免运维，节省人力成本。 2. Databricks数据洞察与阿里云其他产品（OSS、RDS、MaxCompute、EMR）进行深度整合，支持以这些产品为数据源的输入和输出。 3. 使用Databricks Runtime商业版引擎相比开源Spark性能有3-5倍的提升。 解决问题 1. Hive数仓数据迁移OSS方案。 2. Hive元数据库迁移阿里云RDS方案。 3. Hive跨版本迁移到Databricks数据洞察使用Delta表查询以提高查询效率。
一般选择默认的可用区即可，亦可选择与已购阿 里云产品部署在同一个可用区。ECS实例 由 Master和 Worker两种类型的节点组成：Master节点：主要负责集群资源管理和作业调度。默 认节点个数为 1。Worker节点：集群的计算节点，主要负责作业的执 行。最小节点数量 3。本实践方案中，Master实例和 Core实例的选型上，实例 规格...
自建ElasticSearch迁移阿里云
场景描述 以ElasticSearch为例，演示搭建模拟业务系统、 VPN网关和IPSecVPN隧道，介绍如何通过快照 的方式，将ElasticSearch索引数据安全备份到 阿里云OSS存储空间，以及介绍如何将备份在 OSS的快照仓库恢复到阿里云ElasticSearch实 例，进一步达到ElasticSearch迁移上云的目的。 解决的问题 自建ElasticSearch的云上/跨云备份需求。 自建ElasticSearch迁移到阿里云 ElasticSearch服务实例。 产品列表 VPC，ECS，VPN网关，OSS，阿里云ElasticSearch，云速搭CADT
阿里云 自建 ElasticSearch快照 备份 OSS 文档版本：20150122（发布日期）II 自建 ElasticSearch快照备份 OSS 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 自建 ElasticSearch快照备份 OSS 文档编号 095 文档版本 V1.3 版本日期 2021-08-02 文档状态 外部发布 制作人 游士 审阅人 游圣、云滴、毕役 文档变更...
小型互联网迁移阿里云
场景描述 本方案主要适用于中小型互联网企业，从他云 迁移到阿里云的最佳实践。方案中会概述网络 规划、服务器、数据库、存储数据、Kafka和 镜像数据的迁移方案描述。同时在实践环节， 增加服务器和RDS的迁移操作演练和验证。 解决问题 提供服务器、数据库等关键环节的平滑迁移方 案 提供云上高可用架构参考 提供模拟简单的演练回归流程机制 产品列表 云服务器（ECS）、迁云工具（SMC）、数据库 （RDS）、数据库（Redis）、数据传输（DTS）、 负载均衡（SLB）、专有络（VPC）等
阿 里 云 账 户 余 额 大 于 100 元。登 录 阿 里 云 后，打 开 https://expense.console.aliyun.com/#/account/home，查看余额。提前根据业务发展情况，规划资源。本实践的示例脚本可以从如下方式去获取进行参考，不需要直接从文档里进行拷 贝：git clone https://code.aliyun.com/best-practice/097.git 遇到文意或使用...
自建Hadoop迁移到阿里云EMR
场景描述 场景1：自建Hadoop集群数据（HDFS）迁移到 阿里云EMR集群的HDFS文件系统； 场景2：自建Hadoop集群数据（HDFS）迁移到 计算存储分离架构的阿里云EMR集群，以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案； 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
自建 Hadoop数据迁移到阿里云 EMR 场景描述 解决的问题 场景1：自建 Hadoop集群数据（HDFS）迁移到阿 客户自建 Hadoop迁移到阿里云 EMR集群的技 里云EMR集群的 HDFS文件系统；术方案；场景2：自建 Hadoop集群数据（HDFS）迁移到计 基于 IPSec VPN隧道构建安全和低成本数据 算存储分离架构的阿里云 EMR集群，以 OSS 和 传输...
自建Hive数仓迁移到阿里云EMR
场景描述 客户在IDC或者公有云环境自建Hadoop集群构 建数据仓库和分析系统，购买阿里云EMR集群之 后，涉及到将数据仓库和Hive元数据的数据库迁 移上云。目前主流Hive数据仓库迁移场景为1.x 版本迁移到阿里云EMR(Hive2.x版本），涉及到 数据订正更新步骤。 解决的问题 Hive数据仓库的数据迁移方案 Hive元数据库的迁移方案 Hive跨版本迁移后的数据订正 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
敬海、游士 审阅人 子关、期会、游圣 文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 2019-12-20 云魁 子关、期会、游圣 创建 V1.1 2019-12-25 筱晖 云魁 文档优化 V1.2 2020-01-09 云魁、子关 子关 增加附录 使用 CADT创 V1.3 2021-07-21 游士 建资源，更新部 分命令 文档版本：20210721 I 自建Hive数据仓库跨版本迁移...
MRACC加速倚天ECS实例Flink集群性能
希望了解Flink集群on倚天的部署架构。 通过神龙大数据加速引擎 Mracc 提升Flink集群性能。 希望实测了解倚天ECS实例运行Flink集群的性能 架构设计：利用阿里云官方架构设计模版，在此基础上二次定制（调整规格、资源数量、配置调整）。 快速完成PoC和生产环境的设计和部署
您可以登录阿里云控制台，并前往实名认 证页面（https://account.console.aliyun.com/v2/#/authc/home）查看是否完成 实名认证。购买按量付费资源，阿里云账户余额需要大于 100元。您可以登录阿里云控制 台，前往账户总览页面（https://usercenter2.aliyun.com/home）查看账户余 额。已开通以下阿里云服务：ￚ 云速搭 CADT ...
EHPC分子动力学最佳实践
本文档以一个简单的分子动力学算例，介绍阿里云EHPC分子动力学最佳实践。
您可以登录阿里云控制台，并前往实人认证 页面（https://account.console.aliyun.com/v2/#/authc/home），查看是否已经完成实 名认证。阿里云账户余额大于 100 元。您可以登录阿里云控制台，并前往账户总览页面（https://expense.console.aliyun.com/#/account/home），查看当前账户余额。阿里云账号下已开通以下阿里云服务...
大数据系统基准性能测试最佳实践
本方案适用于在阿里云上进行大数据基准性能测试的场景，包括 Teragen和Terasort测试，TestDFSIO测试。本文采用CADT工具结合阿里云的E-MapReduce服务快速构建测试集群，并提供了Teragen和Terasort测试，TestDFSIO测试的测试脚本，便于迅速开展测试。
您可以登录阿里云控制台，并前往实人认证页 面（https://account.console.aliyun.com/v2/#/authc/home），查看是否已经完成实 名认证。阿里云账户余额大于 100元。您可以登录阿里云控制台，并前往账户总览页面（https://expense.console.aliyun.com/#/account/home），查看当前账户余额。阿里云账号下已开通以下阿里云服务...
- 产品推荐
- 这些文档可能帮助您