基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
在大数据ETL场景，Kafka是数据的流转中心，Kafka中的数据一般是原始数据，可能存在多种数据混杂的情况，需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC，可以快速高效的搭建数据处理链路，用户只需要关注数据处理的逻辑，数据的触发，弹性伸缩，运维监控等阿里云函数计算都已经做了集成，函数计算FC也支持多种下游，OSS/数据库/消息队列/ES等都可以自定义的对接
专有网络 VPC 阿里云交换机 解决问题 阿里云安全组•快速搭建起数据处理全链路 阿里云函数计算(FC)•全链路自适应弹性，无需为流量峰谷做频繁 对象存储 OSS 的手工处理 阿里云云消息队列 Kafka 版•内置 CICD平台能力，灰度，回滚，监控开箱 云速搭 CADT 即用•按量付费，没有资源闲置费用 最佳实 践频道 ...
基于函数计算FC实现物联网音视频处理
在物联网场景中，智能设备会产生大量的非结构化数据，并且采集量和频率都很高。比如各类摄像头（家用摄像头、车载摄像头、工业监控摄像头等）采集的数据。企业需要对这些非结构化数据做快速的分析和处理，然后应用到下游业务中，所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
文档版本：20240502 60基于函数计算FC实现物联网音视频处理最佳实践 场景验证 文档版本：20240502 61基于函数计算FC实现物联网音视频处理最佳实践 场景验证 调度类型：选择对象存储OSS Bucket名称：从下拉菜单中选择video-processed-demo 文件前缀：iot_video_process_original_videos 事件类型：选择自定义...
MSE云原生网关解析body内容进行路由转发
MSE云原生网关中通过自定义插件transformer解析body内容，并用以路由转发规则判断
MSE云原生网关解析 body内容进行路由转发 业务架构 场景描述 MSE云原生网关中通过自定义插件 transformer 解析body内容，并用以路由转发规则判断 应用场景 一些场景下，请求 header头中没有可用来做路 由转发的业务信息，或者请求 header头中的信 息是加密的，这时需要网关能够对 body内容进 行解析处理。解决问题 解决应用...
低成本跨境文件传输
场景描述 1.跨境对象存储数据传输需求。 2.对跨境传输成本控制严苛。 3.能接受一定程度网络抖动带来的文件同步 延迟。 4.系统需要有足够的弹性和扩展性应对大规 模文件的写入。 方案优势/解决问题 1.运维低成本：开发人员关注代码逻辑即可； 2.网络成本低：相比CEN高速通道的方式网 络成本降低； 3.同步服务部署成本低：文件发生变化触发函 数计算任务，按量触发，不用准备ECS； 4.弹性高效：一个文件同步触发一个函数工作 流任务，充分利用资源高效同步。 产品列表 专用网络VPC 云服务器ECS 弹性公网IP 函数计算 对象存储OSS 函数工作流
应用场景 跨境对象存储数据传输需求 对跨境传输成本控制严苛 能接受一定程度网络抖动带来的文件同 步延迟 系统需要有足够的弹性和扩展性应对大 产品列表 规模文件的写入 云服务器 ECS 对象存储 OSS 专有网络 VPC 函数工作流 Serverless Workflow 日志服务 SLS 函数计算 FC 阿里云最佳实践分享群 最佳实践频道 如二维码过期...
云速搭部署OSS及资源包最佳实践
本实践通过云速搭设计一个OSS的架构，通过OSS提供的路径可以下载相应的文件。
已开通以下服务：ￚ 云速搭 CADT ￚ 对象存储 OSS ￚ 专有网络 VPC 文档版本：20211101 2 云速搭部署OSS及资源包最佳实践 产品介绍 产品介绍 云速搭 CADT：是一款为上云应用提供自助式云架构管理的产品，显著地降低应 用云上管理的难度和时间成本。本产品提供丰富的预制应用架构模板，同时也支 持自助拖拽方式定义应用云上...
基于FC实现的Web端视频录制最佳实践
场景描述在很多互娱场景，在线教育领域会有直播视频录制的需求，但是往往一个页面上的内容是多种多样的，不止有直播流，可能还有白板，评论等其他元素，如果只是录直播流，那内容是不完整的，所以需要将整个屏幕的内容录制为视频。该最佳实践可以有效解决这个场景。
对象存储 OSS：对象存储 OSS，是海量、安全、低成本、高可靠的云存储服务。使用 RESTful API 可以在互联网任何位置存储和访问，容量和处理能力弹性扩 展，多种存储类型供选择全面优化存储成本。容器镜像服务 ACR（Alibaba Cloud Container Registry）：是面向容器镜像、Helm Chart等符合 OCI标准的云原生制品安全托管及高效...
EMR HBase on OSS存算分离集群快速恢复
OSS-HDFS服务（JindoFS服务）是一款云原生数据湖存储产品。基于统一的元数据管理能力，在完全兼容HDFS文件系统接口的同时，提供充分的POSIX能力支持，能更好地满足大数据和AI等领域的数据湖计算场景。
数据盘：4个 80G ESSD 数据盘 元数据选择 集群内置 MySQL EMR的软件配置项需要做初始化配置：“hbase.rootdir”的配置值为：oss:/${oss_bucket}.${endpoint}/${hbase-root-dir}，HBase 数据存储目录，配置为 OSS 路径，配置格式为 oss:/${oss_bucket}.${endpoint}/${hbase-root-dir}。例 如，oss:/test_bucket....
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
本篇最佳实践先创建EMR集群作为数据湖对象，Hive元数据存储在DLF，外表数据存储在OSS。然后使用阿里云数据仓库MaxCompute以创建外部项目的方式与存储在DLF的元数据库映射打通，实现元数据统一。最后通过一个毒蘑菇的训练和预测demo，演示云数仓MaxCompute如何对于存储在EMR数据湖的数据进行加工处理以达到业务预期。
hive 步骤2 创建外表，存储指向已创建好的同地域OSS路径。create external table if not exists mushroom_classification(label STRING COMMENT 'poisonous=p,edible=e',cap_shape STRING COMMENT 'bell=b,conical=c,convex=x,flat=f,knobbed=k,sunken=s',cap_surface STRING COMMENT 'fibrous=f,grooves=g,scaly=y,smooth=...
Oracle RAC 12C云上部署
Oracle RAC架构迁移上云，提供高并发，高吞吐，高安全等特性，适用于金融，电力，电信，制造业等传统客户的核心交易系统。
HAVIP 专有网络VPC 最佳实践频道 阿里云最佳实践分享群 弹性网卡ENI ECS7代存储增强型实例 ESSD块存储 云速搭CADT 钉钉扫描二维码或搜索钉群号 31852400入群OracleRAC12C云上部署 最佳实践 文档版本：20240206（发布日期）OracleRAC12C云上部署 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 ...
企业上云workshop
本文模拟了如下场景: 1. 线下 IDC 环境中部署了一个业务系统，业务是利用 wordpress 系统提供网站服务。 2. 本文详细介绍了如何将以上线下系统搬迁到云上， 包括如何在云上构建以上业务系统，如何迁移线下 系统到云上，如何割接。 3. 最后介绍了迁移上云后，如何部署安全系统。 解决问题 IDC 业务系统搬迁上云 云上构建业务系统 部署安全系统
Wordpress 存 储 上 传 文 件 的 路 径 为/usr/share/nginx/wordpress/wp-content/uploads，因此需要将 NAS挂载至此目录下。先创建该目录：mkdir-p/usr/share/nginx/wordpress/wp-content/uploads 步骤3 挂载 NAS实例。根据 3.2.获取 NAS实例挂载点获取的挂载命令，修改挂载点为 wordpress uploads 目录/usr/share/nginx/...
来自：
最佳实践
相关产品：专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,负载均衡 SLB,弹性公网IP,文件存储NAS,云数据库PolarDB,Web应用防火墙,云防火墙,SSL证书,云速搭
自建Hive数据仓库跨版本迁移到阿里云Databricks数据洞察
场景描述 客户在IDC或者公有云环境自建Hadoop集群构建数据仓库和分析系统，购买阿里云Databricks数据洞察集群之后，涉及到数仓数据和元数据的迁移以及Hive版本的订正更新。 方案优势 1. 全托管Spark集群免运维，节省人力成本。 2. Databricks数据洞察与阿里云其他产品（OSS、RDS、MaxCompute、EMR）进行深度整合，支持以这些产品为数据源的输入和输出。 3. 使用Databricks Runtime商业版引擎相比开源Spark性能有3-5倍的提升。 解决问题 1. Hive数仓数据迁移OSS方案。 2. Hive元数据库迁移阿里云RDS方案。 3. Hive跨版本迁移到Databricks数据洞察使用Delta表查询以提高查询效率。
步骤3 查看最新生成的 distcp日志文件，当任务成功完成时，可以查看到相关报告：文档版本：20210425 28 自建 Hive数据仓库跨版本迁移到阿里云 Databricks数据洞察 Hive数据迁移 cat distcp.log 登录阿里云 OSS文件存储系统/user/hive目录下可以查看到相关的数据。3.2.将自建 Hive元数据库进行转储 在本实践方案中自建 Hive ...
CDH迁移升级CDP最佳实践
当前 CDH 免费版停止下载，终止服务，针对需要企业版服务能力并且CDH 升级过程对业务影响较小的客户，通过安装新的 CDP 集群，将现有数据拷贝至新集群，然后将新集群切换为生产集群，升级过程没有数据丢失风险，停机时间较短，适合大部分互联网客户升级使用。
4.单击 View as XML，并插入capacity-scheduler.xml由转换器工具生成的完整 文 件。5.添加必要的配置属性。6.单击保存更改。7.搜索yarn-site并找到 yarn-site.xml的 YARN 服务高级配置片段（安全阀）。8.单击以 XML 格式查看并以 XML 格式添加所需的配置。（可选）使用+和-来添加和删除属性。9.单击保存更改。10.重新启动 ...
自建Hadoop迁移到阿里云EMR
场景描述 场景1：自建Hadoop集群数据（HDFS）迁移到 阿里云EMR集群的HDFS文件系统； 场景2：自建Hadoop集群数据（HDFS）迁移到 计算存储分离架构的阿里云EMR集群，以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案； 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
OSS 对象存储服务（Object Storage Service，OSS）是一种海量、安全、低成本、高 可靠的云存储服务，适合存放任意类型的文件。容量和处理能力弹性扩展，多种 存储类型供选择，全面优化存储成本。JindoFS JindoFS是一种云原生的文件系统，结合 OSS和本地存储，成为 E-MapReduce 产品的新一代存储系统，为上层计算提供了高效...
弹性裸金属自建ORACLE数据库双机
场景描述 1.客户业务系统选型ORACLE数据库且不愿做 业务改造：由于历史原因，客户业务系统只支持 ORACLE数据库，客户没有技术/时间去做技术栈 改造。 2.高性能：希望拥有比虚拟机更高的性能和稳定 性，以保障数据库高性能，支撑高并发的业务系 统。 3.高可用：追求数据库服务的高可用，在某一台数 据库服务器宕机时快速切换备机，实现对业务应 用的最小影响。 4.数据安全性：极端情况下能找回数据，数据备份 和恢复更方便。
文档版本：20220207 III 弹性裸金属自建 ORACLE数据库双机 前言 快照：快照是某一时间点一块云盘和共享块存储（以下简称磁盘）的数据状态文 件。常用于数据备份、数据恢复和制作自定义镜像等。镜像：ECS镜像提供了创建 ECS实例所需的信息。创建 ECS实例时，必须选 择镜像。镜像文件相当于副本文件，该副本文件包含了一块或...
金融行业从经典网络向VPC容器化改造
本实践介绍经典网络向VPC容器化改造实践 以及配置步骤，可适用于金融等行业 方案优势 容器化完成经典网络完成向VPC网络改 造 应用发布灵活 运维效率提升 解决问题 1.经典网络管理困难 2.应用发布不灵活 3.运维效率低 产品列表 专有网络VPC 容器服务Kubernetes版 日志服务SLS 云数据库RDS版 NAT网关 容器镜像服务ACR 云盘
金融行业从经典网络向VPC容器化改造 ...https://help.aliyun.com/document_detail/102988.html RDS(数据库):https://help.aliyun.com/document_detail/26224.html OSS(对象存储):https://help.aliyun.com/document_detail/31948.html NAS(共享存储):https://help.aliyun.com/document_detail/62598.html CDN(内容分发网络):...
数据迁移上云
随着越来越多的企业选择将业务系统上云，各种类型的数据如何便捷、平滑的迁移上 云，成了用户上云较为关注的点；业务上云后，因为业务或者其他方面调整等因素， 也存在如跨区域，跨账号等数据迁移的场景。针对以上需求，阿里云上提供了较为丰 富的工具（如ossimport）、服务(在线迁移服务)，旨在能够帮助客户便捷进行数据迁 移。 本文通过云架构设计工具CADT来快速创建云上基础资源，并以杭州区域来模拟线 下IDC（或友商），深圳区域模拟阿里云云上资源。通过云上的工具命令、服务来提 供常见数据迁移场景的最佳实践。
使用在线迁移服务，节省您 部署迁移工具的时间，另外图形化的界面也更方便您将第三方数据轻松迁移至阿里云 对象存储 OSS，也可以在对象存储 OSS 之间进行灵活的数据迁移。本最佳实践以 IDC的 FTP服务器的文件迁移至 OSS作为测试场景。其中杭州 ECS 安装 FTP服务，模拟 IDC的 FTP服务器。在线迁移需注意以下问题：（1）线...
RI和SCU全链路使用实践
场景描述 随着云计算的不断发展，更多的企业会使用云计算，且会有越来 越多的企业和用户开始重视云上使用成本。 其中计算和存储是云资源使用的主要服务之一。采用预留实例券 业务架构（RI）和存储容量单位包（SCU）可以帮助客户灵活的节省成本。 本文提供全链路使用实践，帮助客户快速验证云上服务，更合理 的使用RI/SCU。借助覆盖率指标和智能推荐，有效管理云上资 源成本。 用户价值 使用RI 和SCU，可以灵活抵扣相关资源。随时创建释放， 稳态业务资源效率提高。 一份RI 可以抵扣ECS+ACK+EMR+ECI 等服务，跨服务高 度灵活，无需再分开购买。 SCU可以跨可用区抵扣某个地域下所有类型的按量付费云 盘，简化购买与管理复杂度。 RI+SCU 大幅降低按量场景的计算和存储成本。 产品列表 专有网络VPC、容器服务Kubernetes 版ACK 云服务器ECS、预留实例券RI、存储容量单位包SCU
存储容量单位包（SCU）可以自动抵扣按量 付费云盘（已支持 ESSD云盘、SSD云盘、高效/普通云盘等，即将支持 OSS、快照、NAS、文件存储 CPFS等），不支持抵扣本地盘。客户收益 使使用 RI和 SCU，可以灵活抵扣相关资源。随时创建释放，稳态业务资源效率提 高。一份 RI可以抵扣 ECS+ACK+EMR+ECI等服务，跨服务高度灵活，无需再...
EHPC工业仿真
场景描述 本实践适用于使用弹性高性能计算EHPC+ 对象存储OSS运行仿真软件进行模型仿真 的场景中，这里运行的是LAMMPS这款开 源的仿真软件，数据通过OSS上传。 解决问题 1.使用EHPC运行工业仿真软件 2.使用OSS存储数据和代码 3.可视化计算结果 产品列表 弹性高性能计算E-HPC 对象存储OSS
可视化计算结果 产品列表 弹性高性能计算 E-HPC 对象存储 OSS 文件存储 NAS 云速搭 CADT 最佳实践频道 阿里云最佳实践技术分享群 如二维码过期，请搜索群号：31852400 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 EHPC工业仿真 最佳实践 发布日期：20210813 文档版本：20150122（发布日期）II EHPC...
- 产品推荐
- 这些文档可能帮助您