基于函数计算FC实现物联网音视频处理
在物联网场景中，智能设备会产生大量的非结构化数据，并且采集量和频率都很高。比如各类摄像头（家用摄像头、车载摄像头、工业监控摄像头等）采集的数据。企业需要对这些非结构化数据做快速的分析和处理，然后应用到下游业务中，所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
文档版本：20240502 60基于函数计算FC实现物联网音视频处理最佳实践 场景验证 文档版本：20240502 61基于函数计算FC实现物联网音视频处理最佳实践 场景验证 调度类型：选择对象存储OSS Bucket名称：从下拉菜单中选择video-processed-demo 文件前缀：iot_video_process_original_videos 事件类型：选择自定义...
数据库文件存储DBFS
阿里云数据库文件存储DBFS基于共享存储架构，支持数据库定制和共享读写的线性扩展能力，提供低成本、高性能、高可用的存储服务，助力客户数据库业务无缝迁移上云。
数据库文件存储DBFS可取代OCFS2/GFS2/ASM(ACFS)，为基于SAN的数据库/中间件/SaaS应用集群提供高可用高性能的存储服务.支持PB级容量。在线扩容，对用户透明.支持存放Oracle Home及Oracle Grid的二进制文件、数据文件、控制文件、redo文件、OCR及Voting Disk等.挂载即用，不需要感知底层磁盘，也无需配置Disk Group及冗余度....
来自：
云产品
函数计算实现弹性音视频处理系统
场景描述 本示例通过函数计算部署一个高弹性高可用的 音视频处理系统。尤其适合视频网站使用，每天 有大量的上传视频，需要及时转码处理以适配各 种终端及网络条件，要求短时间内准备大量的计 算资源进行大规模并行转码处理，同时希望基于 FFmpeg自建的转码服务能简单迁移。 解决问题 1.如何使用函数计算部署音视频处理系统。 2.如何进行系统的压测。 产品列表 函数计算服务 文件存储NAS 对象存储OSS 函数工作流FnF 日志服务SLS
详见 https://cn.aliyun.com/product/fc NAS: 阿里云文件存储（NAS）Network Attached Storage是一种分布式的网络文 件存储，为 ECS、HPC、FC 等提供安全、无限容量、高性能、高可靠、简单易 用的文件存储服务。FC与 NAS无缝集成。这使您的函数可以像访问本地文件系 统一样编写访问存储在其中一个 NAS 文件系统上的文件。...
低成本跨境文件传输
场景描述 1.跨境对象存储数据传输需求。 2.对跨境传输成本控制严苛。 3.能接受一定程度网络抖动带来的文件同步 延迟。 4.系统需要有足够的弹性和扩展性应对大规 模文件的写入。 方案优势/解决问题 1.运维低成本：开发人员关注代码逻辑即可； 2.网络成本低：相比CEN高速通道的方式网 络成本降低； 3.同步服务部署成本低：文件发生变化触发函 数计算任务，按量触发，不用准备ECS； 4.弹性高效：一个文件同步触发一个函数工作 流任务，充分利用资源高效同步。 产品列表 专用网络VPC 云服务器ECS 弹性公网IP 函数计算 对象存储OSS 函数工作流
文档版本：20211025（发布日期）15 低成本跨境文件传输最佳实践 配置实验环境 第 三 组 是 超 大 文 件。initMultipartUpload，uploadParts，completeMultipartUpload 函数负责处理超大文件。项目详细流程图和处理逻辑参考：https://github.com/awesome-fnf/oss-copy 步骤1 下载 oss-copy源码 cd/opt yum install-y git git...
云上高并发系统改造
场景描述 随着业务的发展，系统并发压力越来越大，如何 进行系统改造以满足高并发场景的业务需求成 为了一个技术难题。本实践抽象于客户的实际场 景，提供高并发下系统改造的理论指导和部分实 操演示。主要适用于以下场景： 1.系统并发压力大，需要进行系统应用改造。 2.数据层并发压力大，需进行分库分表改造。 3.数据库数据量巨大，亟待分库分表解决查询 和写入瓶颈的场景。 方案优势/解决问题 1.在水平扩展阶段，我们除了通过SLB做负载 均衡外，我们可以通过SLB下挂nginx的方 式，增加负载均衡侧的可扩展性 2.在数据库拆分阶段，在做好数据规划后，我 们借助DTS进行数据迁移，通过DRDS将 RDS MySQL的数据拆分到多个分库和分 表中。 产品列表 专用网络VPC 负载均衡SLB 云服务器ECS 数据库RDSMySQL 数据传输服务DTS PrivateZone 分布式关系型数据库DRDS
尽可能避免跨库查询：关联查询的数据尽量分散到同一个分片中，跨库查询对系 统性能损耗很大。避免跨分表联表查询的方式有：a)剥离出高频访问的表，与核心表 1:1关系的，进行反范式设计，将核心表加 宽 b)如果与核心表是 N：1关系的，将高频访问字段冗余到核心表中 c)低频访问数据，业务功能设计上，避免一页展示大而全，...
通过PAI-灵骏分布式训练和部署Llama 2模型
以 Meta 最新开源的大语言模型 Llama2 为例，通过PAI-灵骏完成了大语言模型的高效分布式训练、三阶段指令微调、模型离线推理验证以及在线服务部署等完整的开发链路。
训练基于Megatron-LM引擎支持了数据并行、算子拆分、流水并行、序列并行、Flashattention等技术，保障模型效果且大幅提升大模型训练分布式效率相关产品智算服务 PAI-灵骏机器学习 PAI-DSW机器学习 PAI-DLC机器学习 PAI-EAS对象存储 OSS文件存储 NAS在线咨询方案优势企业级应用基于软硬件一体优化技术，构建高性能异构算力...
来自：
解决方案
超级计算集群实现自然语言处理训练
场景描述 本方案适用于自然语言训练场景，使用神龙 GPU云服务器（SCCGN6）+CPFS进行NLP的 训练，采用Bert模型。这里不使用容器，直接 使用裸机进行NLP的Bert训练，使用飞天AI加 速训练工具可以有效提升多机多卡的训练效率。 解决问题 使用神龙GPU云服务器搭建NLP训练环 境 使用SCC的RDMA网络 使用CPFS存储训练数据 使用飞天AI加速训练工具加速训练 产品列表 神龙GPU云服务器（SCCGN6） SCC超级计算集群 CPFS共享存储
在CPFS文件系 统处于运行状态时，禁止对该安全组进行修改、删除等操作，否则会影响CPFS的IO业务。3.3.挂载文件系统 参考 https://help.aliyun.com/document_detail/185156.html 步骤1 查询挂载点对应的管理节点安全组信息 登录云服务器ECS控制台。 在左侧导航栏，单击网络与安全>安全组。 在安全组列表页面，在顶部...
混合云使用Ali-Perseus
场景描述 本文介绍了混合云场景中，自建 Kubernetes服务，线下集群+云上弹性扩 展阿里云GPU服务实例+飞天AI加速工 具，并采用阿里云CPFS存储，运行AI训 练+AI推理作业的操作步骤。 解决问题 1.利用云企业网打通两个地域的VPC， 自建Kubernetes集群 2.使用飞天AI加速工具运行训练和推理 作业 3.使用CPFS存储共享数据 产品列表 云企业网CEN GPU云服务器 并行文件存储CPFS 文件存储NAS
使用 CPFS存储共享数据 产品列表 云企业网 CEN 如二维码过期，GPU云服务器 请搜索群号：31852400 并行文件存储 CPFS 文件存储 NAS 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 企业上云实践 混合云使用飞天 AI加速工具 最佳实践 文档版本：20200114 II 混合云使用飞天AI加速工具 文档版本信息 文档...
自建K8S集群迁移ACK弹性裸金属集群
场景描述 在微服务化改造之后，企业在享受K8S带来应 用管理的便利的同时，存在硬件性能不足，本 地扩展性差，容器容灾难，K8S管理复杂等问 题。 解决问题 1.增强K8S扩展性：如何通过弹性裸金属服务 器的强劲硬件性能，实现云端资源急速扩 展，从容应对应用访问压力大的问题。 2.如何简化云端K8S运维：通过阿里云容器服 务（ACK）实现敏捷开发和部署落地，加速 企业业务迭代。 3.如何综合考虑迁移和容灾：如何整合云上和 云下容器资源实现遇到故障时可以通过健 康检查实现自动容灾。 4.如何不改应用上云：如何实现应用上云数据 库连接零修改。 5.数据库上云及回退：如何实现上云回退； 产品列表 ACK/ECS/SLB/NAT网关/弹性裸金属服务器/DTS/RDS MySQL
基于阿里云分布式文件系统和 SSD盘高性能存储，RDS支 持 MySQL、SQL Server、PostgreSQL、PPAS和 MariaDB引擎，提供了容灾、备份、恢复、监控、迁移等方面的全套解决方案，彻底解决数据库运维的烦恼。详 见：https://www.aliyun.com/product/rds/mysql DTS：Data Transmission Service，简称 DTS，是一种集数据迁移、数据...
批量计算BCS
阿里云批量计算（BatchCompute）是一种适用于大规模并行批处理作业的分布式云服务。支持海量作业并发规模，系统自动完成资源管理，作业调度和数据加载，并按实际使用量计费。可广泛应用于电影动画渲染、生物数据分析、多媒体转码、金融保险分析、科学计算等领域。
支持10万核级别以上并发，加速计算过程.一键提交作业，自动完成资源管理、作业调度....支持对象存储OSS和文件存储NAS.文件挂载和虚拟目录.挂载单个OSS文件到计算节点或将多个分散的文件组织成虚拟目录进行挂载，用户可以按最小权限原则授权其他用户进行数据访问.批量计算自研存储插件，解决大规模计算场景下数据访问的难题.
来自：
云产品
弹性高性能计算E-HPC
弹性高性能计算（E-HPC）基于阿里云基础设施，拥有公有云、专有云等多种产品形态，为用户提供一站式HPC/HPDA平台服务，面向科研、生产、教育和行业大计算，提供快捷，弹性，安全的服务和拥有与阿里云产品互通的高性能计算服务平台。
阿里云EDA上云解决方案，通过E-HPC、ECS、NAS和安全等多产品有机组合，可提供一键创建弹性伸缩的超算集群、大容量高速并行存储系统和全方位的安全防护能力。同时，基于E-HPC强大的兼容能力，可以在云上云下共用一套管理节点，通过使用云下调度器、license服务器、域控等，构建完善的EDA混合云方案.通过完整的安全产品，实现...
来自：
云产品
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例，使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer，模拟应用中的关键页面，比如登 录、课程内容等，之后构造若干用户使用的模拟 日志数据，投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖（EMR+OSS）搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
步骤3 ssh 登 录 到 EMR Hadoop 的 master 节 点 修 改 flume 的 配 置 文 件/usr/lib/flume-current/conf/flume-k2hadoop.conf（配置文件可以在附件中下载）：文档版本：20200331 48数据湖-在线学习场景数据分析 应用场景 启动flume，执行命令：flume-ng agent-conf/usr/lib/flume-current/conf/-name a1-conf-file/usr/...
函数计算FC
阿里云函数计算（Function Compute）是一个事件驱动的全托管计算服务。通过函数计算，您无需管理服务器等基础设施，只需编写代码并上传。函数计算会为您准备好计算资源，以弹性、可靠的方式运行您的代码。更棒的是，您只需要为代码实际运行消耗的资源付费，代码未运行则不产生费用。
本场景使用函数计算、Serverless 工作流、对象存储OSS、日志服务 SLS、专有网络 VPC 和文件存储 NAS 服务，实现音视频转码.建议体验时长 30 分钟.基于函数计算实现音视频转码.无服务器的计算方式和免运维特性与前端工程师天然互补，工程师只需编写业务代码即可快速搭建云原生的 Web 应用，有效提高上线迭代效率，降低运维...
来自：
云产品
云工作流
云工作流 CloudFlow 是一个用来协调多个分布式任务执行的全托管 Serverless 云服务，用户可以用顺序、分支、并行等方式来编排分布式任务，服务会按照设定好的顺序可靠地协调任务执行，跟踪每个任务的状态转换，并在必要时执行用户定义的重试逻辑，以确保工作流顺利完成。
比如，来自不同数据源的计量数据被收集到日志服务，函数计算的定时器每小时触发工作流，云工作流利用函数计算对多个Shard的计量数据做并行处理，并将结果分别写回日志服务服务；然后可以将所有Shard产生文件进行聚合，写入表格存储，最后为每个用户生成账单。工作流支持对流程中的单个步骤失败进行重试，降低流程失败概率。...
来自：
云产品
- 产品推荐
- 这些文档可能帮助您