基于OSS Object FC实现非结构化文件实时处理最佳实践
<em>基于</em>OSS Object FC实现非结构化<em>文件</em>实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中,以图片,视频,音频居多。举一个图片处理的场景,现在各种终端种类繁多,不同的终端对图片的格式、分辨率要求也不同,所以一张图片往往会有很多张衍生图,那如果所有的衍生图都存在OSS中,那存储的成本会增加,所以就可以通过OSS Object FC的方案,在不同的终端请求时,对OSS中的原图基于终端的要求做实时处理,然后响应返回,这样OSS中只需要存储原图即可。音视频也有类似的场景。
所以  阿里云函数计算(FC)一张图片往往会有很多张衍生图,那如果所有的  阿里云对象存储(OSS)衍生图都存在OSS中,那存储的成本会增加, 内容分发网络(ContentDeliveryNetwork,CDN) 云速搭CADT 所以就可以通过OSSObjectFC的方案,在不 同的终端请求时,OSS中的原图基于终端的 要求做实时处理,然后响应返回,...
来自: 最佳实践 相关产品:对象存储 OSS,函数计算
基于HBR云上统一备份
<em>基于</em>HBR云上统一备份
场景描述 混合云备份(简称HBR)是一种简单易用且高性价 比的在线备份服务,可以为阿里云ECS,NAS,OSS 以及自建机房内的各类数据提供安全,高效的保护。 本文介绍如何通过HBR对云上数据进行统一备份管 理。 解决问题 1.备份阿里云云上数据。 2.备份数据中心数据。 适用云资源 ECS文件系统 NAS文件 OSS文件 ECS上自建的MySQL、Oracle、SQLServer数据库 ESC上自建的SAPHANA数据库 产品列表 1.HBR备份服务 2.云服务器ECS 3.文件系统NAS 4.对象存储OSS 云上统一备份 云下统一备份 上云备份 备份上云
更多信息,请参见:https://www.aliyun.com/product/oss 文件存储 NAS:存储 NAS是一个可共享访问,弹性扩展,高可靠,高性能的 分布式文件系统。兼容 POSIX 文件接口,可支持数千台计算节点共享访问,可 以挂载到弹性计算 ECS、神龙裸金属、容器服务 ACK、弹性容器 ECI、批量计 算 BCS、高性能计算 EHPC,AI训练 PAI等...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,文件存储NAS,混合云备份,云速搭
边缘安全加速 ESA 技术解决方案
ESA边缘安全加速基于全球3200+节点,提供边缘加速、边缘安全、边缘计算的产品能力,费用构成简单易懂,提供丰富的监控报表、日志工具,为客户网站提供一流性能体验。
相关产品云服务器ECS对象存储 OSS在线咨询方案优势一键接入方便快捷ESA支持根域名接入加速和防护,提供DNS的托管能力,接入后可设置站点全局配置,也可以自定义子域名配置,提升域名接入和管理的使用效率。自定义加速条件ESA提供各类加速规则,例如回源规则、缓存规则、压缩规则等,可根据自身业务特点,实现按区域回源、...
来自: 云产品
网站静态资源访问加速
本方案使用阿里云CDN产品来分发OSS上的网站静态文件,不仅可以降低源站的负载压力,还能够提升网站的访问性能,同时还能在高并发场景下为您节约成本。
架构与部署 网站静态资源访问加速 将网站的静态资源(JS文件、CSS文件、图片、音视频文件等)存储在OSS上,CDN会将OSS源站的文件提前缓存到CDN全球加速节点,用户请求访问或下载资源时,可以就近获取到CDN节点上已缓存的资源,从而实现资源访问加速。立即部署 30分钟 5元(假设您配置CDN产品和OSS产品时均选择采用按量付费...
基于函数计算实现直播流录制-存储-通知
<em>基于</em>函数计算实现直播流录制-<em>存储</em>-通知
在互娱、教育、电商等行业都会有直播相关的业务,大部分场合都需要对直播相关的业务做安全审核,或者对直播的课程进行录制和转码。该方案实现了一种完全按需拉起、按量弹性、按实际使用付费的录制方案。基于本方案还可以扩展实现直播流截帧、自动化安全审核等能力
搜索关键字,找到“基于函数计算实现自定义直播-拉流-录制-存储-通知”,单击 方案新建。文档版本:20240422 8 基于函数计算实现自定义直播-拉流-录制-存储-通知 环境搭建 双击 Region,可以选择应用期望部署的 Region 地域 双击 vpc,查看 VPC 信息。购买方式:可以选择新购,或导入已保有,可以根据实际情况选择。VPC...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
云原生企业级数据湖
基于对象存储 OSS 构建的数据湖支持多种数据输入和存储格式,实现数据整合与分析,直接从OSS进行大数据分析以挖掘业务价值。数据湖还提供冷热数据分层和生命周期管理,优化存储成本。
结合高性能文件存储 CPFS,实现 OSS 与 CPFS 数据双向流通,同时,热点训练数据以透明方式同步到 CPFS,通过 CPFS 的文件语义与机器学习平台 PAI 对接,满足高性能训练场景需求。立即部署 80分钟 5元(假设您选择最低规格资源,且资源运行时间不超过30分钟。如调整了资源规格,请以控制台显示的实际报价以及最终账单为准)...
高价值用户挖掘及触达
本方案使用阿里云机器学习平台PAI的强大算法能力,通过对用户数据的计算和预测,辅助客户对人群营销决策的判断,在用户召回,流失预测,高价值用户寻找等多个运营场景,帮助客户降低成本,提高效率,客户可通过短信的方式触达用户,完成营销触达的全链路操作。
立即部署 90分钟 30元(体验本方案假设10,000人进行智能圈选,将过程中的所有文件存储于OSS)人工智能平台 PAI 开源大数据平台 E-MapReduce 大数据开发治理平台 DataWorks 云原生大数据计算服务 MaxCompute 短信服务 对象存储 应用场景 技术解决方案的广泛应用场景 流失/低活用户召回 长期未访问APP的历史注册用户、...
基于FC实现的Web端视频录制最佳实践
<em>基于</em>FC实现的Web端视频录制最佳实践
场景描述在很多互娱场景,在线教育领域会有直播视频录制的需求,但是往往一个页面上的内容是多种多样的,不止有直播流,可能还有白板,评论等其他元素,如果只是录直播流,那内容是不完整的,所以需要将整个屏幕的内容录制为视频。该最佳实践可以有效解决这个场景。
对象存储 OSS:对象存储 OSS,是海量、安全、低成本、高可靠的云存储服务。使用 RESTful API 可以在互联网任何位置存储和访问,容量和处理能力弹性扩 展,多种存储类型供选择全面优化存储成本。容器镜像服务 ACR(Alibaba Cloud Container Registry):是面向容器镜像、Helm Chart等符合 OCI标准的云原生制品安全托管及高效...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
开源大数据平台 E-MapReduce 技术解决方案
阿里云开源大数据平台 E-MapReduce 技术解决方案,帮助您快速了解如何利用这款弹性伸缩、存算分离的企业级大数据平台服务来提升业务效率,降低成本。
结合高性能文件存储 CPFS,实现 OSS 与 CPFS 数据双向流通,同时,热点训练数据以透明方式同步到 CPFS,通过 CPFS 的文件语义与机器学习平台 PAI 对接,满足高性能训练场景需求。解决问题:数据孤岛林立不同业务部门由于数据规模、数据类型不同而出现不同的数据孤岛,难以从统一位置访问和管理所有数据,数据无法实现有效...
来自: 云产品
通过PAI-灵骏分布式训练和部署Llama 2模型
灵骏支持业界各类流行的开源大语言模型,包括Llama2系列、Bloom系列、Falcon系列、GLM/ChatGLM系列,以及领域大模型galactica等的高效训练和部署。本方案整体可用于企业样本标注、创意文本生成、智能对话助手、文本类创作辅助等场景。
人工智能平台 PAI 对象存储 文件存储NAS 应用场景 技术方案的广泛应用场景 企业智能客服 在无需准备过多语料素材的情况下,实现专属定制版企业适配大语言模型。智能方案推荐 定制化的模型拥有分析学习能力,结合实际需求,辅助给出个性化且高度定制化的方案推荐。游戏场景NPC对话 通过Llama2构建的游戏NPC对话模型,相较...
基于函数计算FC实现物联网音视频处理
<em>基于</em>函数计算FC实现物联网音视频处理
在物联网场景中,智能设备会产生大量的非结构化数据,并且采集量和频率都很高。比如各类摄像头(家用摄像头、车载摄像头、工业监控摄像头等)采集的数据。企业需要对这些非结构化数据做快速的分析和处理,然后应用到下游业务中,所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
基于函数计算FC实现物联网音视频处理最佳实践 场景描述 业务架构 基于阿里云函数计算FC和云工作流(CloudFlow)实现物联网智能设备采集的音视频做切片、转解码 等视频处理,回传OSS,然后在客户端拉流观看的 自动化流程。应用场景 在物联网场景中,智能设备会产生大量的非结构化数 据,并且采集量和频率都很高。比如各类...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
本地数据中心基于SMB/NFS协议访问对象存储最佳实践
本地数据中心<em>基于</em>SMB/NFS协议访问<em>对象存储</em>最佳实践
1. 云存储扩容和迁移 集成智能缓存算法,自动识别冷热数据,将热数据保留在本地缓存,保证数据访问体验,无感知的将海量云存储数据接入本地数据中心,拓展存储空间。同时在云端 保留全量数据(冷+热)保证数据的一致性 2.云容灾 随着云计算的普及,越来越多的用户把自己的业务放到了云上。但是随着业务的发展,如何提高业务的可靠性和连续性,跨云容灾是一个比较热门的话题。借助云存 储网关对虚拟化的全面支持,可以轻松应对各种第三方云厂商对接阿里云的数据容灾。 3. 多地数据共享和分发 通过多个异地部署的文件网关实例,对接同一个阿里云OSS Bucket,可以实现快速的异地文件共享和分发,非常适合多个分支机构之间互相同步和共享数据。 4. 适配传统应用 有很多用户在云上的业务是新老业务的结合,老业务是从数据中心迁移过来的使用的是标准的存储协议,例如: NFS/SMB/iSCSI。新的应用往往采用比较新的技 术,支持对象访问的协议。如何沟通两种业务之间的数据是一个比较麻烦的事情,云存储网关正好起到一个桥梁的作用,可以便捷的沟通新旧业务,进行数据交换。 5. 替代 ossfs 和 ossftp ossfs 和 ossftp 都是基于文件协议的开源工具,用户可以通过它们直接上传文件到OSS。但是这两个开源文件都不建议在生产环境使用(POSIX 兼容度低),同时挂 载在用户的客户端需要额外的配置和缓存资源,对于多个客户端的情况安装配置繁琐。通过文件网关的服务可以完美替代 ossfs 和 ossftp。通过创建文件网关,用 户只需要执行简单的挂载(NFS)和映射(Windows SMB)就可以像使用本地文件系统一样使用 OSS。
本地数据中心基于 SMB/NFS协议访问对象存储 最佳实践 业务架构 场景描述 本地数据中心在本地存储有限的情况下可以 于云存储网关搭建一个海量文件系统的文件存 服务,实现多个数据中心互相之间高效的同步 和共享数据。云存储网关以对象存储 OSS为后 端存储,为云上和云下应用提供业界标准的文件 服务(NFS和 SMB)和块...
来自: 最佳实践 | 相关产品:对象存储 OSS,云存储网关
基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
<em>基于</em>函数计算FC实现阿里云Kafka消息轻量级ETL处理
在大数据ETL场景,Kafka是数据的流转中心,Kafka中的数据一般是原始数据,可能存在多种数据混杂的情况,需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC,可以快速高效的搭建数据处理链路,用户只需要关注数据处理的逻辑,数据的触发,弹性伸缩,运维监控等阿里云函数计算都已经做了集成,函数计算FC也支持多种下游,OSS/数据库/消息队列/ES等都可以自定义的对接
可以看到对应的文件,代码中文件存储的名字按照时间生成。点击下载,可以在本地查看文件内容 文档版本:20240408 25 基于函数计算 FC实现阿里云 Kafka消息轻量级 ETL处理 场景验证 本次下载本地数据如下,符合预期,输入 3条数据,包含“error”关键字的被过滤,留下2条数据 如果结果不符合预期,可以开启函数计算日志,在...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算,消息队列 Kafka 版
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
<em>基于</em>函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
步骤1 需要手动清理配置的好的4个函数 步骤2 OSS数据清理,进入OSS控制台,找到存放元数据信息的Bucket,删除三个存储Kafka 元数据的文件(这三以group_list_,topic_list_打头)。文档版本:20240330 61基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步 场景验证 步骤3 打开需要释放的应用,点击底部中间区域的...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
对象存储 OSS
阿里云对象存储 OSS(Object Storage Service)是一款海量、安全、低成本、高可靠的云备份服务,提供最高可达 99.995 % 的服务可用性。多种存储类型供选择,全面优化存储成本。
相关产品对象存储 OSS 本产品开源大数据平台 E-MapReduce文件存储 CPFS人工智能平台 PAI一键部署2023 杭州·云栖大会:计算,为了无法计算的价值云栖大会开始 2009 年,始终以引领云计算创新为宗旨,以坚持开放为姿态,承载着云计算的思想、突破、产业实践,推动了中国云计算产业的前.精彩回放云栖速递:面向大规模数据...
来自: 云产品
文件存储CPFS
阿里云文件存储CPFS是完全托管、可扩展的并行文件存储系统。针对高性能计算场景的性能要求进行了深度优化,提供对数据毫秒级的访问和百万级IOPS的数据读写请求。
文件存储 CPFS(Cloud Parallel File Storage)是阿里云完全托管的并行文件系统,支持 POSIX\\\\MPI-IO 和 NFS 协议,提供数据亚毫秒级的访问和数十 GB/s 的读写吞吐,推荐用于 AIGC、自动驾驶、EDA 仿真、CG 渲染等业务场景.CPFS 协议服务功能,提供低门槛 NFS 协议访问能力.CPFS 协议服务功能,提供低门槛 NFS 协议访问...
来自: 云产品
云速搭部署基于OSS的Nextcloud网盘
云速搭部署<em>基于</em>OSS的Nextcloud网盘
通过云速搭实现基于OSS的NextCloud网盘的部署,这里使用ECS的UserData特性自动安装MySQL等组件,减少配置工作量。
详见 https://www.aliyun.com/product/ecs 对象存储 OSS:对象存储服务(Object Storage Service,OSS)是一种海 量、安全、低成本、高可靠的云存储服务,适合存放任意类型的文件。容量和 处理能力弹性扩展,多种存储类型供选择,全面优化存储成本。详见 https://www.aliyun.com/product/oss 文档版本:20220328 3 云速搭...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,云速搭CADT
基于MaxCompute的大数据BI分析
<em>基于</em>MaxCompute的大数据BI分析
场景描述 本文以电商行业为例,将业务数据和日志数据使用 MaxCompute做ETL之后,同步到ADB进行实时 分析,之后通过QuickBI进行快速可视化展示。 解决问题 1.互联网行业、电商、游戏行业等网站、App、 小程序应用内BI分析场景。 2.可扩展到各类网站BI分析场景使用。 产品列表 1.MaxCompute 2.分析型数据MySQL版 3.日志服务SLS 4.QuickBI 5.云服务器ECS 6.RDSMySQL版
基于 MaxCompute的大数据 BI分析 最佳实践 场景描述 业务架构 本文以电商行业为例,将业务数据和日志数据使用 MaxCompute做 ETL之后,同步到 Hologres进行实时分 析,之后通过 Quick BI进行快速可视化展示。解决问题 1.互联网行业、电商、游戏行业等网站、App、小程 序应用内 BI分析场景。2.可扩展到各类网站 BI分析场景...
来自: 最佳实践 | 相关产品:日志服务(SLS),大数据计算服务 MaxCompute,云原生数据仓库AnalyticDB My,Quick BI,云速搭CADT
基于Flink的资讯场景实时数仓
<em>基于</em>Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景,Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
数据分析包括以下两步:a)通过实时计算 Flink抽取 DWD中对应信息并进行轻度汇总(如部分业务指标 计算),生成 DWS(Data Warehouse Summary,汇总数据层),并将数据 到 AnalyticDB for MySQL。b)通过 AnalyticDB for MySQL进行多维数据分析和大屏实时查询。4.业务系统:业务系统通过 DataV数据可视化实现业务指标实时...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,NAT网关,云原生数据仓库AnalyticDB My,云速搭CADT
< 1 2 3 4 ... 9 >
共有9页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用