基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
基于函数<em>计算</em>FC实现阿里云Kafka消息轻量级ETL处理
在大数据ETL场景,Kafka是数据的流转中心,Kafka中的数据一般是原始数据,可能存在多种数据混杂的情况,需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC,可以快速高效的搭建数据处理链路,用户只需要关注数据处理的逻辑,数据的触发,弹性伸缩,运维监控等阿里云函数计算都已经做了集成,函数计算FC也支持多种下游,OSS/数据库/消息队列/ES等都可以自定义的对接
使用函数 ,您无需采购与管理服务器等基础设施,只需编写并上传代码或镜像。函数计算为您准 备好计算资源,弹性地、可靠地运行任务,并提供日志查询、性能监控和报警等功能。云消息队列 Kafka 版:云消息队列 Kafka 版是阿里云提供的分布式、高吞吐、可扩展的 消息队列服务。云消息队列 Kafka 版广泛用于日志收集、监控...
来自: 最佳实践 相关产品:对象存储 OSS,函数计算,消息队列 Kafka 版
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数<em>计算</em>FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
使用函数 ,您无需采购与管理服务器等基础设施,只需编写并上传代码或镜像。函数计算为您准 备好计算资源,弹性地、可靠地运行任务,并提供日志查询、性能监控和报警等功能。 云消息队列Kafka 版:云消息队列Kafka 版是阿里云提供的分布式、高吞吐、可扩展的 消息队列服务。云消息队列Kafka版广泛用于日志收集、监控...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
基于函数<em>计算</em>FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
整体方案通过 CADT 可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数 和 MongoDB 控制台做少量配置即可。方案优势 l 可以实现根据 Kafka 消息的具体内容判断,该对 MongoDB 做哪种 DML 操作,灵活性和可 扩展性极高。l 函数计算具有完善的日志系统、容错机制。可以清晰的看到对每条消息的处理日志,...
来自: 最佳实践 | 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
函数计算实现弹性音视频处理系统
函数<em>计算</em>实现弹性音视频处理系统
场景描述 本示例通过函数计算部署一个高弹性高可用的 音视频处理系统。尤其适合视频网站使用,每天 有大量的上传视频,需要及时转码处理以适配各 种终端及网络条件,要求短时间内准备大量的计 算资源进行大规模并行转码处理,同时希望基于 FFmpeg自建的转码服务能简单迁移。 解决问题 1.如何使用函数计算部署音视频处理系统。 2.如何进行系统的压测。 产品列表 函数计算服务 文件存储NAS 对象存储OSS 函数工作流FnF 日志服务SLS
性能压测 验证功能正常后,现在需要考虑的问题是如何评价这套能够支撑多大的业务量,下面 文档版本:20201228(发布日期)39 Function Compute 实现弹性音视频处理系统 应用测试 使用压测脚本进行压测。注意:在压测之前,为展示 FC的实际能力,提工单将并发申请提高到 350,再进行以 下步骤的压测。步骤1 下载测试脚本。...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,文件存储NAS,日志服务(SLS),Serverless 工作流
云数据库 SelectDB 版
阿里云数据库 SelectDB 是现代化实时数据仓库 SelectDB 在阿里云上的全托管服务,内核基于业界领先的开源分析型数据库 Apache Doris 研发,由阿里云和飞轮科技联合打造。阿里云数据库 SelectDB 聚焦于满足企业级大数据分析需求,广泛应用于实时报表分析、即席多维分析、日志检索分析、数据联邦与查询加速等场景,致力于为客户提供极致性能、简单易用的数据分析服务。
2023-09-04Apache Doris 巨大飞跃:存分离新架构历史,数据分析需求的不断提升(更大的数据规模、更快的处理速度、更低的使用成本)和计算基础设施的不断进化(从专用的高端硬件、到低成本的商用硬件、到云计算服务),这两大因素推动数据仓库的架构大体经历了三个时代:软硬一体的一体机时代、存一体的分布式时代...
来自: 云产品
云行情
阿里云云行情系列产品是为了增加全球资本市场透明度,满足不同层次的客户信息需求。为金融机构、互联网公司、科技公司等行情客户提供端到端的一站式云行情产品服务,有效改进用户体验、降低技术和成本门槛、提升整体效率,助力行业数字化运营、仿真、实盘、高频、投研等方面转型能力提升,协助企业快速搭建稳定高质量的交易所行情基础服务。
提供全港交易市场串流、低时延证券类行情(普通股票、存托凭证、ETP、Warrant、牛熊等),包括开盘价,最新价,收盘价,成交量,买卖一档挂单以及港股IIS信息和Index指数(恒指、国)信息等相关实时数据。SEC标准Plus版.提供全港交易市场串流、低时延证券类行情,包括开盘价,最新价,收盘价,成交量,买卖十档挂单、十...
来自: 云产品
云服务器基准性能测试
云服务器基准性能测试
本最佳实践适合利用标准的benchmark工具对云服务器的CPU、内存、网络和磁盘性能进行测试的场景。
最后用 time命令输出计算的时间,可以用时间的长短来衡量 CPU核心的计算能力,比如同样计算到 PI的小数点后 5000位,计算时间越短,说明 CPU核心的计算能力越强。多核心测试脚本:#vim superpi_multicore.sh#!bin/bash cpu_seqs=`cat/proc/cpuinfo|grep proce|sed-e"s/.*/g"|tr-s ' ' ' '` for cpu_seq in$cpu_seqs;do 文档...
来自: 最佳实践 | 相关产品:块存储,专有网络 VPC,云服务器ECS,云速搭CADT
高速云控解决方案
在智慧高速场景下,阿里云基于数据融合引擎,整合外场硬件和高速信息系统数据,依托阿里云计算平台,通过智能高速引擎和交通视觉计算,有效的在高速交通态势、事件处置闭环、公众信息服务诱导以及逃费稽查等高速应用场景实现智慧云控。
道路隐患体检:算法实时计算高速路的风险指数,对风险点进行报警•AI 道路体检:数据源头增强,感知精细化,提升事故精准路段定位•重点车辆隐患管控:实时监测和分析高速公路的工程车、两客一危等车辆。支持车辆轨迹伴随、事故高发路段分析、重点车辆集中路段分析.谢赟辉,靖鑫,也树.基于达摩院 AI 算法与高德深度融合...
来自: 解决方案
计算机软件著作权登记
全新支持APP/小程序全程在线电子化登记,无纸化线上极速办理,助力APP便捷上架,最快3个工作日拿证。在线填写,系统纠错,全流程可视化,申请进度实时掌控,阿里云开启知识产权一站式专业服务。
阿里云计算机软件著作权登记,全新支持APP/小程序全程在线电子化登记,无纸化线上极速办理,助力APP便捷上架,最快3个工作日拿。在线填写,系统纠错,全流程可视化,申请进度实时掌控,阿里云开启知识产权一站式专业服务。
来自: 云产品 | 相关产品:版权与专利,软件著作权申请,源代码版权申请,计算机软件著作权,软件著作权代码,APP/小程序软件著作权在线登记,APP著作权,软件著作权
触手可及,函数计算玩转 AI 大模型
AI的时代下,大模型类型丰富、功能强大,正推动着各行各业的智能化转型和创新突破。企业纷纷寻求部署自己的大模型,以满足特定业务需求,从而在激烈的市场竞争中获得优势。本方案介绍通过阿里云函数计算的按量付费、卓越弹性、快速交付能力,助力企业快速部署 AI 大模型。
方案架构 如何通过函数计算部署 AI 大模型 利用函数计算的无服务器架构,选择相应的大模型应用模板或直接部署模型镜像,结合文件存储 NAS存储应用服务所需的大模型和相关文件,最终通过访问提供的域名进行模型的调用与验证。本方案的技术架构包括以下基础设施和云服务:函数计算:用于提供基于大模型的应用服务。文件存储 ...
告别资源瓶颈,函数计算驱动多媒体文件处理
本方案推荐使用函数计算,利用事件驱动和异步任务的方式,将文件处理任务与核心应用解耦,同时依靠函数计算自动弹性扩展和按使用付费的优势,提升高并发的处理效率和服务稳定性。
本方案推荐使用函数计算,利用事件驱动和异步任务的方式,将文件处理任务与核心应用解耦,同时依靠函数计算自动弹性扩展和按使用付费的优势,提升高并发的处理效率和服务稳定性。告别资源瓶颈,函数计算驱动多媒体文件处理 本方案推荐使用函数计算,利用事件驱动和异步任务的方式,将文件处理任务与核心应用解耦,同时依靠...
通义灵码助力函数计算FC实现函数编写
通义灵码助力函数<em>计算</em>FC实现函数编写
现在社会软件开发的复杂性不断增加,服务器配置和运维管理更复杂、开发效率变低。函数计算FC采用无服务器计算模式,用户只需要关注业务逻辑的实现,无需关心底层的服务器配置和运维管理,从而大大降低了运维成本和复杂性,而且具有弹性伸缩、快速部署、按需使用按量付费的特点。通义灵码是阿里云出品的一款基于通义大模型的智能编码辅助工具,可以帮助开发者快速编写高质量的代码,为开发者提供了强大的编程辅助功能。两者的结合让开发者可以更高效地编写函数代码,简化部署流程,提高开发效率。
函数 FC采用无服务器计算模式,用户只需要关注业务逻辑的实现,无需关心底层的服务器配置 和运维管理,从而大大降低了运维成本和复杂性,而且具有弹性伸缩、快速部署、按需使用按 量付费的特点。通义灵码是阿里云出品的一款基于通义大模型的智能编码辅助工具,可以帮助 开发者快速编写高质量的代码,为开发者提供了强大...
来自: 最佳实践 | 相关产品:函数计算,通义灵码
基于函数计算FC镜像部署Stable Diffusion大模型
基于函数<em>计算</em>FC镜像部署Stable Diffusion大模型
在现代AI应用中, Stable Diffusion等模型因其强大的功能而受到关注。然而,这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑,而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境,包括冷启动、弹性伸缩等,确保模型能够在大规模的请求下稳定运行。
函数 FC能够自动处理函数的执行环境,包括冷启动、弹性伸缩等,确保模型能够在大 规模的请求下稳定运行。方案优势 简化模型部署流程 全链路自适应弹性,无需为流量峰谷做频繁的手工处理 内置CICD平台能力,灰度,回滚,监控开箱即用 按量付费模式,没有资源闲置费用 产品介绍 函数计算 FC(Function Compute):函数...
来自: 最佳实践 | 相关产品:函数计算
基于函数计算FC实现物联网音视频处理
基于函数<em>计算</em>FC实现物联网音视频处理
在物联网场景中,智能设备会产生大量的非结构化数据,并且采集量和频率都很高。比如各类摄像头(家用摄像头、车载摄像头、工业监控摄像头等)采集的数据。企业需要对这些非结构化数据做快速的分析和处理,然后应用到下游业务中,所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
使用函数 ,您无需采购与管理服务器等基础设施,只需编写并上传代码或镜像。函数计算为您准 备好计算资源,弹性地、可靠地运行任务,并提供日志查询、性能监控和报警等功能。 云工作流(CloudFlow):是一个用来协调多个分布式任务执行的全托管云服务。在云工作 流中,您可以用顺序、分支、并行等方式来编排分布式...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
基于函数计算FC实现大语言模型部署
基于函数<em>计算</em>FC实现大语言模型部署
在现代AI应用中, Qwen /chatglm2-6b 和Stable Diffusion等模型因其强大的功能而受到关注。然而,这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑,而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境,包括冷启动、弹性伸缩等,确保模型能够在大规模的请求下稳定运行。
基于函数计算 FC实现大语言模型部署最佳实践 业务架构 方式一:魔搭 SwingDeploy模型到 FC 方式二:FC3.0应用模板部署 场景描述 在现代 AI应用中,Qwen/chatglm2-6b等社区模型因其强大的功能而受到关注。然而,这些模型对计算 资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算 FC的无服务器计算模式为这类模型...
来自: 最佳实践 | 相关产品:函数计算
基于函数计算实现直播流录制-存储-通知
基于函数<em>计算</em>实现直播流录制-存储-通知
在互娱、教育、电商等行业都会有直播相关的业务,大部分场合都需要对直播相关的业务做安全审核,或者对直播的课程进行录制和转码。该方案实现了一种完全按需拉起、按量弹性、按实际使用付费的录制方案。基于本方案还可以扩展实现直播流截帧、自动化安全审核等能力
可以灵活调整函数计算上部署的录制代码,比如增加视频截帧、边录边转码等。文档版本:20240422 4 基于函数计算实现自定义直播-拉流-录制-存储-通知 最佳实践概述 部署架构 架构说明 该方案的整条链路是非常清晰明确的:用户发起直播流程。直播系统/APP里发起对函数计算的 API 调用,并带上直播流地址。函数计算根据用户发起...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
基于云速搭CADT快速构建药物筛选批量<em>计算</em>环境-serverless版
本方案基于云速搭 CADT提供一个快速构建云上Serverless版HPC批量计算环境的模板,针对生物制药领域的药物筛选场景,提供开箱即用的整套解决方案工具包,整个云上环境仅需1个小时即可完成自动化部署搭建。
基于云速搭 CADT快速部署药物筛选批量计算环境-Serverless版 场景描述 部署架构 本方案基于云速搭 CADT 提供一个快速构建云 Serverless版 HPC批量计算环境的模板,针对生物 制药领域的药物筛选场景,提供开箱即用的整套解 决方案工具包,整个云环境仅需 1个小时即可完 成自动化部署搭建。解决问题 快速构建适用于药物...
来自: 最佳实践 | 相关产品:弹性公网IP,文件存储NAS,日志服务(SLS),容器镜像服务 ACR,操作审计,密钥管理服务,云防火墙,弹性高性能计算E-HPC,云速搭
基于FC实现的Web端视频录制最佳实践
基于FC实现的Web端视频录制最佳实践
场景描述在很多互娱场景,在线教育领域会有直播视频录制的需求,但是往往一个页面上的内容是多种多样的,不止有直播流,可能还有白板,评论等其他元素,如果只是录直播流,那内容是不完整的,所以需要将整个屏幕的内容录制为视频。该最佳实践可以有效解决这个场景。
审阅人 文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 2024-03-25 缘 增加了停止任务需要配置 V1.1 2024-04-03 缘 权限的步骤 更新了停止任务章节截图 文档版本:20240325 I 基于 FC实现的 Web端视频录制最佳实践 前言 前言 名词解释 函数计算 FC(Function Compute):函数计算是事件驱动的全托管计算服务。...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
基于OSS Object FC实现非结构化文件实时处理最佳实践
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中,以图片,视频,音频居多。举一个图片处理的场景,现在各种终端种类繁多,不同的终端对图片的格式、分辨率要求也不同,所以一张图片往往会有很多张衍生图,那如果所有的衍生图都存在OSS中,那存储的成本会增加,所以就可以通过OSS Object FC的方案,在不同的终端请求时,对OSS中的原图基于终端的要求做实时处理,然后响应返回,这样OSS中只需要存储原图即可。音视频也有类似的场景。
使用函数 ,您无需采购与管理服务器等基础设施,只需编写并上传代码或镜像。函数计算为您准 备好计算资源,弹性地、可靠地运行任务,并提供日志查询、性能监控和报警等功能。 内容分发网络(ContentDeliveryNetwork,CDN):是建立并覆盖在承载网上,由不同区 域的服务器组成的分布式网络。将源站资源缓存到全国各地...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
计算巢服务
阿里云计算巢服务是一个面向ISV、SI、MSP和开发者的云集成PaaS平台,方便服务商更好的将产品、服务集成,借助云原生的能力提升软件服务交付、部署及后续管理。
2023-4-18计算巢软件免费试用中心深入解读计算巢软件免费试用中心,讲解如何帮助ISV快速构建POC环境服务其云客户,以及云客户如何快速通过计算巢试用中心免费试用云应用产品。2022-09-13进入计算巢开发者社区,查看更多内容使用搜索功能,精准寻找计算巢相关内容立即体验,在阿里云创造未来立即领用云产品,开启云...
来自: 云产品
< 1 2 3 4 >
共有4页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用