基于函数计算FC实现物联网音视频处理
基于函数计算FC实现物联网音视频处理
在物联网场景中,智能设备会产生大量的非结构化数据,并且采集量和频率都很高。比如各类摄像头(家用摄像头、车载摄像头、工业监控摄像头等)采集的数据。企业需要对这些非结构化数据做快速的分析和处理,然后应用到下游业务中,所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
基于函数计算FC实现物联网音视频处理最佳实践 场景描述 业务架构 基于阿里云函数计算FC和云工作流(CloudFlow)实现对物联网智能设备采集的音视频做切片、转解码 等视频处理,回传OSS,然后在客户端拉流观看的 自动化流程。应用场景 在物联网场景中,智能设备会产生大量的非结构化数 据,并且采集量和频率都很高。比如各类...
来自: 最佳实践 相关产品:对象存储 OSS,函数计算
基于函数计算实现直播流录制-存储-通知
基于函数计算实现直播流录制-存储-通知
在互娱、教育、电商等行业都会有直播相关的业务,大部分场合都需要对直播相关的业务做安全审核,或者对直播的课程进行录制和转码。该方案实现了一种完全按需拉起、按量弹性、按实际使用付费的录制方案。基于本方案还可以扩展实现直播流截帧、自动化安全审核等能力
构造测试参数 本次测试,我自行搭建了 RTMP 推流服务器,推流成功后,可以获取到推流的 URL 。用户侧使用时,需要自行准备推流地址,如果没有推流地址,可以用可被公网访 问的视频地址代替。如下参数说明,需要替换标红的 URL 地址为自己上一步查看到的 接口地址:curl-X POST-H"X-Fc-Invocation-Type:Async"-H...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步最佳实践 场景描述 业务架构 基于阿里云函数计算FC实现同帐号阿里云Kafka实 例之间消息、元数据同步,跨帐号阿里云Kafka实例 之间消息、元数据同步,阿里云Kafka实例和IDC 建Kafka(其他云Kafka)之间消息、元数据同步。应用场景 在大数据场景,企业的Kafka实例...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
基于OSS Object FC实现非结构化文件实时处理最佳实践
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中,以图片,视频,音频居多。举一个图片处理的场景,现在各种终端种类繁多,不同的终端对图片的格式、分辨率要求也不同,所以一张图片往往会有很多张衍生图,那如果所有的衍生图都存在OSS中,那存储的成本会增加,所以就可以通过OSS Object FC的方案,在不同的终端请求时,对OSS中的原图基于终端的要求做实时处理,然后响应返回,这样OSS中只需要存储原图即可。音视频也有类似的场景。
(函数中的代码在后续需要进入函数计算控制 台补充) vCPU规格:0.35c(函数计算有多种CPU资源规格,可以根据实际情况自行选择) 内存规格:512MB(函数计算有多种内存资源规格,可以根据实际情况自行选择) 硬盘大小:512MB(函数计算提供免费的512MB的存储空间,如果超过512MB,会提供10GB的存储空间,但是会有额外...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
(函数中的代码在后续需要进入函数计算控制台 补充)l vCPU 规格:0.35c(函数计算有多种 CPU 资源规格,可以根据实际情况自行选择)l 内存规格:512MB(函数计算有多种内存资源规格,可以根据实际情况自行选择)l 硬盘大小:512MB(函数计算提供免费的 512MB 的存储空间,如果超过 512MB,会提供 10GB 的存储空间,但是会...
来自: 最佳实践 | 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
迁移与运维管理阿里云提供一系列运维管理工具帮助用户实现简化、自动运维管理,帮助用户实现站云资源的优化,实现运维与监控、云管理、备份与迁移,轻松控制云基础产品与基础设施。运维与监控日志服务 SLS行业领先的日志大数据解决方案,一站式提供数据收集、清洗、分析、可视化和告警功能。应用实时监控服务 ARMS...
来自: 云产品
云数据库 RDS MySQL 版
阿里云云数据库RDS MySQL是一种稳定可靠、可弹性伸缩的在线MySQL数据库服务, 提供了高可用、高可靠、高安全、易运维等一站式的数据库解决方案,帮助您免除MySQL运维的烦恼。
数据库“自动驾驶”解决运维复杂问题支持自动扩缩容、自动SQL优化、自动SQL限流等,实现数据库的感知、修复、优化、运维及安全,减轻运维负担,减少运维成本。产品功能倚天 ARM基于倚天芯片打造,软硬协同,性价比提升30%~50%Serverless极致弹性,按使用量付费,最高可节省费用70%集群版多 AZ 集群,只读降本,...
来自: 云产品
企业上云workshop
企业上云workshop
本文模拟了如下场景: 1. 线下 IDC 环境中部署了一个业务系统,业务是利用 wordpress 系统提供网站服务。 2. 本文详细介绍了如何将以上线下系统搬迁到云上, 包括如何在云上构建以上业务系统,如何迁移线下 系统到云上,如何割接。 3. 最后介绍了迁移上云后,如何部署安全系统。 解决问题 IDC 业务系统搬迁上云 云上构建业务系统 部署安全系统
用 ping来检查,可以看到 ping ws0001.lustre.site的时候,已经返回 waf的 cname ,表明解析成功。可以在公网环境的主机(比如,连接公网的笔记本电脑)上执行 以下命令:ping ws0001.lustre.site 13.4.验证 WAF防护效果 13.4.1.Web应用攻击防护效果 步骤1 分别在浏览器的地址栏输入以下 3个 url,模拟 SQL注入攻击、...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,负载均衡 SLB,弹性公网IP,文件存储NAS,云数据库PolarDB,Web应用防火墙,云防火墙,SSL证书,云速搭
云防火墙
阿里云云防火墙可提供统一的互联网边界、内网VPC边界、主机边界流量管控防护,包括结合情报的实时入侵防护能力,是您的网络边界防护和等保合规利器。
阿里云云防火墙是一款云原生的云上边界网络安全防护产品,可提供统一的互联网边界、NAT边界、VPC边界、主机边界流量管控与安全防护,包括结合情报的实时入侵防护、流量可视化分析、智能化访问控制、日志溯源分析等能力,是您的网络边界防护与等保合规利器.企业上云等保安全咨询.云防火墙的所有流量会在日志审计分析记录,...
来自: 云产品
混合云自有K8S弹性使用ECI
混合云自有K8S弹性使用ECI
场景描述 本文介绍线下IDC与云端通过专线构建混合云架构,自有K8S利用虚拟节点弹性调用ECI承载业务高峰期资源需求的最佳实践。 解决问题 混合云环境下,自有K8S集群注册至ACK,实现云端纳管。纳管K8S集群部署Virtual Node,使集群具备ECI资源调度能力。在以上环境中部署Web及离线作业应用,并使用ECI资源作为弹性资源池满足业务波峰需求。 产品列表 云服务器ECS 云架构设计工具CADT 专有网络VPC 访问控制RAM 云企业网CEN 弹性容器实例ECI Nat网关NAT 容器镜像服务ACR 负载均衡SLB 容器服务Kubernetes版ACK 弹性公网IPEIP
添加 Helm命令自动补齐:helm completion bash>>.bashrc&source.bashrc 步骤6 添加仓库。helm repo add bitnami https://charts.bitnami.com/bitnami 文档版本:20210520 19 混合云 IDC自有 K8S弹性使用 ECI 部署 K8S集群 2.5.K8S Node节点安装 完成 Master节点 node1的安装后,将 node2、node3、node4三个节点加入集群。...
来自: 最佳实践 | 相关产品:块存储,专有网络 VPC,云服务器ECS,负载均衡 SLB,容器服务 ACK,访问控制,NAT网关,云企业网,容器镜像服务 ACR,弹性容器实例 ECI
传统企业业务上云基础安全防护
传统企业业务上云基础安全防护
场景描述 越来越多的企业客户选择把自己的生产系统部 署在公共云平台上,以满足自身业务的发展及弹 性扩缩容、稳定性等方面的需求。如何在公共云 上构建基本的网络安全、主机安全、入侵检测、 运维审计等方案,是企业首选的最佳实践。 解决问题 1.服务器安全、应用安全 2.网络安全、数据安全 3.安全审计、安全管理 产品列表 云安全中心 Web应用防火墙 云防火墙 SSL证书 数据库审计 堡垒机
文档版本:20220210 111传统企业业务上云基础安全防护 数据库审计  数据库名:ECS建mysql数据库  数据库类型:MySql  数据库版本:5.6  选择字符集:Latin  操作系统:Linux64  IP地址:填写安装mysql的ECS的内网地址(示例为regionHZ001服务器) 端口:3306  描述:审计ECS建mysql数据库 7.2.5....
来自: 最佳实践 | 相关产品:云安全中心,Web应用防火墙,数据库审计,堡垒机,云防火墙,云速搭CADT
基于弹性计算的AI推理
基于弹性计算的AI推理
场景描述 本方案适用于使用GPU进行AI在线推理的场 景。在推理之前,模型已经训练完成。例如,刷脸 支付中,我们在刷脸的时候,就是推理的一个过 程。再比如图像分类,目标检测,语音识别,语 义分析等返回结果的过程。 解决问题 使用GPU云服务器搭建推理环境 使用容器服务Kubernetes版构建推理 环境 使用NAS存储模型数据 使用飞天AI加速推理工具加速推理 产品列表 GPU云服务器 容器服务Kubernetes版 NAS共享存储
配置项 说明 记录类型 A 主机记录 填写步骤 5中获得的 Ingress域名的主机记录,示例中 是 nb 记录值 填写步骤 5中获得的 Notebook的 IP地址,示例中是 47.xx.xx.234 成功添加解析记录,新建解析记录自动生效。步骤7 验证域名解析。ping nb.lustre.site 27 企业上云实践 基于弹性计算的 AI推理|部署 Mobilenet推理demo 返回...
来自: 最佳实践 | 相关产品:云服务器ECS,文件存储NAS,容器服务 ACK
建Hive数仓迁移到阿里云EMR
<em>自</em>建Hive数仓迁移到阿里云EMR
场景描述 客户在IDC或者公有云环境自建Hadoop集群构 建数据仓库和分析系统,购买阿里云EMR集群之 后,涉及到将数据仓库和Hive元数据的数据库迁 移上云。目前主流Hive数据仓库迁移场景为1.x 版本迁移到阿里云EMR(Hive2.x版本),涉及到 数据订正更新步骤。 解决的问题 Hive数据仓库的数据迁移方案 Hive元数据库的迁移方案 Hive跨版本迁移后的数据订正 产品列表 E-MapReduce,VPC,ECS,OSS,VPN网关。
createDatabaseIfNotExist=true 说明:(1)将红色字体的 192.168.100.140替换为您环境中 MySQL的 VPC IP 。(2)hive122db为 MySQL中的数据库,用于保存 Hive的元数据。4.搜索 javax.jdo.option.ConnectionDriverName,将 value修改为 com.mysql.cj.jdbc.Driver 5. 在下图所示的位置添加配置,即作为 最靠前的。文档...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,VPN网关,E-MapReduce,云速搭
Oracle数据库与应用迁移PolarDB
Oracle数据库与应用迁移PolarDB
场景描述 本最佳实践适用于Oracle数据库及应用迁 移到阿里云PolarDB数据库(Oracle兼容 版)。通过ADAM将Oracle数据库迁移到 PolarDB数据库,可以降低应用升级、运 维成本,同时提升系统弹性,实现数据库 及应用全栈上云。 解决问题 1.解决Oracle及其应用迁移上阿里云, 通过ADAM评估迁移工具,降低迁移 风险,提高迁移效率。 2.使用PolarDB(Oracle兼容版)数据 库,提升数据库并发读能力,降低运维 成本。 产品列表 数据库和应用迁移(ADAM) PolarDB(Oracle兼容版) 云服务器(ECS) 专有网络(VPC)
ADAM首先对 Oracle数据库中所有类型的对象进行采集,依据采集到的 DDL定义准确分析出语法兼容度,对于不兼容的对象给出改造建议并 化给出目标改造方案。对于无法兼容的对象也标识出来并给出可能的修改建议。同 时,依据源库的规格和资源利用情况,ADAM给出建议的目标数据库规格。这些信息 方便客户准确了解迁移的工作量...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库PolarDB,数据库和应用迁移 ADAM,云速搭
容器Swarm集群向ACK集群灰度迁移
容器Swarm集群向ACK集群灰度迁移
场景描述 随着K8S生态的完善,越来越多的客户需要从 Swarm集群迁移向ACK集群 解决问题 1.迁移过程中维持业务的延续性 2.迁移过程业务高可用 3.迁移过程可灰度 4.迁移过程可回滚 5.迁移进度可把控 产品列表 专有网络VPC 云数据库RDSMySQL 容器服务ACK 云服务器ECS
容器镜像服务:容器镜像服务(Container Registry)提供安全的应用镜像托管能力,精确 的镜像安全扫描功能,稳定的国内外镜像构建服务,便捷的镜像授权功能,方便用户进行 镜像生命周期管理。容器镜像服务简化了 Registry的搭建运维工作,支持多地域的镜像 托管,并联合容器服务等云产品,打造云上使用 Docker的一体化...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,容器服务 ACK
阿里云最佳实践容器workshop
阿里云最佳实践容器workshop
通过本篇最佳实践,可以熟悉容器及k8s的基本操作。基于eci的高弹性架构,能有效的应对业务流量洪峰,同时提升资源使用效率。
洁谦,衾影,厉博,游士,毕役 审阅人-文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 2021-03-03 川知,毕役 天裵,阿瑟 创建 V1.1 2021-07-28 川知 补充 cicd、pts压测,优化流程 V2.0 2021-09-10 游士 七凌 更新压测参数配置,移动部分 内容至容器高阶版,优化并重 新排列内容.V2.1 2021-09-26 游士 敬海 根据实训的...
来自: 最佳实践 | 相关产品:容器服务 ACK,日志服务(SLS),访问控制,容器镜像服务 ACR,云效,云速搭
云上成本优化workshop
云上成本优化workshop
某金融科技公司,它主要提供信贷,理财,电商等 服务,目前已经拥有千万级注册用户。该公司在将 在线业务系统和大数据业务从自建 IDC 机房迁移 到阿里云后,今年大数据集群经历过多次因为资 源不足导致弹性扩容失败的故障,运维负责人非 常苦恼。由于该公司从事互联网金融的借贷业务, 白天的催收非常依赖晚上大数据计算的结果,若 因为资源不足导致计算结果失败则意味着白天催 收业务员无事可做,会对公司业务造成严重影响。 后来,通过阿里云解决方案架构师建议的方案,将 大数据集群迁移到资源较充足的可用区以及配置 弹性伸缩多规格 ECS 选型增加交付成功率等方 法,目前已阶段性的解决因资源不足导致弹性扩 容失败的问题,但该方案在 Spot 计算资源不足 时,启用大量按量收费算力,带来了较高的成本, 并且抢占式实例和按量付费实例都不保证资源 100%交付,还是存在交付失败的可能性,特别是 在双 11 期间由于其他客户的资源需求上升带来 的资源挤兑客观上存在,就进一步增加了弹性扩 容失败的风险,从而影响业务正常运行。
钉 钉 机 器 人 的 请 求 可参考 WebHook-钉 钉 机 器 人(https://help.aliyun.com/document_detail/91785.html)进行获取。本示例以邮件 为例。步骤3 设置告警。首次使用,需要选择一个区域存放全局的相关告警等信息,该日志库的数据写入、查 询与存储免费,也可以之后切换到其他区域。文档版本:20210329 41 云上...
来自: 最佳实践 | 相关产品:云服务器ECS,负载均衡 SLB,弹性公网IP,容器服务 ACK,日志服务(SLS),NAT网关,函数计算,E-MapReduce,云数据库PolarDB,弹性容器实例 ECI,存储容量单位包,预留实例券,Hologres
远程办公-AD管控下的弹性云桌面
远程办公-AD管控下的弹性云桌面
在弹性云桌面中部署企业基础办公环境时,IT人员通常会面临以下问题,本文希望通过场景实践的方式,示范如何结合使用不同阿里云产品,来解决这些问题:用户如何管理?企业已有AD用户如何上云?云上共享文件服务权限怎么管?数据安全问题有保障吗?该如何设置?云桌面能使用本地机房或IDC中的服务吗? 本文使用的应用场景: 场景1:客户A在云上新建Windows ActiveDirectory(以下简称AD);弹性云桌面,和NAS文件存储服务部署在AD所在的VPC内。场景2:客户B在阿里云上已有AD和NAS。弹性云桌面创建在与AD不同的VPC中。AD与云桌面的VPC通过CEN连接。场景3:客户C在云下IDC有自建AD和文件服务。弹性云桌面创建在阿里云上。云下机房与阿里云弹性云桌面所在VPC通过IPsec VPN连接。 方案优势: 易部署:弹性云桌面支持快速便捷的桌面环境创建、部署、统一管控与运维。 CEN和VPN网关服务开通即用,配置实时生效,快速完成部署。 低成本:弹性云桌面无需前期传统硬件投资,帮您快速构建安全、高性能、低成本的桌面办公体系。可广泛应用于具有高数据安全管控、高性能计算等要求的金融、设计、视频、教育等领域。VPN网关基于Internet建立加密通道,比建立专线更便宜,快速实现混合云。 安全性:VPN网关使用IKE(秘钥交换协议)和IPSec对传输数据或进行加密,保证数据安全可靠。云桌面自带的安全策略保证数据不落地。 集中管控:通过Windows AD对云桌面用户和共享文件服务进行统一权限管控。可实现AD用户自动同步上云,和文件级别的权限管控。
远程办公-AD管控下的弹性云桌面 最佳实践 云桌面接入方式:弹性云桌面客户端 云桌面和企业 IDC互联:IPSec或者物理专线 员工通过弹性云桌面客户端,可从任何网络安全登录 通过 IPSec VPN或物理专线将云桌面 VPC网络和企 云桌面实例进行远程办公。业 IDC网络连通,员工在云桌面中可以使用公司内 部应用和资源。集成现有 ...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,文件存储NAS,NAT网关,云企业网,VPN网关,云桌面,云速搭CADT
EMR集群安全认证和授权管理 
EMR集群安全认证和授权管理 
场景描述 阿里云EMR服务Kafka和Hadoop安全集群使 用Kerberos进行用户安全认证,通过Apache Ranger服务进行访问授权管理。本最佳实践中以 Apache Web服务器日志为例,演示基于Kafka 和Hadoop的生态组件构建日志大数据仓库,并 介绍在整个数据流程中,如何通过Kerberos和 Ranger进行认证和授权的相关配置。 解决问题 1.创建基于Kerberos的EMR Kafka和 Hadoop集群。 2.EMR服务的Kafka和Hadoop集群中 Kerberos相关配置和使用方法。 3.Ranger中添加Kafka、HDFS、Hive和 Hbase服务和访问策略。 4.Flume中和Kafka、HDFS相关的安全配 置。 产品列表:E-MapReduce、专有网络VPC、云服务器ECS、云数据库RDS版
由于该 用户已经通过了验证(即,该用户已经拥有票证授予票证 TGT),因此当其尝试访 问文件时,NFS 客户机系统将自动透明从 KDC获取 NFS服务的票证(TGS)。例如,假定用户 joe在服务器 boston上使用 rlogin。由于该用户已经通过了验证(即,该用户已经拥有票证授予票证 TGT),所以在运行 rlogin命令时,该用户将 自动...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,E-MapReduce
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
本篇最佳实践先创建EMR集群作为数据湖对象,Hive元数据存储在DLF,外表数据存储在OSS。然后使用阿里云数据仓库MaxCompute以创建外部项目的方式与存储在DLF的元数据库映射打通,实现元数据统一。最后通过一个毒蘑菇的训练和预测demo,演示云数仓MaxCompute如何对于存储在EMR数据湖的数据进行加工处理以达到业务预期。
在这样的 背景之下,阿里云MaxCompute率先提出湖仓一体,为业 界和用户展现了一种数据湖和数据仓湖互相补充,协同工 作的架构。这样的架构同时为用户提供了数据湖的灵活性 和数据仓库的诸多企业级特性,将用户使用大数据的总体 拥有成本进一步降低。方案优势 1.融合数据湖和数据仓库优势,在灵活性和效率上找 到最佳平衡。2...
来自: 最佳实践 | 相关产品:对象存储 OSS,E-MapReduce,DataWorks,大数据计算服务 MaxCompute,API网关,数据湖构建,云速搭
< 1 2 >
共有2页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用