基于函数计算FC实现阿里Kafka消息轻量级ETL处理
基于函数计算FC实现阿里<em>云</em>Kafka消息轻量级ETL处理
在大数据ETL场景,Kafka是数据的流转中心,Kafka中的数据一般是原始数据,可能存在多种数据混杂的情况,需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC,可以快速高效的搭建数据处理链路,用户只需要关注数据处理的逻辑,数据的触发,弹性伸缩,运维监控等阿里云函数计算都已经做了集成,函数计算FC也支持多种下游,OSS/数据库/消息队列/ES等都可以自定义的对接
存储引擎:阿里云 Kafka架构,有云存储和 Local存储。(详细对比参见文档:https://help.aliyun.com/zh/apsaramq-for-kafka/cloud-message-queue-for- kafka/product-overview/comparison-between-storage-engines )◆消息类型:普通消息。创建Group:◆Group名称:根据实际业务自行填写。Group描述:根据实际业务自行填写...
来自: 最佳实践 相关产品:对象存储 OSS,函数计算,消息队列 Kafka 版
基于函数计算FC实现阿里Kafka消息内容控制MongoDB DML操作
基于函数计算FC实现阿里<em>云</em>Kafka消息内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
u 存储引擎:阿里云 Kafka 架构,有云存储和 Local 存储。(详细对比参见文档:https://help.aliyun.com/zh/apsaramq-for-kafka/cloud-message-queue-for- kafka/product-overview/comparison-between-storage-engines )u 消息类型:普通消息。创建 Group:u Group 名称:根据实际业务自行填写。u Group 描述:根据实际...
来自: 最佳实践 | 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
基于函数计算FC实现物联网音视频处理
基于函数计算FC实现物联网音视频处理
在物联网场景中,智能设备会产生大量的非结构化数据,并且采集量和频率都很高。比如各类摄像头(家用摄像头、车载摄像头、工业监控摄像头等)采集的数据。企业需要对这些非结构化数据做快速的分析和处理,然后应用到下游业务中,所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
产品介绍  专有网络VPC(VirtualPrivateCloud):是用户基于阿里创建的自定义私有网络,不同的 专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内创建和管理产品实例,比如ECS、负载均衡、RDS等。 函数计算FC(FunctionCompute):函数计算是事件驱动的全托管计算服务。使用函数计 算,您无需采购与管理...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
基于函数计算实现直播流录制-存储-通知
基于函数计算实现直播流录制-存储-通知
在互娱、教育、电商等行业都会有直播相关的业务,大部分场合都需要对直播相关的业务做安全审核,或者对直播的课程进行录制和转码。该方案实现了一种完全按需拉起、按量弹性、按实际使用付费的录制方案。基于本方案还可以扩展实现直播流截帧、自动化安全审核等能力
台补充)vCPU规格:1 vCPU(函数计算多种 CPU资源规格,可以根据实际情况自行选择)内存规格:1024 MB(函数计算多种内存资源规格,可以根据实际情况自行选择)硬盘大小:512MB(函数计算提供免费的 512MB的存储空间,如果超过 512MB,会 提供10GB的存储空间,但是会额外收费,硬盘规格>512 MB:超出512 MB的 部分按...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
 存储引擎:阿里云Kafka架构,有云存储和Local存储。(详细对比参见文档:https://help.aliyun.com/zh/apsaramq-for-kafka/cloud-message-queue-for-kafka/pro duct-overview/comparison-between-storage-engines) 消息类型:普通消息。创建Group: Group名称:根据实际业务自行填写。 Group描述:根据实际业务...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
基于OSS Object FC实现非结构化文件实时处理最佳实践
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中,以图片,视频,音频居多。举一个图片处理的场景,现在各种终端种类繁多,不同的终端对图片的格式、分辨率要求也不同,所以一张图片往往会有很多张衍生图,那如果所有的衍生图都存在OSS中,那存储的成本会增加,所以就可以通过OSS Object FC的方案,在不同的终端请求时,对OSS中的原图基于终端的要求做实时处理,然后响应返回,这样OSS中只需要存储原图即可。音视频也有类似的场景。
台补充) vCPU规格:0.35c(函数计算多种CPU资源规格,可以根据实际情况自行选择) 内存规格:512MB(函数计算多种内存资源规格,可以根据实际情况自行选择) 硬盘大小:512MB(函数计算提供免费的512MB的存储空间,如果超过512MB,会提供10GB的存储空间,但是会额外收费,硬盘规格>512MB:超出512MB 的部分按...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
服务器 ECS
阿里云服务器ECS是一种处理能力可弹性伸缩的云主机虚拟服务器,它使服务器托管更安全稳定,可降低开发运维成本,支持包年包月、按量付费等模式,方便财务更好管理
PrivateLink网连接:实现专有网络VPC与ECS建立安全稳定的私有连接,您可以像在VPC中一样访问ECS,避免通过非必要的公网访问服务带来的潜在安全风险。数据安全数据加密:ECS提供云盘加密、数据传输加密、存储加密等多种数据加密方式,为用户的数据安全提供全面保障。备份恢复:ECS提供快照备份恢复、镜像备份恢复、内外网...
来自: 云产品
工作流
云工作流 CloudFlow 是一个用来协调多个分布式任务执行的全托管 Serverless 云服务,用户可以用顺序、分支、并行等方式来编排分布式任务,服务会按照设定好的顺序可靠地协调任务执行,跟踪每个任务的状态转换,并在必要时执行用户定义的重试逻辑,以确保工作流顺利完成。
查看全部产品....应用不管是从私有云/专有云平滑过渡到混合云或公共云,或者从单体架构演进到微服务架构,Serverless 工作流都能发挥协调作用.协调分布式组件.将运维人员从基础设施维护解放出来,提供安全的、高可用的、高容错的和高持久的服务。用户只需支付步骤转换费用,不使用不产生费用.运维全托管和按需付费.
来自: 云产品
上成本优化workshop
<em>云</em>上成本优化workshop
某金融科技公司,它主要提供信贷,理财,电商等 服务,目前已经拥有千万级注册用户。该公司在将 在线业务系统和大数据业务从自建 IDC 机房迁移 到阿里云后,今年大数据集群经历过多次因为资 源不足导致弹性扩容失败的故障,运维负责人非 常苦恼。由于该公司从事互联网金融的借贷业务, 白天的催收非常依赖晚上大数据计算的结果,若 因为资源不足导致计算结果失败则意味着白天催 收业务员无事可做,会对公司业务造成严重影响。 后来,通过阿里云解决方案架构师建议的方案,将 大数据集群迁移到资源较充足的可用区以及配置 弹性伸缩多规格 ECS 选型增加交付成功率等方 法,目前已阶段性的解决因资源不足导致弹性扩 容失败的问题,但该方案在 Spot 计算资源不足 时,启用大量按量收费算力,带来了较高的成本, 并且抢占式实例和按量付费实例都不保证资源 100%交付,还是存在交付失败的可能性,特别是 在双 11 期间由于其他客户的资源需求上升带来 的资源挤兑客观上存在,就进一步增加了弹性扩 容失败的风险,从而影响业务正常运行。
停机不收费 停机不收费功能可以在保留服务器 ECS 的前提下回收部分资源,从而降低整体 用。支持停机不收费的 ECS资源包括:ᅳ 计算资源(vCPU和内存)ᅳ 固定公网 IP地址和带宽 不支持停机不收费的 ECS资源包括但不限于:ᅳ 系统盘 ᅳ 实例上挂载的数据盘 ᅳ 弹性公网 IP(EIP)和带宽 ᅳ 镜像 ᅳ 快照 步骤1 以大数据 ...
来自: 最佳实践 | 相关产品:云服务器ECS,负载均衡 SLB,弹性公网IP,容器服务 ACK,日志服务(SLS),NAT网关,函数计算,E-MapReduce,云数据库PolarDB,弹性容器实例 ECI,存储容量单位包,预留实例券,Hologres
计算巢服务
阿里云计算巢服务是一个面向ISV、SI、MSP和开发者的云集成PaaS平台,方便服务商更好的将产品、服务集成,借助云原生的能力提升软件服务交付、部署及后续管理。
产品解决方案文档与社区权益中心定价市场合作伙伴支持与服务了解阿里备案控制台计算巢服务产品简介产品优势产品功能产品选型入门与试用技术解决方案产品定价安全合规客户案例常见问题社区计算巢服务一站式软件化平台,构建原生 SaaS,完成传统软件 SaaS 化,助力 ISV 化转型。立即购买免费试用快捷入口控制台文档...
来自: 云产品
企业上云workshop
企业上云workshop
本文模拟了如下场景: 1. 线下 IDC 环境中部署了一个业务系统,业务是利用 wordpress 系统提供网站服务。 2. 本文详细介绍了如何将以上线下系统搬迁到云上, 包括如何在云上构建以上业务系统,如何迁移线下 系统到云上,如何割接。 3. 最后介绍了迁移上云后,如何部署安全系统。 解决问题 IDC 业务系统搬迁上云 云上构建业务系统 部署安全系统
解决问题 IDC业务系统搬迁上云 上构建业务系统 部署安全系统 产品列表 最佳实践频道 阿里最佳实践生态群 弹性公网 IP 负载均衡 SLB 专有网络 VPC 服务器 ECS 对象存储 OSS 文件服务 NAS 数据库 RDS 数据库 PolarDB 架构设计工具 CADT Web应用防火墙 SSL证书 防火墙 服务器 ECS(产品名称)文档模板(手册...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,负载均衡 SLB,弹性公网IP,文件存储NAS,云数据库PolarDB,Web应用防火墙,云防火墙,SSL证书,云速搭
弹性裸金属自建ORACLE数据库单机版
弹性裸金属自建ORACLE数据库单机版
场景描述 1.客户业务系统选型ORACLE数据库且不愿 做业务改造:由于历史原因,客户业务系统 只支持ORACLE数据库。适配开源数据库 业务改造量大,客户没有技术/时间去做改 造。 2.高性能:客户希望拥有比虚拟机更高的性能 和稳定性,以保障数据库高性能,支撑高并 发的业务系统; 3.高可用:在单机条件下,极端情况下数据库 发生宕机时,客户希望能快速拉起数据库服 务,减少停机时间; 4.数据安全性:极端情况下能找回数据。数据 备份和恢复更方便。
本例未涉及数据迁移、压测和性能调优,若相关需求可咨询您的解决方案架构 师或购买阿里数据库专家服务;为简化本机远程操作流程和网络架构,本方案服务器使用弹性公网 IP作为临时访 问方案,实际业务场景建议使用堡垒机、VPN等方式进行远程操作,保障上系 统安全。系统加固可参考等保方案;ORACLE安装包建议到 oracle...
来自: 最佳实践 | 相关产品:块存储,专有网络 VPC,弹性公网IP,弹性裸金属服务器(神龙),云速搭
微服务应用问题定位及故障演练
微服务应用问题定位及故障演练
场景描述 用户微服务架构应用基于阿里云 ACK 部署, 通 过 ARMS 监控发现微服务应用的容错能力是否 健壮, 容器编排配置是否合理, 以及节点故障引 发的问题等, 方案通过 AHAS 故障注入模拟生 产环境产生的故障, 通过 ARMS 及时发现问题、 定位问题, 并结合 ARMS 的告警功能快速发现 并解决问题。  发现调用下游一个服务实例出现异常。  发现业务 Pod 故障, 验证业务的稳定性。  发现调用数据库延迟故障, 验证 Pod 的水 平扩容能力。 解决问题 1. 定位并解决微服务应用的容错能力。 2. 定位并解决微服务应用编排合理性。 3. 发现故障并验证系统故障的告警时效性。 产品列表  应用高可用服务 AHAS  性能测试 PTS  应用实时监控服务 ARMS  容器服务 kubernetes 版  负载均衡 SLB  专有网络 VPC  日志服务 SLS
极速模式为停机不 ,计算资源不收费,会收取存储费用,优势是启动比较快)。另外,通过这里也可以 给节点打标签或设置污点。文档版本:20220331 49 微服务应用问题定位及故障演练 问题定位及故障模拟 步骤22 可见伸缩组已启动,CPU阈值达到 50%后进行伸缩,根据业务需求可以对此配置进行 修改。步骤23 进入 gateway,...
来自: 最佳实践 | 相关产品:容器服务 ACK,日志服务(SLS),性能测试 PTS,应用实时监控服务 ARMS ,应用高可用服务 AHAS,云速搭
专有宿主机DDH
专有宿主机提供基于阿里云虚拟化托管、物理主机独享的单租户环境、通过独享硬件资源方式可以满足安全、合规、自定义部署、自带许可证(BYOL)需求,在专有宿主机上可以创建多种规格的ECS实例,继承了ECS实例的规格选择灵活、性能稳定的优点和特性。
CPU独享型.CPU独享型DDH指CPU无法进行自定义超分,只能创建CPU锁定的ECS实例,用于保证ECS实例在高负载情况下的性能稳定性,适用于高负载和核心业务的部署.CPU超分型.您可以自定义DDH的CPU超分比例,同时创建ECS实例的时候可以自定义CPU...实现VMware私有云虚拟机迁移至阿里云DDH.基于DDH的云上虚拟桌面部署架构.近期重要功能.
来自: 云产品
特殊场景OCR识别
阿里云特殊场景OCR识别,支持多卡证、多票据混贴等场景的文字识别服务。包括票据混贴智能分类识别、通用混贴票证识别、多卡证智能分类识别。
部署至本地服务器,在私有化环境中实现文字识别功能,保障数据私密性.集成到移动APP、Android、iOS或设备端中,无需网络即可实现文字识别功能.图片56*56(不可与icon共存).图片logo.icon名称(不可与图片logo共存).icon名称.不填写不展示.个人证照类识别提供个人身份识别所需的身份证、名片、行驶证等证件的结构化识别服务....
来自: 云产品
个人证照识别
个人证照识别是阿里云提供的通用型卡证OCR,可以解决通用卡证类的文字识别及识别信息结构化的问题。本类产品下包含身份证正反面识别、护照识别、银行卡识别、名片识别、户口页识别。
部署至本地服务器,在私有化环境中实现文字识别功能,保障数据私密性.集成到移动APP、Android、iOS)或设备端中,无需网络即可实现文字识别功能.个人证照识别.国际护照识别.不动产权证识别.出生证明识别.中国护照识别.来往港澳台通行证识别.来往大陆(内地)通行证识别.国际身份证识别.200次/月/接口.0.0825元/次.0.225元/次.0...
来自: 云产品
自建K8S集群迁移ACK弹性裸金属集群
自建K8S集群迁移ACK弹性裸金属集群
场景描述 在微服务化改造之后,企业在享受K8S带来应 用管理的便利的同时,存在硬件性能不足,本 地扩展性差,容器容灾难,K8S管理复杂等问 题。 解决问题 1.增强K8S扩展性:如何通过弹性裸金属服务 器的强劲硬件性能,实现云端资源急速扩 展,从容应对应用访问压力大的问题。 2.如何简化云端K8S运维:通过阿里云容器服 务(ACK)实现敏捷开发和部署落地,加速 企业业务迭代。 3.如何综合考虑迁移和容灾:如何整合云上和 云下容器资源实现遇到故障时可以通过健 康检查实现自动容灾。 4.如何不改应用上云:如何实现应用上云数据 库连接零修改。 5.数据库上云及回退:如何实现上云回退; 产品列表 ACK/ECS/SLB/NAT网关/弹性裸金属服务器/DTS/RDS MySQL
创建,完全由用户管 Worker,简单、低 和 Worker 理 成本,Master免运 维 免费(用户承担 免费(用户承担 收费 按容器实例的使用资源 Master和 Worker的 Worker 的资源 方式 量和时长(秒)计费 资源费用)用)典型 批量任务,突发扩容,所有场景 所有场景 场景 CI/CD测试 容器服务:容器服务提供高性能可伸缩的容器应用...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,负载均衡 SLB,容器服务 ACK,NAT网关,弹性裸金属服务器(神龙),云速搭
自然语言处理NLP
自然语言处理是为各类企业及开发者提供的用于文本分析及挖掘的核心工具,已经广泛应用在电商、文化娱乐、金融、物流等行业客户的多项业务中。自然语言处理API可帮助用户搭建内容搜索、内容推荐、舆情识别及分析、文本结构化、对话机器人等智能产品,也能够通过合作,定制个性化的解决方案。
有私有化部署(本地部署软件)需求,及商务问题,欢迎联系我们,售前专家为您服务.支持文本实体抽取、文本分类等NLP定制化算法能力,用户无需拥有丰富的算法背景,仅需标注或上传适量文档数据,即可通过平台快速创建算法模型并使用.NLP自学习平台.依托阿里海量的地址语料库,以及超强的NLP算法实力所沉淀出的高性能及高...
来自: 云产品
基于SLS实现统一告警最佳实践
基于SLS实现统一告警最佳实践
告警对于企业的开发运维,安全运维,业务运维有着至关重要的作用。然而很多企业在告警运维方面存在着重复建设、监控质量差、告警风暴、触达不人性化、无法闭环等问题。 针对企业在告警管理方面存在的痛点问题,SLS告警提供了一站式云上告警管理方案,具有弹性易用、稳定可靠、功能持续升级、成本更低、噪音更少等优势。企业可以将现有的监控方案系统无缝接入到SLS告警平台,实现在SLS上一站式管理告警。
使用 SLS告警具有更低的成本,无订 服务器 ECS 阅,免运维,渠道收费低。专有网络 VPC 3.告警全链路降噪及管理。云速搭 CADT 最佳实践频道 阿里最佳实践技术分享群 阿里 企业上云实践 基于 SLS实现统一告警 最佳实践 文档版本:20211021 文档版本:20150122(发布日期)II 基于 SLS实现统一告警最佳实践 文档版本...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,弹性公网IP,日志服务(SLS),云速搭CADT
高速自由流收费稽核解决方案
阿里云高速自由流收费稽核解决方案,助力高速公路由传统模式走向云端一体化模式转型,实现不停车自由通行,业务管理的实时审计、让每辆车的每个行程每笔费用都不遗漏。
阿里推出高速自由流解决方案,解决高速省界“撤站”收费难题.本方案基于多源异构大数据的汇聚共享和交通专题库的建立,并在数据的基础上通过交通算法、AI、视觉分析、交通仿真等智能引擎评估业务状态,为公路管理者提供规程化、模式化的方案.从传统人工稽核向大数据稽核的转型.十倍交易量增长带来的数据处理压力.设备、...
来自: 解决方案
< 1 >
共有1页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用