大数据近实时数据投递MaxCompute
大数据近实时数据投递MaxCompute
本文介绍离线大数据场景使MaxCompute构建云 上近实时数仓,打通云下数据上云链路,解决数据复杂类型支持和动态分区问题,满足高级数据处理需求的最佳实践。 l混合云环境下,现有业务系统零改造,打通数据上云链路。 l使用UDF实现复杂数据类型转换和数据动态分区。 l使用DataWorks配置周期调度业务流程,数据自动入仓。 l借助MaxCompute优化计算引擎,实现降本增效。 产品列表 云服务器ECS 专有网络VPC 访问控制RAM 数据总线DataHub E-MapReduceEMR DataWorks 大数据计算服务MaxCompute
文档版本:20240419 3 大数据近实时数据投递 MaxCompute 在官方模板库内找到 大数据近实时数据投递 MaxCompute 模版,选择基于方案新 。根据提示信息和实际需求修改资源参数,完成配置后,点击保存,设定应用名称后点 击确认。应用保存成功后,点击部署应用。双击 Kafka实例,模板中已配置 Topic,白名单等信息。文档版本...
来自: 最佳实践 相关产品:块存储,专有网络 VPC,云服务器ECS,访问控制,E-MapReduce,DataWorks,大数据计算服务 MaxCompute,数据总线,云速搭CADT
云效应用交付平台AppStack
阿里云云效AppStack是以应用为核心的云原生应用交付平台,提供一站式应用交付能力,帮助企业建立应用持续交付整体解决方案,加速企业云原生与DevOps转型,提升团队研发效能。
云效AppStack是以应用为中心的云原生应用交付平台,提供应用全生命周期管理、研发流程管理(CI/CD)、测试环境管理、部署运维等一式应用交付能力,基于应用模板、角色权限支持企业级批量配置全局管控,帮助企业建立应用交付整体解决方案,加速企业云原生与DevOps转型.云效+MSE实现全链路灰度发布.云效应用交付平台 ...
来自: 云产品
云速搭 CADT
阿里云云速搭 CADT是一款自助式云架构管理的产品,它可提供丰富的预制应用架构模板,用户可方便的对云架构方案的成本、部署、运维、回收进行全生命周期的管理。
云速搭CADT助力运满满自云管平台快速接入阿里云产品.游戏行业资源单元化交付解决方案助力蔚领科技云游戏多地域单元化快速开服.最佳实践助力复星星选项目极速上线成功.阿里云CADT助力索贝提升新闻云资源部署效率.云速搭CADT助力万兴科技架构优化.阿里云CADT助力富友支付SaaS业务上云.云速搭CADT助力丽迅物流高效上云.最佳...
来自: 云产品
企业上云workshop
企业上云workshop
本文模拟了如下场景: 1. 线下 IDC 环境中部署了一个业务系统,业务是利用 wordpress 系统提供网站服务。 2. 本文详细介绍了如何将以上线下系统搬迁到云上, 包括如何在云上构建以上业务系统,如何迁移线下 系统到云上,如何割接。 3. 最后介绍了迁移上云后,如何部署安全系统。 解决问题 IDC 业务系统搬迁上云 云上构建业务系统 部署安全系统
文档版本:20210617 10 企业上云 workshop-IDC业务迁移上云 IDC资源环境部署 步骤3 在官方模板库内找到企业上云 workshop-业务系统迁移-IDC模版,选择基于方案新 。步骤4 在架构编辑界面,根据架构部署提示,双击 ECS实例 proxy,设置其登录密码。文档版本:20210617 11 企业上云 workshop-IDC业务迁移上云 IDC资源环境...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,负载均衡 SLB,弹性公网IP,文件存储NAS,云数据库PolarDB,Web应用防火墙,云防火墙,SSL证书,云速搭
开源Flink迁移实时计算Flink全托管版最佳实践
开源Flink迁移实时计算Flink全托管版最佳实践
本方案介绍如何将自建开源Flink集群的流式任务(包含Datastream、Table/SQL、PyFlink任务)迁移至阿里云实时计算全托管版。
开源 Flink迁移实时计算 Flink全托管版 最佳实践 业务架构 场景描述 解决的问题 Flink全托管产品(Flink Serverless)是一款基于 Flink各类任务如何迁移 Apache Flink 构建的全托管产品,为您提供全托 数据准确性如何校验 管一式的实时计算服务,具有免运费、高增值、业务稳定性如何验证 低成本等特性。本方案介绍如何将...
来自: 最佳实践 | 相关产品:专有网络 VPC,云数据库RDS MySQL 版,E-MapReduce,实时计算,消息队列 Kafka 版,云速搭CADT
高性能数据库ECS测试及选型
高性能数据库ECS测试及选型
概述 客户自建高性能数据库(如电商大促)在做ECS选型时,对磁盘的IO、网络的吞吐都有很大要求,为了跟接近真实业务场景,使用HammerDB选定真实业务模型测试其TPM。通过对比TPM对比ECS性价比进行选型。同时使用FIO测试磁盘性能作为参考。 适用场景  自建数据库性能测试  磁盘性能测试  ECS选型建议 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤: 方案优势  基于标准的TPC-C测试,接近真实业务场景。  提供多规格实例测试,快速选择最优性价比实例。
解决问题 自数据库性能测试 磁盘性能测试 产品列表 ECS选型建议 专用网络 VPC 云服务器 ECS HammerDB FIO 阿里云最佳实践技术分享群 最佳实践频道 云服务器 ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 高性能数据库 ECS测试及选型 最佳实践 文档版本:20201104 文档版本:20150122(发布日期)II 高性能...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,弹性公网IP,云速搭
可观测监控 Prometheus 版
覆盖业务自定义监控/应用组件监控/云服务监控/容器监控/系统监控等场景。默认集成Grafana看板与智能告警,全面优化系统可用性与查询能力,用户无需关注系统可用性与Exporter集成。帮助企业快速搭建一站式指标可观测体系。
可观测监控 Prometheus 版作为云原生指标监控平台,完整兼容 Prometheus 开源生态,为运维工程师、SRE工程师等不同角色提供一式指标观测平台,满足业务自定义监控/应用组件监控/云服务监控/容器监控/系统监控等场景的监控、告警需求.Demo演示.可观测监控 Prometheus 版.查看更多商品.应用实时监控服务ARMS.应用监控 eBPF ...
来自: 云产品
OCR文档自学习
OCR文档自学习现支持模板和模型两大类任务的自主训练。用户可以通过配置模板或少量标注数据,训练出更满足业务场景需求的AI智能模型。
开启全面商业化.OCR 文档自学习将于2023年8月15日结束公测,开启全面商业化.<查看全部文字识别产品.OCR 文档自学习,是面向“无算法基础”的企业与个人开发者用户,通过全流程可视化操作,支持用户完成模板配置、数据处理&标注、模型构建&训练、部署发布等操作的一式工具平台。平台采用少样本训练、智能预标注,视觉-语义...
来自: 云产品
迁移与运维管理
阿里云提供一系列的运维管理工具:日志服务SLS、云治理中心等帮助你自动化的开发和运维,能够更加轻松控制云基础产品与基础设施。
阿里云提供一系列运维管理工具帮助用户实现简化、自动化地运维管理,使用这些工具,用户可以实现全云资源的优化,进行协同工作并实现运维与监控、云管理、备份与迁移,帮助用户轻松控制云基础产品与基础设施.迁移与运维管理.日志服务是云原生观测分析平台,为Log/Metric/Trace等数据提供大规模、低成本、实时平台化服务....
来自: 云产品
故障演练Chaos
故障演练(Chaos)是阿里云打造的云原生混沌工程平台,场景丰富、简单易用、安全可控、高效可靠,提供一站式架构分析、故障巡检等功能,帮助系统平稳上云。
一键接入阿里云主机和Ack集群环境,也支持非阿里云的客户自环境.覆盖社区版ChaosBlade的所有场景能力,支持演练方案的无缝迁移;标准的混沌工程实验模型,兼容Litmus,ChaosMesh等开源工具.支持Linux2.X以上版本,支持Windows系统.支持多环境多集群.场景能力覆盖全.演练场景从IaaS到SaaS层全覆盖,包含云服务器ECS、云...
来自: 云产品
智能推荐
智能推荐AIRec基于阿里巴巴领先的大数据和人工智能技术,以及在电商、内容、直播、社交等领域的业务沉淀,阿里云为企业开发者提供了行业版SaaS推荐云产品、全链路推荐系统解决方案、工程引擎与组件等多种服务。
有一定的推荐算法、工程自基础;完成行为数据埋点采集;完成相关云产品开通、授权;明确技术方案选型;前置准备工作.联系专业人员进行方案沟通;按需开通云产品、进行服务授权;算法效果共建与优化;基于阿里巴巴中台搜索、推荐业务沉淀,推出重磅引擎组件上云。开发者可根据搜索、推荐技术架构,灵活接入业务系统,提升...
来自: 云产品
E-HPC低成本实现量化策略回测
E-HPC低成本实现量化策略回测
在量化交易场景下,量化策略的构建流程一般包括:想法、数据获取、建模、回测、结果分析等,在回测过程中往往需要海量的算力,进行大量数据的分析和处理,如何快速、高效和低成本的进行批量任务的调度,并快速获取结果是量化领域遇到的普遍挑战,这也是云计算能够带给客户的巨大优势。
文档版本:20220321 18 E-HPC低成本实现量化策略回测 操作步骤 步骤3 进入 ECS 控 制 台镜像 页 面,确 认 镜 像 创 完 成。(https://ecs.console.aliyun.com/image/region/cn-zhangjiakou/imageList)说明:创建镜像耗时受镜像大小影响,本例的自定义镜像耗时约 10分钟左右,请耐心 等待。文档版本:20220321 19 E-HPC...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,弹性公网IP,文件存储NAS,弹性高性能计算E-HPC,云速搭
云监控
云监控(CloudMonitor)是阿里云提供的一款一站式、全链路、开箱即用的监控产品。涵盖云上云下统一的主机监控、百余款的云产品监控、覆盖全球的网络监控、面向应用和业务的日志监控和自定义监控,提供丰富的指标数据和强大开放的平台能力,帮助客户第一时间发现和定位问题构建完善的监控运维体系。
支持在推送报警信息到接收人的同时投递到其它阿里云服务(如日志服务、函数计算、消息队列等)或通过webhook方式与自平台实现联动与系统集成.自定义指标接入.通过解析日志或调用API的方式可以实现将用户自定义的监控指标聚合到企业云监控指标仓库中,从而实现从云上到云下,从基础设施到应用乃至业务的一体化监控.实时...
来自: 云产品
Hyper-V on 弹性裸金属最佳实践
Hyper-V on 弹性裸金属最佳实践
场景描述 本方案适用于基于弹性裸金属服务器(神龙)自 建Microsoft Hyper-V环境的场景。 解决问题 l使用神龙自建+Microsoft Hyper-V虚拟 化环境环境。 l创建LinuxHyper-VVM。 lHyper-VVM访问外部网络。 l外部网络访问Hyper-VVM上的服务。 产品列表 l神龙GPU云服务器(ecs.ebmg5s) l专有网络VPC
解决问题 使用神龙自+Microsoft Hyper-V虚拟化环境 环境 创建 Linux Hyper-V VM Hyper-V VM访问外部网络 外部网络访问 Hyper-V VM上的服务 部署架构 产品列表 神龙 GPU云服务 专有网络 VPC 弹性公网 IP 云速搭 CADT 最佳实践频道 阿里云最佳实践分享群 云服务器 ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云...
来自: 最佳实践 | 相关产品:块存储,专有网络 VPC,弹性公网IP,弹性裸金属服务器(神龙),云速搭
Function Compute搭建前端CICD系统
Function Compute搭建前端CICD系统
场景描述 传统动静不分离的产品架构,随着访问量在增 长,性能会成为瓶颈。在这种情况下,用户可以 通过利用OSS和CDN对网站进行架构优化, 做到网站文件的动静分离,提升用户访问体验, 实现成本可控。本方案使用函数计算监听前端代 码库提交的分支变更,上传分支文件至OSS,通 过CDN进行前端资源加速。 方案优势 1.面向serverless:无需购买服务器 2.免运维:无需部署配置Jenkins 3.提供日志查询、性能监控和报警等功能 4.一站式:事件驱动方式触发响应 5.费用极低:按需付费 产品列表 专有网络VPC 对象存储OSS 日志服务SLS 函数计算 CDN
此方案虽然比较灵活,但存在如下的劣势:ᅳ 需要购买服务器自 Jenkins,涉及计算存储费用 ᅳ 需要专业的运维人员保障服务器稳定运行 ᅳ 集成 OSS的 SDK实现比较重 方案概述 本方案功能是 Function Compute监听前端代码库提交的分支变更,上传分支文件 文档版本:20211008 VI Function Compute计算搭建前端 CICD系统 最佳...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,日志服务(SLS),函数计算,CDN
智能数据建设与治理Dataphin
Dataphin遵循阿里巴巴集团多年实战沉淀的大数据建设OneData体系(OneModel、OneID、OneService),集产品、技术、方法论于一体,一站式地为您提供集数据引入、规范定义、智能建模研发、数据萃取、数据资产管理、数据服务等的全链路智能数据构建及管理服务。助您打造属于自己的标准统一、资产化、服务化和闭环自优化的智能数据体系,驱动创新。
立即开通(半托管版).<查看全部产品.Dataphin是阿里巴巴集团OneData数据治理方法论内部实践的云化输出,一式提供数据采、、管、用全生命周期的大数据能力,以助力企业显著提升数据治理水平,构建质量可靠、消费便捷、生产安全经济的企业级数据中台。Dataphin提供多种计算平台支持及可拓展的开放能力,以适应各行业企业的...
来自: 云产品
政企标准地址服务解决方案
政企标准地址服务解决方案基于阿里巴巴自然语言技术,结合在多行业领域的数据积累,充分挖掘基于标准地址的业务场景,为政府及企业客户提供互联网+的标准地址解决方案,实现多行业场景覆盖,提高管理效率。
文字识别(OCR)可以将图片中的文字信息转换为可编辑文本,阿里云根据客户的业务场景和需求,将产品分为了通用文字识别、个人证照识别、发票凭证识别、教育试题识别、车辆物流识别、办公文档识别、企业资质识别、自定义模板、小语种文字识别、特殊场景OCR识别10大类,满足各种客户的图片识别需求.OCR文字识别.地址标准化是...
来自: 解决方案
Serverless 应用引擎SAE
Serverless 应用引擎 SAE(Serverless App Engine)是一款零代码改造、极简易用、自适应弹性的应用全托管平台。SAE 让您免运维 IaaS和 K8s,秒级完成从源代码/代码包/ Docker 镜像部署任何语言的在线应用(如 Web /微服务 /Job任务)到 SAE,并自动伸缩实例按使用量计费,开箱即用日志、监控、负载均衡等配套能力。
同时也提供应用模板、CLI 命令行工具、组件库、成本管家等能力,帮助开发者们快速高效的交付应用程序.无侵入微服务治理.支持 Spring Cloud、Dubbo 零代码改造迁移至SAE。提供服务注册&发现、环境隔离、配置管理、限流降级、应用无损上下线、服务鉴权、全链路灰度等能力.百毫秒级弹性伸缩,根据流量自适应调整应用实例;支持...
来自: 云产品
DTS数据同步集成MaxCompute数仓
DTS数据同步集成MaxCompute数仓
场景描述 本文Step by Step介绍了通过数据传输服务 DTS实现从云数据库RDS到MaxCompute的 数据同步集成,并介绍如何使用DTS和 MaxCompute数仓联合实现数据ETL幂等和数 据生命周期快速回溯。 解决问题 1.实现大数据实时同步集成。 2.实现数据ETL幂等。 3.实现数据生命周期快速回溯。 产品列表 MaxCompute 数据传输服务DTS DataWorks 云数据库RDS MySQL 版
文档版本:20220126(发布日期)5 DTS数据同步集成 MaxCompute数仓 资源环境部署 步骤3 通过搜索关键字找到“DTS数据同步集成 MaxCompute数仓”模版,单击基于应用新 。步骤4 您可以双击图标修改资源参数,配置完成后,点击右上角的保存,设定应用名称后点 击确认。步骤5 应用保存成功后,点击部署应用。文档版本:...
来自: 最佳实践 | 相关产品:专有网络 VPC,云数据库RDS MySQL 版,数据传输,DataWorks,大数据计算服务 MaxCompute
MaxCompute湖仓一体方案
MaxCompute湖仓一体方案
场景描述 自建数据湖与云数仓的融合解决方案,将 MaxCompute与自建的Hive集群做数据打 通,通过存储共享,元数据镜像等方式,解 决传统模式下的存储冗余,计算资源弹性能 力弱的痛点。可大幅度增强系统的资源弹 性,解决业务高峰期计算资源不足的问题。 方案优势 1.业务无侵入性:现有业务无需改造。 2.性能优化:MaxCompute在SQL上做 了大量优化与能力沉淀,可提高SQL 运行性能,降低计算成本。 3.灵活管理:元数据实时同步,无需额外 管理数据同步任务。 4.资源弹性:利用MaxCompute计算池 弹性进行海量数据计算。 解决问题 1.增强业务高峰期的资源弹性。 2.优化自建数据湖的数据治理能力。 3.减少跨平台数据处理的存储冗余。 产品列表 专有网络VPC 云服务器ECS 访问控制RAM 运维编排OOS MaxCompute(原ODPS) 云企业网CEN
通过 CADT部署环境 步骤1 登录云速搭 CADT控制台(https://bpstudio.console.aliyun.com/),通过官方模板库新 本方案架构。步骤2 通过搜索关键字“湖仓一体”找到《MaxCompute湖仓一体最佳实践》模板,单击基 于应用新建。步骤3 双击图标元素,确认参数配置符合预期。1.双击 ECS odpscmd-client 设置登录密码。文档版本...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云企业网,E-MapReduce,大数据计算服务 MaxCompute,运维编排,云速搭
< 1 2 3 4 >
共有4页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用