大数据系统基准性能测试最佳实践
大数据<em>系统</em>基准性能测试最佳实践
本方案适用于在阿里云上进行大数据基准性能测试的场景,包括 Teragen和Terasort测试,TestDFSIO测试。本文采用CADT工具结合阿里云的E-MapReduce服务快速构建测试集群,并提供了Teragen和Terasort测试,TestDFSIO测试的测试脚本,便于迅速开展测试。
EMR的 SmartData组件是 EMR Jindo 的主要存储部分,为 EMR各个计算引擎提供统一的存储优化、缓存优化、计算 缓存加速优化和多个存储功能扩展。详见 https://help.aliyun.com/document_detail/28068.html 云架构设计工具 CADT:是一款为上云应用提供自助式云架构管理的产品,显著 地降低应用云上管理的难度和时间成本。...
来自: 最佳实践 相关产品:专有网络 VPC,E-MapReduce,云速搭CADT
阿里云数据库快速搭建疫情分析系统最佳实践
疫情态势分析和防控任务迫在眉睫,如果快速搭建高效的疫情态势分析系统是众多部门和单位的难题,阿里云polardb for PG+Ganos解决方案可在极短时间内完成分析系统搭建,有效助力疫情防。 方案优势: 1、性能优越:Ganos作为自研的时空数据库引擎,相比postgis性能更优秀。 2、安全稳定:故障自动切换自愈,资源隔离,多副本存储。 3、简单易用:开箱即用,兼容postgresql,打通quickbi快速搭建数据分析展示。 4、功能强大:相比postgis在时空模型上做了较多扩充,支持几何模型,栅格模型,网络模型,时空轨迹模型,点云模型,拓扑网络模型。
存储资源规划.45 文档版本:20210725 IV 阿里云数据库快速搭建疫情分析系统最佳实践 最佳实践概述 最佳实践概述 概述 疫情态势分析和防控任务迫在眉睫,如果快速搭建高效的疫情态势分析系统是众多部 门和单位的难题,阿里云 polardb for PG+Ganos解决方案可在极短时间内完成分析 搭建,有效助力疫情防。技术架构 本实践...
来自: 最佳实践 | 相关产品:云服务器ECS,访问控制,云数据库PolarDB,Quick BI
Function Compute构建高弹性大数据采集系统
Function Compute构建高弹性大数据采集<em>系统</em>
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中,对数据进行处理、分析,形成业务闭环。比如游戏行业中的游戏发行、游戏运营,产互行业中的数字营销,物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点,给整个数据采集传输系统带来很大的挑战。在这个场景中,有三个关键的环节,数据采集、数据传输、数据处理。该最佳实践主要涉
性能压测.51 文档版本:20210806(发布日期)1 Function Compute构建高弹性大数据采集系统 最佳实践概述 最佳实践概述 概述 当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类 服务中,对数据进行处理、分析,形成业务闭环。比如游戏行业中的游戏发行、游 戏运营,产互行业中的数字营销,...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,日志服务(SLS),函数计算,消息队列 Kafka 版,云速搭CADT
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
操作系统Alibaba Cloud LinuxAlibaba Cloud Linux是阿里云研发的稳定、安全、高性能的服务器操作系统,为用户提供更好的操作系统服务体验。边缘计算边缘节点服务 ENS基于运营商边缘节点和网络构建,一站式提供“融合、开放、联动、弹性”的分布式算力资源,帮助用户业务下沉至运营商侧边缘。边缘网络加速 ENA基于阿里云广泛...
来自: 云产品
OA云资源申请流程自动化
OA云资源申请流程自动化
在企业级客户场景中,对云资源的使用通常需要经过内部OA流程审批通过后再进行部署。本最佳实践致力于提供一个通用解决方案,以解决OA云资源申请流程中的自动化问题,提高运维效率,以更好地支撑业务创新。
文档版本:20240130 24 OA云资源申请流程自动化 CADT自动化集成配置 步骤5 在流程引擎中新建表单。文档版本:20240130 25 OA云资源申请流程自动化 CADT自动化集成配置 添加表字段。其中,云产品模板选择步骤 3创建的数据展现集成。对字段进行分组。文档版本:20240130 26 OA云资源申请流程自动化 CADT自动化集成配置 步骤6 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,云速搭
向量检索服务
向量检索服务基于阿里云自研的向量引擎 Proxima 内核,提供具备水平拓展、全托管、云原生的高效向量检索服务。向量检索服务将强大的向量管理、查询等能力,通过简洁易用的 SDK/API 接口透出,方便在大模型知识库搭建、多模态AI搜索等多种应用场景上集成。
产品功能子项.产品功能子项描述.产品功能描述.极简 SDK 功能设计.通过简洁易用的 SDK/API 接口透出,方便...图像搜索以深度学习和机器视觉为核心,提取图片内容特征、建立图像搜索引擎。用户通过输入图片,用以图搜图的方式可快速在图片库中检索到与输入图片相似的图片集合。可广泛应用于拍照购物、商品推荐、版权保护等场景.
来自: 云产品
MRACC加速倚天ECS实例Flink集群性能
MRACC加速倚天ECS实例Flink集群性能
希望了解Flink集群on倚天的部署架构。 通过神龙大数据加速引擎 Mracc 提升Flink集群性能。 希望实测了解倚天ECS实例运行Flink集群的性能 架构设计:利用阿里云官方架构设计模版,在此基础上二次定制(调整规格、资源数量、配置调整)。 快速完成PoC和生产环境的设计和部署
N/A N/A 操作系统 Alibaba Cloud Linux 3.2104 LTS 64位 ARM版 Linux内 5.10.134-14.al8.aarch64 核 方案优势 快速标准化 PoC,10分钟内可以完成整个 PoC的环境搭建及集群部署 整体掌握压测架构及方案成本 产品介绍 神龙大数据加速引擎 MRACC:神龙大数据加速引擎 MRACC 是基于阿里云 IaaS资源推出的大数据加速引擎,用于...
来自: 最佳实践 | 相关产品:云服务器ECS,云速搭
基于Flink的资讯场景实时数仓
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景,Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
每个过程又会涉及多个系统,如数据加工部分会涉及到数据通道类 (如阿里云消息队列 Kafka等);数据多维分析会涉及到 OLAP相关系统(如阿里 云分析型数据库等)。实时数仓的数据处理过程涉及到以下几个关键环节:1.数据产生:一般场景下,数据有两个来源:a)用户行为日志:如用户在 App上的操作会产生一系列日志,包括...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,NAT网关,云原生数据仓库AnalyticDB My,云速搭CADT
互联网、电商Elasticsearch搜索
互联网、电商Elasticsearch<em>搜索</em>
场景描述 每一个生活在互联网中的用户,每天都在经 历各种各样的“搜索”,查找电商网站商品、 信用卡账单、查电子发票、查附近的餐厅酒 店、查偶像、查交通等等。相对于传统的关 系型数据库,Elasticsearch只需要几毫秒的 时间,即可查询PB级数据并从中找到匹配 信息。利用Elasticsearch高可用性和易用 性,能够快速处理网站、APP丢给它的文本、 数字、日期、IP以及地理数据。 解决问题 1.电商网站商品、订单、物流等搜索 2.保险行业保单查询 3.互联网教育行业课程搜索 4.O2O行业地理位置搜索等 产品列表 云服务器ECS 专有网络VPC 负载均衡SLB 云数据库RDSMySQL版 Dataworks Elasticsearch 数据传输服务DTS
配置 Elasticsearch搜索引擎 说明:此部分演示电商网站 Demo搜索引擎替换为 Elasticsearch搜索引擎,真实的业 务系统一般前端会对接 App Server,Server端通过第三部分的 API对接 Elasticsearch 搜索引擎。此部分非必须,如果需要做演示可对接这部分。步骤1 使用电商网站的公网 IP/admin登录电商网站后台管理系统。步骤2 ...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,数据传输,DataWorks,Elasticsearch
微服务引擎的线上流量治理
微服务<em>引擎</em>的线上流量治理
随着业务不断创新,微服务架构及数字化转型不断落地,在这个过程中,大量企业采用了开源的组件构建了微服务,比如有开源微服务全家桶之称的Spring Cloud体系或Apache Dubbo等,微服务的好处之一,在于快速迭代,如何在迭代过程中保障线上流量不受损? 开源产品无运维工具,常常需要投入较大的运维人力和成本。 本实践将重点介绍如何快速集成主流开源微服务框架,实现业务零改造,解决开源框架在生产落地过程中的痛点,例如无损上下线、标签路由等,并通过托管微服务开源组件(API网关、注册中心、配置中心等)的服务,提供白屏化监控告警、容灾、宕机重启、扩缩容等能力,帮助企业释放业务无关的运维成本,聚焦业务本身的运维和发展。 方案优势 快速集成:通过JavaAgent技术实现Sping Cloud和Dubbo框架可以实现业务零改造接入。 免运维:托管微服务依赖开源中间件的服务,提供白屏化监控告警、容灾、宕机重启、扩缩容等能力,帮助我们客户释放业务无关的运维成本,聚焦自身业务本身的运维和发展。 开源增强:提供开源框架在生产落地过程中的痛点,例如应用无损上下线/金丝雀发布/南北+东西流量打通等,帮助客户的业务提高自身SLA和降低自研成本。
最佳实践频道 产品列表 阿里云最佳实践分享群 微服务引擎 MSE 容器服务 ACK 注册中心/网关 MSE 负载均衡 SLB 如二维码过期,请搜索群号:31852400 文档模板(手册名称)/Error!Use the Home tab to apply 云服务器 ECS(产品名称)标题 to the text that you want to appear here.阿里云 微服务引擎的线上流量治理 最佳实践...
来自: 最佳实践 | 相关产品:容器服务 ACK,微服务引擎,云速搭CADT
CDH迁移升级CDP最佳实践
CDH迁移升级CDP最佳实践
当前 CDH 免费版停止下载,终止服务,针对需要企业版服务能力并且CDH 升级过程对业务影响较小的客户,通过安装新的 CDP 集群,将现有数据拷贝至新集群,然后将新集群切换为生产集群,升级过程没有数据丢失风险,停机时间较短,适合大部分互联网客户升级使用。
已解决:在 Cloudera Runtime 7.1.6 中引入了新的基于 JSON 的放置规则格式和新 的放置规则评估引擎。它们解决了许多以前的放置规则迁移限制。基于阿里云部署的 CDP版本已解决该问题。3.3.4.3.动态队列的容量值是固定的 在 Fair Scheduler 中,每次创建新队列时都会重新计算公平份额。相比之下,Capacity Scheduler 为动态...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云速搭
云速搭部署 Elasticsearch 应用
云速搭部署 Elasticsearch 应用
本实践通过云速搭实现一个 DTS+Elasticsearch 的搜索引擎架构,构建一个快速分析和检索 业务数据的系统。
更多信息,请参见:http://www.aliyun.com/product/bigdata/product/elasticsearch 文档版本:20211029 3 云速搭部署 Elasticsearch应用 云速搭架构设计入门 云速搭架构设计入门 方案架构 通过云速搭实现一个 DTS+Elasticsearch的搜索引擎架构,构建一个快速分析和检索 业务数据的系统。文档版本:20211029 4 云速搭部署 ...
来自: 最佳实践 | 相关产品:专有网络 VPC,数据传输,Elasticsearch,云速搭CADT
智能推荐
智能推荐AIRec基于阿里巴巴领先的大数据和人工智能技术,以及在电商、内容、直播、社交等领域的业务沉淀,阿里云为企业开发者提供了行业版SaaS推荐云产品、全链路推荐系统解决方案、工程引擎与组件等多种服务。
开发者可根据搜索、推荐技术架构,灵活接入业务系统,提升性能与稳定性.模式3:高性能工程引擎组件.多元特征简易拼接查询,毫秒级返还查询结果;实时特征存储引擎ABFS.毫秒级召回万级推荐候选集,多路召回、过滤逻辑灵活定制;在线召回引擎BE.在线代码实验灵活开展,弹性扩缩容,自动升降级;个性化开发平台TPP.推荐业务...
来自: 云产品
在线业务智能增长解决方案
基于阿里巴巴自主研发的高性能召回、排序引擎,为企业提供一站式智能增长开发平台。通过性能更优、效果更好的智能搜索、信息流服务,提升在线业务转化效果与用户体验,助力商业价值提升,驱动企业智能增长。
解决自建搜索、信息流系统运维复杂的问题.可以解决的问题.自研核心引擎,性能效果更优.一站式解决方案.智能开放搜索.智能推荐AIRec.CSDN在众多核心场景中使用了阿里云开放搜索和个性化信息流产品,接入后对每个细分场景分别进行精细化效果调优,将原有搜索指标提升超过30-50%,提升首页推荐效果,多项指标翻倍。—— CSDN ...
来自: 解决方案
云Clickhouse冷热数据分层存储
云Clickhouse冷热数据分层存储
基于云ClickHouse可以给电商、游戏、互联网以及其他行业提供高性能、高稳定性、低维护成本、高性价比的实时数据分析、精准营销、业务运营、业务分析、业务预警、业务营销、数仓加速等场景化方案,本实践会向客户提供数据库低维护成本、数据库链路构建、冷热分层存储、快熟分析等操作实践。 解决问题 1. 维护成本低不用建设维护体系,稳定性高,数据倾斜自动均衡。 2. 完善的数据同步链路,可以平滑将业务库、大数据、日志服务的数据同步到Clickhouse,降低研发成本。 3. 平滑升级版本,业务中断小。 冷热分层后透明读取,帮客户节约整体数据存储成本。
高可靠存储引擎:基于阿里飞天分布式系统的云盘存储,充分利用云平台存储 文档版本:20210416 1 云 ClickHouse冷热数据分层存储最佳实践 最佳实践概述 可靠性特性。数据闭环流通:与云上日志系统、数据库、数据应用工具无缝集成,能便捷地进 行数据同步,降低数据迁移工作量。架构灵活:支持单节点、单副本、多节点、多副本...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,数据传输,日志服务(SLS),云数据库 ClickHouse
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
本篇最佳实践先创建EMR集群作为数据湖对象,Hive元数据存储在DLF,外表数据存储在OSS。然后使用阿里云数据仓库MaxCompute以创建外部项目的方式与存储在DLF的元数据库映射打通,实现元数据统一。最后通过一个毒蘑菇的训练和预测demo,演示云数仓MaxCompute如何对于存储在EMR数据湖的数据进行加工处理以达到业务预期。
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测实践 业务架构 场景描述 数据湖和数据仓库是当前大数据技术条件下构建分布式 的两种数据架构设计取向,数据湖偏向灵活性,数据仓 库侧重成本、性能、安全、治理等企业级特性。但是数据 湖和数据仓库的边界正在慢慢模糊,数据湖自身的治理能 力、数据仓库延伸到外部...
来自: 最佳实践 | 相关产品:对象存储 OSS,E-MapReduce,DataWorks,大数据计算服务 MaxCompute,API网关,数据湖构建,云速搭
智能开放搜索 OpenSearch
阿里云智能开放搜索 OpenSearch是阿里自主研发的大规模分布式搜索引擎搭建的一站式智能搜索业务开发平台,内置全链路搜索功能,提供一站式、场景化的行业大数据解决方案。
智能开放搜索 OpenSearch 基于阿里巴巴沉淀多年的大规模分布式搜索引擎,及向量检索引擎,提升文本、向量检索性能的同时,降低资源成本消耗.高性能检索服务.搜索引导服务.提供下拉提示、热、底纹丰富的搜索引导服务,并支持灵活人工干预运营,协助完成搜索引流.搜索测试能力.提供搜索测试能力,同时行业算法版支持A/BTest...
来自: 云产品
企业多账号环境下的安全资源统一管控最佳实践
企业多账号环境下的安全资源统一管控最佳实践
某地产公司在上海、杭州设有两个分公司,公司使用阿里云支撑各分公司的 IT 业务系统,这些系统由各分公司独立负责,包括独立负责云上业务账号的创建、员工权限的分配管理、资源的购买、IT 风险的管控、安全管理等。由于公司业务发展较快,各分公司创建了非常多的业务账号来承载新的业务,每个业务账号独立管理,带来了非常大的管理问题。人员权限管理混乱,离职员工在云上的身份梳理不清难以及时清理造成极大的安全隐患;账号权限过大、使用弱密码可能造成账号被盗数据泄露;公司内部缺乏统一的合规基线和安全管控,各业务系统各自为政,数据泄露、业务中断、安全入侵风险升级。 为了提升云上的管控效率和安全性,总公司成立新的信息安全中心和阿里云对接。信息安全中心的定位是统一采购安全产品,集中保障云上资源的安全性。
详见:https://www.aliyun.com/product/cfw 云安全中心:云安全中心是一个实时识别、分析、预警安全威胁的统一安全管理 ,通过防勒索、防病毒、防篡改、合规检查等安全能力,实现威胁检测、告警响 应、攻击溯源的自动化安全运营闭环,保护您的云上资产和本地服务器安全,并满 足监管合规要求。CADT:是一款为上云应用...
来自: 最佳实践 | 相关产品:云安全中心,云防火墙,资源管理,云速搭CADT,云SSO
数字证书管理服务(原SSL证书)
阿里云为您提供证书服务,在云上签发DigiCert、GlobalSign、GeoTrust、CFCA、WoSign证书,实现网站HTTPS化,使网站可信,防劫持、防篡改、防监听。并对云上证书进行统一生命周期管理,简化证书部署,一键分发到云上产品。
提升搜索引擎排名.数据传输期间,建立起安全信息传输加密通道,保证信息传输的机密性。保护账户安全,有效防止信息篡改,避免信息泄露.信息防篡改/防泄露.提升搜索引擎排名.Web应用防火墙.推荐搭配使用.网站/APP/小程序HTTPS加密.网站/APP/小程序HTTPS加密.<产品聚合页.选购SSL证书.选购客户端证书.数字证书管理服务集云上...
来自: 云产品
< 1 2 3 4 ... 6 >
共有6页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用