基于弹性供应组构建大数据分析集群
场景描述 基于弹性供应组（APG）搭建spark计算集 群，提供一键开启跨售卖方式、跨可用区、 跨实例规格的计算集群交付模式的实践。 方案优势 1.超低成本：跨售卖方式提供计算实 例，按秒计费，可全部使用spot实例 交付，最高可省90%成本。 2.稳定可靠：跨可用域、跨实例规格， 降低spot被集体释放的风险；自动托 管，分钟级巡检，动态保证集群的算 力。 3.快速交付：单次可在5分钟内交付 2000个实例。 4.多策略组合：可分别指定spot和按量 实例的交付策略，以及差额补足的策 略，包括成本最低、打散和折中。 解决问题 1.大规模计算集群成本高。 2.创建ECS实例方式单一，无法跨计费 方式、可用区及规格等核心参数。 3.当可用区资源紧张，无法自动保证基于 spot类型的稳定算力。 产品列表 专有网络VPC 云服务器ECS
本文采用 spark standalone集群模式演示基于弹性供应组构建大数据分析集群，spark standalone集群如下图所示：鉴于大数据集群对 IO高性能的要求，采用阿里云云服务器 ECS本地盘实例：D系列 和 I系列来作为 spark集群节点。1.2.集群计算能力规划 基于降成本的需要，您可以使用弹性供应组同时开出抢占式实例和按量付费实例，...
大数据系统基准性能测试最佳实践
本方案适用于在阿里云上进行大数据基准性能测试的场景，包括 Teragen和Terasort测试，TestDFSIO测试。本文采用CADT工具结合阿里云的E-MapReduce服务快速构建测试集群，并提供了Teragen和Terasort测试，TestDFSIO测试的测试脚本，便于迅速开展测试。
b.Terasort“Total time 文档版本：20210301 23 大数据系统基准性能测试最佳实践 运行 Bert Finetune demo程序 spent by all map tasks”耗时每次都不 能超过 xxx毫秒 c.Total time spent by all reduce tasks”耗 时每次都不能超过 xxx毫秒；如果不符合需求，需要根据实际情况，进行参数调优或者调整集群配置，以满足测试...
互联网电商行业离线大数据分析
电商网站销售数据通过大数据分析后将业务指标数据在大屏幕上展示，如销售指标、客户指标、销售排名、订单地区分布等。大屏上销售数据可视化动态展示，效果震撼，触控大屏支持用户自助查询数据，极大地增强数据的可读性。
互联网电商行业离线大数据分析 最佳实践 业务架构 场景描述 本实践介绍了使用阿里云MaxCompute、数据库（RDS）、DataWorks等产品实现电商网站离线数据分 析，分析后的业务指标数据实时在大屏展示。通过完整 的实践Demo为例，提供从电商网站搭建，数据从RDS 同步到MaxCompute、再到DataWorks进行数据分析，最后在大屏上展示...
阿里云数据库快速搭建疫情分析系统最佳实践
疫情态势分析和防控任务迫在眉睫，如果快速搭建高效的疫情态势分析系统是众多部门和单位的难题，阿里云polardb for PG+Ganos解决方案可在极短时间内完成分析系统搭建，有效助力疫情防。 方案优势： 1、性能优越：Ganos作为自研的时空数据库引擎，相比postgis性能更优秀。 2、安全稳定：故障自动切换自愈，资源隔离，多副本存储。 3、简单易用：开箱即用，兼容postgresql，打通quickbi快速搭建数据分析展示。 4、功能强大：相比postgis在时空模型上做了较多扩充，支持几何模型，栅格模型，网络模型，时空轨迹模型，点云模型，拓扑网络模型。
经过阿里巴巴双十一活 动的最佳实践，让用户既享受到开源的灵活性与价格的优惠，又享受到商业数据 库的高性能和安全性。更多信息，请参见：www.aliyun.com/product/polardb 文档版本：20210725 III 阿里云数据库快速搭建疫情分析系统最佳实践 目录 目录 文档版本信息.I 法律声明.II 前言.III 目录.IV 最佳实践概述.1 前置...
云速搭部署SLS实现日志采集处理分析
通过云速搭部署ECS+SLS，在ECS上安装logtail收集Nginx应用日志写入SLS。通过日志生成器模拟Nginx日志生成，并通过SLS进行日志分析。
一站式提供数据采集、加工、分 析、告警可视化与投递功能，全面提升研发、运维、运营和安全等场景数字化能 力。详见：https://www.aliyun.com/product/sls 文档版本：20211203 2 云速搭部署 SLS实现日志采集处理分析 云速搭方案架构设计 云速搭方案架构设计 方案架构 通过云速搭部署 ECS+SLS，在 ECS上安装 logtail收集 ...
利用交互式分析(Hologres)进行数据查询
场景描述：随着收集数据的方式不断丰富，企业信息化 程度越来越高，企业掌握的数据量呈TB、 PB或EB级别增长。同时，数据中台的快 速推进，使数据应用主要为数据支撑、用户 画像、实时圈人及广告精准投放等核心业务 服务。高可靠和低延时地数据服务成为企业 数字化转型的关键。 Hologres致力于低成本和高性能地大规模 计算型存储和强大的查询能力，为您提供海 量数据的实时数据仓库解决方案和实时交 互式查询服务。 解决问题 1.加速查询MaxCompute数据 2.快速搭建实时数据仓库 3.无缝对接主流BI工具 产品列表 MaxCompute Hologres 实时计算Flink 专有网络VPC DataWorks DataV
V1.6 2021-11-07 衾影 梅酱、嘉辽 优化Hologres加速 增加CADT一键部署 V1.7 2022-02-24 衾影 更新产品截图 V1.8 2022-03-30 衾影 文档优化 六稻，阿 文档更新，迭代产品新特 V1.9 2024-04-25 扬流 瑟 性 I 文档版本：20240425利用交互式分析工具进行数据查询 目录 目录 文档版本信息.I 法律声明.II 目录.III 最佳实践概述.4...
SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务，通过日志服务 进行数据分析，帮助提升运维、运营效率， 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户，推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输；针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况，可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
文档版本：20211203 24 SLS多云日志采集、处理及分析 Logtail日志采集处理分析 注意：查询分析设置的修改操作只会对新写入的数据生效，如果您需要提前对查询分 析设置的某些字段分析统计生效，请使用指定字段查询的自定义方式在日志写入到日 志库之前进行开启统计查询。步骤4 再次启动日志发生器和停止日志发生器。按云...
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
本篇最佳实践先创建EMR集群作为数据湖对象，Hive元数据存储在DLF，外表数据存储在OSS。然后使用阿里云数据仓库MaxCompute以创建外部项目的方式与存储在DLF的元数据库映射打通，实现元数据统一。最后通过一个毒蘑菇的训练和预测demo，演示云数仓MaxCompute如何对于存储在EMR数据湖的数据进行加工处理以达到业务预期。
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测实践 业务架构 场景描述 数据湖和数据仓库是当前大数据技术条件下构建分布式系 统的两种数据架构设计取向，数据湖偏向灵活性，数据仓 库侧重成本、性能、安全、治理等企业级特性。但是数据 湖和数据仓库的边界正在慢慢模糊，数据湖自身的治理能 力、数据仓库延伸到外部...
搭建高性能ACK集群
场景描述 容器的网络协议栈实现方式，导致容器之间的网 络性能，相比服务器之间直接通信方式，会有一 定程度的下降。阿里云托管版的K8S容器服务， 支持自研的Terway网络插件，该插件可以有效 减少因容器而引入的网络性能下降，可以基本达 到服务器之间直接通信的网络性能。本最佳实践 主要是一个性能测试方面的实践，指导客户进行 POC测试等。 解决问题 1.POD之间网络性能提升。 2.性能测试方法 产品列表 阿里云托管K8S ACK
名词解释 容器服务 Kubernetes版：阿里云容器服务 Kubernetes版（简称 ACK）提供高性 能可伸缩的容器应用管理服务，支持企业级 Kubernetes容器化应用的生命周期管 理。容器服务 ACK简化集群的搭建和扩容等运维工作，整合阿里云虚拟化、存储、网络和安全能力，打造云端最佳的 Kubernetes容器化应用运行环境。容器服务是 全球...
云服务器基准性能测试
本最佳实践适合利用标准的benchmark工具对云服务器的CPU、内存、网络和磁盘性能进行测试的场景。
云服务器基准性能测试 最佳实践 场景描述 业务架构 本最佳实践适合利用标准的 benchmark工 具对云服务器的 CPU、内存、网络和磁盘 性能进行测试的场景。解决问题 对云服务器的基准性能进行测试，包括 CPU、内存、网络和磁盘。产品列表 云服务器 ECS 专有网络 VPC 云监控 阿里云最佳实践分享群 最佳实践频道 如二维码过期，...
高性能数据库ECS测试及选型
概述 客户自建高性能数据库（如电商大促）在做ECS选型时，对磁盘的IO、网络的吞吐都有很大要求，为了跟接近真实业务场景，使用HammerDB选定真实业务模型测试其TPM。通过对比TPM对比ECS性价比进行选型。同时使用FIO测试磁盘性能作为参考。 适用场景 自建数据库性能测试 磁盘性能测试 ECS选型建议 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤： 方案优势 基于标准的TPC-C测试，接近真实业务场景。 提供多规格实例测试，快速选择最优性价比实例。
文档版本：20201104 27 高性能数据库 ECS测试及选型 TPC-C测试 2.TPC-C测试 步骤1 本章主要介绍使用 hammerDB对不同实例的规格进行 TPC-C测试，TPC-C是一种旨 在衡量联机事务处理（OLTP）系统性能与可伸缩性的行业标准基准测试项目。这种基 准测试项目将对包括查询、更新及队列式小批量事务在内的广泛数据库功能进行测试。...
电商网站数据埋点及分析
场景描述 数据埋点是数据产品经理、数据运营以及数据分 析师，基于业务需求（例如：CPC点击付费广 告中统计每一个广告位的点击次数），产品需求 （例如：推荐系统中推荐商品的曝光次数以及点 击的人数）对用户行为的每一个事件对应的位置 进行开发埋点，并通过SDK上报埋点的数据结 果，记录数据汇总后进行分析，推动产品优化或 指导运营。 解决问题 1.电商网站广告位效果统计分析 2.电网网站推荐商品曝光、点击、购买等行为统 计分析 3.电商网站用户分布分析 4.电商网站页面热点图分析等 产品列表 日志服务SLS Dataworks 云服务器ECS 云数据库RDS版 负载均衡SLB 专有网络VPC
RDS基于阿里云分布式文件系统和 SSD盘高性 能存储，支持 MySQL、SQL Server、PostgreSQL、PPAS和 MariaDB引擎，提 供了容灾、备份、恢复、监控、迁移等方面的全套解决方案，彻底解决数据库运维 的烦恼。更多信息，请参见云数据库 RDS MySQL 版简介 文档版本：20220127 II 电商网站数据埋点及分析 前言 ...
虚拟桌面架构的高性能体验云上部署
场景描述 针对自建虚拟化桌面架构迁移阿里云，以及有虚拟化桌面 架构需求上云。包括但不限于： 1.有许可证合规要求，利用自带license快速上云的客户。 2.对数据安全较高要求，需要快速构建虚拟化桌面的客 户。 解决问题 利用云上灵活性和规模化优势，构建云上更加高效、高性 能体验的服务，为客户解决： 1.客户VDI部署的需求，能够更及时的得到满足。 2.解决硬件资源限制，根据业务规模化部署并集中管 控。 3.利用公共云的网络、计算、备份容灾方案、安全防护 等，提供高可靠、高性能、高体验的远程桌面服务。 产品列表 VPC（专有网络） SLB（负载均衡） CEN（云企业网） 专有宿主机 OpenAPI
利用公共云的网络、计算、备份容灾方案、安全防护等，提供高可靠、高性 能、高体验的远程桌面服务。应用范围 有许可证合规要求，利用自带 license快速上云的客户。对数据安全较高要求，需要快速构建虚拟化桌面场景的客户。名词解释 VPC：Virtual Private Cloud，简称 VPC。基于阿里云创建的自定义私有网络,不 同的专有网络...
人工智能-自然语言处理-情感分析
又称倾向性分析，或意见挖掘，它是对带有情感色彩的主观性文本进行分析、处理、归纳和推理的过程。利用情感分析能力，可以针对带有主观描述的自然语言文本，自动判断该文本的情感正负倾向并给出相应的结果。支持英语，泰语，越南语，印尼语。
基于电商行业的大量语料研发，对消费者历史评价和新增评价的商品维度属性自动解析，将文本转化为结构化属性字段，高效甄别正负面评价，同时根据情感强烈程度进行-1分~1分的打分，可统计可分析，大幅度节省客服人工.商品评价解析.将连续的自然语言文本，切分成具有语义合理性和完整性的词汇序列，同时保持对数据、模型的不断...
来自：
云产品
消费者资产运营分析解决方案
阿里云消费者资产运营分析解决方案是以数据中台为底座的消费者资产运营分析解决方案，依靠AIPL和FAST等消费者资产运营方法论，与阿里巴巴各业务平台及数据银行打通联动，解决品牌商家以前营销活动与销售转化、广告投放到店内引流、用户购买追踪与再触达等环节难以形成闭环的痛点，支撑全域的消费者营销运营。
它能提供快速、完全托管的PB级数据仓库解决方案.下载零售智能变革白皮书.基于数据中台为底座的消费者资产运营分析解决方案，依靠AIPL和FAST等消费者资产运营方法论，与阿里巴巴各业务平台打通联动，解决品牌商家营销活动与销售转化、广告投放到店内引流、用户购买数据管理与再触达等环节难以形成闭环的痛点，提升全域的消费...
来自：
解决方案
EHPC药物筛选
场景描述 本方案适用于使用弹性高性能计算 EHPC和文件存储NAS来搭建基础环 境，运行药物筛选应用AutodockVina 的场景中，这里采用批处理方式来提交 作业，并可以可视化计算结果。 方案架构 1.计算之前，将数据通过互联网/闪电立方/高速通道上传到阿里云OSS 2.计算时，将数据从OSS拉取到文件共享存储NAS上 3.计算时，在EHPC集群上进行，计算节点从NAS上读写数据 • 容量型NAS：低成本，大容量 • 性能型NAS：适合高IOPS应用，作为临时目录 • CPFS：适合超大规模，并行度极高的作业 4.计算节点： • 如果对计算时间不敏感，希望低成本运算，可选ECS实例 • 如果时效性要求高，建议采用SCC超级计算集群 5.可视化 • 如果可视化部分计算量不大，可以采用EHPC自带的可视化服务 解决问题 1.使用EHPC运行药物筛选应用 2.使用nas存储计算数据 3.使用OSS保存计算结果 • 通过分子对接（moleculardocking）模拟计算进行药物筛选，是模拟小分子配体和生物大分子受体的 相互作用，预测配体和受体的结合模式和亲和力。 • 通常，有很多已有的配体库，如商业化的Specs、Enamine和ChemDiv化合物库。提供大量配体，模 拟计算就是计算这些配体和给定受体的相互作用。 • 每次模拟计算通常处理一个配体和一个受体，不同配体之间没有依赖，因此可以同时大规模并行处 理。 本解决方案同样适用于有批量、高并发处理需求的其它生物、医药等场景。 产品列表 弹性高性能计算E-HPC 文件存储NAS 对象存储OSS
可视化•如果可视化部分计算量不大，可以采用 EHPC自带的可视化服务 方案优势 1.E-HPC是阿里云基于自有的基础设施服务构建的云超算平台，提供从硬件架设、软件部署到作业执 行、运行监控以及结果分析的一站式高性能计算服务.最佳实践实例 本文介绍如何使用 EHPC来搭建实现虚拟药物筛选的解决方案。虚拟药物筛选中的关键一环...
- 产品推荐
- 这些文档可能帮助您