Spark on ECI大数据分析
场景描述 方案优势 1.计算引擎弹性扩缩容，兼顾资源弹性与计 算资源成本优化。 2.计算与存储分离架构，结合阿里云原生云 存储产品，海量数据湖优势。 3.Kubernetes原生的调度性能优势，提升在 大规模分析作业时的分析性能优势分。 4.集群资源隔离和按需分配。 解决问题 1.计算资源弹性能力不足，计算资源成本管 控能力欠缺. 2.集群资源调度能力和隔离能力不足。 3.计算与存储无法分离，大数据量分析时出 现数据存储资源瓶颈。 4.Spark submit方式提交分析作业参数支持 有限等缺点。 产品列表 容器服务Kubernetes版(ACK) 弹性容器实例(ECI) 文件存储HDFS 对象存储OSS 专有网络VPC 容器镜像服务ACR
Spark on ECI大数据分析 最佳实践 业务架构 场景描述 云原生和大数据时代的到来,用户在拥抱云原 生进行容器化改造的同时也专注于数据分析，希望能够将云原生容器化编排改造带来的计 算资源弹性、计算资源成本优化、计算与存储 分离、资源调度隔离等优势与大数据分析进行 结合，因此可以将大数据分析与容器编排调度 主流技术...
互联网电商行业离线大数据分析
电商网站销售数据通过大数据分析后将业务指标数据在大屏幕上展示，如销售指标、客户指标、销售排名、订单地区分布等。大屏上销售数据可视化动态展示，效果震撼，触控大屏支持用户自助查询数据，极大地增强数据的可读性。
步骤2 在菜单栏单击新建>官方解决方案中心，搜索关键字：互联网电商行业离线数据大 数据分析，获取到官方模板。互联网电商行业离线大数据分析 搭建电商网站Demo 步骤3 选择目标模板库，单击基于方案新建。步骤4 右上角单击保存，输入应用名称（如：离线大数据分析-060），最后单击确认。说明：此模板会按照基础资源环境规划...
EMR本地盘实例大规模数据集测试
场景描述 阿里云为了满足大数据场景下的存储需求，在云 上推出了本地盘D1机型，这个系列提供了本地 盘而非云盘作为存储，提高了磁盘的吞吐能力， 发挥Hadoop的就近计算优势。阿里云EMR 产品针对本地盘机型，推出了一整套的自动化运 维方案，帮助用户方便可靠地使用本地盘机型， 不需要关注整个运维过程同时数据的高可靠和 服务的高可用。 解决问题 1.云盘多份冗余数据导致成本高 2.磁盘吞吐量不高 3.节点的高可靠分布问题 4.本地盘与节点的故障监控问题 5.数据迁移时自动决策问题 6.自动故障节点迁移与数据平衡问题 产品列表 EMR(E-MapReduce) 本地盘 VPC
应用范围 需要使用阿里云 EMR+本地盘进行大数据业务前进行性能测试的用户 线下自建大数据集群用户需要迁移到阿里云云上 EMR+本地盘进行大数据分析性 能对比测试的用户 名词解释 VPC：Virtual Private Cloud，简称 VPC。基于阿里云创建的自定义私有网络,不 同的专有网络之间二层逻辑隔离，可以在自己创建的专有网络内创建和...
Function Compute构建高弹性大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中，对数据进行处理、分析，形成业务闭环。比如游戏行业中的游戏发行、游戏运营，产互行业中的数字营销，物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点，给整个数据采集传输系统带来很大的挑战。在这个场景中，有三个关键的环节，数据采集、数据传输、数据处理。该最佳实践主要涉
www.aliyun.com/product/fc 消息队列 Kafka版：消息队列 Kafka 版是阿里云基于 Apache Kafka 构建的高 吞吐量、高可扩展性的分布式消息队列服务，广泛用于日志收集、监控数据聚合、文档版本：20210806（发布日期）III Function Compute构建高弹性大数据采集系统 产品介绍 流式数据处理、在线和离线分析等场景，是大数据生态...
基于弹性供应组构建大数据分析集群
场景描述 基于弹性供应组（APG）搭建spark计算集 群，提供一键开启跨售卖方式、跨可用区、 跨实例规格的计算集群交付模式的实践。 方案优势 1.超低成本：跨售卖方式提供计算实 例，按秒计费，可全部使用spot实例 交付，最高可省90%成本。 2.稳定可靠：跨可用域、跨实例规格， 降低spot被集体释放的风险；自动托 管，分钟级巡检，动态保证集群的算 力。 3.快速交付：单次可在5分钟内交付 2000个实例。 4.多策略组合：可分别指定spot和按量 实例的交付策略，以及差额补足的策 略，包括成本最低、打散和折中。 解决问题 1.大规模计算集群成本高。 2.创建ECS实例方式单一，无法跨计费 方式、可用区及规格等核心参数。 3.当可用区资源紧张，无法自动保证基于 spot类型的稳定算力。 产品列表 专有网络VPC 云服务器ECS
文档版本：20200619 3 基于弹性供应组构建大数据集群分析 方案背景 方案背景 场景需求 随着大数据的兴起，越来越多的客户会尝试通过云服务器搭建自己的大数据分析平台，如 Hadoop、Spark等。但是用户通过种单例或批量创建 ECS，方式均缺乏灵活性，无法跨越计费方式、可用区及规格族等核心参数的限制，同时无法避免资源不足...
云原生内存数据库Tair
云原生内存数据库Tair是阿里云推出的，基于云原生架构的内存数据库，兼容Redis API，支持内存、持久内存、ESSD三种存储介质，并提供大量扩展型数据结构及企业级能力。
大数据处理无缝对接.网站类应用场景中，网站读写压力较大，且要求控制成本，云原生内存数据库Tair单节点版满足纯缓存场景，提供高QPS性能，数据持久化到底层RDS能力.Tair多线程模型提供最高30万的QPS，升级为单节点集群版后可承载超大流量压力.单节点故障不影响业务.单节点Tair满足纯缓存应用，提供超高性价比.云服务器ECS....
来自：
云产品
可观测监控 Prometheus 版
覆盖业务自定义监控/应用组件监控/云服务监控/容器监控/系统监控等场景。默认集成Grafana看板与智能告警，全面优化系统可用性与查询能力，用户无需关注系统可用性与Exporter集成。帮助企业快速搭建一站式指标可观测体系。
作为云原生的运维数据可视化平台，面向用户提供免运维和快速启动 Grafana 运行环境的能力，默认集成如数据库 MySQL、消息队列 RockteMQ、实时计算 Flink、Elasticsearch、可观测监控 Prometheus 版、日志服务SLS等各类阿里云服务数据源，并提供丰富的数据看板，让运维监控更加高效、精细.可观测可视化 Grafana 版.支持按需...
来自：
云产品
云数据库RDS PostgreSQL
云数据库RDS PostgreSQL 版完全兼容开源PostgreSQL，基于云原生架构，软硬协同优化，提供稳定可靠、高性价比的数据库服务。通过丰富的插件拓展，支撑各领域场景化业务，如自研Ganos多维多模时空引擎及开源PostGIS地理信息引擎、向量引擎、时序引擎等百余款插件。
数据在用户侧加密后传入云数据库，数据库中存储的、网络中传输的、内存中缓存的的都是加密后的数据，数据拥有者以外的任何人无法接触到用户的明文数据，端到端全链路避免数据泄漏的发生.OSS云存储扩展.通过外部表的方式将OSS云存储中的CSV格式化文件当成本地数据表进行使用，支持与本地数据表进行JOIN、数据读写，借助OSS...
来自：
云产品
容器服务 Kubernetes 版 ACK
阿里云容器服务Kubernetes版ACK（容器服务Kubernetes版，简称ACK）支持企业级K8s容器化应用的全生命周期管理，提供高性能可伸缩的容器应用管理能力，助力企业高效运行云端K8s容器化应用。
广大网友各抒己见如何试用 K8s独家好书丨智算时代的容器技术演进与实践本书精选 2023 云栖大会中“容器技术与服务”专题分享精华，集合容器服务产品家族最新发布、容器 AI 工程化创新、容器前沿技术与大规模生产实践、典型场景企业案例等方向内容，希望能够帮助您了解如何基于容器技术与服务，拥抱智算时代，为现代化应用...
来自：
云产品
人工智能平台 PAI
阿里云人工智能平台 PAI 涵盖交互式建模、可视化建模、分布式训练到模型在线部署全流程；快速搭建人工智能推荐系统；深度学习模型训练速度提升数十倍；减少50%GPU成本
通过数据集加速、计算加速、优化算法、调度算法和资源优化技术等多种手段，提高AI训练和推理的速度、易用性和稳定性，极大提升AI计算的效率.AI加速服务.进一步了解AI加速服务.全新视频教程.176页智能推荐端到端解决方案.全新视频教程.176页智能推荐端到端解决方案.全新视频教程.176页智能推荐端到端解决方案.智算服务 PAI-...
来自：
云产品
云备份 Cloud Backup
云备份 Cloud Backup作为阿里云数据统一灾备平台，是一种简单易用的公共云灾备服务，可以为阿里云ECS上的数据库、文件系统、NAS、OSS以及自建机房内的文件、虚拟机、大规模NAS等提供安全、高效的备份和容灾保护。图形化界面集中配置备份策略，并完全托管备份活动，轻松满足业务与合规需求。
同时，因行规安全要求海量历史数据需要长时间保留数十年甚至更长.花销高：需要有机房、硬件、软件的预算，还需专门的团队运维.上线慢：上线时间数月或者数年内.管理难：归档数据检索困难，取回效率极低.运维复杂：本地备份归档软硬件管控分离，运维人员需随时关注系统状况，出错时定位麻烦，耗时耗力.无弹性扩展：本地空间...
来自：
云产品
云数据库ClickHouse
云数据库ClickHouse 是阿里云提供的分布式实时分析型列式数据库服务。具有高性能、开箱即用、企业特性支持。广泛应用于流量分析、广告营销分析、行为分析、人群划分、客户画像、敏捷BI、数据集市、网络监控、分布式服务和链路监控等业务场景。
基于大规模的多维度用户数据分析，分析广告投放条件命中的人群规模，评估广告投放成本。同时对投放对象进行人群画像，评估投放收精准度和目标收益.广告人群预估属于在线分析，亿级用户宽表数据分析秒级完成.云数据库MySQL.推荐搭配使用.广告投放人群预估和人群画像.云数据库 ClickHouse 社区兼容版包年包月系列价格下调....
来自：
云产品
云数据库RDS SQL Server版
阿里云SQL Server数据库已含微软License，支持复杂的SQL查询，性能优秀，对基于Windows平台.NET架构的应用程序具有完美的支持，广泛应用于新零售、医疗、房地产等行业。
针对电商秒杀场景进行专项优化，解决热点数据的高并发更新性能瓶颈，经阿里巴巴双十一内部大规模使用数据统计，相比本地数据库实现100倍性能提升。通过高安全模式，内置SQL注入检测模块，实时拦截风险SQL，保护数据安全.热点数据的高并发更新性能优化.提供IP白名单，防SQL注入，SSL加密传输，TDE数据加密等功能.主备架构，...
来自：
云产品
VPN网关
阿里云VPN网关（VPN Gateway）是一款基于Internet，通过加密隧道将企业数据中心、办公网或终端与阿里云专有网络（VPC）安全可靠连接起来的服务。VPN网关在国家相关政策法规下提供服务，支持IPsec VPN、SSL VPN及国密算法等丰富特性，满足分支互联、移动办公等接入场景。
阿里云VPN网关（VPN Gateway，简称VPN）是一款基于Internet，通过加密通道将企业数据中心、办公网或终端与专有网络（VPC）安全可靠连接起来的服务。支持IPsec VPN、SSL VPN及国密算法等能力，满足分支互联、移动办公等接入场景.更多产品与服务.查看更多商品.更多产品与服务.随时随地安全上云，智能接入网关APP免费试用.云...
来自：
云产品
- 产品推荐
- 这些文档可能帮助您