Spark on ECI大数据分析
场景描述 方案优势 1.计算引擎弹性扩缩容，兼顾资源弹性与计 算资源成本优化。 2.计算与存储分离架构，结合阿里云原生云 存储产品，海量数据湖优势。 3.Kubernetes原生的调度性能优势，提升在 大规模分析作业时的分析性能优势分。 4.集群资源隔离和按需分配。 解决问题 1.计算资源弹性能力不足，计算资源成本管 控能力欠缺. 2.集群资源调度能力和隔离能力不足。 3.计算与存储无法分离，大数据量分析时出 现数据存储资源瓶颈。 4.Spark submit方式提交分析作业参数支持 有限等缺点。 产品列表 容器服务Kubernetes版(ACK) 弹性容器实例(ECI) 文件存储HDFS 对象存储OSS 专有网络VPC 容器镜像服务ACR
应用范围 需要使用 Spark on Kubernetes解决方案的用户 对 Spark大数据分析平台计算资源成本控制考虑的用户 需要有灵活可扩展计算平台资源弹性及管控的用户 名词解释 文件存储 HDFS：阿里云文件存储 HDFS是面向阿里云 ECS实例及容器服务等计 算资源的文件存储服务，允许用户像在 Hadoop分布式文件系统中管理和访问数 据，...
云数据库 SelectDB 版
阿里云数据库 SelectDB 是现代化实时数据仓库 SelectDB 在阿里云上的全托管服务，内核基于业界领先的开源分析型数据库 Apache Doris 研发，由阿里云和飞轮科技联合打造。阿里云数据库 SelectDB 聚焦于满足企业级大数据分析需求，广泛应用于实时报表分析、即席多维分析、日志检索分析、数据联邦与查询加速等场景，致力于为客户提供极致性能、简单易用的数据分析服务。
提供简单高效的内置 ETL 能力，可通过 SQL 轻松进行数据处理转换。轻量级表结构变更支持轻量的表结构变更，可秒级在线完成表结构变更。提供丰富的半结构化类型（如Map、Array、Json等）、高性能的宽表处理能力（高达数千列），充分满足业务的灵活多样性。秒级交互式分析提供丰富的即席分析函数（如留存分析函数、画像分析...
来自：
云产品
云数据库HBase
阿里云云数据库 HBase 版（ApsaraDB for HBase）是基于 Hadoop 且100%兼容HBase协议的高性能、可弹性伸缩、面向列的分布式数据库，轻松支持PB级大数据存储，满足千万级QPS高吞吐随机读写场景。
原生openTSDB，低成本浮点数据处理.存储计算分离，支持高性能并发写入，单节点数十万QPS.PB级时空数据存储与高并发写入.引擎以Z-Order、Hilbert等空间填充曲线为基础，支持二维和三维时空索引.高效的时空索引与算法分析包.云服务器 ECS.推荐搭配使用.物联网时空时序场景.分布式高效时序数据库.使用HBase来存储海量帖子/文章...
来自：
云产品
Databricks数据洞察
阿里云Databricks数据洞察是基于Apache Spark的全托管数据分析平台, 内核采用更高效、稳定的商业版Databricks Runtime和Delta Lake。可满足数据分析师、数据工程师和数据科学家在大数据场景下对数据湖分析、实时数仓、离线数仓、BI数据分析、AI机器学习等需求
满足高性能、高稳定性、可弹性的计算需求.Databricks Delta Lake为数据湖分析提供了ACID事务能力，轻松处理包含数十亿文件的PB级表的元数据信息，实现了批流一体的数据处理方式.同时满足数据科学家、数据工程师以及业务分析师的计算需求，提供交互式的协同分析工作平台.计算存储分离，减少数据冗余，实现多引擎间的数据共享...
来自：
云产品
容器服务Serverless版
容器服务Serverless版是一款基于阿里云弹性计算基础架构，完全兼容Kuberentes生态，安全、可靠的容器产品。通过该产品，无需管理和维护节点即可快速创建Kuberentes容器应用，并且根据应用配置的CPU和内存资源量按需付费，使您更专注应用本身，而非运行应用的基础设施。
根据业务数据处理需求，能够在短时间内快速创建大量计算任务，满足业务的大数据及 AI 在线处理诉求，广泛应用在 Spark、Presto 等数据计算场景.使用 ACK Serverless 集群无需进行容量规划，按需创建应用，降低计算成本.资源池闲置率高，成本居高不下.容器镜像服务 ACR.基于 Serverless 弹性低成本进行数据计算.使用 ACK ...
来自：
云产品
云数据库产品总览（瑶池）
阿里云提供完善的数据库解决方案，多款数据库产品，满足99%的业务场景，荣获Gartner、信通院等国内外多项认证。轻松满足高可靠、高可用性、高性能等数据库需求；运维工作量大幅减少，让企业一站式享受数据上云及分布式架构的技术红利！
通过引入AnalyticDB数据处理平台，大幅提升了行内统计分析和明细查询等工作的效率；省联社专有云平台提供的租户可根据需求进行计算资源的弹性管理，极大地降低了成本。同时，因为产品成熟度高，也几乎没有任何运维成本.通过全面拥抱阿里云RDS、PolarDB MySQL版及PolarDB 分布式版，省去了大量传统数据库的授权费用；实现...
来自：
云产品
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例，使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer，模拟应用中的关键页面，比如登 录、课程内容等，之后构造若干用户使用的模拟 日志数据，投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖（EMR+OSS）搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
阿里云E-MapReduce（ElasticMapReduce，简称EMR），是运行在阿里云平台上 的一种大数据处理的系统解决方案。E-MapReduce构建于云服务器ECS上，基于开 源的ApacheHadoop和ApacheSpark。借助EMR 可以简单快速的构建一个基于 Hadoop，Spark，Hive等大数据产品的计算集群，而且可以按需使用，其所有 Job完 文档版本：20200331 5...
中小企业自建Hadoop集群上云解决方案
中小企业自建 Hadoop 集群上云解决方案，助力自建 Hadoop 用户快速构建云上半托管开源大数据平台，在保持原组件使用习惯延续的同时，充分利用云上服务特点，更加便捷地迭代企业大数据平台架构，聚焦业务价值开发。
本方案构建了安全的数据传输网络，基于 Apache Flink 官方产品Ververica，提供可选的实时计算平台半托管服务，在兼容开源 Flink 的基础上提供商业增值能力，可广泛用于实时 ETL、数据库 CDC、实时风控、实时入仓（湖）、实时机器学习等流式数据处理场景.流式数据处理.流式数据处理.OLAP 查询面向各类业务角色，同时依赖各种...
来自：
解决方案
云消息队列 Kafka 版
云消息队列 Kafka 版是阿里云基于Apache Kafka构建的大数据消息中间件，广泛用于日志收集和分析、数据处理等场景。可提供全托管服务，用户无需部署运维，更专业、更可靠、更安全。
云消息队列 Kafka 版支持连接自建 Filebeat 日志采集，经由 Kafka 流转到后方 ES 服务.Hbase、Spark 数据处理.云消息队列 Kafka 版数据导入 Hbase 等存储，实现低成本存储和计算分析.Flink 实时数仓.云消息队列 Kafka 版支持数据流转到 Flink，实现ETL处理、实时数据分析等业务.云消息队列 Kafka 版兼容标准规范，支持海量...
来自：
云产品
云原生多模数据库Lindorm
云原生多模数据库Lindorm提供各规模、多模型的云原生数据库服务。可兼容HBase/Cassandra、OpenTSDB、Solr、SQL、HDFS等多种开源标准接口。支持海量数据的低成本存储处理和弹性按需付费，是互联网、IoT、车联网、广告、社交等场景首选数据库，也是为阿里核心业务提供支撑的数据库之一。
使用Lindorm存储来自工业物联网场景下的海量异构IT&OT数据，通过Lindorm计算引擎提供的低成本、高性能、稳定可靠的分布式计算能力，满足您在数智化生产、交互式数据探索分析、AI/ML数据处理和大规模图计算等场景中的计算需求。工业生产数据链路上下游各方围绕阿里云Lindorm数据云平台，将数据进行同构、汇聚、融合，打破...
来自：
云产品
- 产品推荐
- 这些文档可能帮助您