E-HPC低成本实现量化策略回测
在量化交易场景下，量化策略的构建流程一般包括：想法、数据获取、建模、回测、结果分析等，在回测过程中往往需要海量的算力，进行大量数据的分析和处理，如何快速、高效和低成本的进行批量任务的调度，并快速获取结果是量化领域遇到的普遍挑战，这也是云计算能够带给客户的巨大优势。
文档版本：20220321 27 E-HPC低成本实现量化策略回测 操作步骤 步骤7 配置访问控制，添加专有网络（请选择 E-HPC集群对应的 vpc和 vsw，可以在云速搭 统一查看 ID信息,该过程也需要开通 PrivateZone服务）。步骤8 记录推送镜像命令备用（注意访问链接：test-repo-registry-vpc.cn- zhangjiakou.cr.aliyuncs.com）。2.6.2.给...
开源Flink迁移实时计算Flink全托管版最佳实践
本方案介绍如何将自建开源Flink集群的流式任务（包含Datastream、Table/SQL、PyFlink任务）迁移至阿里云实时计算全托管版。
如果作业依赖的配置中心、作业的输入和输出的持久层等不在云上的服务，需要找 网络运维人员进 行网络打通，网络打通后即可直接使用这些服务。可参考官网 FAQ:Flink全托管集群如何访问公网?4.在实时计算 Flink版产品上如何使用自定义的依赖?ￚ 用户自定义的 connector、三方依赖、算法 so 文件等，可以通过“资源上传”，...
EMR集群安全认证和授权管理
场景描述 阿里云EMR服务Kafka和Hadoop安全集群使 用Kerberos进行用户安全认证，通过Apache Ranger服务进行访问授权管理。本最佳实践中以 Apache Web服务器日志为例，演示基于Kafka 和Hadoop的生态组件构建日志大数据仓库，并 介绍在整个数据流程中，如何通过Kerberos和 Ranger进行认证和授权的相关配置。 解决问题 1.创建基于Kerberos的EMR Kafka和 Hadoop集群。 2.EMR服务的Kafka和Hadoop集群中 Kerberos相关配置和使用方法。 3.Ranger中添加Kafka、HDFS、Hive和 Hbase服务和访问策略。 4.Flume中和Kafka、HDFS相关的安全配 置。 产品列表：E-MapReduce、专有网络VPC、云服务器ECS、云数据库RDS版
产品列表：E-MapReduce、专有网络 VPC、云服务 最佳实践频道 阿里云最佳实践分享群 器 ECS、云数据库 RDS版 如二维码过期，请搜索群号：31852400 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 EMR集群安全认证和授权管理 最佳实践 文档版本：20200330 文档版本：20150122（发布日期）II EMR集群安全...
MaxCompute湖仓一体方案
场景描述 自建数据湖与云数仓的融合解决方案，将 MaxCompute与自建的Hive集群做数据打 通，通过存储共享，元数据镜像等方式，解 决传统模式下的存储冗余，计算资源弹性能 力弱的痛点。可大幅度增强系统的资源弹 性，解决业务高峰期计算资源不足的问题。 方案优势 1.业务无侵入性：现有业务无需改造。 2.性能优化：MaxCompute在SQL上做 了大量优化与能力沉淀，可提高SQL 运行性能，降低计算成本。 3.灵活管理：元数据实时同步，无需额外 管理数据同步任务。 4.资源弹性：利用MaxCompute计算池 弹性进行海量数据计算。 解决问题 1.增强业务高峰期的资源弹性。 2.优化自建数据湖的数据治理能力。 3.减少跨平台数据处理的存储冗余。 产品列表 专有网络VPC 云服务器ECS 访问控制RAM 运维编排OOS MaxCompute（原ODPS） 云企业网CEN
更新 CADT模板，文档优化 文档版本：20220402 I MaxCompute湖仓一体方案 产品介绍 产品介绍 VPC：专有网络 VPC（Virtual Private Cloud）是用户基于阿里云创建的自定义私 有网络,不同的专有网络之间二层逻辑隔离，用户可以在自己创建的专有网络内创 建和管理云产品实例，比如 ECS、负载均衡、RDS 等。更多信息，请参见：...
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例，使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer，模拟应用中的关键页面，比如登 录、课程内容等，之后构造若干用户使用的模拟 日志数据，投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖（EMR+OSS）搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC云服务器ECS（产品名称）文档模板（手册名称）/阿里云 企业上云实践 数据湖-在线学习场景数据分析 最佳实践 文档版本：20200331 文档版本：20150122（发布日期）2数据湖-在线学习场景数据分析 文档版本信息 文档版本信息 文本信息 ...
EMR HBase on OSS存算分离集群快速恢复
OSS-HDFS服务（JindoFS服务）是一款云原生数据湖存储产品。基于统一的元数据管理能力，在完全兼容HDFS文件系统接口的同时，提供充分的POSIX能力支持，能更好地满足大数据和AI等领域的数据湖计算场景。
专有网络由逻辑网络设备（如虚拟路由器，虚拟交 换机）组成，可以通过专线/VPN等连接方式与传统数据中心组成一个按需定制的 网络环境，实现应用的平滑迁移上云。详见：https://www.aliyun.com/product/vpc OSS-HDFS 服务：是一款云原生数据湖存储产品。基于统一的元数据管理能力，在完全兼容 HDFS文件系统接口的同时，提供...
大数据近实时数据投递MaxCompute
本文介绍离线大数据场景使MaxCompute构建云 上近实时数仓，打通云下数据上云链路，解决数据复杂类型支持和动态分区问题，满足高级数据处理需求的最佳实践。 l混合云环境下，现有业务系统零改造，打通数据上云链路。 l使用UDF实现复杂数据类型转换和数据动态分区。 l使用DataWorks配置周期调度业务流程，数据自动入仓。 l借助MaxCompute优化计算引擎，实现降本增效。 产品列表 云服务器ECS 专有网络VPC 访问控制RAM 数据总线DataHub E-MapReduceEMR DataWorks 大数据计算服务MaxCompute
为 Dataworks独享集成实例配置网络 通过 CADT架构图跳转到 Dataworks独享实例页面 点击网络配置 文档版本：20240419 28 大数据近实时数据投递 MaxCompute 选择网络信息，选择 Kafka实例所在的 VPC，VSW以及安全组。5.4.配置 Kafka数据源 进入数据集成页面 新增数据源 文档版本：20240419 29 大数据近实时数据投递 ...
自建Hive数仓迁移到阿里云EMR
场景描述 客户在IDC或者公有云环境自建Hadoop集群构 建数据仓库和分析系统，购买阿里云EMR集群之 后，涉及到将数据仓库和Hive元数据的数据库迁 移上云。目前主流Hive数据仓库迁移场景为1.x 版本迁移到阿里云EMR(Hive2.x版本），涉及到 数据订正更新步骤。 解决的问题 Hive数据仓库的数据迁移方案 Hive元数据库的迁移方案 Hive跨版本迁移后的数据订正 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
CentOS 7.4 64位 存储 80GB 类别 配置项 说明 网络和安 网络 专有网络 全组 选择已创建的 VPC（客户 IDC-VPC）和交换机（vswitch-az-g）。公网带宽 勾选分配公网 IPv4地址。付费模式：按使用流量 带宽：100 Mbps 说明：（1）在您业务商用过程中，建议选用弹性公网 IP和共享带宽包、共享流量包的组合降低公网流量使 文档版本...
自建Hadoop迁移到阿里云EMR
场景描述 场景1：自建Hadoop集群数据（HDFS）迁移到 阿里云EMR集群的HDFS文件系统； 场景2：自建Hadoop集群数据（HDFS）迁移到 计算存储分离架构的阿里云EMR集群，以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案； 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
这种动作（网页浏览，搜索和其他用户的行动）是在现代网 络上的许多社会功能的一个关键因素，这些数据通常是由于吞吐量的要求而通过 处理日志和日志聚合来解决。对于像 Hadoop一样的日志数据和离线分析系统，但又要求实时处理的限制，这是一个可行的解决方案。Kafka 的目的是通过 Hadoop的并行加载机制来统一线上和离线的...
大数据系统基准性能测试最佳实践
本方案适用于在阿里云上进行大数据基准性能测试的场景，包括 Teragen和Terasort测试，TestDFSIO测试。本文采用CADT工具结合阿里云的E-MapReduce服务快速构建测试集群，并提供了Teragen和Terasort测试，TestDFSIO测试的测试脚本，便于迅速开展测试。
应用范围 使用阿里云 E-MapReduce服务进行基准性能测试 名词解释 E-MapReduce:（简称 EMR），是运行在阿里云平台上的一种大数据处理的系统 解决方案。EMR构建于云服务器 ECS上，基于开源的 Apache Hadoop和 Apache Spark，让您可以方便地使用 Hadoop和 Spark生态系统中的其他周边系统分析和 处理数据。EMR还可以与阿里云...
通过ES兼容接口方式使用Kibana访问SLS数据
自建ELK日志系统的客户迁移到阿里云日志服务SLS后，对SLS查询分析语法不太熟悉的客户，可以继续沿用原有的查询分析习惯，在不改变使用方式习惯的情况下，通过Elasticsearch兼容接口的方式使用Kibana访问SLS。
产品列表 专有网络VPC 云服务器ECS 容器服务Kubernetes版 日志服务SLS 阿里云交换机 最佳实践频道 最佳实践分享群 SLS交流群 阿里云安全组 弹性公网IP NAT网关通过ES兼容接口方式使用 Kibana访问SLS数据 最佳实践 文档版本：20240418（发布日期）基于MSE云原生网关同城多活最佳实践 文档版本信息 ...
基于函数计算实现直播流录制-存储-通知
在互娱、教育、电商等行业都会有直播相关的业务，大部分场合都需要对直播相关的业务做安全审核，或者对直播的课程进行录制和转码。该方案实现了一种完全按需拉起、按量弹性、按实际使用付费的录制方案。基于本方案还可以扩展实现直播流截帧、自动化安全审核等能力
产品介绍 专有网络 VPC（Virtual Private Cloud）：是用户基于阿里云创建的自定义私有网络,不 同的专有网络之间二层逻辑隔离，用户可以在自己创建的专有网络内创建和管理云产品实 例，比如 ECS、负载均衡、RDS等。函数计算 FC（Function Compute）：函数计算是事件驱动的全托管计算服务。使用函数计 算，您无需采购与管理...
金融行业从经典网络向VPC容器化改造
本实践介绍经典网络向VPC容器化改造实践 以及配置步骤，可适用于金融等行业 方案优势 容器化完成经典网络完成向VPC网络改 造 应用发布灵活 运维效率提升 解决问题 1.经典网络管理困难 2.应用发布不灵活 3.运维效率低 产品列表 专有网络VPC 容器服务Kubernetes版 日志服务SLS 云数据库RDS版 NAT网关 容器镜像服务ACR 云盘
搭建VPC网络并与经典网络互通 VPC网络规划如下 VPC VPC_HZ 华东1杭州 10.0.0.0/8 交换机1 AZ_E 可用区E 10.20.50.0/24 交换机2 AZ_F 可用区F 10.20.60.0/24 交换机3 AZ_G 可用区G 10.20.70.0/24 交换机4 data_F 可用区G 10.111.0.0/24 2.1.创建VPC 1创建VPC 进入VPC控制台,地域华东1杭州,点击创建专有网络 ...
E-MapReduce Serverless Spark 版
E-MapReduce Serverless Spark 是阿里云 E-MapReduce 基于 Spark 提供的一款全托管、一站式的数据计算平台。它为用户提供任务开发、调试、发布、调度和运维等全方位的产品化服务，显著简化了大数据计算的工作流程，使用户能更专注于数据分析和价值提炼。
基于阿里云专有网络（VPC）部署提供专有网络访问，同时提供更细力度访问控制及更高安全等级保护.开放架构与生态集成.阿里云上下游产品集成.与阿里云 OSS-HDFS/OSS，数据湖构建 DLF，以及 DataWorks 无缝对接，为客户提供最大程度的便利.谢赟辉,靖鑫,也树.基于 E-MapReduce Serverless Spark 建立数据平台.基于 EMR ...
来自：
云产品
弹性高性能计算E-HPC
弹性高性能计算（E-HPC）基于阿里云基础设施，拥有公有云、专有云等多种产品形态，为用户提供一站式HPC/HPDA平台服务，面向科研、生产、教育和行业大计算，提供快捷，弹性，安全的服务和拥有与阿里云产品互通的高性能计算服务平台。
追光动画10年第8部作品，利用阿里云E-HPC平台创造恢弘动画特效.泓博医药 x 深势科技.深势科技的Hermite®平台携手阿里云高性能计算E-HPC集群，助力泓博医药加速药物研发.阿里云E-HPC+i4p大内存实例，加速寻因生物单细胞数据分析效率.视频跳转链接.查看E-HPC所有相关文档.了解如何快速使用E-HPC.详细操作指南及说明.使用E-...
来自：
云产品
容器多云统一监控日志
多云、混合云成为常态，Forrester 报告中指出，未来 89% 的企业至少使用两个云，74% 的企业至少使用三个甚至更多公有云，在面对多云/混合云这样大的趋势下，Gartner报告指出，安全、运维复杂性、财务复杂性是多云架构的主要挑战，本方案给出了在多云/混合云场景下，构建基于容器环境下的统一管理、统一监控和统一日志方案，解决多云、混合云场景下，运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商（AWS、Azure、GCP、TencentCloud、HuaweiCloud等）或者IDC基于容器（Kubernetes）运行业务系统，希望构建容器场景下的统一监控日志系统，方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统，在一个平台可以看到不同环境系统的运行情况。
云服务器ECS：用于部署单节点Kubernetes，模拟非阿里云自建容器集群 产品介绍 专有网络VPC（VirtualPrivateCloud）：是用户基于阿里云创建的自定义私有 网络,不同的专有网络之间二层逻辑隔离，用户可以在自己创建的专有网络内创 建和管理云产品实例，比如ECS、负载均衡、RDS等。 云速搭CADT...
MSE网关使用JWT进行认证鉴权
MSE网关中调用外部的认证鉴权服务，通过JWT的方式进行全局认证鉴权。 对网关有认证鉴权安全需求的场景，对于敏感的服务路由（可通过黑白名单方式配置）在网关层进行认证鉴权。
产品介绍 专有网络 VPC（Virtual Private Cloud）：是用户基于阿里云创建的自定义私有网 络,不同的专有网络之间二层逻辑隔离，用户可以在自己创建的专有网络内创建和 文档版本：20240402 5 MSE网关使用 JWT实现认证鉴权 最佳实践概述 管理云产品实例，比如 ECS、负载均衡、RDS等。传统型负载均衡 CLB（Classic Load ...
边缘网络加速ENA
阿里云提供快速上云专用通道，一站式解决客户混合组网联接需求，标准计费、快速交付、合法合规，助企业无忧上云。服务依托依托运营商合规资源，结合阿里云服务优势，为用户提供稳定安全、高速、低时延的网络传输，解决客户不同站点的连接、组网、数据安全传输、业务质量保障问题
边缘网络加速服务（Edge Network Acceleration）基于阿里云广泛分布的边缘计算节点及运营商合规网络资源构建，可以为企业客户提供企业内部分支机构之间的加速连接、企业各DC之间的加速连接、企业内网到阿里云之间的加速连接等全程端到端的快速连接服务。边缘网络加速服务基于A24-1和B13电信业务许可证运营.边缘网络加速...
来自：
云产品
- 产品推荐
- 这些文档可能帮助您