Kafka性能压测快速方案
产品性能基线测试场景需要对产品进行性能测试得到详细的压测数据，本方案可以快速构建测试的客户端（kafka官方的压测客户端）和不同的Kafka服务端（ SSD云盘版、高效云盘、Serverless版三种实例），方便客户进行POC完成性能验证。
消息队列kafkaserverless版本身实例未提供具体的云盘类型来选择，其性能表现只 与购买实例时预留的写入、读取的指标有关，写入峰值为预留写入的2倍，读取峰值 为读取预留的2倍 应用场景 借助CADT迅速的搭建Kafka不同类型的实例，并构建压测环境，快速对不同的实例 配置的性能进行压测，以验证不同配置对性能影响，帮助客户...
在线教育流量洪峰
1. 通过Tair缓存的性能增强型解决高并发读的性能问题，通过持久内存型解决大并发写性能及数据可靠性问题。 2. PolarDB作为主数据库保存业务的交易数据，通过弹性能力和并发SQL解决性能瓶颈。 3. ADB+QuickBI提供的数据仓库方案通过分时弹性能力和实时业务展现能力。
步骤1 登录 ADB数据库 cd/root/2.18.0_rc2/dbgen/mysql-h-local-infile-utest001-p 注意：读取本地文件需要增加标志-local-infile。其中 ADB_URL可以从 ADB控制台 获取：文档版本：20210120 29 在线教育流量洪峰最佳实践 数据仓库大流量方案 步骤2 创建数据库。登录后，执行如下命令创建数据库：CREATE DATABASE IF NOT ...
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景，Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
实时计算 Flink独享模式可开放 UDF/UDAF/UDTF接口，为用户提供更强大的数 据处理能力。文档版本：20220223（发布日期）1 基于 Flink的资讯场景实时数仓 前置条件 前置条件 在进行本文操作前，您需要完成以下准备工作：注册阿里云账号，并完成实名认证。您可以登录阿里云控制台，并前往实名认证页 面（account.console....
批量计算BCS
阿里云批量计算（BatchCompute）是一种适用于大规模并行批处理作业的分布式云服务。支持海量作业并发规模，系统自动完成资源管理，作业调度和数据加载，并按实际使用量计费。可广泛应用于电影动画渲染、生物数据分析、多媒体转码、金融保险分析、科学计算等领域。
独有OSS挂载功能可以支持程序通过文件接口访问对象存储数据.支持多种数据源.提供易用强大的命令行工具，用户可以通过编辑配置文件实现工作流构建，并通过简单的命令提交管理作业。无需特殊编程实现流程上云.对象存储 OSS.文件存储 NAS.推荐搭配使用.基因数据分析.轻松实现大批量样本分析.<查看全部产品.批量计算...
来自：
云产品
E-HPC低成本实现量化策略回测
在量化交易场景下，量化策略的构建流程一般包括：想法、数据获取、建模、回测、结果分析等，在回测过程中往往需要海量的算力，进行大量数据的分析和处理，如何快速、高效和低成本的进行批量任务的调度，并快速获取结果是量化领域遇到的普遍挑战，这也是云计算能够带给客户的巨大优势。
以上步 骤中，涉及与 OSS对象服务的交互都能通过阿里云提供的 OSS服务接口实现。现 OSS对象存储服务中已经有阿里巴巴股票历史数据，存放于对应的目录：下载历史数据：./ossutil64 cp-rf oss:/ehpc-cluster-data/backtest/alibaba 上传回测结果：./ossutil64 cp-rf backtest.out oss:/ehpc-cluster-data/output/2.9.监控告警...
虚拟桌面架构的高性能体验云上部署
场景描述 针对自建虚拟化桌面架构迁移阿里云，以及有虚拟化桌面 架构需求上云。包括但不限于： 1.有许可证合规要求，利用自带license快速上云的客户。 2.对数据安全较高要求，需要快速构建虚拟化桌面的客 户。 解决问题 利用云上灵活性和规模化优势，构建云上更加高效、高性 能体验的服务，为客户解决： 1.客户VDI部署的需求，能够更及时的得到满足。 2.解决硬件资源限制，根据业务规模化部署并集中管 控。 3.利用公共云的网络、计算、备份容灾方案、安全防护 等，提供高可靠、高性能、高体验的远程桌面服务。 产品列表 VPC（专有网络） SLB（负载均衡） CEN（云企业网） 专有宿主机 OpenAPI
ftptest 权限 勾选 读取和写入。42 企业上云实践 虚拟化远程桌面架构的云上部署|创建并部署文件服务器 查看搭建的 ftp站点。设置安全组和防火墙 在 3.1和 5.1中创建的 ECS实例共用一个安全组，需要在实例安全组的入方向添加一 条放行 FTP 端口的规则。本实践默认 TCP端口：21。43 企业上云实践 虚拟化远程桌面架构的云上...
跨云迁移单写双读过渡架构
概述 在搬站场景下，涉及迁移跨度较长，在过渡阶段客户需要跨云访问，如何保障数据链路的高可用尤为关键，采用专线和公网双备的方案保障数据传输的高可用，也降低双专线的迁移成本。 适用场景 数据迁移链路的高可用 跨云迁移过渡期架构 读写分类架构设计 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤： 方案优势 在迁移时间持续较长的情况下，使用单写双读架构降低业务改造成本。 使用数据库网关做专线和公网互备。 流量逐渐灰度验证，保障迁移平滑过渡。 安全：原生的多租户系统，以项目进行隔离，所有计算任务在安全沙箱中运行。
跨云迁移单写双读过渡架构 最佳实践 业务架构 场景描述 解决的问题 在搬站场景下，涉及迁移跨度较长，在过渡阶段客户 数据迁移链路的高可用 需要跨云访问，如何保障数据链路的高可用尤为关 跨云迁移过渡期架构 键，采用专线和公网双备的方案保障数据传输的高 读写分类架构设计 可用，也降低双专线的迁移成本。阿里云最佳...
混合云使用Ali-Perseus
场景描述 本文介绍了混合云场景中，自建 Kubernetes服务，线下集群+云上弹性扩 展阿里云GPU服务实例+飞天AI加速工 具，并采用阿里云CPFS存储，运行AI训 练+AI推理作业的操作步骤。 解决问题 1.利用云企业网打通两个地域的VPC， 自建Kubernetes集群 2.使用飞天AI加速工具运行训练和推理 作业 3.使用CPFS存储共享数据 产品列表 云企业网CEN GPU云服务器 并行文件存储CPFS 文件存储NAS
Perseus Inference Client提供客户端 API接 口，应用程序调用这些接口去请求 Perseus Model Server的推理服务。Perseus Inference目前提供容器的部署方式，它依赖于 CUDA10、CUDNN7 和 TensorRT5，用户需要在 NVIDIA GPU机器上安装 docker和 nvidia-docker 运行环境以满足 Perseus Inference容器的运行需求。阿里云提供 ...
智能媒体服务 IMS
智能媒体服务IMS（Intelligent Media Services），是围绕直播和点播场景下的媒体采集、媒资管理、内容生产、制作和分发能力的一站式服务集，提供广播级、全智能、灵活多样、可多云接入的专业能力，并面向多云复杂业务流场景提供成熟的低代码终端SDK集成方案。
查看更多商品.智能媒体服务.通用媒体管理服务.点播媒体处理.智能生产制作.音视频资产管理、内容信息编目、检索查询、播放服务，提供PaaS和SaaS两种交付方案.多层次媒资服务.将音视频资产数字化、结构化存储，提供全面的管理服务....开放接口供第三方开发垂直业务场景组件，丰富生态.对象存储OSS.视频点播VOD.音视频通信RTC.
来自：
云产品
基于链路追踪+ECI的流量洪峰应对
云原生技术已经为越来越多的互联网客户接受，对于在线教育、互动娱乐、电商等类型的客户会由于业务的原因存在突增业务流量，因此对于系统的稳定性非常关注，结合阿里云的容器服务、链路追踪、弹性容器ECI等产品，帮助客户业务实现容器化改造，并且方便发现系统应用架构中的瓶颈等问题，实现系统高弹性的同时优化客户的云资源使用成本。 l 方案优势 ￚ 支持分布式追踪、调用链分析、DB调用分析、链路拓扑分析、业务指标统计等系统链路调用分析。 ￚ 运维研发效率提高，链路追踪服务端全托管，免运维。 ￚ 链路追踪的应用调用链分析能力结合ECI高弹性能力，提升应用系统在洪峰流量冲击下的稳定性。 ￚ 链路追踪接入方便，ECI POD弹性伸缩，节省用户运维成本和云资源使用成本。 ￚ 结合SLS Ingress可以基于应用前端访问性能指标做弹性伸缩，更丰富的云原生弹性能力。
② 文档版本：20201222 7 基于链路追踪+ECI的应用高可用弹性实践 应用部署 tracer,_:=jaeger.NewTracer(service,jaeger.NewConstSampler(true),jaeger.NewRemoteReporter(sender,jaeger.ReporterOptions.Logger(jaeger.StdLogger)),)/③ return tracer } ① 读取环境变量，获取链路跟踪接入点地址信息；② 定义底层的 ...
EHPC混合云渲染
介绍在混合云环境下，利用E-HPC及其文件缓存机制，无缝读取线下存储中的项目资产，免去复杂繁琐的文件同步问题；充分利用云上资源弹性、按使用付费的优势，构建高性能、高可靠和可扩展的渲染服务。 解决问题 l混合云环境下本地集群与云端集群一体化的渲染服务。 l避免繁琐复杂的本地与云端的文件同步问题。 l低成本、高效率应对渲染业务峰值。 产品列表 l云服务器、GPU云服务器 l高性能计算E-HPC l专有网络VPC l云企业网CEN l弹性公网IP EIP l访问控制RAM l文件存储NAS
E-HPC混合云渲染最佳实践 场景描述 部署架构图：介绍在混合云环境下，利用 E-HPC及其文件缓存 机制，无缝读取线下存储中的项目资产，免去复 杂繁琐的文件同步问题，充分利用云上资源弹 性、按使用付费的优势，构建高性能、高可靠和 可扩展的渲染服务。解决问题 混合云环境下本地集群与云端集群一体化的渲染 服务。避免繁琐...
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例，使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer，模拟应用中的关键页面，比如登 录、课程内容等，之后构造若干用户使用的模拟 日志数据，投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖（EMR+OSS）搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
步骤3 ssh 登 录 到 EMR Hadoop 的 master 节 点 修 改 flume 的 配 置 文 件/usr/lib/flume-current/conf/flume-k2hadoop.conf（配置文件可以在附件中下载）：文档版本：20200331 48数据湖-在线学习场景数据分析 应用场景 启动flume，执行命令：flume-ng agent-conf/usr/lib/flume-current/conf/-name a1-conf-file/usr/...
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
说明：创建本地表的 SQL语句，可以从代码库 game-server中的 table-sql.txt文件获 取。表结构说明：步骤2 创建分布式表，分布式表本身并不存储数据，它基于本地表里面的数据，提供一个分 布式访问数据的框架，比如这里的分布式表 d_user_behavior_uv，它基于本地表 user_behavior_uv_local，选择 Distrubted表引擎，它后面...
新零售商超基于Serverless服务化改造
某零售商超行业龙头企业，主要业务涵盖购物中心、大卖场、综合超市、标准超市、精品超市、便利店、无人值守智慧商店等零售业态，涉及全渠道零售、仓储物流、餐饮、消费服务、数据服务、金融业务、跨境贸易等领域。为了持续支持业务高速且稳定地发展，其在快速上云后，将核心业务改造为全Serverless架构的中台模式，采用函数计算 + API网关 + 表格存储OTS 作为计算网络存储核心，弹性支撑日常和大促峰谷所需资源，轻松支撑618/双11/双12大促。 核心价值 l 全 Serverless 架构：FC + API 网关 + OTS Serverless 解决方案。 l 弹性高可用：毫秒级弹性扩容、充足的资源池水位、跨可用区高可用。 l 敏捷开发免运维：函数式极简编程可专注于业务创新，无采购和部署成本、提供监控报警等完备的可观测能力。
只要访问量扩大，后台会自动扩 容增扩机器，满足高并发的数据读取；在数据并发请求降低处于低峰期时，后台就会 将机器回收，用户不再需要关心机器的数量及如何调动。文档版本：20210519 4 新零售商超基于 Serverless服务化改造 前置条件 1.3.Serverless改造 针对用户流量不可控问题，客户引入了阿里云的产品“API 网关”，...
大数据workshop
大数据workshop
阿里云技术框架 阿里云产品 简介 类比 ECS 弹性计算服务器 Linux服务器 RDS 关系型数据库 自有 MySQL服务器 DataHub 数据总线 Kafka+各种服务接口 实时计算 Flink版 实时计算 Spark、Flink MaxCompute-Hologres 交互式查询分析产品 PostgreSQL 文档版本：20210628（发布日期）3 阿里云最佳实践大数据 WorkShop 最佳实践方案...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
- 产品推荐
- 这些文档可能帮助您