基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
java-jar game-server-0.0.2-SNAPSHOT.jar-spring.profiles.active=prod&文档版本：20201224 40 基于 Flink+ClickHouse构建实时游戏数据分析 游戏服构建 步骤14 验证，进行可用性、连通性测试,访问游戏服对外暴露的接口/api/v1/game-server 文档版本：20201224 41 基于 Flink+ClickHouse构建实时游戏数据分析 日志采集 5....
CDH迁移升级CDP最佳实践
当前 CDH 免费版停止下载，终止服务，针对需要企业版服务能力并且CDH 升级过程对业务影响较小的客户，通过安装新的 CDP 集群，将现有数据拷贝至新集群，然后将新集群切换为生产集群，升级过程没有数据丢失风险，停机时间较短，适合大部分互联网客户升级使用。
风险提示 Navigator API应用改造 有些应用程序可能会调用 Navigator API，请按需改造为 Ranger API或者 Atlas API。Ranger无法查到历史审计数据 如果要访问升级之前的历史审计记录，只能在 CDP 上保留一个“只读”的 Navigator实例，直到不再需要它为止。必须确保升级后 CDP上的 Navigator处于“只读”状态 ￚ 删除用户的写...
开源Flink迁移实时计算Flink全托管版最佳实践
本方案介绍如何将自建开源Flink集群的流式任务（包含Datastream、Table/SQL、PyFlink任务）迁移至阿里云实时计算全托管版。
注：代码中"/flink/usrlib/"是平台存放用户通过“资源上传”功能上传文件的目录，不 能修改。File f=new File("/flink/usrlib/",fileName);3.5.其他操作指引 3.5.1.Flink SQL 性能优化操作指引 请参考:https://help.aliyun.com/document_detail/212426.html 3.5.2. 基于 AutoPilot 的自动调优操作指引 前置说明 AutoPilot ...
基于ECI、RI和EIP降成本方案
场景描述 随着企业逐步将自己的业务搬移到使云上， 越来越多的企业也开始重视云上的使用成 本。 针对客户的使用场景，特别是无状态服务、 易于容器化的场景，基于ECI+RI+EIP的组 合方式能有效降客户成本。预留实例券RI， 可以灵活的抵扣相关资源费用；弹性容器实 例ECI，在资源使用率、启动速度、灵活性、 成本上的具有一定的优势。 本文以部署一个无状态的网站为例，使用 ECI+RI+EIP的组合方式，通过RI抵扣计 算资源费用，按量支付流量费用，旨在能够 帮助客户快速验证云上服务，有效控制云上 资源成本。 方案优势 1.使用RI，可以灵活的抵扣相关资源费 用。 2.使用ECI支作为应用运行环境，更加 灵活、低成本，提高资源使用率。 3.ECI+RI+EIP的组合方式，资源使用率 高，通过RI抵扣计算资源费用，按量 支付流量费用，能有效降低整体成本 费用。 产品列表 专有网络VPC 预留实例券RI 弹性容器实例ECI 弹性公网IP
标准化应用发布，docker容器包含了运行环境和可执行程序，可以跨平台和主机 使用。2.节约时间，快速部署和启动，VM启动一般是分钟级，docker容器启动是秒级。3.方便构建基于 SOA架构或微服务架构的系统，通过服务编排，更好的松耦合。4.节约成本，一个虚拟机至少需要几个 G的磁盘空间，docker容器可以减少到 MB 级。5.方便...
Function Compute构建高弹性大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中，对数据进行处理、分析，形成业务闭环。比如游戏行业中的游戏发行、游戏运营，产互行业中的数字营销，物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点，给整个数据采集传输系统带来很大的挑战。在这个场景中，有三个关键的环节，数据采集、数据传输、数据处理。该最佳实践主要涉
Funcraft Funcraft 是一个用于支持 Serverless 应用部署的命令行工具，能帮助我们便捷地管 理函数计算、API 网关、日志服务等资源。它通过一个资源配置文件（template.yml），协助我们进行开发、构建、部署操作。所以第二个函数我们需要使用 Fun来进行操作，整个操作分为四个步骤：1.安装 fun工具 2.编写 template.yml模板...
FastGPU极速AI训练/推理
利用 FastGPU工具一键构建阿里云上的AI训练/推理环境，并使用AIACC加速工具进行加速。
简介 GTC-demo 为阿里云在 GTC2019中国 GTC之夜展示的 1小时做出手势识别 AI猜拳小程序的展示用例，具体 为手势识别 imageNet系列模型的 finetune 代码,基于 pytorch框架,能够识别剪刀/石头/布的三种手势,训练 采用阿里云 AI加速库 AIACC进行性能优化,无缝支持多机分布式训练。其中的数据集由手机拍摄，并经过批 量 resize ...
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
本篇最佳实践先创建EMR集群作为数据湖对象，Hive元数据存储在DLF，外表数据存储在OSS。然后使用阿里云数据仓库MaxCompute以创建外部项目的方式与存储在DLF的元数据库映射打通，实现元数据统一。最后通过一个毒蘑菇的训练和预测demo，演示云数仓MaxCompute如何对于存储在EMR数据湖的数据进行加工处理以达到业务预期。
基于统一的元数据管 理能力，在完全兼容HDFS文件系统接口的同时，提供充分的POSIX能力支持，能更 好地满足大数据和AI等领域的数据湖计算场景。基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测 1.4.检查EMR集群 本示例使用CADT架构模式创建了EMR集群，配置Hive元数据存储到数据湖构建。步骤1 快速登录到EMR控制台：点击...
多账号下企业分账
场景描述 财务分账，是根据企业的成本中心，将云上资源的成本划分到给各个项目组/业务部门；助力企业快速梳理云上成本结构，搭建复杂组织架构下的成本关系，便捷地进行财务和云上成本的管理。 大型企业或集团公司，由于组织架构复杂，业务复杂等原因，通常拥有多个阿里云账号来管理规模庞大的云上资源。针对云上资源，如何建立有效的分账方案，是财务关注的重要问题。 解决问题 解决CIO/CTO最关心的云上IT治理，IT成本核算等问题。 弄清楚企业内各部门成本及云上IT成本结构。 让CIO/CTO准确地掌握云上资源成本情况，清楚业务与成本的关系。 让采购/运维轻松搞定每月的IT成本汇报。
CADT提供大量预制的应用架构模板，同时也支持自助拖拽方式定 义应用云上架构，支持大量阿里云服务的配置和管理，可以方便地对云上架构方案的 成本、部署、运维、回收进行全生命周期的管理。（介绍及操作手册详见《云架构设计 工具》（https://help.aliyun.com/document_detail/183861.htm））本最佳实践设计的资源部署，也...
基于SLS实现统一告警最佳实践
告警对于企业的开发运维，安全运维，业务运维有着至关重要的作用。然而很多企业在告警运维方面存在着重复建设、监控质量差、告警风暴、触达不人性化、无法闭环等问题。 针对企业在告警管理方面存在的痛点问题，SLS告警提供了一站式云上告警管理方案，具有弹性易用、稳定可靠、功能持续升级、成本更低、噪音更少等优势。企业可以将现有的监控方案系统无缝接入到SLS告警平台，实现在SLS上一站式管理告警。
Alertmanager configuration alerting:alertmanagers:path_prefix:/event/webhook/RAMAK_{ACCESS_KEY_ID}/{WEBHOOK_APP_ID} api_version:v2 static_configs:targets:{ALIYUN_SLS_ENDPOINT} 说明：➢ path_prefix：配置路径信息，此处配置为您在日志服务中创建开放告警服务和应用 后生成的接口信息（子路径部分）。...
游戏业务分区合服
概述 为了提高游戏玩家的体验,并提高留存率,增强付费率.除了游戏本身的内容趣味性外, 改善用户访问加速体验,并对游戏数据分区合服是很常见的业务运营场景. 本方案适用于: 1游戏业务运营,对多个分区数据库进行合并,增加付费用户积极性的需求. 2游戏业务加速,中心化部署的网络加速需求. 方案优势 1便捷数据迁移. 2内网安全传输 3加速远端用户访问质量体验 4快速应对上层业务运营的技术实现操作. 产品列表 网络产品:VPCSLBNAT网关CEN共享带宽包EIP全球加速GA 计算产品:ECS 数据库产品:RDSDTS 存储产品:OSS 云解析
您 Object 可以通过调用 API，在任何应用、任何时间、任何 OSS Storage 地点上传和下载数据，也可以通过 Web 控制台 Service 对数据进行简单的管理。OSS 适合存放任意类型 的文件，适合各种网站、开发企业及开发者使用。按实际容量付费真正使您专注于核心业务。云速搭（Cloud Architecture Design Tool，CADT）Cloud 是一款...
DDH集群运维管理
场景描述 当前许多企业的IDC业务场景，资源管理 等使用习惯与公共云不同，使用DDH集群 管理，继承IDC虚拟化使用习惯，比如自 定义ECS规格。同时针对CPU负载较低 的场景，通过CPU超分，可以有效提高资 源利用率，节省整体成本。并且可以通过账 号授权业务团队，结合云监控资源使用率， 方便业务使用的同时又能有效遏制资源浪 费。 方案优势 1.使用专有宿主机集群构建云上环境，通 过超分提高资源利用率，降低企业成 本。 2.通过访问控制授权，云监控资源，完成 专有宿主机集群运维管理使用闭环。 产品列表 访问控制RAM 专有网络VPC 云服务器ECS 云监控CloudMonitor
使用RAM，您可以创建、管理用户账号（比如员 工、系统或应用程序），并可以控制这些用户账号对您名下资源具有的操作权限。当您的企业存在多用户协同操作资源时，RAM可以按需为用户分配最小权限，从 而让您避免与其他用户共享云账号密钥，降低您企业的信息安全风险。详见：https://www.aliyun.com/product/ram 文档版本：...
云上成本优化workshop
某金融科技公司，它主要提供信贷，理财，电商等 服务，目前已经拥有千万级注册用户。该公司在将 在线业务系统和大数据业务从自建 IDC 机房迁移 到阿里云后，今年大数据集群经历过多次因为资 源不足导致弹性扩容失败的故障，运维负责人非 常苦恼。由于该公司从事互联网金融的借贷业务， 白天的催收非常依赖晚上大数据计算的结果，若 因为资源不足导致计算结果失败则意味着白天催 收业务员无事可做，会对公司业务造成严重影响。 后来，通过阿里云解决方案架构师建议的方案，将 大数据集群迁移到资源较充足的可用区以及配置 弹性伸缩多规格 ECS 选型增加交付成功率等方 法，目前已阶段性的解决因资源不足导致弹性扩 容失败的问题，但该方案在 Spot 计算资源不足 时，启用大量按量收费算力，带来了较高的成本， 并且抢占式实例和按量付费实例都不保证资源 100%交付，还是存在交付失败的可能性，特别是 在双 11 期间由于其他客户的资源需求上升带来 的资源挤兑客观上存在，就进一步增加了弹性扩 容失败的风险，从而影响业务正常运行。
应用程序的分布度、可扩展性和容错能力越高，越 适合使用抢占式实例节省成本和提升吞吐量。有状态应用不宜使用抢占式实例，例如 数据库。因为竞价失败等原因导致抢占式实例被释放时，应用状态难以保存。文档版本：20210329 21 云上成本优化 workshop 计费优化 在使用抢占式实例时，要重点注意以下两点 保护期：抢占式实例...
来自：
最佳实践
相关产品：云服务器ECS,负载均衡 SLB,弹性公网IP,容器服务 ACK,日志服务（SLS）,NAT网关,函数计算,E-MapReduce,云数据库PolarDB,弹性容器实例 ECI,存储容量单位包,预留实例券,Hologres
基因计算工作流
场景描述 适合利用容器服务Kubernetes版上的工作流 引擎进行大规模基因测序的场景。阿里云工作流 引擎基于开源项目Argo实现，支持并发、循环、 重试等多种执行策略。典型的基因计算过程会把 数据分批进行计算，按照规定好的步骤依次完成 计算，这符合工作流的特点：多层次，有向无环 图。 解决问题 1.基因计算如何构建工作流 2.容器服务Kubernetes版结合 共享文件存储NAS提供数据 服务 3.构建单POD工作流 产品列表 容器服务Kubernetes版 文件存储NAS
兼容 POSIX 文件接口，可支持数千台计算节点共享访问，可以挂载到 弹性计算 ECS、神龙裸金属、容器服务 ACK、弹性容器 ECI、批量计算 BCS、高 文档版本：20191127 III 基因计算工作流最佳实践 前言 性能计算 EHPC，AI训练 PAI等计算业务上提供高性能的共享存储，用户无需修 改应用程序，即可无缝迁移业务系统上云。...
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例，使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer，模拟应用中的关键页面，比如登 录、课程内容等，之后构造若干用户使用的模拟 日志数据，投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖（EMR+OSS）搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
其数据持久性不低于99.9999999999%（12个 9），服务可用性（或业务连续性）不低于99.995%，OSS具有与平台无关的RESTful API接口，可以在任何应用、任何时间、任何地点存储和访问任意类型的数据，非常 适合作为集中统一的存储平台。阿里云E-MapReduce（ElasticMapReduce，简称EMR），是运行在阿里云平台上 的一种大数据处理...
阿里云最佳实践离线大数据workshop
本最佳实践，首先搭建一个简化的电商 demo 系统，然后为此 demo 系统构建一套离 线大数据分析系统。 实践目标 1. 学习搭建一个离线大数据分析系统，学习从数据采集到数据存储和业务分析的业 务流程。 2. 整个离线大数据分析系统全部基于阿里云产品进行搭建，学习掌运用各个服务组 件及各个组件之间如何联动。 背景知识要求 熟练掌握 SQL 语法 对大数据体系系统知识有一定的了解
使用RESTfulAPI可以在互联网任何位置存储和访问，容量 和处理能力弹性扩展，多种存储类型供选择全面优化存储成本。详见：https://www.aliyun.com/product/oss SLS：日志服务（SLS）是云原生观测分析平台，为Log/Metric/Trace等数据提供 大规模、低成本、实时平台化服务。一站式提供数据采集、加工、分析、告警可 视化与...
来自：
最佳实践
相关产品：云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,日志服务（SLS）,大数据计算服务 MaxCompute,DataV数据可视化,数据总线,Quick BI,云速搭
混合云数据库统一管理
本最佳实践描述在混合云场景下，用户利用数据库网关将IDC自建数据库和云上RDS实例统一管理。通过DMS管理云上RDS实例和IDC自建数据库，并通过DTS实现IDC数据库和云上RDS的数据同步， DBS将数据备份到云上
通过数据库网关，用户可以使用应用程序或云服务访问并管 理本地 IDC 或其他云厂商的数据库。更多信息，请参见 https://www.aliyun.com/product/dg RDS：Relational Database Service，简称 RDS，是一种稳定可靠、可弹性伸缩 的在线数据库服务。基于阿里云分布式文件系统和 SSD盘高性能存储，RDS支 持 MySQL、SQL Server、...
基于转发路由器构建企业级组网
通过云企业网转发路由器 1. 实现灵活的互通、隔离、引流策略 2. VPC 间的内网互访流量经过三方安全设备管控（如Palo Alto） 3. 统一多 VPC 的互联网访问出口，提高业务安全性
步骤1 进入 Network>接口，选择以太网，单击 ethernet1/1，按照图示选择对应选项。安全 区域若为空，需要下拉箭头手动创建。步骤2 切换到 IPv4页签，选择 DHCP客户端，点击成功。文档版本：20210204 35 基于转发路由器构建企业级组网 企业级组网场景 2.3.4.3.配置 VPC A路由表 将 VPC A的子网交换机 1和交换机 2下目的地是 ...
基于HBR云上统一备份
场景描述 混合云备份（简称HBR）是一种简单易用且高性价 比的在线备份服务，可以为阿里云ECS，NAS，OSS 以及自建机房内的各类数据提供安全，高效的保护。 本文介绍如何通过HBR对云上数据进行统一备份管 理。 解决问题 1.备份阿里云云上数据。 2.备份数据中心数据。 适用云资源 ECS文件系统 NAS文件 OSS文件 ECS上自建的MySQL、Oracle、SQLServer数据库 ESC上自建的SAPHANA数据库 产品列表 1.HBR备份服务 2.云服务器ECS 3.文件系统NAS 4.对象存储OSS 云上统一备份 云下统一备份 上云备份 备份上云
兼容 POSIX 文件接口，可支持数千台计算节点共享访问，可 以挂载到弹性计算 ECS、神龙裸金属、容器服务 ACK、弹性容器 ECI、批量计 算 BCS、高性能计算 EHPC，AI训练 PAI等计算业务上提供高性能的共享存 储，用户无需修改应用程序，即可无缝迁移业务系统上云。更多信息，请参见：https://www.aliyun.com/product/nas 混合云...
跨云迁移单写双读过渡架构
概述 在搬站场景下，涉及迁移跨度较长，在过渡阶段客户需要跨云访问，如何保障数据链路的高可用尤为关键，采用专线和公网双备的方案保障数据传输的高可用，也降低双专线的迁移成本。 适用场景 数据迁移链路的高可用 跨云迁移过渡期架构 读写分类架构设计 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤： 方案优势 在迁移时间持续较长的情况下，使用单写双读架构降低业务改造成本。 使用数据库网关做专线和公网互备。 流量逐渐灰度验证，保障迁移平滑过渡。 安全：原生的多租户系统，以项目进行隔离，所有计算任务在安全沙箱中运行。
通过数据库网关，用户可以使用应用程序或云服务访问并管理本地 IDC或 其他云厂商的数据库。详见：https://www.aliyun.com/product/dg 云数据库 RDS MySQL版：MySQL 是全球最受欢迎的开源数据库之一，作为开 源软件组合 LAMP（Linux+Apache+MySQL+Perl/PHP/Python）中的重要一 环，广泛应用于各类应用场景。文档版本：...
组建多可用区多地域的混合云
场景描述 无特定行业属性，对云下有IDC的用户，上云建 立多地域多可用区高稳定性的业务架构，组建混 合云用户都可适用。物理专线是打通IDC到云上 内网通道的最高质量和稳定性最好方式，但成本 较高，交付周期长。 解决问题 云下用户IDC应对业务突增弹性扩容能力 不足; 云下用户IDC业务需要多地域冗余; 云上阿里云业务需要多地域冗余; 云上阿里云业务需要多可用区冗余. 产品列表 VPC，CEN，高速通道（专线），SLB，ECS
ECS Elastic 是一种弹性可伸缩的计算服务，助您降低 IT 成本，提 Compute 升运维效率，使您更专注于核心业务创新 Service CADT Cloud 是一款为上云应用提供自助式云架构管理的产品，显著 Architecture 地降低应用云上管理的难度和时间成本。本产品提供丰 Design Tool 富的预制应用架构模板，同时也支持自助拖拽方式定义 ...
- 产品推荐
- 这些文档可能帮助您