基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
文档版本：20201224 17 基于 Flink+ClickHouse构建实时游戏数据分析 基础环境部署 步骤6 部署完成后，可查看部署报告，方便以后运维工作，如下图所示，截取于自动生成的 部署报告的部分内容。文档版本：20201224 18 基于 Flink+ClickHouse构建实时游戏数据分析 基础环境部署 控制台确认资源创建情况 步骤1 登录阿里云管理...
企业上云workshop
本文模拟了如下场景: 1. 线下 IDC 环境中部署了一个业务系统，业务是利用 wordpress 系统提供网站服务。 2. 本文详细介绍了如何将以上线下系统搬迁到云上， 包括如何在云上构建以上业务系统，如何迁移线下 系统到云上，如何割接。 3. 最后介绍了迁移上云后，如何部署安全系统。 解决问题 IDC 业务系统搬迁上云 云上构建业务系统 部署安全系统
得益于 CADT的模版化部署，负载均衡服务的相关配置已经在模板中内置，本章节我 们检查相关配置、获取后续步骤所需的信息即可。7.1.获取 SLB实例公网 IP地址 检查并获取 SLB实例的公网地址。操作步骤 步骤1 登录 SLB控制台（https://slb.console.aliyun.com/）步骤2 在顶部导航栏切换地域为华东 1（杭州），从左侧导航栏选择...
来自：
最佳实践
相关产品：专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,负载均衡 SLB,弹性公网IP,文件存储NAS,云数据库PolarDB,Web应用防火墙,云防火墙,SSL证书,云速搭
Dubbo应用上云
场景描述 本最佳实践适用于企业自建 Dubbo 应用上云， 应 用采用 docker 方式部署， 降低部署成本。同时利 用 MSE 提供 Zookeeper 服务注册管理。 通过阿 里云的 ARMS 和 AHAS 服务提供应用监控和服务 限流管理，简化运维并提供服务的全生命周期管 理。 解决问题 1. 自建 dubbo 应用迁移上阿里云。 2. 应用部署在容器内降低成本。 3. 通过 MSE 提供 ZK 服务，提高稳定性。 4. 通过 ARMS/AHAS 提供监控和服务限流能力 产品列表 容器服务 Kubernetes 版（ACK） 微服务引擎（MSE） 关系数据库服务（RDS） 应用高可用服务（AHAS） 应用实时监控服务（ARMS）
应用范围 适用于自建 Dubbo应用迁移到阿里云，采用容器化部署（ACK）方式。通过 MSE提供的 Zookeeper简化服务注册的部署和管理。通过 ARMS/AHAS服务提供对应用的监控和限流降级能力。名词解释 VPC：Virtual Private Cloud，简称 VPC。基于阿里云创建的自定义私有网络,不 同的专有网络之间二层逻辑隔离，可以在自己创建的...
基于MaxCompute的大数据BI分析
场景描述 本文以电商行业为例，将业务数据和日志数据使用 MaxCompute做ETL之后，同步到ADB进行实时 分析，之后通过QuickBI进行快速可视化展示。 解决问题 1.互联网行业、电商、游戏行业等网站、App、 小程序应用内BI分析场景。 2.可扩展到各类网站BI分析场景使用。 产品列表 1.MaxCompute 2.分析型数据MySQL版 3.日志服务SLS 4.QuickBI 5.云服务器ECS 6.RDSMySQL版
基于 MaxCompute的大数据 BI分析 最佳实践 场景描述 业务架构 本文以电商行业为例，将业务数据和日志数据使用 MaxCompute做 ETL之后，同步到 Hologres进行实时分 析，之后通过 Quick BI进行快速可视化展示。解决问题 1.互联网行业、电商、游戏行业等网站、App、小程 序应用内 BI分析场景。2.可扩展到各类网站 BI分析场景...
Spring Cloud Netflix应用迁移EDAS
场景描述 Spring Cloud Netflix微服务应用迁移到EDAS 服务（SpringCloud Alibaba云版本）的方法， 迁移后充分利用阿里云监控、调用链、限流降级 等能力，优化应用生命周期管理。 解决问题 1.帮助自建SpringCloudNetflix微服务应用 通过简单修改迁移到阿里云企业级分布式 应用服务（EDAS）平台。 2.迁移到EDAS后，简化应用的运维，提升监 控、调用链探测、限流降级等管理能力，提 高对应用的全生命周期管理。 产品列表 企业级分布式应用服务（EDAS） 负载均衡（SLB） 专有网络（VPC） 云服务器（ECS）
由于 PiggyMetrics是基于 Docker来部署的微服务应用，需要首先修改为不通过容器 化部署方式，便于在本地调测和修改应用。本章剩下的部分将详细描述如何在本地构 建开发环境，并成功启动 PiggyMetrics应用。PiggyMetrics微服务依赖 MongoDB和 RabbitMQ，因此从 2.2节介绍如下内容：在阿里云 ECS上部署 MongoDB和 RabbitMQ。...
可观测链路 OpenTelemetry 版
针对 PHP、C++、Go、Node.js 等多语言应用，提供端到端全链路追踪、应用监控与告警、链路拓扑、日志关联分析能力，并基于 OpenTelemetry 开源标准，兼容 Jaeger、Zipkin、SkyWalking 等开源项目数据上报。快速发现分布式应用架构下的性能瓶颈，缩短错/慢调用根因定位耗时，提高全栈开发与诊断效率。
通过完整的应用调用拓扑关系，可自动发现该服务之前的调用以及对所有中间件的调用，绘制整个系统的完整调用拓扑关系。在调用关系拓扑中，对不健康应用进行显示标识，便于快速发现有问题应用并进行分析。调用拓扑中的应用都可以单独进行下钻分析，可以从吞吐量、错误率、响应时间等指标对应用性能进行详细分析.端到端全链路...
来自：
云产品
基于日志服务构建业务可观测性系统
现在已知的各种监控数据的工具，以及对应的监控系统有非常多的选择，比如ZABBIX，Prometheus，Skywalking等。但是这些系统都存在同样的一个问题，只覆盖了可观察性的一部分，举个简单的类比，大家在日常开车的过程中，会用到很多的辅助设备，仪表盘，行车记录仪，导航，倒车影像等等，这些设备都各自承载了一部分的功能，但是都存在着如下的问题： l 数据覆盖不完整 l 存在数据孤岛（无法关联协同） l 使用门槛高，不够人性化 核心价值 l 全覆盖，统一协议，支持各类平台。 l 数据关联，统一Schema，关联Metrics/Logs。 l 云原生，SaaS服务，拥抱云原生。 l 简单易用，自动化埋点，数十项易用功能。 智能化，异常诊断，根因分析。
简单易用，自动化埋点，数十项易用功能。智能化，异常诊断，根因分析。如二维码过期，产品列表 请搜索群号：31852400 专有网络 VPC 容器服务 ACK 云速搭 CADT 日志服务 SLS 基于日志服务构建业务可观察性系统 文档版本信息 阿里云 基于日志服务构建业务 可观察性系统 最佳实践 文档版本：20210616（发布日期）基于日志服务...
Oracle数据库与应用迁移PolarDB
场景描述 本最佳实践适用于Oracle数据库及应用迁 移到阿里云PolarDB数据库（Oracle兼容 版）。通过ADAM将Oracle数据库迁移到 PolarDB数据库，可以降低应用升级、运 维成本，同时提升系统弹性，实现数据库 及应用全栈上云。 解决问题 1.解决Oracle及其应用迁移上阿里云， 通过ADAM评估迁移工具，降低迁移 风险，提高迁移效率。 2.使用PolarDB（Oracle兼容版）数据 库，提升数据库并发读能力，降低运维 成本。 产品列表 数据库和应用迁移（ADAM） PolarDB（Oracle兼容版） 云服务器（ECS） 专有网络（VPC）
ADAM首先对 Oracle数据库中所有类型的对象进行采集，依据采集到的 DDL定义准确分析出语法兼容度，对于不兼容的对象给出改造建议并自 动化给出目标改造方案。对于无法兼容的对象也标识出来并给出可能的修改建议。同 时，依据源库的规格和资源利用情况，ADAM给出建议的目标数据库规格。这些信息 方便客户准确了解迁移的工作量...
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
本篇最佳实践先创建EMR集群作为数据湖对象，Hive元数据存储在DLF，外表数据存储在OSS。然后使用阿里云数据仓库MaxCompute以创建外部项目的方式与存储在DLF的元数据库映射打通，实现元数据统一。最后通过一个毒蘑菇的训练和预测demo，演示云数仓MaxCompute如何对于存储在EMR数据湖的数据进行加工处理以达到业务预期。
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测实践 业务架构 ...lib，用于指定数据在进行序列化及反序列化时所使用的类名，如 org.apache.hive.hcatalog.data.JsonSerDe 6.serde_properties，当storage_handler被设置时，该属性将用于给storagehandler 指定相关属性；否则该属性将用于给serialization_lib指定相关属性。
CDH迁移升级CDP最佳实践
当前 CDH 免费版停止下载，终止服务，针对需要企业版服务能力并且CDH 升级过程对业务影响较小的客户，通过安装新的 CDP 集群，将现有数据拷贝至新集群，然后将新集群切换为生产集群，升级过程没有数据丢失风险，停机时间较短，适合大部分互联网客户升级使用。
因此，自动化迁移 过程非常适合进行先期测试：将 Navigator metadata导入到测试环境的 Atlas中，提前进行转换和验证，而不会影响生产集群。在升级之前，建议备份 Navigator metadata数据库。文档版本：20211029 98 CDH迁移升级 CDP最佳实践 组件迁移 3.2.5.迁移步骤 迁移分成三个阶段（参见上图）：1.从 Navigator中提取元...
应用实时监控服务ARMS
作为云原生可观测平台，应用实时监控服务 ARMS 包含前端监控、应用监控、云拨测等模块。覆盖浏览器、小程序、APP、分布式应用、容器等不同可观测环境与场景。帮助企业实现全栈性能监控与端到端追踪诊断。提高监控效率，压降运维工作量。
通过白屏化的事件处理流编排简单的处理流程，对任意告警源上报的告警事件进行再加工，以满足差异化的事件数据处理需求.基于已产生的告警事件明细数据，自由组合筛选条件进行实时分析，可以满足不同场景的自定义分析诊断需求.告警事件统计与分析.ARMS 智能告警.统一告警管理.覆盖网络质量、Web 应用/小程序、后端应用、容器...
来自：
云产品
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景，Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
计算可水平扩展，完全弹性伸缩扩展，让流计算真正弹性化、自 动化；关键指标超越 Storm的性能 6到 8倍，计算成本大大低于开源软件，让流 计算真正普世化、平民化。实时计算 Flink提供 SQL语义的流式数据分析能力(Flink SQL)，大幅降低流数据 分析门槛。实时计算 Flink独享模式可开放 UDF/UDAF/UDTF接口，为用户提供更强大的...
开源Flink迁移实时计算Flink全托管版最佳实践
本方案介绍如何将自建开源Flink集群的流式任务（包含Datastream、Table/SQL、PyFlink任务）迁移至阿里云实时计算全托管版。
(下图是一个典型场景)文档版本：20211222 46 开源 Flink迁移实时计算Flink全托管版 附录 另外，运行中的作业也会因为各种因素导致 failover，AutoPilot 针对一些可自愈 的 failvoer 也提供了根 因的检测和自动恢复手段。4.作业发生异常时使用 AutoPilot 进行诊断和恢复。从作业提交运行到结束运行的整个生命周期，AutoPilot...
利用交互式分析(Hologres)进行数据查询
场景描述：随着收集数据的方式不断丰富，企业信息化 程度越来越高，企业掌握的数据量呈TB、 PB或EB级别增长。同时，数据中台的快 速推进，使数据应用主要为数据支撑、用户 画像、实时圈人及广告精准投放等核心业务 服务。高可靠和低延时地数据服务成为企业 数字化转型的关键。 Hologres致力于低成本和高性能地大规模 计算型存储和强大的查询能力，为您提供海 量数据的实时数据仓库解决方案和实时交 互式查询服务。 解决问题 1.加速查询MaxCompute数据 2.快速搭建实时数据仓库 3.无缝对接主流BI工具 产品列表 MaxCompute Hologres 实时计算Flink 专有网络VPC DataWorks DataV
基于交互式分析工具进行数据查询最佳实践 业务架构 场景描述 随着收集数据的方式不断丰富，企业信息化程度越来越高，企业掌握的数据量呈TB、PB或EB级别增长。同时，数 据中台的快速推进，使数据应用主要为数据支撑、用户画 像、实时圈人及广告精准投放等核心业务服务。高可靠和 低延时地数据服务成为企业数字化转型的关键。...
基于Elasticsearch的订单检索加速最佳实践
随着企业信息化程度越来越高，核心业务数据存储在传统关系型数据库中不可避免地会遇到一个问题：单表记录不断增多，数据检索速度会变慢，尤其是对中文的模糊查询（建立普通索引完全不起作用）。虽然数据库自身在不断完善，但效果有限且没办法灵活扩展，复杂场景无法应对。 本方案基于阿里云Elasticsearch作为二级索引库，数据集成产品提供Binlog实时订阅，实时解析、增量数据实时更新及二级索引库之间进行数据实时同步，为数据库提供“能力增益”， 不仅能从根本解决主库抗压问题，提升稳定性；同时支持高效率、高性能、高弹性、低成本、多复杂场景的检索加速服务。
详 细 步 骤 请 参 考 使 用 文 档《资 源 验 证 及 部 署》：https://help.aliyun.com/document_detail/186135.html 步骤4 部署完成后查看资源部署状态。文档版本：20210517 8 基于 Elasticsearch的订单检索加速最佳实践 资源规划和部署 可以单击资源名称的超链接，跳转对应资源的控制台。（部署成功后，可随时通过应用>...
基于DataWorks的大数据一站式开发及数据治理
概述 基于Dataworks做大数据一站式开发，包含数据实时采集到kafka通过实时计算对数据进行ETL写入HDFS，使用Hive进行数据分析。通过Dataworks进行数据治理，数据地图查看数据信息和血缘关系，数据质量监控异常和报警。 适用场景 日志采集、处理及分析 日志使用Flink实时写入HDFS 日志数据实时ETL 日志HIVE分析 基于dataworks一站式开发 数据治理 方案优势 大数据一站式开发，完善的数据治理能力。 性能优越：高吞吐，高扩展性。 安全稳定：Exactly-Once，故障自动恢复，资源隔离。 简单易用：SQL语言，在线开发，全面支持UDX。 功能强大：支持SQL进行实时及离线数据清洗、数据分析、数据同步、异构数据源计算等Data Lake相关功能 ，以及各种流式及静态数据源关联查询。
下载安装之后默认的目录为：/usr/lib/jvm/，查看目录：根据实际情况来配置环境变量，如下示例(注意先查看自己当前的版本替换 java home路径，下面实例的版本可能和你安装的不一致)：JAVA_HOME=usr/lib/jvm/jre-1.8.0-openjdk-1.8.0.262.b10-0.el7_8.x86_64 PATH=$PATH:$JAVA_HOME/bin CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$...
数据迁移上云
随着越来越多的企业选择将业务系统上云，各种类型的数据如何便捷、平滑的迁移上 云，成了用户上云较为关注的点；业务上云后，因为业务或者其他方面调整等因素， 也存在如跨区域，跨账号等数据迁移的场景。针对以上需求，阿里云上提供了较为丰 富的工具（如ossimport）、服务(在线迁移服务)，旨在能够帮助客户便捷进行数据迁 移。 本文通过云架构设计工具CADT来快速创建云上基础资源，并以杭州区域来模拟线 下IDC（或友商），深圳区域模拟阿里云云上资源。通过云上的工具命令、服务来提 供常见数据迁移场景的最佳实践。
运行环境 ossimport可以部署在 Linux或 Windows系统上，要求如下：Windows7及以上版本 Linux系统最新版本 Java 1.7及以上版本 注意 分布式部署暂时不支持 Windows系统。部署方式 单机模式：当您需要迁移的数据小于 30TB 时，推荐部署单机模式。您可以将 ossimport部署在任意一台可以访问您待迁移数据，且可以访问 OSS的机器...
Spark on ECI大数据分析
场景描述 方案优势 1.计算引擎弹性扩缩容，兼顾资源弹性与计 算资源成本优化。 2.计算与存储分离架构，结合阿里云原生云 存储产品，海量数据湖优势。 3.Kubernetes原生的调度性能优势，提升在 大规模分析作业时的分析性能优势分。 4.集群资源隔离和按需分配。 解决问题 1.计算资源弹性能力不足，计算资源成本管 控能力欠缺. 2.集群资源调度能力和隔离能力不足。 3.计算与存储无法分离，大数据量分析时出 现数据存储资源瓶颈。 4.Spark submit方式提交分析作业参数支持 有限等缺点。 产品列表 容器服务Kubernetes版(ACK) 弹性容器实例(ECI) 文件存储HDFS 对象存储OSS 专有网络VPC 容器镜像服务ACR
Spark Operator是一个 Kubernetes自定义控制器，使用自定义资源来声明 Spark应用的元数据，还支持自动重启动以及基于 cron的计划 任务等，同时数据分析开发者也可以使用 Kubernetes工具（例如 kubectl）来管理自 己的应用。步骤1 安装 Spark Operator。1.推荐使用 helm 3.X进行安装，首先在本地电脑（可连接用户自己的 ACK...
大数据workshop
大数据workshop
yum search java|grep java-1.8.0-openjdk yum install java-1.8.0-openjdk.x86_64-y 文档版本：20210628（发布日期）27 阿里云最佳实践大数据 WorkShop 最佳实践项目实践 2.下载安装之后默认的目录为：/usr/lib/jvm/，ll命令查看目录：3.根据实际情况来配置环境变量，如下示例(注意先查看自己当前的版本替换 java home路径...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
- 产品推荐
- 这些文档可能帮助您