基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
java-jar game-server-0.0.2-SNAPSHOT.jar-spring.profiles.active=prod&文档版本：20201224 40 基于 Flink+ClickHouse构建实时游戏数据分析 游戏服构建 步骤14 验证，进行可用性、连通性测试,访问游戏服对外暴露的接口/api/v1/game-server 文档版本：20201224 41 基于 Flink+ClickHouse构建实时游戏数据分析 日志采集 5....
云原生多模数据库Lindorm
云原生多模数据库Lindorm提供各规模、多模型的云原生数据库服务。可兼容HBase/Cassandra、OpenTSDB、Solr、SQL、HDFS等多种开源标准接口。支持海量数据的低成本存储处理和弹性按需付费，是互联网、IoT、车联网、广告、社交等场景首选数据库，也是为阿里核心业务提供支撑的数据库之一。
提供HTTP API接口(兼容OpenTSDB API)、支持SQL查询。针对时序数据设计的压缩算法。支持海量数据的多维查询和聚合计算，支持降采样和预聚合.面向海量文本、表格数据，具备全文检索、聚合计算、复杂多维查询等能力，同时可无缝作为宽表、时序引擎的索引存储，加速检索查询，适用于日志、账单、画像等场景，兼容开源Solr标准...
来自：
云产品
应用实时监控服务ARMS
作为云原生可观测平台，应用实时监控服务 ARMS 包含前端监控、应用监控、云拨测等模块。覆盖浏览器、小程序、APP、分布式应用、容器等不同可观测环境与场景。帮助企业实现全栈性能监控与端到端追踪诊断。提高监控效率，压降运维工作量。
借助云主机、PC端、移动端拨测点，模拟多地域、多运营商用户，对Web应用、网站、API接口进行拨测，及时发现网络质量波动与网站、API服务可用性问题.分析端侧应用在网络请求、页面加载、资源加载过程中的关键性能指标，对应用崩溃、ANR、卡顿等影响用户体验的异常问题追踪详细堆栈信息，定位问题影响范围，促进用户体验性能...
来自：
云产品
可观测链路 OpenTelemetry 版
针对 PHP、C++、Go、Node.js 等多语言应用，提供端到端全链路追踪、应用监控与告警、链路拓扑、日志关联分析能力，并基于 OpenTelemetry 开源标准，兼容 Jaeger、Zipkin、SkyWalking 等开源项目数据上报。快速发现分布式应用架构下的性能瓶颈，缩短错/慢调用根因定位耗时，提高全栈开发与诊断效率。
多语言类应用统一基于 OpenTelemetry 标准接入，从而对所有接入的应用进行统一的监控告警，提供应用、接口、主机地址等多维度监控能力，并提供开箱即用的默认监控大盘。同时通过调用关系动态发现与渲染全局服务拓扑。针对业务场景的自定义需求，支持根据既有数据源自定义指标监控大盘.多语言应用性能监控及全局可视化.多...
来自：
云产品
新零售商超基于Serverless服务化改造
某零售商超行业龙头企业，主要业务涵盖购物中心、大卖场、综合超市、标准超市、精品超市、便利店、无人值守智慧商店等零售业态，涉及全渠道零售、仓储物流、餐饮、消费服务、数据服务、金融业务、跨境贸易等领域。为了持续支持业务高速且稳定地发展，其在快速上云后，将核心业务改造为全Serverless架构的中台模式，采用函数计算 + API网关 + 表格存储OTS 作为计算网络存储核心，弹性支撑日常和大促峰谷所需资源，轻松支撑618/双11/双12大促。 核心价值 l 全 Serverless 架构：FC + API 网关 + OTS Serverless 解决方案。 l 弹性高可用：毫秒级弹性扩容、充足的资源池水位、跨可用区高可用。 l 敏捷开发免运维：函数式极简编程可专注于业务创新，无采购和部署成本、提供监控报警等完备的可观测能力。
文档版本：20210519 27 新零售商超基于 Serverless服务化改造 架构环境搭建 步骤6 在代码库里面，能够找到模拟会员系统对外暴露 API接口的 JAVA代码如下图所示：步骤7 执行以下命令，将函数部署到云端。fun deploy-y 文档版本：20210519 28 新零售商超基于 Serverless服务化改造 架构环境搭建 步骤8 登录函数计算控制台，在...
营销引擎云码
营销引擎云码（Intelligent Marketing Engine）是阿里云-企业云服务的数字化营销工具平台，围绕企业全域业务增长的目标，提供营销投放、用户建模、智能分发以及消费者触达的一站式全链路SaaS工具平台，并以营销效果为计费单元。
整合阿里巴巴集团核心应用App营销资源，程序化接入汽车、教育、游戏等外部优质垂直类媒体App，提供丰富的投放场景，支持多样的创意样式.投放效果保障.面向DSP提供多样化的流量控制配置功能，满足DSP多样性的流量需求；智能化的流量反作弊能力；丰富的投放数据报表及分析功能；多维数据定向能力等.技术对接便捷.采用标准Open...
来自：
云产品
表格存储Tablestore
表格存储Tablestore是阿里云自研的面向海量结构化数据存储的Serverless分布式数据库，它可提供低成本、高性能的存储方案，同时也可提供稳定与极致的数据服务。
能够映射关联不同数据模型的表，能够自动关联索引进行查询与分析优化.Restful API接口，多语言SDK支持，满足不同语言开发者的使用需求.多语言SDK.支持客户端与命令行工具，支持Windows、Linux和Mac平台。能够便捷的完成所需的运维管理需求.多语言SDK与SQL灵活访问.提供多元化索引，满足不同场景数据查询与分析需求.提供二级...
来自：
云产品
云工作流
云工作流 CloudFlow 是一个用来协调多个分布式任务执行的全托管 Serverless 云服务，用户可以用顺序、分支、并行等方式来编排分布式任务，服务会按照设定好的顺序可靠地协调任务执行，跟踪每个任务的状态转换，并在必要时执行用户定义的重试逻辑，以确保工作流顺利完成。
可管理流程状态、设置检查点和流程重启，确保应用程序正常执行.按实际执行步骤转换个数收费，执行结束不再收费，服务自动扩展.详细的产品概念、用法和案例介绍.开发者需要的SDK、API接口文档.引导您快速上手，降低使用难度.提供丰富的典型用户使用步骤.产品解决方案.点击查看案例实践.使用云工作流可以帮助您将多个任务，如...
来自：
云产品
智能数据建设与治理Dataphin
Dataphin遵循阿里巴巴集团多年实战沉淀的大数据建设OneData体系（OneModel、OneID、OneService），集产品、技术、方法论于一体，一站式地为您提供集数据引入、规范定义、智能建模研发、数据萃取、数据资产管理、数据服务等的全链路智能数据构建及管理服务。助您打造属于自己的标准统一、资产化、服务化和闭环自优化的智能数据体系，驱动创新。
适合业务相对稳定，且有小型的数据团队负责数据研发及管理的企业。...支持将Dataphin的逻辑表和物理表配置为可直接调用的Dataphin数据源，并提供标准的JDBC接口，打通逻辑表消费渠道，简化资产消费链路.数据服务作为统一的数据服务出口，实现了API的统一化管理，有效地降低数据开放门槛的同时，保障数据开放的安全.
来自：
云产品
Function Compute构建高弹性大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中，对数据进行处理、分析，形成业务闭环。比如游戏行业中的游戏发行、游戏运营，产互行业中的数字营销，物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点，给整个数据采集传输系统带来很大的挑战。在这个场景中，有三个关键的环节，数据采集、数据传输、数据处理。该最佳实践主要涉
Funcraft Funcraft 是一个用于支持 Serverless 应用部署的命令行工具，能帮助我们便捷地管 理函数计算、API 网关、日志服务等资源。它通过一个资源配置文件（template.yml），协助我们进行开发、构建、部署操作。所以第二个函数我们需要使用 Fun来进行操作，整个操作分为四个步骤：1.安装 fun工具 2.编写 template.yml模板...
基于链路追踪+ECI的流量洪峰应对
云原生技术已经为越来越多的互联网客户接受，对于在线教育、互动娱乐、电商等类型的客户会由于业务的原因存在突增业务流量，因此对于系统的稳定性非常关注，结合阿里云的容器服务、链路追踪、弹性容器ECI等产品，帮助客户业务实现容器化改造，并且方便发现系统应用架构中的瓶颈等问题，实现系统高弹性的同时优化客户的云资源使用成本。 l 方案优势 ￚ 支持分布式追踪、调用链分析、DB调用分析、链路拓扑分析、业务指标统计等系统链路调用分析。 ￚ 运维研发效率提高，链路追踪服务端全托管，免运维。 ￚ 链路追踪的应用调用链分析能力结合ECI高弹性能力，提升应用系统在洪峰流量冲击下的稳定性。 ￚ 链路追踪接入方便，ECI POD弹性伸缩，节省用户运维成本和云资源使用成本。 ￚ 结合SLS Ingress可以基于应用前端访问性能指标做弹性伸缩，更丰富的云原生弹性能力。
基于链路追踪+ECI的洪峰流量应对 最佳实践 业务架构 场景描述 云原生技术已经为越来越多的互联网客户接 受，对于在线教育、互动娱乐、电商等类型的 客户会由于业务的原因存在突增业务流量，因 此对于系统的稳定性非常关注，结合阿里云的 容器服务、链路追踪、弹性容器 ECI等产品，帮助客户发现应用链路中的瓶颈，同时应对洪...
云原生大数据计算服务MaxCompute
阿里云云原生大数据计算服务MaxCompute是面向分析的企业级云数仓，作为一体化大数据智能计算平台ODPS的大规模批量计算引擎，MaxCompute以 Serverless 架构提供快速、全托管的在线数据仓库服务，使您经济高效的分析处理海量数据，进行敏捷的业务洞察。
在一套数仓服务和用户接口下，实现湖与仓的关联分析.支持流式采集和近实时分析.支持流式数据实时写入并在数据仓库中开展分析；与云上主要流式服务深度集成，轻松接入各种来源流式数据；高性能秒级弹性并发查询，满足近实时分析场景需求.提供持续的SaaS化云上数据保护.为云上企业提供从基础设施、数据中心、网络、供电到平台...
来自：
云产品
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景，Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
基于 Flink的资讯场景实时数仓 最佳实践 业务架构 场景描述 产品列表 本实践针对资讯聚合类业务场景，Step by Step介绍 实时计算 如何搭建实时数仓。专有网络 VPC 云数据库 RDS MySQL版 分析型数据库 MySQL版 解决问题 消息队列 Kafka 对象存储 OSS 1.如何搭建实时数仓。NAT网关 2.通过实时计算 Flink实现实时 ETL和数据流...
机场视频监控
场景描述 该最佳实践适用于国内机场的视频监控行业，将线下视频文件通过混合云阵列缓存后，通过专线上传到阿里云OSS上。 也适用于其他混合云场景中，利用阵列缓存文件，并通过网络传输到阿里云OSS上的场景。 解决问题 1.通过混合云阵列+专线将线下文件传到阿 里云OSS上 2.通过阿里云OSS跨区域复制功能实现异 地文件备份 3.通过OSS的自动生命周期管理功能实现 文件生命周期管理 产品列表 OSS对象存储 混合云阵列 高速通道（专线）
本文的操作实 例中，详细网络规划如下：项目 接口类型 网络配置 备注 混合云阵列 千兆以太网-电口 IP地址：10.10.0.160 管理IP地址 子网掩码：255.255.224.0 网关：10.10.0.1 本地DNS 10.10.2.51 混合云阵列4 万兆以太网-光口 A控制器：通道4和通道 数据通道IP IP地址：10.10.0.161 5配置聚合，地址 子网掩码：255.255.224....
大数据workshop
大数据workshop
阿里云技术框架 阿里云产品 简介 类比 ECS 弹性计算服务器 Linux服务器 RDS 关系型数据库 自有 MySQL服务器 DataHub 数据总线 Kafka+各种服务接口 实时计算 Flink版 实时计算 Spark、Flink MaxCompute-Hologres 交互式查询分析产品 PostgreSQL 文档版本：20210628（发布日期）3 阿里云最佳实践大数据 WorkShop 最佳实践方案...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
金融专属大数据workshop
实践目标 学习搭建一个实时数据仓库，掌握数据采集、存储、计算、输出、展示等整个业务流程。 整个实时数据仓库系统全部基于阿里云产品进行架构搭建，用户可以掌握并学会运用各个服务组件及各个组件之间如何联动。 理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方法。 前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解
使用RESTfulAPI可以在互联网任何位置存储和访问，容量 和处理能力弹性扩展，多种存储类型供选择全面优化存储成本。详见：https://www.aliyun.com/product/oss SLS：日志服务（SLS）是云原生观测分析平台，为Log/Metric/Trace等数据提供 大规模、低成本、实时平台化服务。一站式提供数据采集、加工、分析、告警可 视化与...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
云数据库产品总览（瑶池）
阿里云提供完善的数据库解决方案，多款数据库产品，满足99%的业务场景，荣获Gartner、信通院等国内外多项认证。轻松满足高可靠、高可用性、高性能等数据库需求；运维工作量大幅减少，让企业一站式享受数据上云及分布式架构的技术红利！
提供各数据结构和接口的监控信息，大幅降低运维成本.通过PolarDB超大存储规格满足单库6TB和单表10亿的存储和查询性能需求；OLAP复杂查询切换到AnalyticDB，构建清晰规范的OLTP、OLAP分离架构；历史数据归档HBase，上层构建Spark，构建用户推荐场景.采用Redis专属集群，无需改造业务，解决了在线高并发下的Redis带宽资源不够...
来自：
云产品
通过ES兼容接口方式使用Kibana访问SLS数据
自建ELK日志系统的客户迁移到阿里云日志服务SLS后，对SLS查询分析语法不太熟悉的客户，可以继续沿用原有的查询分析习惯，在不改变使用方式习惯的情况下，通过Elasticsearch兼容接口的方式使用Kibana访问SLS。
通过ES兼容接口方式使用Kibana访问SLS数据最佳实践 业务架构 场景描述 日志服务SLS提供Elasticsearch兼容接口，支 持客户将日志采集到日志服务后，仍可以继续沿 用Elasticsearch的查询方案，即通过使用 Kibana访问日志服务的Elasticsearch兼容接 口，实现查询SLS数据。应用场景 自建ELK日志系统的客户迁移到阿里云日志服 务...
- 产品推荐
- 这些文档可能帮助您