应用实时监控服务ARMS
作为云原生可观测平台，应用实时监控服务 ARMS 包含前端监控、应用监控、云拨测等模块。覆盖浏览器、小程序、APP、分布式应用、容器等不同可观测环境与场景。帮助企业实现全栈性能监控与端到端追踪诊断。提高监控效率，压降运维工作量。
支持 PromQL、SQL 查询语法，并预置多种函数，大幅降低查询工作量.预置热力分布、3D 地图、拓扑关系、树图等百余种异形图表，满足不同数据类型展示与分析需求。打通常见协同工具，灵活制定告警策略与权限分配方式.数据查询/可视化/告警.鉴权管理&安全审计.打通阿里云账号 SSO 与自建账号体系，并提供账号安全审计功能，强化...
来自：
云产品
实时可观测，即时应对风险
本方案使用日志服务，基于采集的日志数据实现对业务与 IT 系统的监控告警与问题排查，解决性能优化、安全威胁、业务数据分析等问题，从而保障业务稳定性，同时提升客户满意度。
数据处理分析能力 丰富的处理能力和集成生态 支持SQL查询、实时计算等，可与阿里云其他服务（如EMR、大数据分析平台、机器学习服务等）无缝集成，支持复杂数据处理和分析任务。安全管理复杂 需要自行配置和管理安全措施，合规成本和难度高。安全性与合规性 全面的安全措施 由阿里云提供强大的安全保障，如数据加密、访问...
来自：
技术解决方案
自建Hive数仓迁移到阿里云EMR
场景描述 客户在IDC或者公有云环境自建Hadoop集群构 建数据仓库和分析系统，购买阿里云EMR集群之 后，涉及到将数据仓库和Hive元数据的数据库迁 移上云。目前主流Hive数据仓库迁移场景为1.x 版本迁移到阿里云EMR(Hive2.x版本），涉及到 数据订正更新步骤。 解决的问题 Hive数据仓库的数据迁移方案 Hive元数据库的迁移方案 Hive跨版本迁移后的数据订正 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
名词解释 Hive Apache Hive是基于 Hadoop的一个数据仓库工具，可以将结构化的数据文件映 射为一张数据库表，并提供简单的 SQL 查询功能，可以将 SQL 语句转换为 MapReduce任务进行运行。其优点是学习成本低，可以通过类 SQL语句快速实 现简单的 MapReduce统计，不必开发专门的 MapReduce应用，十分适合数据仓 库的统计分析...
基于DataWorks的大数据一站式开发及数据治理
概述 基于Dataworks做大数据一站式开发，包含数据实时采集到kafka通过实时计算对数据进行ETL写入HDFS，使用Hive进行数据分析。通过Dataworks进行数据治理，数据地图查看数据信息和血缘关系，数据质量监控异常和报警。 适用场景 日志采集、处理及分析 日志使用Flink实时写入HDFS 日志数据实时ETL 日志HIVE分析 基于dataworks一站式开发 数据治理 方案优势 大数据一站式开发，完善的数据治理能力。 性能优越：高吞吐，高扩展性。 安全稳定：Exactly-Once，故障自动恢复，资源隔离。 简单易用：SQL语言，在线开发，全面支持UDX。 功能强大：支持SQL进行实时及离线数据清洗、数据分析、数据同步、异构数据源计算等Data Lake相关功能 ，以及各种流式及静态数据源关联查询。
它架构在 Hadoop 之上，提供简单的 sql查询功能，可以将 sql语句转换为 MapReduce任务进行运行。Hive 的最佳使用场合是大数据集的批处理作业，例如，网络日志分析。本章主要通过 hive对存储在 hdfs上的日志进行分析，获取错误日志记录。整体流程 如下：步骤1 创建业务流程 log_analyse 进入数据开发页面 新建业务流程 log_...
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
ETL数据清洗，然后写入到 ClickHouse，代码下载：https://code.aliyun.com/best-practice/uv-flink-job-188.git 云数据库（ClickHouse）：开源列式数据库在阿里云上的托管服务，开源的 ClickHouse 在性能上面十分优秀，但是在运维上面却相对比较复杂，自建 ClickHouse往往面临着安全管理、扩缩容、配置管理、SQL查询分析、...
混合云数据库统一管理
本最佳实践描述在混合云场景下，用户利用数据库网关将IDC自建数据库和云上RDS实例统一管理。通过DMS管理云上RDS实例和IDC自建数据库，并通过DTS实现IDC数据库和云上RDS的数据同步， DBS将数据备份到云上
步骤10 再次用 bob登录，执行查询 SQL。可以看到执行的 SQL返回结果 根据上面的操作流程可以知道，当 IDC或自建数据库接入阿里云 DMS数据管理服务 后，可以对云上和云下的数据库权限、操作等进行集中管理。文档版本：20201224（发布日期）36 混合云数据库统一管理 IDC数据同步 RDS 5.IDC数据同步 RDS 5.1.DTS介绍 相对于...
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例，使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer，模拟应用中的关键页面，比如登 录、课程内容等，之后构造若干用户使用的模拟 日志数据，投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖（EMR+OSS）搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
步骤2 生成测试数据和查询SQL，执行命令：hive dropdatabasetpcds_text_1000CASCADE;exit；然后执行：nohup./tpcds-setup.sh 100 oss:/LTAI4FwNB3uUYRNd66k2JTru:@sh-bucket-0316.oss-cn-shanghai-internal.aliyuncs.com/emr_test/2>&1&文档版本：20200331 64数据湖-在线学习场景数据分析 附录-TCP DS 说明：1000GB测试数据...
跨云迁移单写双读过渡架构
概述 在搬站场景下，涉及迁移跨度较长，在过渡阶段客户需要跨云访问，如何保障数据链路的高可用尤为关键，采用专线和公网双备的方案保障数据传输的高可用，也降低双专线的迁移成本。 适用场景 数据迁移链路的高可用 跨云迁移过渡期架构 读写分类架构设计 技术架构 本实践方案基于如下图所示的技术架构和主要流程编写操作步骤： 方案优势 在迁移时间持续较长的情况下，使用单写双读架构降低业务改造成本。 使用数据库网关做专线和公网互备。 流量逐渐灰度验证，保障迁移平滑过渡。 安全：原生的多租户系统，以项目进行隔离，所有计算任务在安全沙箱中运行。
步骤7 执行 SQL查询，可见数据已经被成功同步过来。文档版本：20201209 27 跨云迁移单写双读过渡架构 服务器和数据迁移 文档版本：20201209 28 跨云迁移单写双读过渡架构 应用系统改造 4.应用系统改造 4.1.部署应用 步骤1 用 CADT拉起的北京地域的 ECS实例可以采用更换系统盘的方式替换为新的镜像。步骤2 确认更换。步骤3 ...
阿里云数据库快速搭建疫情分析系统最佳实践
疫情态势分析和防控任务迫在眉睫，如果快速搭建高效的疫情态势分析系统是众多部门和单位的难题，阿里云polardb for PG+Ganos解决方案可在极短时间内完成分析系统搭建，有效助力疫情防。 方案优势： 1、性能优越：Ganos作为自研的时空数据库引擎，相比postgis性能更优秀。 2、安全稳定：故障自动切换自愈，资源隔离，多副本存储。 3、简单易用：开箱即用，兼容postgresql，打通quickbi快速搭建数据分析展示。 4、功能强大：相比postgis在时空模型上做了较多扩充，支持几何模型，栅格模型，网络模型，时空轨迹模型，点云模型，拓扑网络模型。
2.简化 GIS数据 SQL查询语法，通熟易 访问控制 RAM 懂。专有网络 VPC 3.支持海量 GIS数据查询，性能有保 云服务器 ECS 障。云数据库 polardb for postgresql 4.支持比 postgresql更丰富的时空模 对象存储 OSS 型。数据库可视化分析 Quick BI 5.简单便捷构建完整的数据集成链路。最佳实践频道 阿里云最佳实践分享群 如二维码...
Spring Cloud Netflix应用迁移EDAS
场景描述 Spring Cloud Netflix微服务应用迁移到EDAS 服务（SpringCloud Alibaba云版本）的方法， 迁移后充分利用阿里云监控、调用链、限流降级 等能力，优化应用生命周期管理。 解决问题 1.帮助自建SpringCloudNetflix微服务应用 通过简单修改迁移到阿里云企业级分布式 应用服务（EDAS）平台。 2.迁移到EDAS后，简化应用的运维，提升监 控、调用链探测、限流降级等管理能力，提 高对应用的全生命周期管理。 产品列表 企业级分布式应用服务（EDAS） 负载均衡（SLB） 专有网络（VPC） 云服务器（ECS）
5.EDAS提供了高级监控功能，除了基本的机器信息查询之后，还支持查询微服务调 用链信息，系统调用拓扑图，慢 SQL查询等高级监控功能。6.EDAS为您的 Spring Cloud应用提供限流降级的高可用防护。7.EDAS提供了全链路灰度功能，满足您在应用上新功能时灰度测试、小流量验证的 需求。本最佳实践的目的是验证从 Spring Cloud ...
开源大数据平台 E-MapReduce 相关资源
阿里云大数据平台 E-MapReduce 提供详细的产品文档，面向开发者提供全方位的服务，有免费的实验课程和解决方案体验馆，帮助您快速上手。在阿里云 E-MapReduce 开发者社区，您可以和更多开发者交流。
博文问答电子书阿里云 EMR Serverless StarRocks OLAP 数据分析场景解析 阿里云 E-MapReduce Serverless StarRocks 版是阿里云提供的 Serverless StarRocks 全托管服务，提供高性能、全场景、极速统一的数据分析体验，具备开箱即用、弹性扩展、监控管理、慢 SQL 诊断分析等全生命周期能力。内核 100%兼容 StarRocks，性能比...
来自：
云产品
从海量到价值，泛时序数据一站式分析与洞察
泛时序数据广泛存在于车联网、工业物联网、金融交易、股票分析等业务场景。随着业务增长带来的数据量激增，如何高效地获取和分析这些数据成为业务洞察和决策的关键挑战，Lindorm作为阿里云自研的云原生多模数据库，具备低成本存储、弹性高可用的能力，提供一站式的分析与洞察。
高并发实时查询 数据存入后，可以通过宽表引擎实现数据的高并发实时查询，可以通过搜索引擎做多维检索和复杂查询。复杂分析 通过计算引擎，实现数据离线分析和实时交互分析。使用Lindorm与自建方案对比 自建方案 云原生多模数据库Lindorm 效率低 依赖HBase、MongoDB、ES、Hive、Spark、Flink等多个开源产品的组合实现，运维...
来自：
技术解决方案
通过ES兼容接口方式使用Kibana访问SLS数据
自建ELK日志系统的客户迁移到阿里云日志服务SLS后，对SLS查询分析语法不太熟悉的客户，可以继续沿用原有的查询分析习惯，在不改变使用方式习惯的情况下，通过Elasticsearch兼容接口的方式使用Kibana访问SLS。
日志服务所提供的Elasticsearch兼容接口，其兼容机制是将ElasticsearchDSL查询 翻译为SLS的索引查询和SQL分析，并且按照Elasticsearch的API格式规范返回查 文档版本：20240418 IV基于MSE云原生网关同城多活最佳实践 最佳实践概述 询分析结果，从而实现Elasticsearch查询协议的兼容。方案优势●日志服务提供高可用的存储、...
可观测链路 OpenTelemetry版结合日志服务SLS关联分析最佳实践
可观测链路 OpenTelemetry 版为分布式应用的开发者提供了完整的调用链路还原、调用请求量统计、链路拓扑、应用依赖分析等工具，可以帮助开发者快速分析和诊断分布式应用架构下的性能瓶颈，当应用出现业务异常问题时，您可以在可观测链路 OpenTelemetry 版控制台关联查看日志进行分析，精准定位业务异常。
一站式提供数据采集、加工、查 询与分析、可视化、告警、消费与投递等功能，全面提升您在研发、运维、运营、安全等场景的数字化能力。云速搭 CADT（Cloud Architect Design Tools）：是一款为上云应用提供自助式云 架构管理的产品，显著地降低应用云上管理的难度和时间成本。本产品提供丰富的 预制应用架构模板，同时也支持...
大模型RAG对话系统部署
大模型RAG对话系统最佳实践，旨在指引AI开发人员如何有效地结合LLM大语言模型的推理能力和外部知识库检索增强技术，从而显著提升对话系统的性能，使其能更加灵活地返回用户查询的内容。适用于问答、摘要生成和其他依赖外部知识的自然语言处理任务。通过该实践，您可以掌握构建一个大模型RAG对话系统的完整开发链路。
该方法通过结合 LLM的归 纳生成能力和向量检索库的检索能力，增强对用户查 询的理解，并产生更加可靠的回复。应用场景 适用于问答、摘要生成和其他依赖外部知识的自然语 言处理任务的场景 解决问题 适用于问答、摘要生成和其他依赖外部知识的自然语 言处理任务 最佳实践频道 产品列表 http://bp.aliyun.com 专有网络 VPC ...
- 产品推荐
- 这些文档可能帮助您