云原生大数据计算服务MaxCompute
阿里云云原生大数据计算服务MaxCompute是面向分析的企业级云数仓，作为一体化大数据智能计算平台ODPS的大规模批量计算引擎，MaxCompute以 Serverless 架构提供快速、全托管的在线数据仓库服务，使您经济高效的分析处理海量数据，进行敏捷的业务洞察。
墨迹天气日志分析业务迁移到数加MaxCompute后，开发效率提升了超过5倍，存储和计算费用节省了70%，每天处理分析2TB的日志数据，更高效的赋能其个性化运营策略.通过MaxCompute计算能力实现了针对百万用户的精细化运营.对业务数据分析能力提升并有效监控，更好的业务赋能.数加生态满足新业务数据分析需求的“随机应变”能力....
来自：
云产品
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
Filebeat 可以监听指定的日 志文件或位置，从中收集日志事件并将其转发到 Elasticsearch或 Logstash进行索引，本实践采用 Filebeat收集 game-server的日志，并转发到 kafka。步骤1 在 ECS服务器上面，下载 Filebeat,为了兼容消息队列 kafka版本，推荐下载 filebeat-6.4.0-linux-x86_64：wget ...
EMR本地盘实例大规模数据集测试
场景描述 阿里云为了满足大数据场景下的存储需求，在云 上推出了本地盘D1机型，这个系列提供了本地 盘而非云盘作为存储，提高了磁盘的吞吐能力， 发挥Hadoop的就近计算优势。阿里云EMR 产品针对本地盘机型，推出了一整套的自动化运 维方案，帮助用户方便可靠地使用本地盘机型， 不需要关注整个运维过程同时数据的高可靠和 服务的高可用。 解决问题 1.云盘多份冗余数据导致成本高 2.磁盘吞吐量不高 3.节点的高可靠分布问题 4.本地盘与节点的故障监控问题 5.数据迁移时自动决策问题 6.自动故障节点迁移与数据平衡问题 产品列表 EMR(E-MapReduce) 本地盘 VPC
查看测试结果 步骤1 进入/root/hive-testbench/logs目录，查看每个执行 sql的运行日志，例如 query15.sql 的部分执行情况 cd/root/hive-testbench/logs#如已在此目录不用执行 cat query15.sql.log 文档版本：20191111（发布日期）22 EMR本地盘实例大规模数据集测试最佳实践 性能测试 步骤2 下图为部份查询任务在 Hive-on-...
互联网、电商Elasticsearch搜索
场景描述 每一个生活在互联网中的用户，每天都在经 历各种各样的“搜索”，查找电商网站商品、 信用卡账单、查电子发票、查附近的餐厅酒 店、查偶像、查交通等等。相对于传统的关 系型数据库，Elasticsearch只需要几毫秒的 时间，即可查询PB级数据并从中找到匹配 信息。利用Elasticsearch高可用性和易用 性，能够快速处理网站、APP丢给它的文本、 数字、日期、IP以及地理数据。 解决问题 1.电商网站商品、订单、物流等搜索 2.保险行业保单查询 3.互联网教育行业课程搜索 4.O2O行业地理位置搜索等 产品列表 云服务器ECS 专有网络VPC 负载均衡SLB 云数据库RDSMySQL版 Dataworks Elasticsearch 数据传输服务DTS
互联网、电商 Elasticsearch搜索 最佳实践 场景描述 方案架构 每一个生活在互联网中的用户，每天都在经 历各种各样的“搜索”，查找电商网站商品、信用卡账单、查电子发票、查附近的餐厅酒 店、查偶像、查交通等等。相对于传统的关 系型数据库，Elasticsearch只需要几毫秒的 时间，即可查询 PB 级数据并从中找到匹配 信息。...
日志安全审计与合规性评估
日志安全审计与合规性评估方案旨在通过集中化采集、存储、分析来自多个系统、应用和设备的日志数据，确保企业数据和系统安全性与合规性。企业合规团队可基于日志审计来输出合规信息，帮助企业优化安全态势，确保业务连续性和数据安全。
架构与部署 日志安全审计与合规性评估 通过SDK、API、Agent 等方式将不同来源的日志数据采集到日志服务中，实现对访问日志、安全事件日志、性能日志、操作日志的记录，并通过日志服务所提供的应用分析、可视化、告警组件，构建安全态势监控看板与告警机制。帮助企业实时掌握 IT系统运行安全状态，保障业务稳定性。日志审计...
来自：
技术解决方案
日志服务 SLS 产品概述
阿里云日志服务SLS为 Log/Metric/Trace 等可观测数据提供一站式提供数据采集、加工、分析、告警可视化与投递、存储功能，兼容开源ELK，满足运维监控与分析,业务分析,安全审计等场景需求。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云AI 助理备案控制台日志服务 SLS产品概述产品功能选型与定价入门与试用技术解决方案相关资源控制台文档联系我们立即购买高性价比、安全可靠的一站式数据应用平台日志服务 SLS 丰富的场景化应用能力，为稳定性与安全性保驾护航立即购买免费试用统一采集...
来自：
云产品
跨阿里云账号采集日志
跨阿里云账号采集日志可以实现多个账号间的日志共享和集中管理，降低了管理成本和风险，提高了日志数据的安全性和可靠性。同时，跨账号日志采集还可以满足多租户场景下的日志管理需求，提高了系统的可扩展性。
云服务器 ECS 日志服务 对象存储 应用场景 技术方案的广泛应用场景 企业内部不同业务部门之间的日志共享和集中管理 在多个阿里云账号的情况下，可以通过跨账号日志采集功能实现不同业务部门的日志共享和集中管理，方便日志的查询和监控。多租户场景下的日志管理 在多租户场景下，可以通过跨账号日志采集实现不同租户之间的...
来自：
技术解决方案
可观测链路 OpenTelemetry版结合日志服务SLS关联分析最佳实践
可观测链路 OpenTelemetry 版为分布式应用的开发者提供了完整的调用链路还原、调用请求量统计、链路拓扑、应用依赖分析等工具，可以帮助开发者快速分析和诊断分布式应用架构下的性能瓶颈，当应用出现业务异常问题时，您可以在可观测链路 OpenTelemetry 版控制台关联查看日志进行分析，精准定位业务异常。
可观测链路 OpenTelemetry 版结合日志服务 SLS关联分析 最佳实践 场景描述 业务架构 可观测链路 OpenTelemetry 版为分布式应用的 开发者提供了完整的调用链路还原、调用请求量 统计、链路拓扑、应用依赖分析等工具，可以帮 助开发者快速分析和诊断分布式应用架构下的 性能瓶颈，当应用出现业务异常问题时，您可以 在可观测...
阿里云日志服务SLS多云统一日志方案之腾讯云日志采集最佳实践
使用日志服务SLS统一采集、存储、查询和分析阿里云、腾讯云等不同云厂商上的业务日志、系统日志和云产品日志，实现在一个平台上管理多云架构下的所有日志。
阿里云 SLS多云日志统一管理方案-腾讯云日志采集 最佳实践 业务架构 场景描述 使用日志服务 SLS统一采集、存储、查询和分析 阿里云、腾讯云等不同云厂商上的业务日志、系 统日志和云产品日志，实现在一个平台上管理多 云架构下的所有日志。产品列表 方案适用的场景和优势 阿里云 多云：使用多云架构的用户都需要有一个统一...
容器多云统一监控日志
多云、混合云成为常态，Forrester 报告中指出，未来 89% 的企业至少使用两个云，74% 的企业至少使用三个甚至更多公有云，在面对多云/混合云这样大的趋势下，Gartner报告指出，安全、运维复杂性、财务复杂性是多云架构的主要挑战，本方案给出了在多云/混合云场景下，构建基于容器环境下的统一管理、统一监控和统一日志方案，解决多云、混合云场景下，运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商（AWS、Azure、GCP、TencentCloud、HuaweiCloud等）或者IDC基于容器（Kubernetes）运行业务系统，希望构建容器场景下的统一监控日志系统，方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统，在一个平台可以看到不同环境系统的运行情况。
6.在非阿里云容器集群部署Nginx应用，将标准输出日 志收集到日志服务SLS 6.1.在ACK注册集群中部署Nginx应用 步骤1 通过CADT画布登录ACK注册集群控制台，或者通过容器控制台Link访问（https://cs.console.aliyun.com/#/k8s/cluster/list）文档版本：20240322 45容器多云统一监控日志 场景验证 6.2.配置镜像地址 anolis-...
SLS数据入湖Kafka最佳实践
应用和数据分散在多云或混合云，在面对多云/混合云这样大的趋势下，数据无法进行统一的聚合、分析处理和导出等，本方案给出了在多云/混合云场景下，构建通过标准的Kafka协议和托管服务，SLS可以连接Kafka数据入湖导入，然后进行统一的海量数据的集中存储、智能转储、聚合分析查询等。
应用场景 客户在阿里云不同region、阿里云以外的其他 云服务商（AWS、Azure、GCP、TencentCloud、HuaweiCloud等）、或者IDC 等业务数据或应 用系统产品的日志数据等，汇总处理后，通过 标准的通用的协议Kafka，数据入湖到阿里云 SLS日志中心，进行统一分析和处理。解决问题 将多云、IDC分散的数据，通过标准协议，汇 产品...
- 产品推荐
- 这些文档可能帮助您