可观测链路 OpenTelemetry版结合日志服务SLS关联分析最佳实践
可观测链路 OpenTelemetry 版为分布式应用的开发者提供了完整的调用链路还原、调用请求量统计、链路拓扑、应用依赖分析等工具，可以帮助开发者快速分析和诊断分布式应用架构下的性能瓶颈，当应用出现业务异常问题时，您可以在可观测链路 OpenTelemetry 版控制台关联查看日志进行分析，精准定位业务异常。
将 otlp替换成如下内容（headers自行添加）：1.otlp:2.endpoint:'接入点' 3.tls:4.insecure:true 5.headers:6."Authentication":"鉴权Token"步骤4 修改后的 opentelemetry-demo-otelcol YAML 配置如下图，点击确认以保存 步骤5 返回容器服务控制台 工作负载->无状态 中，找到 opentelemetry-demo-otelcol，文档版本：...
电商网站数据埋点及分析
场景描述 数据埋点是数据产品经理、数据运营以及数据分 析师，基于业务需求（例如：CPC点击付费广 告中统计每一个广告位的点击次数），产品需求 （例如：推荐系统中推荐商品的曝光次数以及点 击的人数）对用户行为的每一个事件对应的位置 进行开发埋点，并通过SDK上报埋点的数据结 果，记录数据汇总后进行分析，推动产品优化或 指导运营。 解决问题 1.电商网站广告位效果统计分析 2.电网网站推荐商品曝光、点击、购买等行为统 计分析 3.电商网站用户分布分析 4.电商网站页面热点图分析等 产品列表 日志服务SLS Dataworks 云服务器ECS 云数据库RDS版 负载均衡SLB 专有网络VPC
电商网站埋点 本方案采用WebTracking在Web前端页面进行埋点，Web Tracking的埋点说明参考：https://help.aliyun.com/document_detail/31752.html 文档版本：20220127 XI 电商网站数据埋点及分析 电商网站数据埋点 埋点服务的 endpoint查看：https://help.aliyun.com/document_detail/29008.html 行为数据模拟了 640个用户对...
SLS数据入湖Kafka最佳实践
应用和数据分散在多云或混合云，在面对多云/混合云这样大的趋势下，数据无法进行统一的聚合、分析处理和导出等，本方案给出了在多云/混合云场景下，构建通过标准的Kafka协议和托管服务，SLS可以连接Kafka数据入湖导入，然后进行统一的海量数据的集中存储、智能转储、聚合分析查询等。
或者打开 ECS控制台，选择上海 regionECS实例：ecs-app，点击远程登录：文档版本：20240428 30SLS数据入湖Kafka最佳实践 场景验证 步骤2输入密码后，选择【确定】：步骤3进入后，输入命令：#cdkafka-sls#vimkafka-perf.sh 步骤4修改脚本中的 KAFKA_ENDPOINT，在 CADT控制台中，选择 Kafka实例：kafka_serverless，向下滑动...
Serverless图片分类和身份证过滤
场景描述 场景一：大型图库智能管理通过深度学习算法，自动识别图像中的常见的场景，客户可以基于函数计算对接智能媒体管理的图像识别功能，轻松实现图片的自动管理和分组，完成大型图像库的智能管理。 场景二：身份证图片过滤 通过扫描存储在OSSbucket中的图片，通 过智能媒体管理进行身份证识别，找到海量图片中的身份证图片，对敏感信息进行处理。 解决问题 1.通过无服务器计算实现图片处理自动化 2.OSS触发器的使用 3.使用函数计算调用阿里云的AIP或SDK 产品列表 函数计算 智能媒体管理IMM 对象存储OSS
文档版本：20200120 7 Serverless图片分类和身份证过滤 图片自动分类 2.2.Python代码解读 步骤1 函数计算的入口函数定义为 handler，OSS触发器触发的事件会通过 event传递给函 数计算，这里对 event进行 json解析，拿到 OSS bucket的 endpoint，另外从 context中拿到相关的鉴权信息。步骤2 初始化两个 bucket，原始文件上次...
基于函数计算FC实现物联网音视频处理
在物联网场景中，智能设备会产生大量的非结构化数据，并且采集量和频率都很高。比如各类摄像头（家用摄像头、车载摄像头、工业监控摄像头等）采集的数据。企业需要对这些非结构化数据做快速的分析和处理，然后应用到下游业务中，所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
（函数中业务代码的执行时长，可根据函数承载的 业务自行设置其他时间，最大支持24小时） 请求处理程序：index.handler（函数的入口函数名称，index为文件名，handler为 函数名） 环境变量：文档版本：20240502 8基于函数计算FC实现物联网音视频处理最佳实践 场景验证 bucket_name：OSSBucket名称 oss_endpoint：...
互联网、电商Elasticsearch搜索
场景描述 每一个生活在互联网中的用户，每天都在经 历各种各样的“搜索”，查找电商网站商品、 信用卡账单、查电子发票、查附近的餐厅酒 店、查偶像、查交通等等。相对于传统的关 系型数据库，Elasticsearch只需要几毫秒的 时间，即可查询PB级数据并从中找到匹配 信息。利用Elasticsearch高可用性和易用 性，能够快速处理网站、APP丢给它的文本、 数字、日期、IP以及地理数据。 解决问题 1.电商网站商品、订单、物流等搜索 2.保险行业保单查询 3.互联网教育行业课程搜索 4.O2O行业地理位置搜索等 产品列表 云服务器ECS 专有网络VPC 负载均衡SLB 云数据库RDSMySQL版 Dataworks Elasticsearch 数据传输服务DTS
步骤5 从 Democode.txt中获取脚本，替换 endpoint和 accessKey。步骤6 修改数据集成资源组配置，选择之前创建的独享数据集成资源组。33 文档版本：20220121 互联网、电商 Elasticsearch搜索最佳实践 数据同步及搜索 步骤7 保存并执行 步骤8 查看日志同步完成，消耗了 32.853秒。34 文档版本：20220121 互联网、电商 Elastic...
企业构建统一CMDB数据源
典型场景 l 企业/ISV构建多云CMDB平台，对接数十款产品的API，拉取、清洗、格式化、存储配置数据是复杂且高成本的工作。 l 企业日常的资源管理，需依赖资源配置历史、资源关系数据进行故障溯源和影响评估。 解决方案 l 企业管理账号设置Config配置数据投递，将所有账号的资源配置快照和历史归集到统一地址留存。 l 使用OSS做长期归档，使用SLS做实时分析和监听。获取全量资源数据并及时感知云上资源的变更。 l 将数据集成到自有CMDB平台 客户价值 l 基于配置审计简单便捷的持续收集云上资源配置数据，在自建CMDB过程中节省大量人力和时间成本。 l 跨账号统一收集数据，实现中心化的资源配置管理。 l 实现资源配置数据的持续收集和监听，及时感知云上资源的增删改，洞察异常变更。
在这里我们使用到了:阿里云 Python SDK：aliyun-python-sdk-core SLS服务 Python SDK：aliyun-log-python-sdk pip3 install aliyun-log-python-sdk 步骤2 编辑 python脚本，更新如下信息，比如管理账号的 SLS endpoint、AK/SK、SLS project 和 logstore 等（注：AK/SK 的 获取 方 法，请 参考 帮 助 文档：...
基于MaxCompute的大数据BI分析
场景描述 本文以电商行业为例，将业务数据和日志数据使用 MaxCompute做ETL之后，同步到ADB进行实时 分析，之后通过QuickBI进行快速可视化展示。 解决问题 1.互联网行业、电商、游戏行业等网站、App、 小程序应用内BI分析场景。 2.可扩展到各类网站BI分析场景使用。 产品列表 1.MaxCompute 2.分析型数据MySQL版 3.日志服务SLS 4.QuickBI 5.云服务器ECS 6.RDSMySQL版
步骤4 查看 OSS的 endpoint和 bucket的访问域名并记录。文档版本：20211213 27 基于 MaxCompute的大数据 BI分析 日志数据采集 本文中如下表所示：OSS EndPoint oss-cn-shanghai.aliyuncs.com bucket域名 oss-bp106-202112000001.oss-cn-shanghai.aliyuncs.com 4.2. 配置 SLS日志服务 步骤1 登录 SLS日志服务控制台...
自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群，为了降低企业大数据计算平台的成本，提高 大数据应用开发效率，更有效保障数据安全，把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute，Dataworks、云数据库Hbase版、Datahub、VPC，ECS。
使用者根据需要自行修改：vim flume-datahub.conf Datahub项目所在区域的 EndPoint a1.sinks.k1.datahub.endPoint=http://dh-cn-shanghai-int-vpc.aliyuncs.com Datahub项目名称 a1.sinks.k1.datahub.project=log_records_project Datahub项目中 Topic名称 a1.sinks.k1.datahub.topic=odps_apache_logs 文档版本：20210723 ...
E-HPC低成本实现量化策略回测
在量化交易场景下，量化策略的构建流程一般包括：想法、数据获取、建模、回测、结果分析等，在回测过程中往往需要海量的算力，进行大量数据的分析和处理，如何快速、高效和低成本的进行批量任务的调度，并快速获取结果是量化领域遇到的普遍挑战，这也是云计算能够带给客户的巨大优势。
运行如下命令：/ossutil64 config endpoint为 oss-cn-zhangjiakou.aliyuncs.com。Access Key和 Access Key Secret则根据生成的 CSV文件即可。ossutil64 ls 文档版本：20220321 30 E-HPC低成本实现量化策略回测 操作步骤 步骤2 数据上传，仅供参考。ossutil64 cp test_data_path oss:/ehpc-cluster-data/output 2.8.适配任务...
函数计算实现弹性音视频处理系统
场景描述 本示例通过函数计算部署一个高弹性高可用的 音视频处理系统。尤其适合视频网站使用，每天 有大量的上传视频，需要及时转码处理以适配各 种终端及网络条件，要求短时间内准备大量的计 算资源进行大规模并行转码处理，同时希望基于 FFmpeg自建的转码服务能简单迁移。 解决问题 1.如何使用函数计算部署音视频处理系统。 2.如何进行系统的压测。 产品列表 函数计算服务 文件存储NAS 对象存储OSS 函数工作流FnF 日志服务SLS
Function Compute 实现弹性音视频处理系统 最佳实践 架构图 场景描述 本示例通过 Function Compute 部署一个高弹 性高可用的音视频处理系统。尤其适合视频网站 使用，每天有大量的上传视频，需要及时转码处 理以适配各种终端及网络条件，要求短时间内准 备大量的计算资源进行大规模并行转码处理，同 时希望基于 FFmpeg自建......
自建Hive数据仓库跨版本迁移到阿里云Databricks数据洞察
场景描述 客户在IDC或者公有云环境自建Hadoop集群构建数据仓库和分析系统，购买阿里云Databricks数据洞察集群之后，涉及到数仓数据和元数据的迁移以及Hive版本的订正更新。 方案优势 1. 全托管Spark集群免运维，节省人力成本。 2. Databricks数据洞察与阿里云其他产品（OSS、RDS、MaxCompute、EMR）进行深度整合，支持以这些产品为数据源的输入和输出。 3. 使用Databricks Runtime商业版引擎相比开源Spark性能有3-5倍的提升。 解决问题 1. Hive数仓数据迁移OSS方案。 2. Hive元数据库迁移阿里云RDS方案。 3. Hive跨版本迁移到Databricks数据洞察使用Delta表查询以提高查询效率。
蓝色字体 oss-cn-hangzhou-internal.aliyuncs.com为 OSS Endpoint的内网域 名。步骤3 查看最新生成的 distcp日志文件，当任务成功完成时，可以查看到相关报告：文档版本：20210425 28 自建 Hive数据仓库跨版本迁移到阿里云 Databricks数据洞察 Hive数据迁移 cat distcp.log 登录阿里云 OSS文件存储系统/user/hive目录下可以...
基于k8s多集群隔离环境下的devops实现
场景描述 DevOps是一组过程、方法与系统 的统称，并通过工具实现自动化部署， 确保部署任务的可重复性、减少部署出 错的可能性。随着微服务、中台架构的 兴起，devops重要性日益显著。 本方案使用两个独立的k8s集群： 用户已有的k8s模拟测试，ack集群模 拟生产环境，保证环境的高度隔离，互 不影响。通过gitlab+Jenkins的黄金组 合，实现容器应用的自动化构建和持续 部署，提高迭代效率。 解决问题 1.微服务应用的CI/CD。 2.测试和生产环境的高度隔离。 3.自动化的测试与部署。 4.现有CI对接ACK。 产品列表 专有网络VPC 容器服务ACK 容器镜像服务ACR 弹性公网IP 负载均衡SLB
2.修改 withKubeConfig函数参数，这里使用了 kubernetes cli plugin，其参数可以根 据前文创建的客户端 config配置文件内容来配置，也可以通过 jenkins流水线语法 模板来生成：文档版本：20220121 46 基于 K8S多集群隔离环境下的 DevOps实现 持续集成及持续部署 Kubernetes server endpoint、Cluster name、Context name等...
基于SLS实现统一告警最佳实践
告警对于企业的开发运维，安全运维，业务运维有着至关重要的作用。然而很多企业在告警运维方面存在着重复建设、监控质量差、告警风暴、触达不人性化、无法闭环等问题。 针对企业在告警管理方面存在的痛点问题，SLS告警提供了一站式云上告警管理方案，具有弹性易用、稳定可靠、功能持续升级、成本更低、噪音更少等优势。企业可以将现有的监控方案系统无缝接入到SLS告警平台，实现在SLS上一站式管理告警。
Alertmanager configuration alerting:alertmanagers:path_prefix:/event/webhook/RAMAK_{ACCESS_KEY_ID}/{WEBHOOK_APP_ID} api_version:v2 static_configs:targets:{ALIYUN_SLS_ENDPOINT} 说明：➢ path_prefix：配置路径信息，此处配置为您在日志服务中创建开放告警服务和应用 后生成的接口信息（子路径部分）。...
RI和SCU全链路使用实践
场景描述 随着云计算的不断发展，更多的企业会使用云计算，且会有越来 越多的企业和用户开始重视云上使用成本。 其中计算和存储是云资源使用的主要服务之一。采用预留实例券 业务架构（RI）和存储容量单位包（SCU）可以帮助客户灵活的节省成本。 本文提供全链路使用实践，帮助客户快速验证云上服务，更合理 的使用RI/SCU。借助覆盖率指标和智能推荐，有效管理云上资 源成本。 用户价值 使用RI 和SCU，可以灵活抵扣相关资源。随时创建释放， 稳态业务资源效率提高。 一份RI 可以抵扣ECS+ACK+EMR+ECI 等服务，跨服务高 度灵活，无需再分开购买。 SCU可以跨可用区抵扣某个地域下所有类型的按量付费云 盘，简化购买与管理复杂度。 RI+SCU 大幅降低按量场景的计算和存储成本。 产品列表 专有网络VPC、容器服务Kubernetes 版ACK 云服务器ECS、预留实例券RI、存储容量单位包SCU
RI和 SCU 全链路使用实践 业务架构 场景描述 随着云计算的不断发展，更多的企业会使用云计 算，且会有越来越多的企业和用户开始重视云上 使用成本。其中计算和存储是云资源使用的主要服务之一。采用预留实例券（RI）和存储容量单位包（SCU）可以帮助客户灵活的节省成本。...http(s):/ecs.aliyuncs....:/[Endpoint...
企业上云workshop
本文模拟了如下场景: 1. 线下 IDC 环境中部署了一个业务系统，业务是利用 wordpress 系统提供网站服务。 2. 本文详细介绍了如何将以上线下系统搬迁到云上， 包括如何在云上构建以上业务系统，如何迁移线下 系统到云上，如何割接。 3. 最后介绍了迁移上云后，如何部署安全系统。 解决问题 IDC 业务系统搬迁上云 云上构建业务系统 部署安全系统
根据实际情况设置目的 endpoint、目的 bucket以及目标前缀。本例中：destDomain=http://oss-cn-hangzhou-internal.aliyuncs.com destBucket=idc-workshop destPrefix= 4. 保存配置文件并退出。步骤3 执行数据迁移任务。bash import.sh 文档版本：20210617 57 企业上云 workshop-IDC业务迁移上云 NAS迁移 数据迁移任务完成后...
来自：
最佳实践
相关产品：专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,负载均衡 SLB,弹性公网IP,文件存储NAS,云数据库PolarDB,Web应用防火墙,云防火墙,SSL证书,云速搭
- 产品推荐
- 这些文档可能帮助您