SLS数据入湖Kafka最佳实践
应用和数据分散在多云或混合云，在面对多云/混合云这样大的趋势下，数据无法进行统一的聚合、分析处理和导出等，本方案给出了在多云/混合云场景下，构建通过标准的Kafka协议和托管服务，SLS可以连接Kafka数据入湖导入，然后进行统一的海量数据的集中存储、智能转储、聚合分析查询等。
专有网络VPC 日志服务SLS 云消息队列KAFKA 最佳实践频道 Serverless应用引擎SAE http://bp.aliyun.com 云虚拟机ECS 阿里云最佳实践分享群 云速搭CADT 钉钉搜索钉群号31852400入群 ARMS免费试用群 钉钉搜索钉群号3360022492入群 可观测可视化Grafana版用户群 钉钉搜索钉群号34785590入群 Kubernetes监控...
MSE云原生网关解析body内容进行路由转发
MSE云原生网关中通过自定义插件transformer解析body内容，并用以路由转发规则判断
产品列表 专有网络 VPC 传统负载均衡 CLB 云原生网关 MSE Serverless应用引擎 SAE 云速搭 CADT 最佳实践频道 http://bp.aliyun.com 阿里云最佳实践分享群 钉钉搜索钉群号31852400入群 微服务引擎MSE用户交流群 钉钉搜索钉群号43525005207入群 MSE云原生网关解析 body内容进行路由转发 最佳实践 文档版本：20240426（发布...
AnalyticDB和通义千问快速构建RAG应用
利用AnalyticDB PostgreSQL与DashScope灵积模型服务提供的通义千问模型构建Retrieval-Augmented Generation (RAG) 应用，通过检索相关信息并结合上下文生成准确的自然语言回答，增强语言模型处理和理解复杂查询的深度。
搜索优化增强搜索效果，不仅返回相关的文档链接，而且能直接提供内容摘要。写作助手在写作过程中，按照作者的要求，快速检索相关资料并生成内容，帮助作者提高写作效率和内容质量。方案部署01部署准备准备阿里云账号，并开通DashScope。02部署资源部署网络资源、云服务器ECS实例、AnalyticDB for PostgreSQL实例，并在ECS...
来自：
解决方案
通过ES兼容接口方式使用Kibana访问SLS数据
自建ELK日志系统的客户迁移到阿里云日志服务SLS后，对SLS查询分析语法不太熟悉的客户，可以继续沿用原有的查询分析习惯，在不改变使用方式习惯的情况下，通过Elasticsearch兼容接口的方式使用Kibana访问SLS。
通过ES兼容接口方式使用Kibana访问SLS数据最佳实践 业务架构 场景描述 日志服务SLS提供Elasticsearch兼容接口，支 持客户将日志采集到日志服务后，仍可以继续沿 用Elasticsearch的查询方案，即通过使用 Kibana访问日志服务的Elasticsearch兼容接 口，实现查询SLS数据。应用场景 自建ELK日志系统的客户迁移到阿里云日志服 务...
基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
在大数据ETL场景，Kafka是数据的流转中心，Kafka中的数据一般是原始数据，可能存在多种数据混杂的情况，需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC，可以快速高效的搭建数据处理链路，用户只需要关注数据处理的逻辑，数据的触发，弹性伸缩，运维监控等阿里云函数计算都已经做了集成，函数计算FC也支持多种下游，OSS/数据库/消息队列/ES等都可以自定义的对接
存储引擎：阿里云 Kafka架构，有云存储和 Local存储。（详细对比参见文档：https://help.aliyun.com/zh/apsaramq-for-kafka/cloud-message-queue-for- kafka/product-overview/comparison-between-storage-engines ）◆消息类型：普通消息。创建Group：◆Group名称：根据实际业务自行填写。Group描述：根据实际业务自行填写...
容器场景下的应用性能监控、调用链拓扑、内存剖析
场景描述 随着云原生及微服务技术的普及，越来越多的系统已经通过云原生和微服务技术实现企业的降本增效，同时因微服务及云原生的复杂性给系统运维带来非常大的挑战，云原生应用监控arms通过全链路应用监控，从端到端及代码级别的链路下钻能力、CPU、内存持续剖析及诊断能力，帮助客户降低系统故障定位难度，此demo，您将体验arms的链路监控、内存剖析等能力 应用场景 微服务+容器场景下链路调用拓扑，调用链可以显示出服务之间的调用顺序和层次关系，帮助开发人员理解和追踪代码的执行流程 在分布式系统中，一个请求往往需要通过多个服务来完成。当出现问题时，如请求超时、错误或异常，很难快速定位问题所在。 解决问题 调用链可以帮助运维人员解决以下问题： · 故障排查：当请求失败或出现错误时，调用链可以显示整个请求的路径和每个服务的执行情况，从而帮助运维人员快速定位问题所在。 · 性能优化：通过调用链，运维人员可以了解请求在系统中的执行时间和瓶颈所在，从而进行优化。 · 系统监测：调用链可以提供实时的系统监测和分析，帮助运维人员了解系统的健康状况和资源利用情况。
容器服务(ACK)解决问题 应用实时监控服务ARMS 调用链可以帮助运维人员解决以下问题： 阿里云NAT网关（NATGateway） 故障排查：当请求失败或出现错误时，调用链 微服务引擎MSE 可以显示整个请求的路径和每个服务的执行情 弹性公网IP 况，从而帮助运维人员快速定位问题所在。 云速搭CADT 性能优化：通过...
MSE网关使用JWT进行认证鉴权
MSE网关中调用外部的认证鉴权服务，通过JWT的方式进行全局认证鉴权。 对网关有认证鉴权安全需求的场景，对于敏感的服务路由（可通过黑白名单方式配置）在网关层进行认证鉴权。
解决问题 MSE网关和认证鉴权服务的集成问题 产品列表 专有网络 VPC 传统负载均衡 CLB 云原生网关 MSE 最佳实践频道 Serverless应用引擎 SAE http://bp.aliyun.com 云速搭 CADT 阿里云最佳实践分享群 钉钉搜索钉群号31852400入群 微服务引擎MSE用户交流群 钉钉搜索钉群号43525005207入群 MSE云原生网关使用 JWT进行认证鉴权 ...
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景，将Kafka中的消息流转到其他下游服务是很常见的场景，除了常规的消息流转外，很多场景还需要基于消息体内容做判断，然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后，会自动触发函数计算中的函数，接收到消息，对消息内容做判断，然后再操作MongoDB。用户可以对提供的默认函数代码做修改，来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品，并完成了大多数的配置，用户只需要到函数计算和MongoDB控制台做少量配置即可。
记录 MongoDB连接地址 步骤1 进入数据库链接页面，可以看到 ConnectionStringURI 连接地址，推荐使用该高可用连 接地址，后续在函数计算 FC 中会使用到该连接地址。24 文档版本：20240304 基于函数计算 FC 实现阿里云 Kafka 消息内容控制 MongoDB DML 操作 场景验证 创建 库和集合 2.3.MongoDB 步骤1 点击页面右上角登录...
基于MSE云原生网关同城多活
借助云原生微服务MSE网关，MSE配置注册中心的同城容灾多活微服务应用。构建一个经典的微服务场景，实现同城容灾的步骤，体现云原生相关产品在用户上云，高可用同城容灾多活场景下的能力。
微服务引擎 MSE注册配置中心 云速搭 CADT NAT网关 弹性公网 IP 最佳实践频道 http://bp.aliyun.com 阿里云最佳实践分享群 钉钉搜索钉群号 31852400入群 微服务引擎MSE用户交流群 钉钉搜索钉群号 43525005207入群 基于 MSE云原生网关同城多活 最佳实践 文档版本：20240405（发布日期）基于MSE云原生网关同城多活最佳实践 ...
云数据库RDS PostgreSQL
云数据库RDS PostgreSQL 版完全兼容开源PostgreSQL，基于云原生架构，软硬协同优化，提供稳定可靠、高性价比的数据库服务。通过丰富的插件拓展，支撑各领域场景化业务，如自研Ganos多维多模时空引擎及开源PostGIS地理信息引擎、向量引擎、时序引擎等百余款插件。
通过全文搜索，应用将不再需要额外搭建搜索引擎，只通过SQL操作即可实现全文检索(Full Text Search)及模糊查询.支持向量相似.支持pgvector(高维向量)、Smlar(文本相似)、Pase(高维向量模块)等插件，满足AIGC、图像识别、图像检索等场景需求.支持实时推荐.支持ltree(树模块)、varbitx(位图模块)、pg_roaringbitmap(高级位图...
来自：
云产品
自建ElasticSearch迁移阿里云
场景描述 以ElasticSearch为例，演示搭建模拟业务系统、 VPN网关和IPSecVPN隧道，介绍如何通过快照 的方式，将ElasticSearch索引数据安全备份到 阿里云OSS存储空间，以及介绍如何将备份在 OSS的快照仓库恢复到阿里云ElasticSearch实 例，进一步达到ElasticSearch迁移上云的目的。 解决的问题 自建ElasticSearch的云上/跨云备份需求。 自建ElasticSearch迁移到阿里云 ElasticSearch服务实例。 产品列表 VPC，ECS，VPN网关，OSS，阿里云ElasticSearch，云速搭CADT
文档版本：20210802 13 自建 ElasticSearch的索引快照备份 OSS 基础环境搭建 步骤5 Index Pattern创建完成后，查看索引信息，可以看到日志信息已经保存在 ElasticSearch的索引中，使用者可以尝试搜索某个 IP地址或者其他关键字来验证搜 索功能。文档版本：20210802 14 自建 ElasticSearch的索引快照备份 OSS 基础环境搭建 ...
企业上云workshop
本文模拟了如下场景: 1. 线下 IDC 环境中部署了一个业务系统，业务是利用 wordpress 系统提供网站服务。 2. 本文详细介绍了如何将以上线下系统搬迁到云上， 包括如何在云上构建以上业务系统，如何迁移线下 系统到云上，如何割接。 3. 最后介绍了迁移上云后，如何部署安全系统。 解决问题 IDC 业务系统搬迁上云 云上构建业务系统 部署安全系统
文档版本：20210617 15 企业上云 workshop-IDC业务迁移上云 RDS实例配置 操作步骤 步骤1 接上节，在数据库管理中选择创建数据库。步骤2 创建 Wordpress 应用数据库 wp_db，并授权已创建的数据库用户 wp_dbuser对数据 库拥有读写权限。步骤3 确认创建成功。文档版本：20210617 16 企业上云 workshop-IDC业务迁移上云 RDS实例...
来自：
最佳实践
相关产品：专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,负载均衡 SLB,弹性公网IP,文件存储NAS,云数据库PolarDB,Web应用防火墙,云防火墙,SSL证书,云速搭
Oracle数据库与应用迁移PolarDB
场景描述 本最佳实践适用于Oracle数据库及应用迁 移到阿里云PolarDB数据库（Oracle兼容 版）。通过ADAM将Oracle数据库迁移到 PolarDB数据库，可以降低应用升级、运 维成本，同时提升系统弹性，实现数据库 及应用全栈上云。 解决问题 1.解决Oracle及其应用迁移上阿里云， 通过ADAM评估迁移工具，降低迁移 风险，提高迁移效率。 2.使用PolarDB（Oracle兼容版）数据 库，提升数据库并发读能力，降低运维 成本。 产品列表 数据库和应用迁移（ADAM） PolarDB（Oracle兼容版） 云服务器（ECS） 专有网络（VPC）
目标数据库是阿里云数据库实例 DTS会自动将对应地区 DTS服务的 IP地址添加到 阿里云数据库实例的白名单或 ECS的安全规则中，您无需手动添加，直接点击测试链 文档版本：20220210 47 Oracle数据库与应用迁移 PolarDB 数据库改造迁移 接。步骤4 测试链接，成功后，配置 DTS任务步骤为“全量迁移”，设置“预检查并报错拦截”...
基于MaxCompute的大数据BI分析
场景描述 本文以电商行业为例，将业务数据和日志数据使用 MaxCompute做ETL之后，同步到ADB进行实时 分析，之后通过QuickBI进行快速可视化展示。 解决问题 1.互联网行业、电商、游戏行业等网站、App、 小程序应用内BI分析场景。 2.可扩展到各类网站BI分析场景使用。 产品列表 1.MaxCompute 2.分析型数据MySQL版 3.日志服务SLS 4.QuickBI 5.云服务器ECS 6.RDSMySQL版
步骤3 通过搜索关键字“MaxCompute实时离线”，找到“MaxCompute实时离线一体化分 析”模板，单击基于方案新建。步骤4 创建后，进入如下页面。文档版本：20211213 6 基于 MaxCompute的大数据 BI分析 部署基础环境 根据模板中的设置，依次修改各个产品的参数。参考如下配置：网络配置：类别 配置项 说明 专有网络 名称 选择...
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
本篇最佳实践先创建EMR集群作为数据湖对象，Hive元数据存储在DLF，外表数据存储在OSS。然后使用阿里云数据仓库MaxCompute以创建外部项目的方式与存储在DLF的元数据库映射打通，实现元数据统一。最后通过一个毒蘑菇的训练和预测demo，演示云数仓MaxCompute如何对于存储在EMR数据湖的数据进行加工处理以达到业务预期。
选择受信服务：大数据计算服务 接下来，创建自定义权限策略 步骤1 在权限策略管理页面，单击创建权限策略。步骤2 设置策略名称，选择脚本配置模式，输入自定义策略，单击确定。基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测 自定义权限策略：{"Version":"1","Statement":[{"Action":["oss:ListBuckets","oss:...
微服务引擎的线上流量治理
随着业务不断创新，微服务架构及数字化转型不断落地，在这个过程中，大量企业采用了开源的组件构建了微服务，比如有开源微服务全家桶之称的Spring Cloud体系或Apache Dubbo等，微服务的好处之一，在于快速迭代，如何在迭代过程中保障线上流量不受损？ 开源产品无运维工具，常常需要投入较大的运维人力和成本。 本实践将重点介绍如何快速集成主流开源微服务框架，实现业务零改造，解决开源框架在生产落地过程中的痛点，例如无损上下线、标签路由等，并通过托管微服务开源组件（API网关、注册中心、配置中心等）的服务，提供白屏化监控告警、容灾、宕机重启、扩缩容等能力，帮助企业释放业务无关的运维成本，聚焦业务本身的运维和发展。 方案优势 快速集成：通过JavaAgent技术实现Sping Cloud和Dubbo框架可以实现业务零改造接入。 免运维：托管微服务依赖开源中间件的服务，提供白屏化监控告警、容灾、宕机重启、扩缩容等能力，帮助我们客户释放业务无关的运维成本，聚焦自身业务本身的运维和发展。 开源增强：提供开源框架在生产落地过程中的痛点，例如应用无损上下线/金丝雀发布/南北+东西流量打通等，帮助客户的业务提高自身SLA和降低自研成本。
效果演示 本章节，我们将通过电商演示无损下线的功能，为了达到对比的效果，我们已经将调 用链接上面的服务部分接入到 MSE微服务治理（比如，frontend、cartservice），基于 Spring Cloud的 productservice暂时未接入到应用中心，我们通过下面的操作，观察 请求调用成功和失败的次数。步骤1 访问电商主页，单击进入相应的...
- 产品推荐
- 这些文档可能帮助您