基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景，企业的Kafka实例可能存在多种情况，比如使用阿里云Kafka服务，可能是自建开源Kafka，或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例，在这个前提下Kafka实例之间可能会需要消息同步的情况： 同帐号容灾场景：比如Kafka实例都是阿里云Kafka，但是Kafka实例会有主备之分，需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾：这类场景比如主Kafka是阿里云Kafka，备Kafka是IDC开源自建Kafka，或者是其他云上的Kafka。 不同业务之间消息同步：因为现在的业务通常不会是信息孤岛，都需要消息互通，所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例，并且这两个Kafka实例归属不同的RAM角色，有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题（重试机制，容错机制，死信队列等）。 大幅提升构建消息同步架构的效率，降低构建复杂度问题。
不同的业务使 用不同类型的Kafka实例，在这个前提下Kafka实 例之间可能会需要消息同步的情况： 同帐号容灾场景：比如Kafka实例都是阿里云 Kafka，但是Kafka实例会有主备之分，需要将 产品列表 主Kafka实例的消息实时同步到备Kafka。 专有网络VPC 跨帐号或异地容灾：这类场景比如主Kafka是阿 里云Kafka，备Kafka是IDC...
容器场景下的应用性能监控、调用链拓扑、内存剖析
场景描述 随着云原生及微服务技术的普及，越来越多的系统已经通过云原生和微服务技术实现企业的降本增效，同时因微服务及云原生的复杂性给系统运维带来非常大的挑战，云原生应用监控arms通过全链路应用监控，从端到端及代码级别的链路下钻能力、CPU、内存持续剖析及诊断能力，帮助客户降低系统故障定位难度，此demo，您将体验arms的链路监控、内存剖析等能力 应用场景 微服务+容器场景下链路调用拓扑，调用链可以显示出服务之间的调用顺序和层次关系，帮助开发人员理解和追踪代码的执行流程 在分布式系统中，一个请求往往需要通过多个服务来完成。当出现问题时，如请求超时、错误或异常，很难快速定位问题所在。 解决问题 调用链可以帮助运维人员解决以下问题： · 故障排查：当请求失败或出现错误时，调用链可以显示整个请求的路径和每个服务的执行情况，从而帮助运维人员快速定位问题所在。 · 性能优化：通过调用链，运维人员可以了解请求在系统中的执行时间和瓶颈所在，从而进行优化。 · 系统监测：调用链可以提供实时的系统监测和分析，帮助运维人员了解系统的健康状况和资源利用情况。
容器服务(ACK)解决问题 应用实时监控服务ARMS 调用链可以帮助运维人员解决以下问题： 阿里云NAT网关（NATGateway） 故障排查：当请求失败或出现错误时，调用链 微服务引擎MSE 可以显示整个请求的路径和每个服务的执行情 弹性公网IP 况，从而帮助运维人员快速定位问题所在。 云速搭CADT 性能优化：通过...
容器多云统一监控日志
多云、混合云成为常态，Forrester 报告中指出，未来 89% 的企业至少使用两个云，74% 的企业至少使用三个甚至更多公有云，在面对多云/混合云这样大的趋势下，Gartner报告指出，安全、运维复杂性、财务复杂性是多云架构的主要挑战，本方案给出了在多云/混合云场景下，构建基于容器环境下的统一管理、统一监控和统一日志方案，解决多云、混合云场景下，运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商（AWS、Azure、GCP、TencentCloud、HuaweiCloud等）或者IDC基于容器（Kubernetes）运行业务系统，希望构建容器场景下的统一监控日志系统，方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统，在一个平台可以看到不同环境系统的运行情况。
最佳实践 文档版本：20240322（发布日期）容器多云统一监控日志 文档版本信息 文档版本信息 文档信息 属性 内容 文档名称 容器多云统一监控日志 文档编号 367 文档版本 V1.2 版本日期 2024-03-24 文档状态 外部发布 制作人 寒砚 审阅人 游圣 变更记录 版本编号 日期 作者 审阅人 说明 V1.0 2024-03-22 寒砚 游圣 初始版本 V...
SAE-ACK应用双跑最佳实践
场景描述 实现ACK、SAE中部署的应用在东西向和南北向互通，实现SAE-ACK应用双跑。 应用场景 该最佳实践应用于两类场景： l 因为SAE支持更丰富自动扩缩指标（比如QPS，RT，TCP连接数等），所以将相对稳态的应用部署在ACK中，将相对弹性波动大的应用部署在SAE，借助SAE更强大的自动扩缩应对流量洪峰。 l 将K8s架构迁移到Serverless架构时，需要平滑过渡，所以该最佳实践中的双跑架构可以有效帮用户平滑的完成迁移。
专有网络（VPC） 将K8s架构迁移到Serverless架构时，需要 虚拟交换机 平滑过渡，所以该最佳实践中的双跑架构可 阿里云Serverless应用引擎（SAE）以有效帮用户平滑的完成迁移。 阿里云微服务引擎（MSE）解决问题 阿里云容器服务（ACK） 安全组 因为K8s的HPA设置相对复杂，默认提供 云速搭CADT 的CPU...
IPv4网关实现流量统一出入口
对公网流量出入有严格的限制，禁止ECS直接通过挂载公网IP访问互联网带来安全隐患
文档版本信息 文档版本信息 文档信息 属性 内容 文档名称 IPv4网关实现流量统一出入口 文档编号 356 文档版本 V1.0 版本日期 2024-0204 文档状态 外部发布 制作人 嘉辽 审阅人 变更记录 版本编号 日期 作者 审阅人 说明 V1.0 2024-02-04 嘉辽，哨羊 文档版本：20240131 I 大模型RAG对话系统部署最佳实践 目录 目录 文档版本...
Oracle RAC 12C云上部署
Oracle RAC架构迁移上云，提供高并发，高吞吐，高安全等特性，适用于金融，电力，电信，制造业等传统客户的核心交易系统。
基于ESSD存储NVMe协议提供的多实 例共享能力的双机集群OracleRAC架 构，为用户提供统一数据服务的同时提 供故障切换与恢复能力（FailOver集群 功能），避免单点故障，减少停机时间，确保系统全年7*24小时稳定运行。2.在集群环境运行中的所有实例通过共享 的数据库运行事物，RAC架构相对上层 应用架构完全透明，整体数据负载...
Kafka性能压测快速方案
产品性能基线测试场景需要对产品进行性能测试得到详细的压测数据，本方案可以快速构建测试的客户端（kafka官方的压测客户端）和不同的Kafka服务端（ SSD云盘版、高效云盘、Serverless版三种实例），方便客户进行POC完成性能验证。
应用场景 有需要通过PoC得到Kafka产品性能实测数据 时可以用本实践来快速完成环境搭建及性能测 试。解决问题 Kafka压测环境的快速构建 产品列表 Kafka官方压测客户端完成性能压测 专有网络VPC 云虚拟机ECS 弹性公网IP 消息队列Kafka版 消息队列KafkaSeverless版 云速搭CADT 最佳实践频道 ...
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景，将Kafka中的消息流转到其他下游服务是很常见的场景，除了常规的消息流转外，很多场景还需要基于消息体内容做判断，然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后，会自动触发函数计算中的函数，接收到消息，对消息内容做判断，然后再操作MongoDB。用户可以对提供的默认函数代码做修改，来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品，并完成了大多数的配置，用户只需要到函数计算和MongoDB控制台做少量配置即可。
29 文档版本：20240304 基于函数计算 FC 实现阿里云 Kafka 消息内容控制 MongoDB DML 操作 场景验证 l mongodb_endpoint：上述 2.2 步骤中记录的 MongoDB 连接地址 l mongodb_db_name：上述 2.3 步骤中创建的库名称 kafkaToMongoDB l mongodb_collection_name：默认的集合名称 test l mongodb_user：root 123456!...
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
本方案基于云速搭 CADT提供一个快速构建云上Serverless版HPC批量计算环境的模板，针对生物制药领域的药物筛选场景，提供开箱即用的整套解决方案工具包，整个云上环境仅需1个小时即可完成自动化部署搭建。
在详情页面给该 ECS实 例授予上一步创建的角色。文档版本：20240204 17 基于云速搭 CADT部署药物筛选批量计算环境-Serverless版 CADT部署环境 文档版本：20240204 18 基于云速搭 CADT部署药物筛选批量计算环境-Serverless版 CADT部署环境 3.5.2.初始化脚本执行 步骤22 通过 workbench登录该 ECS节点。指定密钥登录。文档...
基于MSE云原生网关同城多活
借助云原生微服务MSE网关，MSE配置注册中心的同城容灾多活微服务应用。构建一个经典的微服务场景，实现同城容灾的步骤，体现云原生相关产品在用户上云，高可用同城容灾多活场景下的能力。
文档版本：20240423 40 基于MSE云原生网关同城多活最佳实践 场景验证 步骤4 等待压测任务生成 步骤5 查看压测数据 步骤6 通过在 ack-main中删除资源方式模拟机房故障，有损秒级切换，查看 PTS压测曲线 文档版本：20240423 41 基于MSE云原生网关同城多活最佳实践 场景验证 服务删除时，压测曲线会出现毛刺，请记录删除操作...
基于SpringCloud应用玩转MSE实践
随着业务不断创新，大型的单个应用和服务会被拆分为数个甚至数十个微服务，微服务架构已经被广泛应用。 微服务的好处在于快速迭代，如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具，常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
状态为计价成功时，可以单击查看报告，价格清单中的价格信息为当前的实时价格。确认价格符合预期，可以单击下一步：确认订单。应用计价成功后，CADT会实时生成一个应用架构成本分析报告，可以单击查看报告。文档版本：20240229基于SpringCloud应用玩转MSE 如果确认价格符合预期，可以单击下一步：确认订单。步骤8 确认订单...
实时计算Flink版
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，具备实时应用的作业开发、数据调试、运行与监控、自动调优、智能诊断等全生命周期能力。内核引擎100%兼容Apache Flink，2倍性能提升，拥有FlinkCDC、动态CEP等企业级增值功能，内置丰富上下游连接器，助力企业构建高效、稳定和强大的实时数据应用。
内核引擎优化：CPU每秒数十万记录处理能力 Nexmark 测试性能较开源提升200%状态存储后端优化.100%兼容Apache Flink 支持开源 Flink 平滑迁移上云 无缝对接主流开源大数据生态.100%兼容开源.自定义连接器、UXF能力扩展 Open API帮助用户集成自身系统 用户开发能力扩展与沉淀复用 用户自身系统集成.开放被集成能力强.中国信通...
来自：
云产品
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
基于 Flink+ClickHouse构建实时游戏数据分析 最佳实践 业务架构 背景描述 在互联网、游戏行业中，常常需要对用户行 为日志进行分析，通过数据挖掘，来更好地 支持业务运营，比如用户轨迹，热力图，登 录行为分析，实时业务大屏等。当业务数据 量达到千亿规模时，常常导致分析不实时，平均响应时间长达 10分钟，影响业务的正...
大数据近实时数据投递MaxCompute
本文介绍离线大数据场景使MaxCompute构建云 上近实时数仓，打通云下数据上云链路，解决数据复杂类型支持和动态分区问题，满足高级数据处理需求的最佳实践。 l混合云环境下，现有业务系统零改造，打通数据上云链路。 l使用UDF实现复杂数据类型转换和数据动态分区。 l使用DataWorks配置周期调度业务流程，数据自动入仓。 l借助MaxCompute优化计算引擎，实现降本增效。 产品列表 云服务器ECS 专有网络VPC 访问控制RAM 数据总线DataHub E-MapReduceEMR DataWorks 大数据计算服务MaxCompute
文档版本：20240419（发布日期）文档版本：20150122（发布日期）I 大数据近实时数据投递 MaxCompute 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 大数据近实时数据投递 MaxCompute 文档编号 166 文档版本 V1.3 版本日期 2024-04-19 文档状态 对外发布 制作人 厉博 审阅人 文档变更记录 版本编号 日期 作者 审核...
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景，Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
基于 Flink的资讯场景实时数仓 最佳实践 业务架构 场景描述 产品列表 本实践针对资讯聚合类业务场景，Step by Step介绍 实时计算 如何搭建实时数仓。专有网络 VPC 云数据库 RDS MySQL版 分析型数据库 MySQL版 解决问题 消息队列 Kafka 对象存储 OSS 1.如何搭建实时数仓。NAT网关 2.通过实时计算 Flink实现实时 ETL和数据流...
开源Flink迁移实时计算Flink全托管版最佳实践
本方案介绍如何将自建开源Flink集群的流式任务（包含Datastream、Table/SQL、PyFlink任务）迁移至阿里云实时计算全托管版。
属性 内容 文档名称 开源 Flink迁移实时计算 Flink全托管版最佳实践 文档编号 285 文档版本 V1.0 版本日期 2021-12-22 文档状态 外部发布 制作人 弦望、七凌 审阅人 文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 2021-12-22 纯庚、弦望、七凌 创建 文档版本：20211222 I 开源 Flink迁移实时计算Flink全托管版 前言 ...
应用实时监控服务ARMS
作为云原生可观测平台，应用实时监控服务 ARMS 包含前端监控、应用监控、云拨测等模块。覆盖浏览器、小程序、APP、分布式应用、容器等不同可观测环境与场景。帮助企业实现全栈性能监控与端到端追踪诊断。提高监控效率，压降运维工作量。
基于钉钉的 ChatOps，借助报警管理、报警记录、历史查看，让告警变得可协作，可追溯，可统计.提供异常检查、智能降噪等算法能力有效减少无效告警.告警根因分析.基于应用上下文的告警根因分析，提升故障定位效率.智能告警管理增强.全局统一聚合查询，统一 Grafana 数据源，统一告警等能力.多实例全局聚合查询.默认集成阿里云...
来自：
云产品
大模型RAG对话系统部署
大模型RAG对话系统最佳实践，旨在指引AI开发人员如何有效地结合LLM大语言模型的推理能力和外部知识库检索增强技术，从而显著提升对话系统的性能，使其能更加灵活地返回用户查询的内容。适用于问答、摘要生成和其他依赖外部知识的自然语言处理任务。通过该实践，您可以掌握构建一个大模型RAG对话系统的完整开发链路。
大模型 RAG对话系统部署 最佳实践 业务架构 场景描述 大语言模型（LLM）在生成准确和实时的回复方面存 在局限性，不适合直接用于需要精确信息的客服或问 答等场景。当前业界普遍采用基于检索增强的 RAG 技术来改善 LLM的表现。该方法通过结合 LLM的归 纳生成能力和向量检索库的检索能力，增强对用户查 询的理解，并产生更加...
- 产品推荐
- 这些文档可能帮助您