基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景，将Kafka中的消息流转到其他下游服务是很常见的场景，除了常规的消息流转外，很多场景还需要基于消息体内容做判断，然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后，会自动触发函数计算中的函数，接收到消息，对消息内容做判断，然后再操作MongoDB。用户可以对提供的默认函数代码做修改，来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品，并完成了大多数的配置，用户只需要到函数计算和MongoDB控制台做少量配置即可。
u 分区数：默认 12 个分区，通常建议分区数是 12 的倍数，减少数据倾斜风险。u 存储引擎：阿里云 Kafka 架构，有云存储和 Local 存储。（详细对比参见文档：https://help.aliyun.com/zh/apsaramq-for-kafka/cloud-message-queue-for- kafka/product-overview/comparison-between-storage-engines ）u 消息类型：普通消息。...
数据管理与服务
数据管理与服务作为阿里云产品六大版块之一，面向不同业务场景，阿里云提供数据存储、分析、应用等全链路能力，满足企业客户全方位的数据处理需求，实现计算和存储分离、资源解耦、数据移动减化，用以满足行业快速发展的需求和趋势，利用数据重塑其业务。
数据管理 DMS.云原生大数据计算服务 MaxCompute.大数据开发治理平台 DataWorks.实时数仓 Hologres.实时计算 Flink 版.检索分析服务 Elasticsearch 版.开源大数据平台 E-MapReduce.智能用户增长 Quick Audience.图计算服务 Graph Compute.数据湖构建 Data Lake Formation.数据可视化 DataV.数据可视化分析平台 Quick BI.数据...
来自：
云产品
云数据库 RDS MySQL 版
阿里云云数据库RDS MySQL是一种稳定可靠、可弹性伸缩的在线MySQL数据库服务, 提供了高可用、高可靠、高安全、易运维等一站式的数据库解决方案，帮助您免除MySQL运维的烦恼。
相关产品云数据库 RDS MySQL本产品数据管理 DMS数据传输服务 DTS云服务器 ECS专有网络 VPC负载均衡 SLB一键部署RDS MySQL 基础版全新升级RDS MySQL 基础版全新升级，推出超高性价比的经济规格1核1G 和1核2G，专为中小型企业量身打造，月付低至18元/月起，包年更享75折！查看详情三分钟了解云数据库 RDS MySQL一站掌握云...
来自：
云产品
OA云资源申请流程自动化
在企业级客户场景中，对云资源的使用通常需要经过内部OA流程审批通过后再进行部署。本最佳实践致力于提供一个通用解决方案，以解决OA云资源申请流程中的自动化问题，提高运维效率，以更好地支撑业务创新。
提交工单并完成审批 步骤11 用户李四登录 OA系统，选择门户->流程 步骤12 在 OA中提交一个申请单 文档版本：20240130 31 OA云资源申请流程自动化 CADT自动化集成配置 步骤13 主管张三登录 OA系统，并完成审批 步骤14 此时通过 DMS可以查看到数据已同步到 cadt_task_21表格中。文档版本：20240130 32 OA云资源申请流程自动化...
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
文档版本：20201224 28 基于 Flink+ClickHouse构建实时游戏数据分析 基础环境部署 步骤9 通过 DMS数据管理，登录云数据库 ClickHouse。步骤10 输入数据库账号和数据库密码，单击测试连接。文档版本：20201224 29 基于 Flink+ClickHouse构建实时游戏数据分析 基础环境部署 1.首次登录，按提示添加 IP网段到实例白名单中，...
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景，Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
步骤3 在数据管理 DMS控制台，选定本实践创建的数据库（info-db），单击数据导入。文档版本：20220223（发布日期）18 基于 Flink的资讯场景实时数仓 基础环境部署 步骤4 单击新增任务。在导入任务界面，选择在演示环境说明章节下载的示例 demo代码中的 article.sql、author.sql、category.sql、device_model_details.sql和 ...
数据库异地灾备
场景描述 适用于不满足于单地域，对数据可靠性 （RPO）和服务可用性（RTO）要求更高 的，希望防范断电、断网等机房故障，抵 御地震、台风等自然灾害，具备异地容灾 备份恢复能力的客户业务场景。 解决问题 1.实时备份，RPO达到秒级 2.表级恢复，故障恢复时间大大缩短 3.长期归档，自动管理备份生命周期 4.异地灾备，构建数据库灾备中心 产品列表 专有网络VPC 云服务器ECS 弹性公网IP（EIP） 负载均衡SLB 云数据库RDSMySQL 数据库备份服务DBS 对象存储服务OSS 数据湖分析服务DLA 数据管理服务DMS 数据传输服务DTS
步骤8 在恢复任务列表，可以看到该恢复任务状态从初始化中，运行中，变到完成，单击管 理，可查看恢复任务详情。文档版本：20220207 84 数据库异地灾备 容灾演练 步骤9 恢复完成后，点击 恢复任务 ID，进入恢复任务配置页面。步骤10 点击 RDS实例 ID，跳转 RDS控制台。步骤11 点击 查看连接详情。文档版本：20220207 85 ...
游戏数据运营融合分析
场景描述 1.游戏行业有结构化和非结构化数据融合分 析需求的客户。 2.游戏行业有数据实时分析需求的客户，无法 接受T+1延迟。 3.对数据成本有一定诉求的客户，希望物尽其 用尽量优化成本。 4.其他行业有类似需求的客户。 方案优势/解决问题 1.秒级实时分析：依托ADB计算密集型实例， 秒级监控DAU等数据，为广告投放效果提 供有力的在线决策支撑。 2.高效数据融合分析：打通结构化和非结构化 数据，支撑产品体验分析；广告买量投放效 果实时（分钟级）分析，渠道的评估更准确。 3.低成本：DLA融合冷数据分析+ADB存储密 集型温数据分析+ADB计算密集型热数据分 析，在满足各种分析场景需求的同时，有效 地降低的客户的总体使用成本。 4.学习成本低：DLA和ADB兼容标准SQL语 法，无需额外学习其他技术。 产品列表 专有网络VPC、负载均衡SLB、NAT网关、弹性公网IP 云服务器ECS、日志服务SLS、对象存储OSS 数据库RDSMySQL、数据传输服务DTS、数据管理DMS 分析型数据库MySQL版ADS 数据湖分析DLA、QuickBI
产品列表 专有网络 VPC、负载均衡 SLB、NAT网关、弹性公网 IP 云服务器 ECS、日志服务 SLS、对 象存储 OSS 数据库 RDS MySQL、数据传输服 务 DTS、数据管理 DMS 分析型数据库 MySQL版 ADS 数据湖分析 DLA、Quick BI 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 游戏数据运营融合分析 最佳实践 文档...
金融智能数仓解决方案
金融智能数仓解决方案是阿里云自研高性能、海量可扩展数据仓库服务、兼容部分 Oracle/Teradata 语法生态，大量应用于阿里巴巴集团内部电商，物流，文娱，广告等业务部门，服务于阿里云的金融、政企、互联网等各行业用户，支持快速构建新一代云化数据仓库服务。
兼容 Greenplum/PostgreSQL 数据库产品生态，可集成数据智能与构建 Dataphin、数据管理 DMS、数据传输 DTS、数据报表 QuikBI 等云产品，同时支持第三方数据开发管理、ETL、BI 报表等工具，满足用户多种业务需求.结合阿里巴巴多年内部应用和数据库的迁移经验，自主研发的应用和数据迁移评估工具 ADAM，能帮助用户最大限度...
来自：
解决方案
云数据库Redis
云数据库 Redis 版是一种全托管、兼容Redis协议的内存数据库服务，包含社区版Redis和企业版Tair，支持主从、集群和读写分离架构，具备低延迟、大吞吐、弹性扩缩容的特点。Tair提供多种系列满足不同场景的性价比要求，更有全球多活、数据闪回、大热Key探测与优化、丰富的数据结构，赋能大规模高性能要求的在线数据业务。
使用redis-cli或阿里云数据管理DMS连接Redis实例的方法.Redis数据库备份和恢复.支持自定义备份策略，通过克隆实例恢复到任意时间点.行业实战场景.SQL Server是发行最早的商用数据库产品之一，支持复杂的SQL查询，性能优秀，对基于Windows平台.NET架构的应用程序具有完美的支持.云数据库RDS SQL Server 版.高可靠双机热备...
来自：
云产品
互联网业务全球化互通组网
场景描述 本方案适用从事全球化业务的客户，希望借助全球 互通的网络，实现多地域的互通。 同时在全球互联的网络下，搭建应用多地部署。如果 业务中涉及到高速通道，提供高速通道迁移云企业网 的操作演练；涉及到跨账号多VPC下的数据迁移和 同步，本方案提供详细的操作步骤，帮助客户快速完 成演练。 解决问题 借助云企业网解决网络互通 高速通道到云企业网的平滑迁移 RDS的数据互通，特别是跨账号多VPC的数据同步 应用的快速部署 产品列表 云企业网（CEN）、云服务器（ECS）、数据库（RDS）、 数据库（Redis）、数据传输（DTS）、负载均衡（SLB） 块存储、专有网络（VPC）
制作人 阿瑟、明誉 审阅人 云护、江柳 文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 2019-05-07 阿瑟、明誉 云护 创建 V1.1 2019-07-25 阿瑟-更新模版 V1.2 2019-11-04 阿瑟 江柳 增加跨账号多VPC的数 据同步 V1.3 2019-11-13 筱晖-文档优化 V1.4 2019-12-17 阿瑟 增加概览页 文档版本：20191217 I 互联网业务全球化...
云数据库产品总览（瑶池）
阿里云提供完善的数据库解决方案，多款数据库产品，满足99%的业务场景，荣获Gartner、信通院等国内外多项认证。轻松满足高可靠、高可用性、高性能等数据库需求；运维工作量大幅减少，让企业一站式享受数据上云及分布式架构的技术红利！
数据管理 DMS.自研产品，100%兼容 MySQL。具有多主多写、多活容灾、HTAP特性，交易性能最高可达开源数据库的6倍，分析性能最高可达开源数据库的400倍，TCO 低于自建数据库50%.自研产品，100%兼容PostgreSQL，高度兼容Oracle语法。为用户提供快速弹性、高性能、海量存储、安全可靠的数据库服务，同时支持阿里云自研Ganos多维...
来自：
云产品
云数据库ClickHouse
云数据库ClickHouse 是阿里云提供的分布式实时分析型列式数据库服务。具有高性能、开箱即用、企业特性支持。广泛应用于流量分析、广告营销分析、行为分析、人群划分、客户画像、敏捷BI、数据集市、网络监控、分布式服务和链路监控等业务场景。
支持 Dataworks 和 DMS 进行大数据及各种数据源批量同步；支持 DAG任务编排，任务调度.业务库同步链路.支持 MaterializeMySQL，MySQL 外表，Dataworks,数据同步服务 Data Transmission Service 实时同步业务数据库数据.全面数据链路接入，快速构建实时数仓.全方位高效数据接入.自动弹性扩缩.设定弹性区间后，基于负载的自动...
来自：
云产品
企业上云数据安全
场景描述 企业是否选择上公共云，或者哪些系统或数据上 公共云，对数据安全的关心是重要因素之一。本 最佳实践重点在于介绍狭义的数据加密存储安 全范畴，即首先使用SDDP产品进行敏感数据发 现和分级分类，然后对高级别敏感数据进行按 需、不同类型的全链路加密存储。 解决问题 1.帮助客户发现敏感数据 2.对敏感数据进行分类、分级 3.对不同级别的数据如何选择加密方式 4.具体如何进行加密 产品列表 敏感数据识别SDDP 密钥管理服务KMS 云数据库RDS 对象存储OSS
流程如下图：对于客户端加密方式，分为用户自己管理密钥加密（CSE-C）和 KMS 托管密钥（CSE-KMS）加密两种，如下图所示：文档版本：20210809 28 企业上云数据安全 OSS数据加密 使用客户端加密，可以使用客户端加密 SDK，在本地进行数据加密，并将加密后的数 据上传到 OSS。在这种场景下，用户需要管理加密过程以及加密密钥...
- 产品推荐
- 这些文档可能帮助您