SLS数据入湖Kafka最佳实践
应用和数据分散在多云或混合云，在面对多云/混合云这样大的趋势下，数据无法进行统一的聚合、分析处理和导出等，本方案给出了在多云/混合云场景下，构建通过标准的Kafka协议和托管服务，SLS可以连接Kafka数据入湖导入，然后进行统一的海量数据的集中存储、智能转储、聚合分析查询等。
日志服务SLS：是云原生观测与分析平台，为Log、Metric、Trace等数据提 供大规模、低成本、实时的平台化服务，日志服务一站式提供数据采集、加工、查询与分析、可视化、告警、消费与投递等功能，全面提升您在研发、运维、运营、安全等场景的数字化能力。 云消息队列Kafka版：是阿里云基于ApacheKafka构建的高吞吐量、...
可观测链路 OpenTelemetry版结合日志服务SLS关联分析最佳实践
可观测链路 OpenTelemetry 版为分布式应用的开发者提供了完整的调用链路还原、调用请求量统计、链路拓扑、应用依赖分析等工具，可以帮助开发者快速分析和诊断分布式应用架构下的性能瓶颈，当应用出现业务异常问题时，您可以在可观测链路 OpenTelemetry 版控制台关联查看日志进行分析，精准定位业务异常。
一站式提供数据采集、加工、查 询与分析、可视化、告警、消费与投递等功能，全面提升您在研发、运维、运营、安全等场景的数字化能力。云速搭 CADT（Cloud Architect Design Tools）：是一款为上云应用提供自助式云 架构管理的产品，显著地降低应用云上管理的难度和时间成本。本产品提供丰富的 预制应用架构模板，同时也支持...
企业建站场景解决方案
企业建站场景解决方案从客户需求角度梳理阿里云平台化且有竞争力的建站类产品，包含企业规模、建站形式、产品、业务方向、部署形式、安全合规、解决方案等维度，帮助客户解决互联网立足、企业对外展示、引流、获客、营销、企业管理等业务需求。
整个服务流程均在线完成，有效解决建站周期长、服务体验差、无建站经验以及建站过程中的沟通问题.建站专家为客户量身定制解决方案.产品/文章/页面管理，后台自助管理和维护，随时更新，一键发布立即生效，所见即所得的操作使无代码经验的人群也能随时维护网站，真正做到“零成本”维护.可视化操作后台.\\u00A0生产监控.响应...
来自：
解决方案
基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
在大数据ETL场景，Kafka是数据的流转中心，Kafka中的数据一般是原始数据，可能存在多种数据混杂的情况，需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC，可以快速高效的搭建数据处理链路，用户只需要关注数据处理的逻辑，数据的触发，弹性伸缩，运维监控等阿里云函数计算都已经做了集成，函数计算FC也支持多种下游，OSS/数据库/消息队列/ES等都可以自定义的对接
文档版本：20240408 6 基于函数计算 FC实现阿里云 Kafka消息轻量级 ETL处理 场景验证 因为CADT是可以一站式的帮用户创建实例、部署实例、创建 Topic/Group，所以这里 可以一气呵成的将这些配置信息全部设置好，相较在产品控制台上多个步骤，跳转多 个页面做开通部署配置的传统方式，CADT这种模式可以极大提高效率。...
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景，企业的Kafka实例可能存在多种情况，比如使用阿里云Kafka服务，可能是自建开源Kafka，或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例，在这个前提下Kafka实例之间可能会需要消息同步的情况： 同帐号容灾场景：比如Kafka实例都是阿里云Kafka，但是Kafka实例会有主备之分，需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾：这类场景比如主Kafka是阿里云Kafka，备Kafka是IDC开源自建Kafka，或者是其他云上的Kafka。 不同业务之间消息同步：因为现在的业务通常不会是信息孤岛，都需要消息互通，所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例，并且这两个Kafka实例归属不同的RAM角色，有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题（重试机制，容错机制，死信队列等）。 大幅提升构建消息同步架构的效率，降低构建复杂度问题。
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步最佳实践 场景描述 业务架构 基于阿里云函数计算FC实现同帐号阿里云Kafka实 例之间消息、元数据同步，跨帐号阿里云Kafka实例 之间消息、元数据同步，阿里云Kafka实例和IDC 自建Kafka（其他云Kafka）之间消息、元数据同步。应用场景 在大数据场景，企业的Kafka实例...
容器多云统一监控日志
多云、混合云成为常态，Forrester 报告中指出，未来 89% 的企业至少使用两个云，74% 的企业至少使用三个甚至更多公有云，在面对多云/混合云这样大的趋势下，Gartner报告指出，安全、运维复杂性、财务复杂性是多云架构的主要挑战，本方案给出了在多云/混合云场景下，构建基于容器环境下的统一管理、统一监控和统一日志方案，解决多云、混合云场景下，运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商（AWS、Azure、GCP、TencentCloud、HuaweiCloud等）或者IDC基于容器（Kubernetes）运行业务系统，希望构建容器场景下的统一监控日志系统，方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统，在一个平台可以看到不同环境系统的运行情况。
日志服务SLS：是云原生观测与分析平台，为Log、Metric、Trace等数据提供 大规模、低成本、实时的平台化服务，日志服务一站式提供数据采集、加工、查 询与分析、可视化、告警、消费与投递等功能，全面提升您在研发、运维、运营、安全等场景的数字化能力。文档版本：20240322 2容器多云统一监控日志 最佳实践概述 应用...
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中，以图片，视频，音频居多。举一个图片处理的场景，现在各种终端种类繁多，不同的终端对图片的格式、分辨率要求也不同，所以一张图片往往会有很多张衍生图，那如果所有的衍生图都存在OSS中，那存储的成本会增加，所以就可以通过OSS Object FC的方案，在不同的终端请求时，对OSS中的原图基于终端的要求做实时处理，然后响应返回，这样OSS中只需要存储原图即可。音视频也有类似的场景。
创建RAM授权 为 已 创 建 服 务 关 联 的 默 认 角 色（AliyunFCDefaultRole）授 予 oss:WriteGetObjectResponse权限。具体的权限策略如下：步骤1 登录RAM访问控制（https://ram.console.aliyun.com/roles），对角色进行配置。文档版本：20240304 17基于OSSObjectFC实现非结构化文件实时处理最佳实践 场景验证 步骤2 新增...
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景，将Kafka中的消息流转到其他下游服务是很常见的场景，除了常规的消息流转外，很多场景还需要基于消息体内容做判断，然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后，会自动触发函数计算中的函数，接收到消息，对消息内容做判断，然后再操作MongoDB。用户可以对提供的默认函数代码做修改，来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品，并完成了大多数的配置，用户只需要到函数计算和MongoDB控制台做少量配置即可。
7 文档版本：20240304 基于函数计算 FC 实现阿里云 Kafka 消息内容控制 MongoDB DML 操作 部署基础环境 因为 CADT 是可以一站式的帮用户创建实例、部署实例、创建 Topic/Group，所以这里 可以一气呵成的将这些配置信息全部设置好，相较在产品控制台上多个步骤，跳转多个 页面做开通部署配置的传统方式，CADT 这种模式可以极...
基于SpringCloud应用玩转MSE实践
随着业务不断创新，大型的单个应用和服务会被拆分为数个甚至数十个微服务，微服务架构已经被广泛应用。 微服务的好处在于快速迭代，如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具，常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
例如容器服务、 微服务引擎MSE-云原生网关 日志服务、应用监控、Web应用防火墙等，为您提供一站 微服务引擎MSE-微服务治理 式的微服务解决方案。 容器服务ACK 容器镜像ACR 消息队列RocketMQ版 最佳实践频道 弹性公网IP http://bp.aliyun.com NAT网关 阿里云最佳实践分享群 云速搭CADT 钉钉搜索钉群号...
传统企业业务上云基础安全防护
场景描述 越来越多的企业客户选择把自己的生产系统部 署在公共云平台上，以满足自身业务的发展及弹 性扩缩容、稳定性等方面的需求。如何在公共云 上构建基本的网络安全、主机安全、入侵检测、 运维审计等方案，是企业首选的最佳实践。 解决问题 1.服务器安全、应用安全 2.网络安全、数据安全 3.安全审计、安全管理 产品列表 云安全中心 Web应用防火墙 云防火墙 SSL证书 数据库审计 堡垒机
4.分别在控制台上启用虚拟MFA设备页面，第一组安全码和第二组安全码中输入手 机上连续刷新出来的两组验证码。文档版本：20220210 79传统企业业务上云基础安全防护 堡垒机 5.单击确定启用。步骤3 成功为子账号启用虚拟MFA设备。6.3.5.验证子账号登录 步骤1 子账号的登录地址显示在访问控制RAM控制台的概览页面:...
基于MaxCompute的大数据BI分析
场景描述 本文以电商行业为例，将业务数据和日志数据使用 MaxCompute做ETL之后，同步到ADB进行实时 分析，之后通过QuickBI进行快速可视化展示。 解决问题 1.互联网行业、电商、游戏行业等网站、App、 小程序应用内BI分析场景。 2.可扩展到各类网站BI分析场景使用。 产品列表 1.MaxCompute 2.分析型数据MySQL版 3.日志服务SLS 4.QuickBI 5.云服务器ECS 6.RDSMySQL版
DataWorks：是一个提供了大数据 OS能力、并以 all in one box的方式提供专业 高效、安全可靠的一站式大数据智能云研发平台。同时能满足用户对数据治理、质量管理需求，赋予用户对外提供数据服务的能力。更多信息，请参见 Dataworks 简介：（https://data.aliyun.com/product/ide）。数据传输服务(Data Transmission Service...
企业上云数据安全
场景描述 企业是否选择上公共云，或者哪些系统或数据上 公共云，对数据安全的关心是重要因素之一。本 最佳实践重点在于介绍狭义的数据加密存储安 全范畴，即首先使用SDDP产品进行敏感数据发 现和分级分类，然后对高级别敏感数据进行按 需、不同类型的全链路加密存储。 解决问题 1.帮助客户发现敏感数据 2.对敏感数据进行分类、分级 3.对不同级别的数据如何选择加密方式 4.具体如何进行加密 产品列表 敏感数据识别SDDP 密钥管理服务KMS 云数据库RDS 对象存储OSS
通常会将密钥以环境变量的形式放在服务器上，也是不安全的做法，如果网 站在被拖库的情况下同时被拿到服务器权限，手机号明文最终也会被泄露出去。阿里云提供密钥托管服务 KMS，密钥和加解密动作都在 KMS中进行，这样密钥不会 被泄露；如果数据库被拖库，敏感信息（如手机号）也是密文的。本实践中使用基础环境章节中创建的...
企业办公安全访问一体化
本场景模拟企业办公环境，基于 CSAS 服务构 建企业办公安全一体化方案，将“安全 + 网络” 能力无缝融合，实现了对云下办公终端安全的统 一管理，企业无需在投资复杂且昂贵的传统硬件 安全设备，即可快速构建安全、可靠、低成本的 办公安全防护体系。 1. 企业办公环境访问互联网的安全管理 2. 企业办公环境访问内网服务的安全管理 3. 企业办公网络、安全一体化管理
企业办公安全访问一体化...为了演示方便，本场 景中我们选择购物、社交、电子商务分类，可用于禁止办公电脑访问购物、社交类网 站。说明：本文中为了便于演示，统一使用LDAP的账户名称作为策略条件，此外还支持 部门、邮箱、手机号等属性作为策略条件，实际环境中可以灵活使用。打开CSAS控制台，为互联网访问创建URL防护策略。...
自建ELK迁移阿里云日志服务
场景描述 ELK Stack（Elastic/Logstash/Kibana） 通常 被用于日志实时分析， 在开源社区中有大量 的内容和使用案例。 本文介绍如何将自建的 ELK 系统迁移到阿里云 SLS 日志服务。 解决问题 1. 自建 ELK 如何迁移到阿里云日志服务。 2. 如何使用 Logtail 采集日志。 3. 如何使用阿里云日志服务对日志进行查 询、 分析。 产品列表 阿里云日志服务（SLS） VPN 网关 IPSec VPN 云服务器
（默认显示15分钟内日志，如果没有日志可以参考章节3.1通过拨测网 站或者脚本产生nginx访问日志）文档版本：20240422 36自建ELK迁移阿里云日志服务（SLS）ELK迁移SLS 4.3.迁移结果校验 对比Logtail采集到SLS的数据与Filebeat采集到ES上的数据是否相同，可以同时 查询某个字段值查看返回结果，进行数据迁移验证。这里以查询...
金融专属大数据workshop
实践目标 学习搭建一个实时数据仓库，掌握数据采集、存储、计算、输出、展示等整个业务流程。 整个实时数据仓库系统全部基于阿里云产品进行架构搭建，用户可以掌握并学会运用各个服务组件及各个组件之间如何联动。 理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方法。 前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解
对结果进行可视化展示 例如用户通过手机APP购买基金，金融公司可以通过后台的大数据分析平台达到如下的 大屏分析效果：文档版本：20210803（发布日期）4阿里云最佳实践大数据WorkShop 最佳实践方案设计 文档版本：20210803（发布日期）5阿里云最佳实践大数据WorkShop 最佳实践方案设计 2.2.2.项目架构 2.2.2.1.阿里云技术...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
中小企业基于SAG APP实现云上移动办公
1. 客户端一键接入上云，配置自动化 2. 城域内 Internet 就近接入，快速高效 3. 数据加密传输，满足安全性要求 4. 阿里云控制台统一配置管理
SAG：智能接入网关（Smart Access Gateway）是阿里云提供的一站式快速上云 解决方案。企业可通过智能接入网关实现 Internet就近加密接入，获得更加智能、更加可靠、更加安全的上云体验。详见：https://www.aliyun.com/product/smartag SAG APP版：智能接入网关 SAG软件版的 APP形态，适用于终端 point-to-site 接入。PC和...
- 产品推荐
- 这些文档可能帮助您