SLS数据入湖Kafka最佳实践
应用和数据分散在多云或混合云，在面对多云/混合云这样大的趋势下，数据无法进行统一的聚合、分析处理和导出等，本方案给出了在多云/混合云场景下，构建通过标准的Kafka协议和托管服务，SLS可以连接Kafka数据入湖导入，然后进行统一的海量数据的集中存储、智能转储、聚合分析查询等。
日志服务SLS：是云原生观测与分析平台，为Log、Metric、Trace等数据提 供大规模、低成本、实时的平台化服务，日志服务一站式提供数据采集、加工、查询与分析、可视化、告警、消费与投递等功能，全面提升您在研发、运维、运营、安全等场景的数字化能力。 云消息队列Kafka版：是阿里云基于ApacheKafka构建的高吞吐量、...
基于函数计算FC实现物联网音视频处理
在物联网场景中，智能设备会产生大量的非结构化数据，并且采集量和频率都很高。比如各类摄像头（家用摄像头、车载摄像头、工业监控摄像头等）采集的数据。企业需要对这些非结构化数据做快速的分析和处理，然后应用到下游业务中，所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
应用场景 在物联网场景中，智能设备会产生大量的非结构化数 据，并且采集量和频率都很高。比如各类摄像头（家 用摄像头、车载摄像头、工业监控摄像头等）采集的 数据。企业需要对这些非结构化数据做快速的分析和 处理，然后应用到下游业务中，所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场 景。解决...
容器多云统一监控日志
多云、混合云成为常态，Forrester 报告中指出，未来 89% 的企业至少使用两个云，74% 的企业至少使用三个甚至更多公有云，在面对多云/混合云这样大的趋势下，Gartner报告指出，安全、运维复杂性、财务复杂性是多云架构的主要挑战，本方案给出了在多云/混合云场景下，构建基于容器环境下的统一管理、统一监控和统一日志方案，解决多云、混合云场景下，运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商（AWS、Azure、GCP、TencentCloud、HuaweiCloud等）或者IDC基于容器（Kubernetes）运行业务系统，希望构建容器场景下的统一监控日志系统，方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统，在一个平台可以看到不同环境系统的运行情况。
日志服务SLS：是云原生观测与分析平台，为Log、Metric、Trace等数据提供 大规模、低成本、实时的平台化服务，日志服务一站式提供数据采集、加工、查 询与分析、可视化、告警、消费与投递等功能，全面提升您在研发、运维、运营、安全等场景的数字化能力。文档版本：20240322 2容器多云统一监控日志 最佳实践概述 应用...
游戏数据运营融合分析
场景描述 1.游戏行业有结构化和非结构化数据融合分 析需求的客户。 2.游戏行业有数据实时分析需求的客户，无法 接受T+1延迟。 3.对数据成本有一定诉求的客户，希望物尽其 用尽量优化成本。 4.其他行业有类似需求的客户。 方案优势/解决问题 1.秒级实时分析：依托ADB计算密集型实例， 秒级监控DAU等数据，为广告投放效果提 供有力的在线决策支撑。 2.高效数据融合分析：打通结构化和非结构化 数据，支撑产品体验分析；广告买量投放效 果实时（分钟级）分析，渠道的评估更准确。 3.低成本：DLA融合冷数据分析+ADB存储密 集型温数据分析+ADB计算密集型热数据分 析，在满足各种分析场景需求的同时，有效 地降低的客户的总体使用成本。 4.学习成本低：DLA和ADB兼容标准SQL语 法，无需额外学习其他技术。 产品列表 专有网络VPC、负载均衡SLB、NAT网关、弹性公网IP 云服务器ECS、日志服务SLS、对象存储OSS 数据库RDSMySQL、数据传输服务DTS、数据管理DMS 分析型数据库MySQL版ADS 数据湖分析DLA、QuickBI
文档版本：20210224 59 游戏数据运营融合分析 部署 ECS-SLS数据采集 步骤3 创建名称为 bp-demo的 Project，地域选择华东 2（上海），单击确定。3.3.创建日志服务 Logstore 步骤1 Project创建完成，然后创建 Logstore。文档版本：20210224 60 游戏数据运营融合分析 部署 ECS-SLS数据采集 步骤2 创建 Logstore（bp-demo-...
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例，使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer，模拟应用中的关键页面，比如登 录、课程内容等，之后构造若干用户使用的模拟 日志数据，投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖（EMR+OSS）搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
通过Nginx和Pythonflask搭建WebServer，模拟应用中的关 键页面，比如登录、课程内容等，之后构造若干用户使用的模拟日志数据，投递到数 据湖进行分析后获取应用PV、UV、课程内容访问排行、平均得分等等。方案优势 支持超过10亿条元数据规模的数据管理，同时支持高可靠和高可用。 支持元数据实时备份和重建集群快速恢复...
SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务，通过日志服务 进行数据分析，帮助提升运维、运营效率， 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户，推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输；针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况，可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
针对已使用其他日志采 集工具并且已有日志服务需要继续服务的 情况，可以通过 Log producer SDK写入日 产品列表 志服务。E-MapReduce 专有网络 VPC 解决问题 云服务器 ECS 日志服务 SLS 1.第三方云平台或线下 IDC客户需要使用 DCDN 阿里云日志服务进行日志采集、处理和 Kafka 分析 2.第三方云平台或线下 IDC服务器已有完 整...
实时计算Flink版
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，具备实时应用的作业开发、数据调试、运行与监控、自动调优、智能诊断等全生命周期能力。内核引擎100%兼容Apache Flink，2倍性能提升，拥有FlinkCDC、动态CEP等企业级增值功能，内置丰富上下游连接器，助力企业构建高效、稳定和强大的实时数据应用。
采集生产中全部变量分析，提高产品的良品率，节约数千万成本.使用实时计算 Flink 版搭建实时数仓，服务订单超时、0点起跳等典型业务场景，实现业务的实时化.众安保险基于阿里云实时计算 Flink 版构建了实时数仓，分析实时营销情况和用户指标，对用户行为进行实时监控.作为Apache Flink社区的核心成员，我们认为数据的未来由...
来自：
云产品
云上日志集中审计
场景描述 云上的各类云产品和客户部署的业务系统会产生各类 日志，企业合规及安全运营等都需要在一个地方能 集中的查看和分析日志；目前各云产品日志大部分 都进了sls，但都是产品独立的project，不方便集中 审计；客户的业务系统日志各种形态都有；多云和混 合云的场景，日志也需要能集中审计。 解决问题 1.所有日志集中到SLS一个中心project下。 2.满足等保合规和内部合规需求。 3.满足运维和安全运营需求。 产品列表 日志服务SLS 专有网络VPC 弹性公网IPEIP 负载均衡SLB 云服务器ECS 云数据库RDS 云防火墙CFW
文本信息 属性 内容 文档名称 云上日志集中审计最佳实践 文档编号 148 文档版本 V1.1 版本日期 2020-06-30 文档状态 发布 制作人 洁谦 审阅人 敬海、宋宇 文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 2020-03-02 云滴 敬海、宋宇 创建文档 V1.1 2020-06-30 洁谦 更新作者 文档版本：20200630（发布日期）I 云上日志...
数据安全解决方案
数据是企业的核心资产，如何保护企业的云上数据，是每个企业管理者都应当重视的课题。在云平台提供更为安全便捷的数据保护能力的同时，阿里云根据自身多年的经验积累，结合大量云上客户的最佳实践，提供了一套完整的数据安全解决方案，帮助企业提升云上数据风险防御能力，实现企业核心及敏感数据安全可控。
“终端”是各类实现数据采集、输入和使用的用户交互用设备，如APP、网页、应用程序等.蔡伟杰,靖鑫,也树.以国家标准为顶层指导框架.基于2019年发布的国家标准《GB/T 37988-2019 数据安全能力成熟度模型》中明确的“以数据为中心”的管理思路，从数据生命周期角度出发，针对企业常见的数据安全痛点，提供整体解决方案.适用性...
来自：
解决方案
RPA
RPA（Robotic Process Automation）是阿里云出品的企业自动化流程数字员工，也可以称之为机器人流程自动化。阿里云RPA易于部署及其低代码开发特性，为企业带来速度和敏捷性提升。比如将企业内部工作流程自动化，打通系统间的数据孤岛，能显著提高生产效率。
应用场景场景一 场景二 批量采集网页数据 无论是何种网页数据，通过阿里云RPA都能轻松的完成数据采集。您可以随时来调整采集规则，无需担心在分析需求激增时带来的资源不足的问题。场景优势 阿里云RPA效率提升8倍；阿里云RPA的工作量相当于3.5个人力；减少6倍人力；产品优势多级权限分配 超级管理员拥有所有权限，可以授权...
来自：
云产品
云基础产品与基础设施
云基础产品与基础设施作为阿里云产品六大版块之一，主要包含弹性计算、存储、网络、安全、云原生应用平台以及无影和基础设施类产品，向客户提供高度自动化的标准化产品对网络功能、计算机（虚拟或专用硬件）和数据存储空间进行访问，同时支持灵活扩展，可以直接使用自助服务界面。
通过阿里云文件存储CPFS和对象存储OSS数据湖存储及数据自由流动解决方案，满足从海量数据采集到清洗、标注、训练到归档的数据自动化，提供了自动驾驶研发云的统一数据平台，极大提升了研发效率.网络安全升级支持IPV6.文件存储 CPFS.对象存储 OSS.杭州悦数科技有限公司与阿里云计算巢达成合作，NebulaGraph 作为首款图数据库...
来自：
云产品
智能开放搜索 OpenSearch
阿里云智能开放搜索 OpenSearch是阿里自主研发的大规模分布式搜索引擎搭建的一站式智能搜索业务开发平台，内置全链路搜索功能，提供一站式、场景化的行业大数据解决方案。
查看详情 2018-05-07 新功能/规格 阿里云开放搜索调价发布 查看详情 2018-06-15 新功能/规格 开放搜索-下拉提示 查看详情 2018-08-31 新功能/规格 开放搜索-行为数据采集SDK 查看详情 2018-09-06 新功能/规格 A/B Test产品功能发布 查看详情 2021-01-06 新功能/规格 开放搜索-控制台支持cava插件 查看详情 2021-01-20 新...
来自：
云产品
SpringCloud应用托管到ACK服务
场景描述 本实践适用于将SpringCloud应用托管到 ACK服务的场景中，创建容器服务ACK后， 利用Helm一键部署SpringCloud应用，将 SpringCloud应用托管到容器服务ACK。 解决问题 1.将SpringCloud应用托管到容器服务 ACK 产品列表 容器服务ACK 云服务器ECS
本节采用云架构设计工具 CADT快速构建云上大数据采集系统的环境。注意：在使用 CADT部署资源之前，需要在控制台开通所用到的服务。2.1.登录 CADT控制台 通 过 下 图 所 示 方 式 登 录，或 者 访 问 链 接 直 接 登 录 均 可。（https://bpstudio.console.aliyun.com）步骤1 在 CADT主页面，单击新建>官方模板库新建。7 ...
基于MaxCompute的大数据BI分析
场景描述 本文以电商行业为例，将业务数据和日志数据使用 MaxCompute做ETL之后，同步到ADB进行实时 分析，之后通过QuickBI进行快速可视化展示。 解决问题 1.互联网行业、电商、游戏行业等网站、App、 小程序应用内BI分析场景。 2.可扩展到各类网站BI分析场景使用。 产品列表 1.MaxCompute 2.分析型数据MySQL版 3.日志服务SLS 4.QuickBI 5.云服务器ECS 6.RDSMySQL版
文档版本：20211213 1 基于 MaxCompute的大数据 BI分析 最佳实践概述 方案优势 以 Hologres+QuickBI快速实时数据分析的核心能力为切入点，将客户的业务数 据、日志数据引导至阿里云的日志服务和分析性数据库。融合阿里云的日志服务 SLS 的生态，增强用户体验(如无缝对接 Flink、Elasticsearch、RDS、Hologres、EMR、dataV ...
移动智能营销解决方案
移动智能营销解决方案是围绕用户全生活场景的移动端智能营销解决方案。基于 APP 用户行为大数据分析，以 AI 核心科技打造自动高效的营销全流程闭环能力。通过快速接入阿里系、客户自建和第三方的衣食住行等生活场景服务，激活存量用户，促进产品二次销售，实现业务快速增长。
数据来源：采集移动端用户行为数据，对接客户业务数据和第三方数据源.蔡伟杰,靖鑫,也树.以小程序为载体，快速在 APP 中接入诸如口碑、淘票票、高德、盒马、阿里健康等阿里系生活服务场景、第三方场景和自建场景，增加移动端用户活跃度与粘性.源于支付宝的智能科技如“毕加索”智能创意文案、MAB智能分流、智能投放、AB测试...
来自：
解决方案
低成本跨境文件传输
场景描述 1.跨境对象存储数据传输需求。 2.对跨境传输成本控制严苛。 3.能接受一定程度网络抖动带来的文件同步 延迟。 4.系统需要有足够的弹性和扩展性应对大规 模文件的写入。 方案优势/解决问题 1.运维低成本：开发人员关注代码逻辑即可； 2.网络成本低：相比CEN高速通道的方式网 络成本降低； 3.同步服务部署成本低：文件发生变化触发函 数计算任务，按量触发，不用准备ECS； 4.弹性高效：一个文件同步触发一个函数工作 流任务，充分利用资源高效同步。 产品列表 专用网络VPC 云服务器ECS 弹性公网IP 函数计算 对象存储OSS 函数工作流
您无需开发就能快捷完成日志数 据采集、消费、投递以及查询分析等功能，提升运维、运营效率，建立 DT 时代 海量日志处理能力。官网链接：https://help.aliyun.com/document_detail/48869.html 文档版本：20211025（发布日期）III 低成本跨境文件传输最佳实践 目录 目录 文档版本信息.I 法律声明.I 前言.II 目录.IV 最佳实践...
混合云自有K8S弹性使用ECI
场景描述 本文介绍线下IDC与云端通过专线构建混合云架构，自有K8S利用虚拟节点弹性调用ECI承载业务高峰期资源需求的最佳实践。 解决问题 混合云环境下，自有K8S集群注册至ACK，实现云端纳管。纳管K8S集群部署Virtual Node，使集群具备ECI资源调度能力。在以上环境中部署Web及离线作业应用，并使用ECI资源作为弹性资源池满足业务波峰需求。 产品列表 云服务器ECS 云架构设计工具CADT 专有网络VPC 访问控制RAM 云企业网CEN 弹性容器实例ECI Nat网关NAT 容器镜像服务ACR 负载均衡SLB 容器服务Kubernetes版ACK 弹性公网IPEIP
注：实际当扩展 WordPress Pod实例时，需要使用统一的持久化存储来保证数 据一致性。本例中重点介绍 ECI的资源使用，故此处简化略去。步骤6 完成以上修改后，在 namespace blog下创建 WordPress应用。文档版本：20210520 49 混合云 IDC自有 K8S弹性使用 ECI ECI使用示例 步骤7 创建完成后，点击返回箭头确认应用状态。文档...
混合云使用Ali-Perseus
场景描述 本文介绍了混合云场景中，自建 Kubernetes服务，线下集群+云上弹性扩 展阿里云GPU服务实例+飞天AI加速工 具，并采用阿里云CPFS存储，运行AI训 练+AI推理作业的操作步骤。 解决问题 1.利用云企业网打通两个地域的VPC， 自建Kubernetes集群 2.使用飞天AI加速工具运行训练和推理 作业 3.使用CPFS存储共享数据 产品列表 云企业网CEN GPU云服务器 并行文件存储CPFS 文件存储NAS
运行推理任务.62 V 混合云使用飞天AI加速工具 最佳实践概述 最佳实践概述 AI数据处理流程 AI数据处理一般分为三个步骤，数据采集，清洗标注，模型训练，模型部署与推 理。方案场景描述 在混合云场景中，可以自建 Kubernetes服务，线下集群+云上弹性扩展阿里云 GPU 服务实例+飞天 AI加速工具加速框架，并采用阿里云 CPFS存储...
超级计算集群实现自然语言处理训练
场景描述 本方案适用于自然语言训练场景，使用神龙 GPU云服务器（SCCGN6）+CPFS进行NLP的 训练，采用Bert模型。这里不使用容器，直接 使用裸机进行NLP的Bert训练，使用飞天AI加 速训练工具可以有效提升多机多卡的训练效率。 解决问题 使用神龙GPU云服务器搭建NLP训练环 境 使用SCC的RDMA网络 使用CPFS存储训练数据 使用飞天AI加速训练工具加速训练 产品列表 神龙GPU云服务器（SCCGN6） SCC超级计算集群 CPFS共享存储
–.meta文件是MetaGraphDef序列化的二进制文件，保存了网络结构相关的数 据，包括graph_def和saver_def等；–.index文件为数据文件提供索引，存储的核心内容是以tensorname为键以 BundleEntry为值的表格entries，BundleEntry主要内容是权值的类型、形状、偏移、校验和等信息。–.data文件保存所有变量的值，即网络权值。 ...
- 产品推荐
- 这些文档可能帮助您