云服务总线CSB
云服务总线CSB是一个基于高可用分布式技术构建的服务API开放平台，帮助企业打通内外新旧系统，实现跨技术平台、跨应用系统、跨企业组织的服务互通，以服务API的形式，加以一致的组织和管控，构建企业内部以及与上下游、第三方企业之间融合、重塑、创新的合作平台。
位于企业内部数据中心的业务系统，把各种类型协议的服务在云服务总线CSB上发布成API，进行统一的管理和授权，开放给外部的合作伙伴以及第三方，亦可引入外部的业务能力开放成API给内部使用.满足游戏分服类应用的分服、滚服弹性扩展需求；数据持久化能力可减轻业务的数据库引擎负担，降低开发复杂度.解决游戏分服类应用一天...
来自：
云产品
数据总线Datahub
数据总线(DataHub)服务是阿里云提供的流式数据(Streaming Data)服务，它提供流式数据的发布(Publish)和订阅(Subscribe)的功能，拥有高吞吐量、高稳定性、低成本等特点，与阿里云大数据生态系统完美打通，让您可以轻松构建基于流式数据的分析和应用。
数据总线(DataHub)服务是阿里云提供的流式数据(Streaming Data)服务，它提供流式数据的发布(Publish)和订阅(Subscribe)的功能，让您可以轻松构建基于流式数据的分析和应用.通过数据总线，您可以实时接入APP、WEB、IoT和数据库等产生的异构数据，统一管理，并投递到下游的分析、归档等系统，构建清晰的数据流，让您更好的...
来自：
云产品
事件总线 EventBridge
事件总线 EventBridge是阿里云提供的一款无服务器事件总线服务，支持阿里云服务、自定义应用、SaaS应用以标准化、中心化的方式接入，并能够以标准化的 CloudEvents 1.0 协议在这些应用之间路由事件，帮助您轻松构建松耦合、分布式的事件驱动架构。
事件总线 EventBridge 是阿里云提供的一款无服务器事件总线服务，支持阿里云服务、自定义应用、SaaS应用以标准化、中心化的方式接入，并能够以标准化的 CloudEvents 1.0 协议在这些应用之间路由事件，帮助您轻松构建松耦合、分布式的事件驱动架构.事件总线 EventBridge.查看 EventBridge 产品简介.查看 EventBridge 开发者...
来自：
云产品
云速搭部署Flink应用
本水煎通过云速搭实现一个DataHub+Flink的实时流计算引擎架构，利用DataHub收集原始数据，推送到Flink进行基于流式数据的分析和应用。
已开通以下服务：ￚ 专有网络 VPC ￚ 云速搭 CADT ￚ 实时计算 Flink ￚ 数据总线 DataHub ￚ 对象存储 OSS 文档版本：20211103 2 云速搭部署 Flink应用 产品介绍 产品介绍 云速搭 CADT：是一款为上云应用提供自助式云架构管理的产品，显著地降低应 用云上管理的难度和时间成本。本产品提供丰富的预制应用架构模板，同时也...
大数据workshop
大数据workshop
Flink SQL作业读取了 Datahub的历史脏数据，可以在 修改 Flink SQL作业以后并将 Flink SQL作业的恢复策略设置为 NONE再重新上 线启动 Flink SQL作业，因为 Flink SQL作业改代码/增加一些参数，是要停止重 启，且恢复策略要为 NONE，原因是因为 DAG 会变化导致 state 不兼容。文档版本：20210628（发布日期）55 阿里云最佳...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
金融专属大数据workshop
实践目标 学习搭建一个实时数据仓库，掌握数据采集、存储、计算、输出、展示等整个业务流程。 整个实时数据仓库系统全部基于阿里云产品进行架构搭建，用户可以掌握并学会运用各个服务组件及各个组件之间如何联动。 理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方法。 前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解
阿里云技术框架 阿里云产品 简介 类比 ECS 弹性计算服务器 Linux服务器 RDS 关系型数据库 自有MySQL服务器 DataHub 数据总线 Kafka+各种服务接口 实时计算Flink版 实时计算 Spark、Flink Dataworks 一站式数据开发平台 目前没有 Hologres 交互式查询分析产品 PostgreSQL DataV 可视化数据展示工具 Tableau、Echarts、Kibana...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
阿里云最佳实践离线大数据workshop
本最佳实践，首先搭建一个简化的电商 demo 系统，然后为此 demo 系统构建一套离 线大数据分析系统。 实践目标 1. 学习搭建一个离线大数据分析系统，学习从数据采集到数据存储和业务分析的业 务流程。 2. 整个离线大数据分析系统全部基于阿里云产品进行搭建，学习掌运用各个服务组 件及各个组件之间如何联动。 背景知识要求 熟练掌握 SQL 语法 对大数据体系系统知识有一定的了解
TIPs：如何注释代码段：选中之前的建表语句，mac上使用command+全部注释，windows上使用ctrl+全 部注释。这里ds设置为bizdate显示的日期，一般是当前日期的前一天，比如如果当前时间是 20210725，这里就写20210724.步骤10运行后，有结果输出。文档版本：20210802（发布日期）53阿里云最佳实践金融大数据WorkShop 构建离线大...
来自：
最佳实践
相关产品：云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,日志服务（SLS）,大数据计算服务 MaxCompute,DataV数据可视化,数据总线,Quick BI,云速搭
自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群，为了降低企业大数据计算平台的成本，提高 大数据应用开发效率，更有效保障数据安全，把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute，Dataworks、云数据库Hbase版、Datahub、VPC，ECS。
版本编号 日期 作者 审核人 说明 云魁、弦望、V1.0 2020-02-26 创建 乔夫、吴昊 使用 CADT创建资源，更新部 V1.1 2021-07-23 游士 分命令和链接 文档版本：20210723 I 自建Hadoop迁移MaxCompute 前言 前言 概述 客户基于 ECS、IDC自建或友商自建了大数据集群，为了降低企业大数据计算平台 的成本，提高大数据应用开发效率，...
大数据近实时数据投递MaxCompute
本文介绍离线大数据场景使MaxCompute构建云 上近实时数仓，打通云下数据上云链路，解决数据复杂类型支持和动态分区问题，满足高级数据处理需求的最佳实践。 l混合云环境下，现有业务系统零改造，打通数据上云链路。 l使用UDF实现复杂数据类型转换和数据动态分区。 l使用DataWorks配置周期调度业务流程，数据自动入仓。 l借助MaxCompute优化计算引擎，实现降本增效。 产品列表 云服务器ECS 专有网络VPC 访问控制RAM 数据总线DataHub E-MapReduceEMR DataWorks 大数据计算服务MaxCompute
5.11.全数据链路延时 经过以上步骤的配置，投递至 Kafka集群的数据信息已经打通上云及处理入仓的全 部链路。3.3章节提供的数据投递程序会持续执行约 2个小时左右会完成投递。检 查 App Server上的投递程序此时是否已经运行完毕退出，如已退出则重新启动程序 开始投递。在数据投递正常的情况下，可以在分别在 Kafka集群、...
基于函数计算FC实现物联网音视频处理
在物联网场景中，智能设备会产生大量的非结构化数据，并且采集量和频率都很高。比如各类摄像头（家用摄像头、车载摄像头、工业监控摄像头等）采集的数据。企业需要对这些非结构化数据做快速的分析和处理，然后应用到下游业务中，所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
文档版本：20240502基于函数计算FC实现物联网音视频处理最佳实践 文档版本信息 文档版本信息 文档信息 属性 内容 文档名称 基于函数计算FC实现物联网音视频处理最佳实践 文档编号 370 文档版本 V1.0 版本日期 2024-05-02 文档状态 外部发布 制作人 计缘 审阅人 游圣 变更记录 版本编号 日期 作者 审阅人 说明 V1.0 2024-05-...
基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
在大数据ETL场景，Kafka是数据的流转中心，Kafka中的数据一般是原始数据，可能存在多种数据混杂的情况，需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC，可以快速高效的搭建数据处理链路，用户只需要关注数据处理的逻辑，数据的触发，弹性伸缩，运维监控等阿里云函数计算都已经做了集成，函数计算FC也支持多种下游，OSS/数据库/消息队列/ES等都可以自定义的对接
ETL处理 文档编号 文档版本 版本日期 2024-04-08 文档状态 外部发布 制作人 尘辉 审阅人 嘉辽 变更记录 版本编号 日期 作者 审阅人 说明 V1.0 2024-04-08 尘辉 嘉辽 初始版本 V1.1 2024-04-08 尘辉 嘉辽 优化版本 V1.2 2024-04-26 尘辉 吉宪，世振 优化版本 文档版本：20240408 I 基于函数计算 FC实现阿里云 Kafka消息轻量...
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景，企业的Kafka实例可能存在多种情况，比如使用阿里云Kafka服务，可能是自建开源Kafka，或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例，在这个前提下Kafka实例之间可能会需要消息同步的情况： 同帐号容灾场景：比如Kafka实例都是阿里云Kafka，但是Kafka实例会有主备之分，需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾：这类场景比如主Kafka是阿里云Kafka，备Kafka是IDC开源自建Kafka，或者是其他云上的Kafka。 不同业务之间消息同步：因为现在的业务通常不会是信息孤岛，都需要消息互通，所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例，并且这两个Kafka实例归属不同的RAM角色，有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题（重试机制，容错机制，死信队列等）。 大幅提升构建消息同步架构的效率，降低构建复杂度问题。
属性 内容 文档名称 基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步 文档编号 369 文档版本 V1.2 版本日期 2024-03-30 文档状态 外部发布 制作人 计缘 审阅人 游圣 变更记录 版本编号 日期 作者 审阅人 说明 V1.0 20240330 计缘 游圣 初始版本 V1.2 20240402 游圣、寰奕 更新CDT部署相关内容 文档版本：20240330...
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景，将Kafka中的消息流转到其他下游服务是很常见的场景，除了常规的消息流转外，很多场景还需要基于消息体内容做判断，然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后，会自动触发函数计算中的函数，接收到消息，对消息内容做判断，然后再操作MongoDB。用户可以对提供的默认函数代码做修改，来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品，并完成了大多数的配置，用户只需要到函数计算和MongoDB控制台做少量配置即可。
文档版本信息 文档信息 属性 内容 文档名称 基于函数计算 FC 实现阿里云 Kafka 消息内容控制 MongoDB DML 操 作 文档编号 362 文档版本 V1.3 版本日期 2024-03-04 文档状态 外部发布 制作人 计缘 审阅人 游圣 变更记录 版本编号 日期 作者 审阅人 说明 V1.3 2024-03-04 计缘 游圣 初始版本 文档版本：20240227 I 基于函数...
实时监控应用关键业务异常与告警
使用日志服务（SLS）基于收集的业务日志对业务实现监控与告警，能够帮助您了解应用的运行趋势，及时发现业务异常状态，采用具体措施以保证系统稳定性。
应用场景数据统一采集与管道化通过覆盖服务器与应用、云产品、移动端、物联网、开源软件、标准协议等采集来源，并覆盖日志、指标、链路等数据类型，成为企业的数据总线，满足数据统一采集、加工清洗、实时消费与分发等需求。IT系统运维监控统一采集、监控服务器运行日志、应用日志、数据库日志、网络日志等运维日志，帮助...
来自：
解决方案
基于SpringCloud应用玩转MSE实践
随着业务不断创新，大型的单个应用和服务会被拆分为数个甚至数十个微服务，微服务架构已经被广泛应用。 微服务的好处在于快速迭代，如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具，常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
基础环境访问验证 通过上一步骤，登录阿里云ACK控制台，查看ACK的pod和外网访问能力 方式1:直接通过Cloudshell 管理集群(模版中已经为APIserver绑定了公网EIP)如下图，可以通过NAT直接访问外网（模版中已经开通了VPC内的NAT网关）:操作脚本可gitclone的文件“360-SampleCode.sh”gitclonehttps:/best-practice:Abcd123456@...
实时计算Flink版
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，具备实时应用的作业开发、数据调试、运行与监控、自动调优、智能诊断等全生命周期能力。内核引擎100%兼容Apache Flink，2倍性能提升，拥有FlinkCDC、动态CEP等企业级增值功能，内置丰富上下游连接器，助力企业构建高效、稳定和强大的实时数据应用。
江铃汽车股份有限公司作为中国TOP 20汽车制造厂商、《财富》中国企业500强，在大数据建设方面选择与阿里云强强合作，通过阿里云实时计算平台为公司构建统一的实时计算中心，服务于车辆中心、智慧车队、实时大屏三大业务线的多个实时场景，实现了实时业务的秒级响应，并成功帮助业务部门提高决策效率.查看案例详情.畅捷通的...
来自：
云产品
- 产品推荐
- 这些文档可能帮助您