基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中，以图片，视频，音频居多。举一个图片处理的场景，现在各种终端种类繁多，不同的终端对图片的格式、分辨率要求也不同，所以一张图片往往会有很多张衍生图，那如果所有的衍生图都存在OSS中，那存储的成本会增加，所以就可以通过OSS Object FC的方案，在不同的终端请求时，对OSS中的原图基于终端的要求做实时处理，然后响应返回，这样OSS中只需要存储原图即可。音视频也有类似的场景。
比如请求时实时加水印、实 时美颜处理、实时裁剪图片、实时截帧等。部署架构 名词解释 OPAP(ObjectProcessAccessPoint)：是在AP的能力上，拓展了FC功能，通过OPAP访问 的GetObject会触发FC。其他类型的请求会退化到绑定的AP。文档版本：20240304 4基于OSSObjectFC实现非结构化文件实时处理最佳实践 最佳实践概述 AP...
基于MSE和SAE的微服务部署与压测
通过云原生微服务引擎MSE、SAE、PTS、ARMS产品，为spring cloud微服务应用提供部署和测试能力，提供一个经典微服务应用上云的典型架构，实现微服务应用的快速落地。
基于MSE和SAE的微服务部署与压测最佳实践 业务架构 场景描述 通过云原生微服务引擎MSE、SAE、PTS、ARMS 产品，为SpringCloud微服务应用提供部署和测试 能力，提供一个经典微服务应用上云的典型架构，实 现微服务应用的快速落地。应用场景 微服务应用运行需要的支撑包括注册中心、运行时、应用监控、服务测试等典型能力。...
容器多云统一监控日志
多云、混合云成为常态，Forrester 报告中指出，未来 89% 的企业至少使用两个云，74% 的企业至少使用三个甚至更多公有云，在面对多云/混合云这样大的趋势下，Gartner报告指出，安全、运维复杂性、财务复杂性是多云架构的主要挑战，本方案给出了在多云/混合云场景下，构建基于容器环境下的统一管理、统一监控和统一日志方案，解决多云、混合云场景下，运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商（AWS、Azure、GCP、TencentCloud、HuaweiCloud等）或者IDC基于容器（Kubernetes）运行业务系统，希望构建容器场景下的统一监控日志系统，方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统，在一个平台可以看到不同环境系统的运行情况。
这里需要注意，如果通过CADT创建的VPC、vswitch中人工通过其他方式添加了资 源，如通过控制台或者API等购买了ECS，释放时因为这些非CADT部署的资源会 依赖VSW和VPC，会出现释放失败。遇到这类问题请先去控制台人工进行资源清理 后，在CADT中再次释放资源即可。步骤1 对等连接路由策略释放，其中 步骤2 打开需要释放的应用 ...
实时同步RDS与Redis构建缓存一致性
通过DTS数据订阅能力，用户可以实时订阅RDS日志数据变更，并将其写入Redis以实现缓存数据的更新，可以实现MySQL与Redis之间的缓存同步一致性。
针对交易、账单等记录，实时同步交易账单记录数据到Redis缓存，加快交易记录查询速度，提高交易处理效率。方案部署01部署准备完成账号开通申请以及账号充值、资源授权等操作。02规划网络和资源规划高可用等要求，规划访问需要的网络和资源。03部署操作部署RDS MySQL、DTS订阅以及Redis实例等相关资源。04配置DTS数据订阅...
来自：
解决方案
钉钉音视频会议解决方案
钉钉音视频会议解决方案，打通通信录、语音、会议、消息及会场管理系统，提供一站式全场景会议的能力，有效提升客户办公协同效率。通过硬件终端+软件客户端+SDK/API+云服务，突破空间、网络限制，将原有只能在会议室对会议室或者只能纯软件线上会议扩展为全场景随时随地入会、全球覆盖的云会议服务。
钉钉会议 Rooms 为企业各类空间会议室，提供“会前、会中、会后”全流程使用及会议室管理的智能化解决方案.流程高效协同.提供音视频会议、共享屏幕、白板、会议控制的集成会议体验，为企业提供高效协同数字化会议室解决方案.方案软硬一体.基于阿里巴巴集团数年视频会议技术及应用积累、全球部署的网络节点及先进的 AI 技术...
来自：
解决方案
Flink+Hologres搭建实时数仓
Flink+Hologres搭建实时数仓解决方案将Hologres与Flink深度集成，提供一体化的实时数仓联合解决方案，实现了数仓分层之间实时数据的高效流动，解决实时数仓分层问题。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台Flink+Hologres搭建实时数仓方案介绍方案优势应用场景方案部署方案权益Flink+Hologres搭建实时数仓本方案将Hologres与Flink深度集成，提供一体化的实时数仓联合解决方案，实现了数仓分层之间实时数据的高效流动，解决实时数仓分层问题。...
来自：
解决方案
实时计算Flink版
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，具备实时应用的作业开发、数据调试、运行与监控、自动调优、智能诊断等全生命周期能力。内核引擎100%兼容Apache Flink，2倍性能提升，拥有FlinkCDC、动态CEP等企业级增值功能，内置丰富上下游连接器，助力企业构建高效、稳定和强大的实时数据应用。
江铃汽车股份有限公司作为中国TOP 20汽车制造厂商、《财富》中国企业500强，在大数据建设方面选择与阿里云强强合作，通过阿里云实时计算平台为公司构建统一的实时计算中心，服务于车辆中心、智慧车队、实时大屏三大业务线的多个实时场景，实现了实时业务的秒级响应，并成功帮助业务部门提高决策效率.查看案例详情.畅捷通的...
来自：
云产品
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
基于 Flink+ClickHouse构建实时游戏数据分析 最佳实践 业务架构 背景描述 在互联网、游戏行业中，常常需要对用户行 为日志进行分析，通过数据挖掘，来更好地 支持业务运营，比如用户轨迹，热力图，登 录行为分析，实时业务大屏等。当业务数据 量达到千亿规模时，常常导致分析不实时，平均响应时间长达 10分钟，影响业务的正...
大数据近实时数据投递MaxCompute
本文介绍离线大数据场景使MaxCompute构建云 上近实时数仓，打通云下数据上云链路，解决数据复杂类型支持和动态分区问题，满足高级数据处理需求的最佳实践。 l混合云环境下，现有业务系统零改造，打通数据上云链路。 l使用UDF实现复杂数据类型转换和数据动态分区。 l使用DataWorks配置周期调度业务流程，数据自动入仓。 l借助MaxCompute优化计算引擎，实现降本增效。 产品列表 云服务器ECS 专有网络VPC 访问控制RAM 数据总线DataHub E-MapReduceEMR DataWorks 大数据计算服务MaxCompute
文档版本：20240419（发布日期）文档版本：20150122（发布日期）I 大数据近实时数据投递 MaxCompute 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 大数据近实时数据投递 MaxCompute 文档编号 166 文档版本 V1.3 版本日期 2024-04-19 文档状态 对外发布 制作人 厉博 审阅人 文档变更记录 版本编号 日期 作者 审核...
开源Flink迁移实时计算Flink全托管版最佳实践
本方案介绍如何将自建开源Flink集群的流式任务（包含Datastream、Table/SQL、PyFlink任务）迁移至阿里云实时计算全托管版。
文档版本：20211222 45 开源 Flink迁移实时计算Flink全托管版 附录 当作业运行资源不足，业务延迟增大时，如果配置了 Active 模式，智能调优会识 别作业的瓶颈，并 且会用新的配置自动重启作业。如果智能调优是 monitor 模式(默认工作方式)，在这个页面会给 出推荐的作业配置，并且提供了一键启用建议 配置的功能来方便的...
应用实时监控服务ARMS
作为云原生可观测平台，应用实时监控服务 ARMS 包含前端监控、应用监控、云拨测等模块。覆盖浏览器、小程序、APP、分布式应用、容器等不同可观测环境与场景。帮助企业实现全栈性能监控与端到端追踪诊断。提高监控效率，压降运维工作量。
当告警规则被触发时，告警会以指定的通知方式向告警联系人或钉群发送告警信息.应用监控 eBPF 版.支持在多语言 SDK 中，直接通过相关协议上报链路信息.支持在各多语言 SDK 中，上报到独立的 Agent，再由 Agent 加工统一上报到平台.多语言应用快速接入.RPC 调用追踪.能对微服务程序 HTTP ,Dubbo,HSF 等接口进行追踪.PaaS 调用...
来自：
云产品
实时数仓Hologres
Hologres（原交互式分析）是一站式实时数据仓库引擎，支持海量数据实时写入、实时更新、实时分析，支持标准SQL（兼容PostgreSQL协议），支持PB级数据多维分析（OLAP）与自助分析（Ad Hoc），支持高并发低延迟的在线数据服务（Serving），与MaxCompute、Flink、DataWorks深度融合，提供离在线一体化全栈数仓解决方案。
实时数仓20讲.15000CU时计算包原价5313元，限时新购仅需59元.15000CU时计算包原价5313元，限时新购仅需59元.<查看全部产品.Hologres是一站式实时数据仓库引擎，支持海量数据实时写入、实时更新、实时分析，支持标准SQL（兼容PostgreSQL协议），支持PB级数据多维分析（OLAP）与即席分析（Ad Hoc），支持高并发低延迟的在线...
来自：
云产品
云速搭部署Flink应用
本水煎通过云速搭实现一个DataHub+Flink的实时流计算引擎架构，利用DataHub收集原始数据，推送到Flink进行基于流式数据的分析和应用。
云速搭部署 Flink应用 文档版本信息 云速搭 部署 Flink应用 最佳实践 文档版本：20211203（发布日期）云速搭部署 Flink应用 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 云速搭部署 Flink应用 文档编号 264 文档版本 V1.0 版本日期 2021-11-03 文档状态 对外发布 制作人 衾影 审阅人 文档变更记录 版本编号 ...
基于DataWorks的大数据一站式开发及数据治理
概述 基于Dataworks做大数据一站式开发，包含数据实时采集到kafka通过实时计算对数据进行ETL写入HDFS，使用Hive进行数据分析。通过Dataworks进行数据治理，数据地图查看数据信息和血缘关系，数据质量监控异常和报警。 适用场景 日志采集、处理及分析 日志使用Flink实时写入HDFS 日志数据实时ETL 日志HIVE分析 基于dataworks一站式开发 数据治理 方案优势 大数据一站式开发，完善的数据治理能力。 性能优越：高吞吐，高扩展性。 安全稳定：Exactly-Once，故障自动恢复，资源隔离。 简单易用：SQL语言，在线开发，全面支持UDX。 功能强大：支持SQL进行实时及离线数据清洗、数据分析、数据同步、异构数据源计算等Data Lake相关功能 ，以及各种流式及静态数据源关联查询。
步骤7 添加 hive_log节点进行关联，当数据异常时会收到相关通知（邮件样式参考下图）。文档版本：20201020 44 基于 Dataworks的大数据一站式开发及数据治理 数据治理 步骤8 在这里可以添加订阅关联，可以以邮件、短信、钉钉的方式通知订阅人。文档版本：20201020 45 基于 Dataworks的大数据一站式开发及数据治理 数据治理 ...
金融专属大数据workshop
实践目标 学习搭建一个实时数据仓库，掌握数据采集、存储、计算、输出、展示等整个业务流程。 整个实时数据仓库系统全部基于阿里云产品进行架构搭建，用户可以掌握并学会运用各个服务组件及各个组件之间如何联动。 理解阿里云原生实时离线一体数仓解决方案架构以及掌握交付落地的实践使用方法。 前置知识要求 熟练掌握SQL语法 对大数据体系系统知识有一定的了解
详见：https://www.aliyun.com/product/bigdata/sc DataV数据可视化：DataV数据可视化旨让更多的人看到数据可视化的魅力，帮 助非专业的工程师通过图形化的界面轻松搭建专业水准的可视化应用，满足您会 议展览、业务监控、风险预警、地理信息分析等多种业务的展示需求。详见：...
来自：
最佳实践
相关产品：块存储,云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,弹性公网IP,数据传输,DataWorks,大数据计算服务 MaxCompute,DataV数据可视化,实时计算,数据总线,Quick BI,Hologres
微服务应用问题定位及故障演练
场景描述 用户微服务架构应用基于阿里云 ACK 部署， 通 过 ARMS 监控发现微服务应用的容错能力是否 健壮， 容器编排配置是否合理， 以及节点故障引 发的问题等， 方案通过 AHAS 故障注入模拟生 产环境产生的故障， 通过 ARMS 及时发现问题、 定位问题， 并结合 ARMS 的告警功能快速发现 并解决问题。 发现调用下游一个服务实例出现异常。 发现业务 Pod 故障， 验证业务的稳定性。 发现调用数据库延迟故障， 验证 Pod 的水 平扩容能力。 解决问题 1. 定位并解决微服务应用的容错能力。 2. 定位并解决微服务应用编排合理性。 3. 发现故障并验证系统故障的告警时效性。 产品列表 应用高可用服务 AHAS 性能测试 PTS 应用实时监控服务 ARMS 容器服务 kubernetes 版 负载均衡 SLB 专有网络 VPC 日志服务 SLS
步骤21 选择标准伸缩模式进行创建（标准伸缩模式缩容时会释放 ECS；极速模式为停机不收 费，计算资源不收费，会收取存储费用，优势是启动比较快）。另外，通过这里也可以 给节点打标签或设置污点。文档版本：20220331 49 微服务应用问题定位及故障演练 问题定位及故障模拟 步骤22 可见伸缩组已启动，CPU阈值达到 50%后进行...
- 产品推荐
- 这些文档可能帮助您