实时数仓Hologres
Hologres（原交互式分析）是一站式实时数据仓库引擎，支持海量数据实时写入、实时更新、实时分析，支持标准SQL（兼容PostgreSQL协议），支持PB级数据多维分析（OLAP）与自助分析（Ad Hoc），支持高并发低延迟的在线数据服务（Serving），与MaxCompute、Flink、DataWorks深度融合，提供离在线一体化全栈数仓解决方案。
行存列存两种存储，基于盘古系统，针对SSD优化.计算、存储按需弹性独立扩展，无需数据搬迁.支持按使用计费，支持数据冷热存储，整体拥有成本更低.负载隔离、高可用、细粒度权限、数据加密等.面向多维分析（OLAP），适合静态报表展示.非云原生架构，扩展成本高，集群规模有限.支持有限SQL，对复杂Join、子查询等支持效率低....
来自：
云产品
OpenLake大数据&AI一体化解决方案
本方案是基于开放可控数据湖仓构建的大数据/搜索/AI一体化解决方案。通过元数据管理平台DLF管理结构化和半/非结构化数据，提供湖仓数据表和文件的安全访问及IO加速。支持多引擎对接和平权协同计算，通过DataWorks统一开发，并保障大规模任务调度。
总体架构包括：1、统一元服务和存储（Meta Service）：数据湖构建（Data Lake Formation）提供了全托管的统一元数据服务，包括元数据管理、权限管理和引擎对接等能力，支持全托管/半托管OSS湖存储、Paimon等多种湖表格式，以及图片/视频和AI模型等文件的统一存储。2、平权的多计算引擎（Multi-Engine）：跨数据、搜索和AI...
来自：
技术解决方案
开源大数据平台 E-MapReduce 技术解决方案
阿里云开源大数据平台 E-MapReduce 技术解决方案，帮助您快速了解如何利用这款弹性伸缩、存算分离的企业级大数据平台服务来提升业务效率，降低成本。
结合高性能文件存储 CPFS，实现 OSS 与 CPFS 数据双向流通，同时，热点训练数据以透明方式同步到 CPFS，通过 CPFS 的文件语义与机器学习平台 PAI 对接，满足高性能训练场景需求。解决问题：数据孤岛林立不同业务部门由于数据规模、数据类型不同而出现不同的数据孤岛，难以从统一位置访问和管理所有数据，数据无法实现有效...
来自：
云产品
基于函数计算实现直播流录制-存储-通知
在互娱、教育、电商等行业都会有直播相关的业务，大部分场合都需要对直播相关的业务做安全审核，或者对直播的课程进行录制和转码。该方案实现了一种完全按需拉起、按量弹性、按实际使用付费的录制方案。基于本方案还可以扩展实现直播流截帧、自动化安全审核等能力
基于函数计算实现直播流录制-存储-通知最佳实践 业务架构 场景描述 基于阿里云函数计算实现对直播流的实时录制，录制结束后会把录制的结果写入 OSS 存储桶，并把录制的结果写到消息队列，下游服务可以通 过订阅的方式来消费消息 应用场景 在互娱、教育、电商等行业都会有直播相关的业 务，大部分场合都需要对直播相关的业务...
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景，企业的Kafka实例可能存在多种情况，比如使用阿里云Kafka服务，可能是自建开源Kafka，或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例，在这个前提下Kafka实例之间可能会需要消息同步的情况： 同帐号容灾场景：比如Kafka实例都是阿里云Kafka，但是Kafka实例会有主备之分，需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾：这类场景比如主Kafka是阿里云Kafka，备Kafka是IDC开源自建Kafka，或者是其他云上的Kafka。 不同业务之间消息同步：因为现在的业务通常不会是信息孤岛，都需要消息互通，所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例，并且这两个Kafka实例归属不同的RAM角色，有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题（重试机制，容错机制，死信队列等）。 大幅提升构建消息同步架构的效率，降低构建复杂度问题。
阿里云安全组 不同业务之间消息同步：因为现在的业务通常不 阿里云函数计算(FC)会是信息孤岛，都需要消息互通，所以可能是A 阿里云云消息队列Kafka版 业务的Kafka实例消息需要同步到B业务的 阿里云弹性计算（ECS）Kafka实例，并且这两个Kafka实例归属不同的 云速搭CADT RAM角色，有自己独自的权限控制。...
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中，以图片，视频，音频居多。举一个图片处理的场景，现在各种终端种类繁多，不同的终端对图片的格式、分辨率要求也不同，所以一张图片往往会有很多张衍生图，那如果所有的衍生图都存在OSS中，那存储的成本会增加，所以就可以通过OSS Object FC的方案，在不同的终端请求时，对OSS中的原图基于终端的要求做实时处理，然后响应返回，这样OSS中只需要存储原图即可。音视频也有类似的场景。
举一个 产品列表 图片处理的场景，现在各种终端种类繁多，不同 专有网络VPC 的终端对图片的格式、分辨率要求也不同，所以 阿里云函数计算(FC)一张图片往往会有很多张衍生图，那如果所有的 阿里云对象存储（OSS）衍生图都存在OSS中，那存储的成本会增加， 内容分发网络（ContentDeliveryNetwork，CDN） 云速搭...
基于FC实现的Web端视频录制最佳实践
场景描述在很多互娱场景，在线教育领域会有直播视频录制的需求，但是往往一个页面上的内容是多种多样的，不止有直播流，可能还有白板，评论等其他元素，如果只是录直播流，那内容是不完整的，所以需要将整个屏幕的内容录制为视频。该最佳实践可以有效解决这个场景。
使用 RESTful API 可以在互联网任何位置存储和访问，容量和处理能力弹性扩 展，多种存储类型供选择全面优化存储成本。容器镜像服务 ACR（Alibaba Cloud Container Registry）：是面向容器镜像、Helm Chart等符合 OCI标准的云原生制品安全托管及高效分发平台。ACR企业版支 持全球同步加速、大规模和大镜像分发加速、多代码源...
容器场景下的应用性能监控、调用链拓扑、内存剖析
场景描述 随着云原生及微服务技术的普及，越来越多的系统已经通过云原生和微服务技术实现企业的降本增效，同时因微服务及云原生的复杂性给系统运维带来非常大的挑战，云原生应用监控arms通过全链路应用监控，从端到端及代码级别的链路下钻能力、CPU、内存持续剖析及诊断能力，帮助客户降低系统故障定位难度，此demo，您将体验arms的链路监控、内存剖析等能力 应用场景 微服务+容器场景下链路调用拓扑，调用链可以显示出服务之间的调用顺序和层次关系，帮助开发人员理解和追踪代码的执行流程 在分布式系统中，一个请求往往需要通过多个服务来完成。当出现问题时，如请求超时、错误或异常，很难快速定位问题所在。 解决问题 调用链可以帮助运维人员解决以下问题： · 故障排查：当请求失败或出现错误时，调用链可以显示整个请求的路径和每个服务的执行情况，从而帮助运维人员快速定位问题所在。 · 性能优化：通过调用链，运维人员可以了解请求在系统中的执行时间和瓶颈所在，从而进行优化。 · 系统监测：调用链可以提供实时的系统监测和分析，帮助运维人员了解系统的健康状况和资源利用情况。
将下载的文件insights-helm.zip文件上传 步骤5 上传后可以看到文件 文档版本：20240329 22容器场景下的应用性能监控、调用链拓扑、内存剖析 场景验证 步骤6 执行解压缩操作unzipinsights-helm.zip 步骤7 查看文件并执行helm安装命令 helm执行命令如下 helminstallinsights-demo-setcommon.namespace=arms-apm-demoinsights-...
基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
在大数据ETL场景，Kafka是数据的流转中心，Kafka中的数据一般是原始数据，可能存在多种数据混杂的情况，需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC，可以快速高效的搭建数据处理链路，用户只需要关注数据处理的逻辑，数据的触发，弹性伸缩，运维监控等阿里云函数计算都已经做了集成，函数计算FC也支持多种下游，OSS/数据库/消息队列/ES等都可以自定义的对接
可以看到对应的文件，代码中文件存储的名字按照时间生成。点击下载，可以在本地查看文件内容 文档版本：20240408 25 基于函数计算 FC实现阿里云 Kafka消息轻量级 ETL处理 场景验证 本次下载本地数据如下，符合预期，输入 3条数据，包含“error”关键字的被过滤，留下2条数据 如果结果不符合预期，可以开启函数计算日志，在...
Serverless 开发平台
阿里云Serverless 开发平台是无服务器开发平台，可通过Serverless 应用部署和开发快速提高Serverless 项目研发、应用集成部署与运维效能，无需考虑服务器即可快速构建并运行应用程序。
提供强大的身份验证和访问控制功能，允许管理员定义用户和团队的权限，以确保只有授权人员能够访问和管理项目；提供实时监控和审计功能，让管理员能够跟踪项目的活动，及时发现和应对潜在的安全问题；积极管理和修复潜在的安全漏洞，并定期更新产品以确保安全性；提供实时监控和审计功能，方便用户发现和应对潜在的安全问题...
来自：
云产品
基于函数计算FC实现物联网音视频处理
在物联网场景中，智能设备会产生大量的非结构化数据，并且采集量和频率都很高。比如各类摄像头（家用摄像头、车载摄像头、工业监控摄像头等）采集的数据。企业需要对这些非结构化数据做快速的分析和处理，然后应用到下游业务中，所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
文档版本：20240502 47基于函数计算FC实现物联网音视频处理最佳实践 场景验证 步骤3 如果您当前登录的是子账号，需要给AliyunFcDefaultRole增加AliyunFCFullAccess权 限。请访问https://ram.console.aliyun.com/roles/detail?roleName=aliyunfcdefaultrole。3.7.配置send_video_func函数 步骤1 以同样的方式在CADT画布中...
通过ES兼容接口方式使用Kibana访问SLS数据
自建ELK日志系统的客户迁移到阿里云日志服务SLS后，对SLS查询分析语法不太熟悉的客户，可以继续沿用原有的查询分析习惯，在不改变使用方式习惯的情况下，通过Elasticsearch兼容接口的方式使用Kibana访问SLS。
20240418 38基于MSE云原生网关同城多活最佳实践 释放环境 步骤5 创建IndexPattern Name 框 中 填 写 project 名 称.logstore 名 称，本 文 即 是 k8s-log-.wordpress，Name填写正确右 边会自动弹出该Index，然后Timestamp框中选择@timestamp 步骤6 通过Kibana查看日志 在Kibana控制台的Discovery里可以看到，SLSProject：k8...
基于函数计算FC实现大语言模型部署
在现代AI应用中， Qwen /chatglm2-6b 和Stable Diffusion等模型因其强大的功能而受到关注。然而，这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑，而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境，包括冷启动、弹性伸缩等，确保模型能够在大规模的请求下稳定运行。
文档版本：20240429 6 基于函数计算 FC实现大语言模型部署最佳实践 使用魔搭将社区模型部署到 FC ZhipuAI/chatglm2-6b 步骤12 页面跳转到 FC创建应用页面，GPU实例类型已经自动选择了合适的类型，首次使用会 做一些额外的权限授权，请参考页面的提示 文档版本：20240429 7 基于函数计算 FC实现大语言模型部署最佳实践 使用...
容器多云统一监控日志
多云、混合云成为常态，Forrester 报告中指出，未来 89% 的企业至少使用两个云，74% 的企业至少使用三个甚至更多公有云，在面对多云/混合云这样大的趋势下，Gartner报告指出，安全、运维复杂性、财务复杂性是多云架构的主要挑战，本方案给出了在多云/混合云场景下，构建基于容器环境下的统一管理、统一监控和统一日志方案，解决多云、混合云场景下，运维复杂性问题。 应用场景 客户在阿里云以外的其他云服务商（AWS、Azure、GCP、TencentCloud、HuaweiCloud等）或者IDC基于容器（Kubernetes）运行业务系统，希望构建容器场景下的统一监控日志系统，方便做不同大屏和问题分析定位。 解决问题 •构建容器多云统一监控和日志系统，在一个平台可以看到不同环境系统的运行情况。
分布式云容器平台ACKOne：是阿里云面向混合云、多集群、分布式计算、容 灾等场景推出的企业级云原生平台，ACKOne可以连接并管理您任何地域、任 何基础设施上的Kubernetes集群，并提供一致的管理和社区兼容的API，支持 对计算、网络、存储、安全、监控、日志、作业、应用、流量等进行统一运维管 控。 日志服务SLS：是云...
基于MSE云原生网关同城多活
借助云原生微服务MSE网关，MSE配置注册中心的同城容灾多活微服务应用。构建一个经典的微服务场景，实现同城容灾的步骤，体现云原生相关产品在用户上云，高可用同城容灾多活场景下的能力。
ACK 整合了阿里 云的虚拟化、存储、网络和安全能力，助力企业高效运行云端 Kubernetes 容器化 应用。微服务引擎 MSE：微服务引擎 MSE 面向业界主流开源微服务项目，提供注册 配置中心和分布式协调（原生支持 Nacos/ZooKeeper/Eureka）、云原生网关（原 生支持 Higress/Nginx/Envoy，遵循 Ingress 标准）、微服务治理和...
混合云存储构建VMware虚拟化平台
场景描述 本文以混合云存储阵列SA2600系统为例，介绍如 何在混合云存储环境下部署VMware虚拟化平台， 以及混合云环境下虚拟机的部署、扩容、云备份等功 能演示。 解决问题 1.如何使用混合云存储部署VMware虚拟化平台。 2.存储阵列在混合云环境下的使用，比如虚拟机部 署、扩容、云备份等。 产品列表 1.混合云存储阵列 2.对象存储OSS
文件存储NAS：件存储NAS是一个可共享访问，弹性扩展，高可靠，高性能的 分布式文件系统。兼容POSIX文件接口，可支持数千台计算节点共享访问，可 以挂载到弹性计算ECS、神龙裸金属、容器服务ACK、弹性容器ECI、批量计 算BCS、高性能计算EHPC，AI训练PAI等计算业务上提供高性能的共享存储，用户无需修改应用程序，即可无缝...
- 产品推荐
- 这些文档可能帮助您