批量计算BCS
阿里云批量计算(BatchCompute)是一种适用于大规模并行批处理作业的分布式云服务。支持海量作业并发规模,系统自动完成资源管理,作业调度和数据加载,并按实际使用量计费。可广泛应用于电影动画渲染、生物数据分析、多媒体转码、金融保险分析、科学计算等领域。
支持将对象存储OSS挂载到计算节点的本地文件系统,程序可以通过文件系统接口访问对象存储数据,无缝兼容传统软件上云.通过分布式缓存大幅加速共享数据的并发读取,大规模电影渲染场景效率提升5到10倍。支持对象存储OSS和文件存储NAS.文件挂载和虚拟目录.挂载单个OSS文件到计算节点或将多个分散的文件组织成虚拟目录进行挂载...
来自: 云产品
EMR HBase on OSS存算分离集群快速恢复
EMR HBase on OSS存算分离集群快速恢复
OSS-HDFS服务(JindoFS服务)是一款云原生数据湖存储产品。基于统一的元数据管理能力,在完全兼容HDFS文件系统接口的同时,提供充分的POSIX能力支持,能更好地满足大数据和AI等领域的数据湖计算场景。
基于统一的元数据管理能力,OSS上,HBase数据迁移和恢复时无需再使用快照等复杂 在完全兼容 HDFS文件系统接口的同时,提供充 的方式。分的 POSIX能力支持,能更好地满足大数据和 方便扩容 AI等领域的数据湖计算场景。目前基于 Core Node扩容 HBase计算时会同步扩容 HDFS,但是本文中的 HDFS 集群本身只用于存储 WAL(Write ...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,E-MapReduce,云速搭CADT
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
本篇最佳实践先创建EMR集群作为数据湖对象,Hive元数据存储在DLF,外表数据存储在OSS。然后使用阿里云数据仓库MaxCompute以创建外部项目的方式与存储在DLF的元数据库映射打通,实现元数据统一。最后通过一个毒蘑菇的训练和预测demo,演示云数仓MaxCompute如何对于存储在EMR数据湖的数据进行加工处理以达到业务预期。
基于统一的元数据管 理能力,在完全兼容HDFS文件系统接口的同时,提供充分的POSIX能力支持,能更 好地满足大数据和AI等领域的数据湖计算场景。基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测 1.4.检查EMR集群 本示例使用CADT架构模式创建了EMR集群,配置Hive元数据存储到数据湖构建。步骤1 快速登录到EMR控制台:点击...
来自: 最佳实践 | 相关产品:对象存储 OSS,E-MapReduce,DataWorks,大数据计算服务 MaxCompute,API网关,数据湖构建,云速搭
通过ES兼容接口方式使用Kibana访问SLS数据
通过ES兼容<em>接口</em>方式使用Kibana访问SLS数据
自建ELK日志系统的客户迁移到阿里云日志服务SLS后,对SLS查询分析语法不太熟悉的客户,可以继续沿用原有的查询分析习惯,在不改变使用方式习惯的情况下,通过Elasticsearch兼容接口的方式使用Kibana访问SLS。
通过ES兼容接口方式使用Kibana访问SLS数据最佳实践 业务架构 场景描述 日志服务SLS提供Elasticsearch兼容接口,支 持客户将日志采集到日志服务后,仍可以继续沿 用Elasticsearch的查询方案,即通过使用 Kibana访问日志服务的Elasticsearch兼容 ,实现查询SLS数据。应用场景 自建ELK日志系统的客户迁移到阿里云日志服 务...
来自: 最佳实践 | 相关产品:云服务器ECS,容器服务 ACK,日志服务(SLS)
可观测链路 OpenTelemetry版结合日志服务SLS关联分析最佳实践
可观测链路 OpenTelemetry版结合日志服务SLS关联分析最佳实践
可观测链路 OpenTelemetry 版为分布式应用的开发者提供了完整的调用链路还原、调用请求量统计、链路拓扑、应用依赖分析等工具,可以帮助开发者快速分析和诊断分布式应用架构下的性能瓶颈,当应用出现业务异常问题时,您可以在可观测链路 OpenTelemetry 版控制台关联查看日志进行分析,精准定位业务异常。
通过 git下载 YAML文件.7 3.OpenTelemetry Demo入.8 3.1.在 ACK集群中部署 Demo应用.8 3.2.将应用调用链数据上报至可观测链路 OpenTelemetry 版.10 3.3.将应用日志上报至日志服务 SLS.13 3.4.将应用调用链与日志通过 traceId 进行关联.16 4.使用指南.18 4.1.应用概览&应用列表.18 4.2.调用链分析.19 4.3.查看调用链详情....
来自: 最佳实践 | 相关产品:日志服务(SLS),云速搭
基于函数计算FC实现物联网音视频处理
基于函数计算FC实现物联网音视频处理
在物联网场景中,智能设备会产生大量的非结构化数据,并且采集量和频率都很高。比如各类摄像头(家用摄像头、车载摄像头、工业监控摄像头等)采集的数据。企业需要对这些非结构化数据做快速的分析和处理,然后应用到下游业务中,所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
 iot_video_process_original_videos/:存放原始视频(比如高清视频),也就是在6.2 文档版本:20240502 64基于函数计算FC实现物联网音视频处理最佳实践 场景验证 章节通过接口发送的视频文件。可以看到原始视频的大小是38.596MB。 iot_video_process_split_videos/:存放切分后的视频。该路径下还有一层原始视频 名称...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
基于函数计算实现直播流录制-存储-通知
基于函数计算实现直播流录制-存储-通知
在互娱、教育、电商等行业都会有直播相关的业务,大部分场合都需要对直播相关的业务做安全审核,或者对直播的课程进行录制和转码。该方案实现了一种完全按需拉起、按量弹性、按实际使用付费的录制方案。基于本方案还可以扩展实现直播流截帧、自动化安全审核等能力
另外,本次实操在整体释放资源之前,我们需要先清空 Bucket 里的文件(请确认本 次实操的 Bucket 里的文件都可以删除)。回到 CADT 的应用界面,双击 OSS 查看资 源清单,点击选择清空 BUCKET文件,并点击确定。看到右上角弹框提示清空 BUCKET 文件执行成功。在资源清单页面,点击返回,回到完整的资源清单界面,点击释放...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
基于FC实现的Web端视频录制最佳实践
基于FC实现的Web端视频录制最佳实践
场景描述在很多互娱场景,在线教育领域会有直播视频录制的需求,但是往往一个页面上的内容是多种多样的,不止有直播流,可能还有白板,评论等其他元素,如果只是录直播流,那内容是不完整的,所以需要将整个屏幕的内容录制为视频。该最佳实践可以有效解决这个场景。
自动通知下游服务执行结果 ◼ 请求执行成功后,如果您配置了成功目标,函数计算系统会自动将成功请求的上下文 信息推送到下游目标服务。例如,您配置了使用函数计算实现自动解压上传到 OSS的 ZIP文件,解压完成后想要接收消息通知,可采用为目标函数配置异步调用结果回调目 标服务。3.4.该最佳实践的 Callback 在 Web端视频...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
向量检索与通义千问搭建专属问答服务
本方案介绍如何使用向量检索服务(DashVector)结合通义千问大模型来打造基于垂直领域专属知识等问答服务。解决大模型本身在处理特定领域的知识表示和应用时的局限性。为企业提供部署简单,便于集成,实时高效,专业稳定的应用服务。
简洁 SDK 功能设计通过简洁易用的 SDK/API 接口透出,方便被上层 AI 应用迅速集成。应用场景企业内部问答平台通过DashVector+通义千问构建企业内部专有知识库,企业内部的员工可以提出问题,获取产品知识等答案和业务解决方案。企业智能客服基于DashVector+通义千问实现智能问答、语义理解和自动回复等功能,从而减少客服...
来自: 解决方案
SAE-ACK应用双跑最佳实践
SAE-ACK应用双跑最佳实践
场景描述 实现ACK、SAE中部署的应用在东西向和南北向互通,实现SAE-ACK应用双跑。 应用场景 该最佳实践应用于两类场景: l 因为SAE支持更丰富自动扩缩指标(比如QPS,RT,TCP连接数等),所以将相对稳态的应用部署在ACK中,将相对弹性波动大的应用部署在SAE,借助SAE更强大的自动扩缩应对流量洪峰。 l 将K8s架构迁移到Serverless架构时,需要平滑过渡,所以该最佳实践中的双跑架构可以有效帮用户平滑的完成迁移。
 负载均衡SLB(ServerLoadBalancer):一种对流量进行按需分发的服务,通过将流量分发 到不同的后端服务来扩展应用系统的服务吞吐能力,并且可以消除系统中的单点故障,提 升应用系统的可用性。 Serverless应用引擎SAE(ServerlessAppEngine):是一款零代码改造、极简易用、自适应 弹性的应用全托管平台。SAE能够让您...
来自: 最佳实践 | 相关产品:容器服务 ACK,Serverless 应用引擎,微服务引擎
Kafka性能压测快速方案
Kafka性能压测快速方案
产品性能基线测试场景需要对产品进行性能测试得到详细的压测数据,本方案可以快速构建测试的客户端(kafka官方的压测客户端)和不同的Kafka服务端( SSD云盘版、高效云盘、Serverless版三种实例),方便客户进行POC完成性能验证。
mkdir/root/kafka-perf 文档版本:20240229 4Kafka性能压测快速方案 部署基础环境#sleep10s sleep10#生成本地执行文件 cat>/root/kafka-perf/install_env.sh/root/kafka-perf/kafka-perf.sh/root/kafka-perf/kafka-perf.log2>&1&可用 tail-f/root/kafka-perf/kafka-perf.log查看系统启动部署kafka压测软件日志。echo"压测...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,消息队列 Kafka 版
基于MSE和SAE的微服务部署与压测
基于MSE和SAE的微服务部署与压测
通过云原生微服务引擎MSE、SAE、PTS、ARMS产品,为spring cloud微服务应用提供部署和测试能力,提供一个经典微服务应用上云的典型架构,实现微服务应用的快速落地。
提供的 场景编排、API调试、流量定制、流量录制等功能,可快速创建业务压测脚本,精准模拟不同量级用户访问业务系统,帮助业务快速提升系统性能和稳定性。 云速搭 CADT(CloudArchitectDesignTools):是一款为上云应用提供自助 式云架构管理的产品,显著地降低应用云上管理的难度和时间成本。本产品提 供丰富的预制应用...
来自: 最佳实践 | 相关产品:负载均衡 SLB,弹性公网IP,性能测试 PTS,应用实时监控服务 ARMS ,Serverless 应用引擎,微服务引擎,云速搭
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
本方案基于云速搭 CADT提供一个快速构建云上Serverless版HPC批量计算环境的模板,针对生物制药领域的药物筛选场景,提供开箱即用的整套解决方案工具包,整个云上环境仅需1个小时即可完成自动化部署搭建。
文件存储 NAS:阿里云文件存储 NAS是一个可共享访问,弹性扩展,高可靠,高性 能的分布式文件系统。它基于 POSIX 文件接口,天然适配原生操作系统,提供共 享访问,同时保证数据一致性和锁互斥。文件存储 NAS中的数据自动地在可用区 内以多副本冗余方式存储,避免数据的单点故障风险,提供高达 99.999999999%的 数据可靠性...
来自: 最佳实践 | 相关产品:弹性公网IP,文件存储NAS,日志服务(SLS),容器镜像服务 ACR,操作审计,密钥管理服务,云防火墙,弹性高性能计算E-HPC,云速搭
基于SpringCloud应用玩转MSE实践
基于SpringCloud应用玩转MSE实践
随着业务不断创新,大型的单个应用和服务会被拆分为数个甚至数十个微服务,微服务架构已经被广泛应用。 微服务的好处在于快速迭代,如何在迭代过程中保障线上流量不受损。依赖开源产品缺少无运维工具,常常需要投入较大的运维人力和成本。 本实践提供基于云原生应用产品提供微服务注册配置中心、微服务治理和云原生网关等一系列高性能和高可用的企业级云服务能力。
5.1.ACK集群部署应用 步骤1登录ACK集群,新建命名空间project-qa(如果修改了命名空间名称,需要对应修改后续yaml 的namespace参数)文档版本:20240229基于SpringCloud玩转MSE 步骤2:在命名空间中,通过YAML分别创建4个应用:基线版应用:mseconsumer、mseprovider 灰度版应用:mseconsumer-gray、mseprovider-gray ...
来自: 最佳实践 | 相关产品:弹性公网IP,容器服务 ACK,日志服务(SLS),NAT网关,微服务引擎,消息队列 RocketMQ 版,云速搭
文件存储NAS
文件存储(Network Attached Storage,简称NAS),是阿里云对外提供的兼容POSXI接口的分布式文件存储,容量和处理能力的弹性扩展,按实际容量付费真正使您专注于核心业务。
通用型NAS支持CSI接口,为POD提供可共享访问的PV.ACK内嵌CNFS加速端,加速小文件读写,媲美本地文件系统性能.计算侧分布式缓存,随计算规模自动伸缩,满足业务增长下的性能需求.解决方案及优势.通用型NAS的共享访问能力和原生容器支持为容器提供了POD间故障切换和容灾能力。同时,性能弹性和按量付费的形式有效降低用户的...
来自: 云产品
文件存储CPFS
阿里云文件存储CPFS是完全托管、可扩展的并行文件存储系统。针对高性能计算场景的性能要求进行了深度优化,提供对数据毫秒级的访问和百万级IOPS的数据读写请求。
通过 E-HPC 控制台可以快速创建 CPFS 文件系统并搭建完整的高性能计算平台.与 E-HPC 深度整合.CPFS 支持阿里云 ACK 容器服务。通过 CSI 接口,容器服务可以方便的利用 CPFS 的高速 I/O 能力。同时实现计算力大规模弹性伸缩.支持容器 ACK CSI 接口.CPFS 通过 NFS 协议服务支持无影桌面直接挂载。实现开发调试终端与高性能...
来自: 云产品
Function Compute构建高弹性大数据采集系统
Function Compute构建高弹性大数据采集<em>系统</em>
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中,对数据进行处理、分析,形成业务闭环。比如游戏行业中的游戏发行、游戏运营,产互行业中的数字营销,物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点,给整个数据采集传输系统带来很大的挑战。在这个场景中,有三个关键的环节,数据采集、数据传输、数据处理。该最佳实践主要涉
基于阿里云分布式文件系统和 SSD盘高性能 存储,RDS支持 MySQL、SQL Server、PostgreSQL、PPAS(Postgre Plus Advanced Server,高度兼容 Oracle数据库)和 MariaDB TX引擎,并且提供了 容灾、备份、恢复、监控、迁移等方面的全套解决方案,彻底解决数据库运维的烦 恼。更多信息,请参见:www.aliyun.com/product/rds 函数...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,日志服务(SLS),函数计算,消息队列 Kafka 版,云速搭CADT
基于日志服务构建业务可观测性系统
基于日志服务构建业务可观测性<em>系统</em>
现在已知的各种监控数据的工具,以及对应的监控系统有非常多的选择,比如ZABBIX,Prometheus,Skywalking等。但是这些系统都存在同样的一个问题,只覆盖了可观察性的一部分,举个简单的类比,大家在日常开车的过程中,会用到很多的辅助设备,仪表盘,行车记录仪,导航,倒车影像等等,这些设备都各自承载了一部分的功能,但是都存在着如下的问题: l 数据覆盖不完整 l 存在数据孤岛(无法关联协同) l 使用门槛高,不够人性化 核心价值 l 全覆盖,统一协议,支持各类平台。 l 数据关联,统一Schema,关联Metrics/Logs。 l 云原生,SaaS服务,拥抱云原生。 l 简单易用,自动化埋点,数十项易用功能。 智能化,异常诊断,根因分析。
SLS的 project,可以在该项目下创建对 应的 Logstore)注:通过 CADT工具拉起的 ACK集群,默认对应的 Project名称为 ack-for-tracing-logging-only 文档版本:20210616 26 基于日志服务构建业务可观察性系统 架构环境搭建 步骤2 创建 Logtail配置,使用数据导入向导,入数据时,选择 Kubernetes文件。步骤3 单击使用现有...
来自: 最佳实践 | 相关产品:云服务器ECS,容器服务 ACK,日志服务(SLS)
智能商业分析 Quick BI
瓴羊智能商业分析 Quick BI 是阿里云用户臻选的数据可视化工具,大幅提升数据分析和报表开发效率,一站式满足企业各种场景的数据分析和决策的诉求。
API 和开放 webhooks 事件监听的能力实现企业资源的集中化管控,企业平台通过开放 API 接口对报表资源进行查询、删除、发布、下线、移动等操作,同时企业的报表开发者/管理员在 Quick BI 的工作台中对作品进行的变更会通过客户的自定义渠道 webhooks 发送通知到企业系统,让企业平台可以及时感知到在 Quick BI 中的资源变更...
来自: 云产品
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
文件存储 HDFS 版具备无限容量及性能扩展、单一命名空间、高可靠和高可用等特性的分布式文件系统。表格存储 Tablestore阿里云自研的面向海量结构化数据存储的 Serverless 表存储服务。数据库文件存储 DBFS数据库文件存储(DBFS)是一款针对数据库场景的云原生共享文件存储服务。存储容量单位包 SCU一种预付费存储售卖形态,...
来自: 云产品
< 1 2 3 4 ... 6 >
共有6页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用