开源大数据平台 E-MapReduce 产品功能
阿里云开源大数据平台 E-MapReduce 为客户提供简单易集成的Hadoop、Hive、Spark、StarRocks、Flink、Presto、ClickHouse等开源大数据计算和存储引擎。EMR计算资源支持灵活的弹性控制。EMR支持on ECS、on ACK以及Serverless多种部署形态。
资源扩展通过控制台页面或OpenAPI即可方便地增加或减少已有集群的节点数目。您可以使用 EMR 托管扩展策略轻松设置扩展和缩减，使 EMR 集群自动管理计算资源，以满足您的使用需求和性能需求。这样可提高集群利用率并节约成本。服务配置可以快速添加EMR提供的服务，可以监控服务的状态，并对服务组件进行配置和运维操作。您...
来自：
云产品
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中，以图片，视频，音频居多。举一个图片处理的场景，现在各种终端种类繁多，不同的终端对图片的格式、分辨率要求也不同，所以一张图片往往会有很多张衍生图，那如果所有的衍生图都存在OSS中，那存储的成本会增加，所以就可以通过OSS Object FC的方案，在不同的终端请求时，对OSS中的原图基于终端的要求做实时处理，然后响应返回，这样OSS中只需要存储原图即可。音视频也有类似的场景。
举一个 产品列表 图片处理的场景，现在各种终端种类繁多，不同 专有网络VPC 的终端对图片的格式、分辨率要求也不同，所以 阿里云函数计算(FC)一张图片往往会有很多张衍生图，那如果所有的 阿里云对象存储（OSS）衍生图都存在OSS中，那存储的成本会增加， 内容分发网络（ContentDeliveryNetwork，CDN） 云速搭...
阿里云日志服务SLS多云统一日志方案之腾讯云日志采集最佳实践
使用日志服务SLS统一采集、存储、查询和分析阿里云、腾讯云等不同云厂商上的业务日志、系统日志和云产品日志，实现在一个平台上管理多云架构下的所有日志。
阿里云 SLS多云日志统一管理方案-腾讯云日志采集 最佳实践 业务架构 场景描述 使用日志服务 SLS统一采集、存储、查询和分析 阿里云、腾讯云等不同云厂商上的业务日志、系 统日志和云产品日志，实现在一个平台上管理多 云架构下的所有日志。产品列表 方案适用的场景和优势 阿里云 多云：使用多云架构的用户都需要有一个统一...
SLS数据入湖Kafka最佳实践
应用和数据分散在多云或混合云，在面对多云/混合云这样大的趋势下，数据无法进行统一的聚合、分析处理和导出等，本方案给出了在多云/混合云场景下，构建通过标准的Kafka协议和托管服务，SLS可以连接Kafka数据入湖导入，然后进行统一的海量数据的集中存储、智能转储、聚合分析查询等。
SLS 数据入湖 Kafka 最佳实践 业务架构 场景描述 应用和数据分散在多云或混合云，在面对多云/混合云这样大的趋势下，数据无法进行统一的 聚合、分析处理和导出等，本方案给出了在多 云/混合云场景下，构建通过标准的Kafka协议 和托管服务，SLS可以连接Kafka数据入湖导 入，然后进行统一的海量数据的集中存储、智 能转储、...
Serverless 开发平台
阿里云Serverless 开发平台是无服务器开发平台，可通过Serverless 应用部署和开发快速提高Serverless 项目研发、应用集成部署与运维效能，无需考虑服务器即可快速构建并运行应用程序。
数据在存储和传输时都会进行加密，确保只有授权的用户才能访问解密后的数据。权限管理：Serverless Admin 提供灵活的权限管理功能，允许管理员精确控制用户和团队对项目的访问权限。这确保了只有授权的人员能够查看和编辑敏感数据。客户案例“基于云原生应用开发平台+函数计算 FC 提供的一键部署 Stable Diffusion 能力，...
来自：
云产品
通过ES兼容接口方式使用Kibana访问SLS数据
自建ELK日志系统的客户迁移到阿里云日志服务SLS后，对SLS查询分析语法不太熟悉的客户，可以继续沿用原有的查询分析习惯，在不改变使用方式习惯的情况下，通过Elasticsearch兼容接口的方式使用Kibana访问SLS。
步骤6 点击复制公网访问的集群凭证，并粘贴至$HOME/.kube路径下的config文件中 查找$HOME目录在哪的命令：echo$HOME 如果$HOME目录下没有.kube路径和config文件需要手动创建 创建路径：mkdir.kube 创建文件：vim.kub/config 然后输入复制的配置信息并保存：步骤7 验证集群连通性 kubectlgetnamespace 文档版本：20240418 21...
可观测链路 OpenTelemetry版结合日志服务SLS关联分析最佳实践
可观测链路 OpenTelemetry 版为分布式应用的开发者提供了完整的调用链路还原、调用请求量统计、链路拓扑、应用依赖分析等工具，可以帮助开发者快速分析和诊断分布式应用架构下的性能瓶颈，当应用出现业务异常问题时，您可以在可观测链路 OpenTelemetry 版控制台关联查看日志进行分析，精准定位业务异常。
确保 opentelemetry-demo-xxxservice（有 13个）、opentelemetry-demo-frontend、opentelemetry-demo-frontendproxy、opentelemetry-demo-ffspostgres、opentelemetry-demo-kafka、opentelemetry-demo-redis 和 opentelemetry-demo-otelcol 启动即可，其他应用的状态可以忽略。3.2.将应用调用链数据上报至可观测链路 ...
基于函数计算FC实现物联网音视频处理
在物联网场景中，智能设备会产生大量的非结构化数据，并且采集量和频率都很高。比如各类摄像头（家用摄像头、车载摄像头、工业监控摄像头等）采集的数据。企业需要对这些非结构化数据做快速的分析和处理，然后应用到下游业务中，所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
（函数中的代码在后续需要进入函数计算控制 台补充） vCPU规格：2c（函数计算有多种CPU资源规格，可以根据实际情况自行选择） 内存规格：4096MB（函数计算有多种内存资源规格，可以根据实际情况自行选择） 硬盘大小：10GB（函数计算提供免费的512MB的存储空间，如果超过512MB，会提供10GB的存储空间，但是会有额外...
基于函数计算FC实现大语言模型部署
在现代AI应用中， Qwen /chatglm2-6b 和Stable Diffusion等模型因其强大的功能而受到关注。然而，这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑，而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境，包括冷启动、弹性伸缩等，确保模型能够在大规模的请求下稳定运行。
FC和NAS服务，并确认函数计算 FC和文件存储 NAS状态为已开通，(登录 FC控制台 https://fcnext.console.aliyun.com/overview)（登录 NAS控制台 https://nasnext.console.aliyun.com/overview）步骤8（可选）开通时推荐领取阿里云的 free额度 文档版本：20240429 5 基于函数计算 FC实现大语言模型部署最佳实践 使用魔搭将社区...
基于MSE云原生网关实现全链路灰度
在微服务场景中，应用间的调用是随机的。当您部署的Spring Cloud应用或Dubbo应用存在升级版本时，可能会导致无法将具有一定特征的流量路由到应用的目标版本。通过MSE提供的全链路灰度能力，您无需修改业务代码，就可以实现端到端的全链路流量控制。泳道可以将应用的相关版本隔离成一个独立的运行环境。通过设置泳道规则，可以将满足规则的请求流量路由到目标版本的应用。
ACK 整合了阿里云的虚拟化、存储、网络和安全能力，助力企业高效运行云端Kubernetes容器化应用。文档版本：20240429 7基于MSE云原生网关实现全链路灰度最佳实践 前置条件 在进行本文操作之前，您需要完成以下准备工作： 注册阿里云账号，并完成实名认证。您可以登录阿里云控制台，并前往实名认证 页面...
基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
在大数据ETL场景，Kafka是数据的流转中心，Kafka中的数据一般是原始数据，可能存在多种数据混杂的情况，需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC，可以快速高效的搭建数据处理链路，用户只需要关注数据处理的逻辑，数据的触发，弹性伸缩，运维监控等阿里云函数计算都已经做了集成，函数计算FC也支持多种下游，OSS/数据库/消息队列/ES等都可以自定义的对接
可以看到对应的文件，代码中文件存储的名字按照时间生成。点击下载，可以在本地查看文件内容 文档版本：20240408 25 基于函数计算 FC实现阿里云 Kafka消息轻量级 ETL处理 场景验证 本次下载本地数据如下，符合预期，输入 3条数据，包含“error”关键字的被过滤，留下2条数据 如果结果不符合预期，可以开启函数计算日志，在...
基于FC实现的Web端视频录制最佳实践
场景描述在很多互娱场景，在线教育领域会有直播视频录制的需求，但是往往一个页面上的内容是多种多样的，不止有直播流，可能还有白板，评论等其他元素，如果只是录直播流，那内容是不完整的，所以需要将整个屏幕的内容录制为视频。该最佳实践可以有效解决这个场景。
基于 FC实现的 Web端视频录制最佳实践 业务架构 场景描述 解决问题 在很多互娱场景，在线教育领域会有直播视频录制的 解决 Web端全屏录制复杂度高的问题。需求，但是往往一个页面上的内容是多种多样的，不 解决 Web端全屏录制灵活扩展性的问题。止有直播流，可能还有白板，评论等其他元素，如果 只是录直播流，那内容是不...
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景，企业的Kafka实例可能存在多种情况，比如使用阿里云Kafka服务，可能是自建开源Kafka，或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例，在这个前提下Kafka实例之间可能会需要消息同步的情况： 同帐号容灾场景：比如Kafka实例都是阿里云Kafka，但是Kafka实例会有主备之分，需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾：这类场景比如主Kafka是阿里云Kafka，备Kafka是IDC开源自建Kafka，或者是其他云上的Kafka。 不同业务之间消息同步：因为现在的业务通常不会是信息孤岛，都需要消息互通，所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例，并且这两个Kafka实例归属不同的RAM角色，有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题（重试机制，容错机制，死信队列等）。 大幅提升构建消息同步架构的效率，降低构建复杂度问题。
（函数中的代码在后续需要进入函数计算控制 台补充） vCPU规格：0.35c（函数计算有多种CPU资源规格，可以根据实际情况自行选择） 内存规格：512MB（函数计算有多种内存资源规格，可以根据实际情况自行选择） 硬盘大小：512MB（函数计算提供免费的512MB的存储空间，如果超过512MB，会提供10GB的存储空间，但是会有额外...
容器场景下的应用性能监控、调用链拓扑、内存剖析
场景描述 随着云原生及微服务技术的普及，越来越多的系统已经通过云原生和微服务技术实现企业的降本增效，同时因微服务及云原生的复杂性给系统运维带来非常大的挑战，云原生应用监控arms通过全链路应用监控，从端到端及代码级别的链路下钻能力、CPU、内存持续剖析及诊断能力，帮助客户降低系统故障定位难度，此demo，您将体验arms的链路监控、内存剖析等能力 应用场景 微服务+容器场景下链路调用拓扑，调用链可以显示出服务之间的调用顺序和层次关系，帮助开发人员理解和追踪代码的执行流程 在分布式系统中，一个请求往往需要通过多个服务来完成。当出现问题时，如请求超时、错误或异常，很难快速定位问题所在。 解决问题 调用链可以帮助运维人员解决以下问题： · 故障排查：当请求失败或出现错误时，调用链可以显示整个请求的路径和每个服务的执行情况，从而帮助运维人员快速定位问题所在。 · 性能优化：通过调用链，运维人员可以了解请求在系统中的执行时间和瓶颈所在，从而进行优化。 · 系统监测：调用链可以提供实时的系统监测和分析，帮助运维人员了解系统的健康状况和资源利用情况。
将下载的文件insights-helm.zip文件上传 步骤5 上传后可以看到文件 文档版本：20240329 22容器场景下的应用性能监控、调用链拓扑、内存剖析 场景验证 步骤6 执行解压缩操作unzipinsights-helm.zip 步骤7 查看文件并执行helm安装命令 helm执行命令如下 helminstallinsights-demo-setcommon.namespace=arms-apm-demoinsights-...
- 产品推荐
- 这些文档可能帮助您