基于函数计算FC实现物联网音视频处理
在物联网场景中，智能设备会产生大量的非结构化数据，并且采集量和频率都很高。比如各类摄像头（家用摄像头、车载摄像头、工业监控摄像头等）采集的数据。企业需要对这些非结构化数据做快速的分析和处理，然后应用到下游业务中，所以需要一套高并发、低成本、自动化的方案。该最佳实践就适用于这类场景。
通过Git下载示例代码 步骤1 使用GitClone命令，从Git仓库下载示例代码和文件。gitclonehttps:/best-practice:Abcd123456@codeup.aliyun.com/best-practice/bp/370.git 步骤2 下载成功后，会看到名为370的文件夹，里面包含2个文件夹，及若干视频文件和代 码文件，我们不需要关注videos文件夹里的视频文件，这是之后验证时...
基于函数计算FC实现阿里云Kafka消息轻量级ETL处理
在大数据ETL场景，Kafka是数据的流转中心，Kafka中的数据一般是原始数据，可能存在多种数据混杂的情况，需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC，可以快速高效的搭建数据处理链路，用户只需要关注数据处理的逻辑，数据的触发，弹性伸缩，运维监控等阿里云函数计算都已经做了集成，函数计算FC也支持多种下游，OSS/数据库/消息队列/ES等都可以自定义的对接
利用函数计算 FC，可以快速高效的搭建数据处理链路，用户只需要关注数据处理的逻辑，数据的触发，弹性 伸缩，运维监控等阿里云函数计算都已经做了集成，函数计算 FC也支持多种下游，OSS/数据 库/消息队列/ES等都可以自定义的对接。方案优势 快速搭建起数据处理全链路 全链路自适应弹性，无需为流量峰谷做频繁的手工处理 ...
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景，企业的Kafka实例可能存在多种情况，比如使用阿里云Kafka服务，可能是自建开源Kafka，或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例，在这个前提下Kafka实例之间可能会需要消息同步的情况： 同帐号容灾场景：比如Kafka实例都是阿里云Kafka，但是Kafka实例会有主备之分，需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾：这类场景比如主Kafka是阿里云Kafka，备Kafka是IDC开源自建Kafka，或者是其他云上的Kafka。 不同业务之间消息同步：因为现在的业务通常不会是信息孤岛，都需要消息互通，所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例，并且这两个Kafka实例归属不同的RAM角色，有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题（重试机制，容错机制，死信队列等）。 大幅提升构建消息同步架构的效率，降低构建复杂度问题。
通过Git下载示例代码 步骤1 使用GitClone命令，从Git仓库下载示例代码和文件。gitclonehttps:/best-practice:Abcd123456@codeup.aliyun.com/best-practice/bp/369.git 步骤2 下载成功后，会看到名为369的文件夹，里面包含3个文件。 kafka-message-sync.py：同步消息的示例代码 metadata_cloud_kafka_to_idc_kafka.py：...
ACK容器平台集群安全控制
场景描述 本方案实践主要是通过一些实践示例来介绍 用户对于在阿里云上使用Kubernetes集群服 务的容器平台安全管控的实践验证与使用建 议。 方案优势 容器集群部署快捷 授权与安全策略配置方便 丰富的安全控制实践介绍 解决问题 容器集群API Server的安全访问控 制 容器服务多租户场景下的授权管理 容器中的敏感信息数据的存储 容器服务集群安全策略配置管理 产品列表 容器服务Kubernetes版 负载均衡SLB 专有网络VPC 访问控制RAM
文档版本：20220207 24 ACK容器平台集群安全控制最佳实践 Kubernetes集群API Server认证与授权 vim保存为 config-ops文件存放于集群 Master节点的$HOME/.kube目录下 按照同样的方式创建名为 config-user-defined的文件，过程不再赘述 2.在 ACK控制台上对 RAM子用户进行授权 首先使用主帐号进行登录，然后选择容器服务 ...
云原生ACK应用管理实践
在Kubernetes平台中，一个应用可能包含多个Kubernetes子资源，在应用部署完成以后，可以从统一的视角展现整体应用的拓扑结构，同时对于持续部署等场景做到统一的版本管理与回滚。 场景描述 云原生时代的到来，用户在使用Kubernetes进行应用管理的同时也面临着一些痛点和挑战。 遇到的痛点： 应用编排文件如何管理。 应用包含哪些K8s资源，能否统一管理。 如何管理应用版本，能否快速回滚。 方案优势 多集群低成本容灾，日常迭代版本一键同发。 国内站、国际站多地域部署业务，版本同发。 应用维度查看/管理工作负载（相关资源聚合）。 同一套编排，多环境发布，大幅降低出错率。
多集群应用部署 步骤1 通过 git方式部署应用 首先删除之前通过 yaml模版部署的应用，然后再次在应用中心里选择创建应用,部署 策略仍然选择手动，源选择 GIT,仓库地址选择刚才配置的仓库连接，路径选择为仓库 里存放应用部署 yaml文件的目录（例如这里选择为 bp-podinfo）；假设应用需要部署 文档版本：20201031 15 云原生 ...
容器Swarm集群向ACK集群灰度迁移
场景描述 随着K8S生态的完善，越来越多的客户需要从 Swarm集群迁移向ACK集群 解决问题 1.迁移过程中维持业务的延续性 2.迁移过程业务高可用 3.迁移过程可灰度 4.迁移过程可回滚 5.迁移进度可把控 产品列表 专有网络VPC 云数据库RDSMySQL 容器服务ACK 云服务器ECS
为了使容器集群弹性伸缩的容器启动后就能正常 工作，需要使用配置后的镜像，创建一个镜像仓库用来存放自定义镜像。操作步骤 步骤1 搜索“容器镜像服务”，进入控制台页面。步骤2 创建命名空间，本例取名 mydockerstore。步骤3 创建镜像仓库。文档版本：20190401 10 容器 Swarm集群向 ACK集群灰度迁移最佳实践 创建数据库 ...
游戏业务分区合服
概述 为了提高游戏玩家的体验,并提高留存率,增强付费率.除了游戏本身的内容趣味性外, 改善用户访问加速体验,并对游戏数据分区合服是很常见的业务运营场景. 本方案适用于: 1游戏业务运营,对多个分区数据库进行合并,增加付费用户积极性的需求. 2游戏业务加速,中心化部署的网络加速需求. 方案优势 1便捷数据迁移. 2内网安全传输 3加速远端用户访问质量体验 4快速应对上层业务运营的技术实现操作. 产品列表 网络产品:VPCSLBNAT网关CEN共享带宽包EIP全球加速GA 计算产品:ECS 数据库产品:RDSDTS 存储产品:OSS 云解析
OSS 适合存放任意类型 的文件，适合各种网站、开发企业及开发者使用。按实际容量付费真正使您专注于核心业务。云速搭（Cloud Architecture Design Tool，CADT）Cloud 是一款为上云应用提供自助式云架构管理的产品，CADT Architecture 显著地降低应用云上管理的难度和时间成本。本产 Design Tool，品提供大量预制的应用架构...
MaxCompute湖仓一体方案
场景描述 自建数据湖与云数仓的融合解决方案，将 MaxCompute与自建的Hive集群做数据打 通，通过存储共享，元数据镜像等方式，解 决传统模式下的存储冗余，计算资源弹性能 力弱的痛点。可大幅度增强系统的资源弹 性，解决业务高峰期计算资源不足的问题。 方案优势 1.业务无侵入性：现有业务无需改造。 2.性能优化：MaxCompute在SQL上做 了大量优化与能力沉淀，可提高SQL 运行性能，降低计算成本。 3.灵活管理：元数据实时同步，无需额外 管理数据同步任务。 4.资源弹性：利用MaxCompute计算池 弹性进行海量数据计算。 解决问题 1.增强业务高峰期的资源弹性。 2.优化自建数据湖的数据治理能力。 3.减少跨平台数据处理的存储冗余。 产品列表 专有网络VPC 云服务器ECS 访问控制RAM 运维编排OOS MaxCompute（原ODPS） 云企业网CEN
执行 SQL任务.21 4.DataWorks执行.23 文档版本：20220402 IV MaxCompute湖仓一体方案 最佳实践概述 最佳实践概述 概述 MaxCompute提供湖仓一体方案，该方案可以打破数据湖与数据仓库割裂的体系，并 将数据湖的灵活性、生态丰富能力与数据仓库的企业级部署能力进行融合，助力构建 数据湖和数据仓库相融合的数据管理平台。...
Spark on ECI大数据分析
场景描述 方案优势 1.计算引擎弹性扩缩容，兼顾资源弹性与计 算资源成本优化。 2.计算与存储分离架构，结合阿里云原生云 存储产品，海量数据湖优势。 3.Kubernetes原生的调度性能优势，提升在 大规模分析作业时的分析性能优势分。 4.集群资源隔离和按需分配。 解决问题 1.计算资源弹性能力不足，计算资源成本管 控能力欠缺. 2.集群资源调度能力和隔离能力不足。 3.计算与存储无法分离，大数据量分析时出 现数据存储资源瓶颈。 4.Spark submit方式提交分析作业参数支持 有限等缺点。 产品列表 容器服务Kubernetes版(ACK) 弹性容器实例(ECI) 文件存储HDFS 对象存储OSS 专有网络VPC 容器镜像服务ACR
本地开发环境使用 IntelliJ IDEA，创建 Maven工程，创建的 Maven工程结构如下图 所示，并将修改后的 core-site.xml文件放入应用项目的 resources目录，这里以编写 一个常见的 WordCount函数作为用户分析作业示例并打包为 jar文件。文档版本：20200409 14 Spark on ECI大数据分析 应用开发 步骤2 添加 SPARK_HOME环境变量。1...
E-HPC低成本实现量化策略回测
在量化交易场景下，量化策略的构建流程一般包括：想法、数据获取、建模、回测、结果分析等，在回测过程中往往需要海量的算力，进行大量数据的分析和处理，如何快速、高效和低成本的进行批量任务的调度，并快速获取结果是量化领域遇到的普遍挑战，这也是云计算能够带给客户的巨大优势。
弹性公网 IP 文件存储 NAS 最佳实践频道 阿里云最佳实践分享群 云服务器 ECS（产品名称）文档模板（手册名称）/文档版本信息 阿里云 E-HPC低成本实现 量化策略回测 文档版本：20220321 文档版本：20150122（发布日期）II E-HPC低成本实现量化策略回测 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 E-HPC低成本...
Function Compute搭建前端CICD系统
场景描述 传统动静不分离的产品架构，随着访问量在增 长，性能会成为瓶颈。在这种情况下，用户可以 通过利用OSS和CDN对网站进行架构优化， 做到网站文件的动静分离，提升用户访问体验， 实现成本可控。本方案使用函数计算监听前端代 码库提交的分支变更，上传分支文件至OSS，通 过CDN进行前端资源加速。 方案优势 1.面向serverless：无需购买服务器 2.免运维：无需部署配置Jenkins 3.提供日志查询、性能监控和报警等功能 4.一站式：事件驱动方式触发响应 5.费用极低：按需付费 产品列表 专有网络VPC 对象存储OSS 日志服务SLS 函数计算 CDN
存放在/tmp目录 61.gitclone='GIT_SSH="/tmp/my_ssh_executable.sh"git clone-b {b} {u}'.format(b=branch,u=sshurl)62.subprocess.Popen([gitclone],shell=True,cwd='/tmp')63.#下载分支文件需要时间，根据实际文件大小大致设置等待时间，单位是秒 64.time.sleep(5)65.66.#遍历下载分支的所有文件，上传至OSS 67.rt=...
在线教育流量洪峰
1. 通过Tair缓存的性能增强型解决高并发读的性能问题，通过持久内存型解决大并发写性能及数据可靠性问题。 2. PolarDB作为主数据库保存业务的交易数据，通过弹性能力和并发SQL解决性能瓶颈。 3. ADB+QuickBI提供的数据仓库方案通过分时弹性能力和实时业务展现能力。
用户可以看到 ADB的如下三种特性帮助用户克服流量洪峰场景下对数 据仓库带来的压力：复杂 SQL：ADB基于列存和存储分层策略，对复杂 SQL性能提升显著。冷热分层：通过将热数据存放在 SSD存储，将冷数据存放在 HDD存储，实现对 成本和性能的平衡。分时弹性：如果客户能预知流量洪峰出现的准确时间，可以通过定义资源弹性计 划...
容器跨可用区高可用
场景描述 本实践适合使用容器服务ACK结合阿里云上的 其他产品构建跨可用区高可用应用的场景。在一 开始创建容器服务ACK的时候就把容器集群建 成多个可用区的架构，某可用区挂掉后，不影响 应用和集群的高可用。容器服务ACK通常配合 高可用SLB，RDS，Redis等产品，实现跨可用 区高可用。 解决问题 1.利用容器服务ACK搭建跨可用区高可用 的应用 2.容器服务ACK结合SLB，RDS，REDIS构 建高可用应用 产品列表 容器服务ACK RDSforMysql版 云数据库Redis版 文件存储NAS
ￚ 在可用区 H创建容量型 NAS用于存放网站共享文件，暂时不考虑 NAS的高 可用。Wordpress整体架构 Wordpress应用是无状态的，前端都放在容器里，数据都放在后端的 RDS数据库里，Redis插件用来加速。文档版本：20220622 4 容器跨可用区高可用最佳实践 搭建基础环境 2.搭建基础环境 本章介绍如何开通产品及服务，并利用云速搭...
自建Hadoop迁移到阿里云EMR
场景描述 场景1：自建Hadoop集群数据（HDFS）迁移到 阿里云EMR集群的HDFS文件系统； 场景2：自建Hadoop集群数据（HDFS）迁移到 计算存储分离架构的阿里云EMR集群，以OSS 和JindoFS作为EMR集群的后端存储。 解决的问题 客户自建Hadoop迁移到阿里云EMR集群的 技术方案； 基于IPSecVPN隧道构建安全和低成本数据 传输链路 产品列表 E-MapReduce，VPC，ECS，OSS，VPN网关。
详情请查看 https://www.aliyun.com/product/emapreduce HDFS Hadoop 分布式文件系统（HDFS）被设计成适合运行在通用硬件上的分布式文 件系统，它和现有的分布式文件系统有很多共同点。但同时，它和其他的分布式 文件系统的区别也是很明显的。HDFS是一个高度容错性的系统，适合部署在廉 价的机器上。HDFS能提供高吞吐量的...
函数计算实现弹性音视频处理系统
场景描述 本示例通过函数计算部署一个高弹性高可用的 音视频处理系统。尤其适合视频网站使用，每天 有大量的上传视频，需要及时转码处理以适配各 种终端及网络条件，要求短时间内准备大量的计 算资源进行大规模并行转码处理，同时希望基于 FFmpeg自建的转码服务能简单迁移。 解决问题 1.如何使用函数计算部署音视频处理系统。 2.如何进行系统的压测。 产品列表 函数计算服务 文件存储NAS 对象存储OSS 函数工作流FnF 日志服务SLS
详见 https://cn.aliyun.com/product/fc NAS: 阿里云文件存储（NAS）Network Attached Storage是一种分布式的网络文 件存储，为 ECS、HPC、FC 等提供安全、无限容量、高性能、高可靠、简单易 用的文件存储服务。FC与 NAS无缝集成。这使您的函数可以像访问本地文件系 统一样编写访问存储在其中一个 NAS 文件系统上的文件。...
基于k8s多集群隔离环境下的devops实现
场景描述 DevOps是一组过程、方法与系统 的统称，并通过工具实现自动化部署， 确保部署任务的可重复性、减少部署出 错的可能性。随着微服务、中台架构的 兴起，devops重要性日益显著。 本方案使用两个独立的k8s集群： 用户已有的k8s模拟测试，ack集群模 拟生产环境，保证环境的高度隔离，互 不影响。通过gitlab+Jenkins的黄金组 合，实现容器应用的自动化构建和持续 部署，提高迭代效率。 解决问题 1.微服务应用的CI/CD。 2.测试和生产环境的高度隔离。 3.自动化的测试与部署。 4.现有CI对接ACK。 产品列表 专有网络VPC 容器服务ACK 容器镜像服务ACR 弹性公网IP 负载均衡SLB
说明：这里只是用于存放容器镜像，选择本地仓库。文档版本：20220121 15 基于 K8S多集群隔离环境下的 DevOps实现 创建容器镜像服务 1.3.访问凭证配置 步骤1 在左侧导航栏选择访问凭证，并单击设置固定密码。步骤2 设置固定密码。文档版本：20220121 16 基于 K8S多集群隔离环境下的 DevOps实现 托管 K8S集群 2.托管 K8S集群 ...
Databricks数据洞察
阿里云Databricks数据洞察是基于Apache Spark的全托管数据分析平台, 内核采用更高效、稳定的商业版Databricks Runtime和Delta Lake。可满足数据分析师、数据工程师和数据科学家在大数据场景下对数据湖分析、实时数仓、离线数仓、BI数据分析、AI机器学习等需求
满足高性能、高稳定性、可弹性的计算需求.Databricks Delta Lake为数据湖分析提供了ACID事务能力，轻松处理包含数十亿文件的PB级表的元数据信息，实现了批流一体的数据处理方式.同时满足数据科学家、数据工程师以及业务分析师的计算需求，提供交互式的协同分析工作平台.计算存储分离，减少数据冗余，实现多引擎间的数据共享...
来自：
云产品
自建K8S集群迁移ACK弹性裸金属集群
场景描述 在微服务化改造之后，企业在享受K8S带来应 用管理的便利的同时，存在硬件性能不足，本 地扩展性差，容器容灾难，K8S管理复杂等问 题。 解决问题 1.增强K8S扩展性：如何通过弹性裸金属服务 器的强劲硬件性能，实现云端资源急速扩 展，从容应对应用访问压力大的问题。 2.如何简化云端K8S运维：通过阿里云容器服 务（ACK）实现敏捷开发和部署落地，加速 企业业务迭代。 3.如何综合考虑迁移和容灾：如何整合云上和 云下容器资源实现遇到故障时可以通过健 康检查实现自动容灾。 4.如何不改应用上云：如何实现应用上云数据 库连接零修改。 5.数据库上云及回退：如何实现上云回退； 产品列表 ACK/ECS/SLB/NAT网关/弹性裸金属服务器/DTS/RDS MySQL
Pod 网络 CIDR：172.20.0.0/16-Service CIDR：172.21.0.0/20-命名空间：bp_30-镜像仓库：地域-华东 容器镜像仓 1（杭州）库-仓库名称：magento-类型：公开-代码源：本地仓库。机型：通过 ECS模拟 RDS：实际迁移过程-规格：ecs.c6.xlarge（4C/8G）-区域：华东 1（杭州）中建议 RDS配-数量：1-数据库类型：置和线下 IDC-主机...
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
文档版本：20201224 42 基于 Flink+ClickHouse构建实时游戏数据分析 日志采集 说明：filebeat配置文件 game-server.yml，可以从代码库 game-server中的 game-server.yml文件获取。日志模拟方式一：调用 API生成日志文件，通过 Filebeat，发送到 Kafka。步骤4 查看日志文件信息，日志的格式在 logback-spring文件中定义。...
- 产品推荐
- 这些文档可能帮助您