Function Compute构建高弹性大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中，对数据进行处理、分析，形成业务闭环。比如游戏行业中的游戏发行、游戏运营，产互行业中的数字营销，物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点，给整个数据采集传输系统带来很大的挑战。在这个场景中，有三个关键的环节，数据采集、数据传输、数据处理。该最佳实践主要涉
步骤16 部署代码，点击右上角的部署按钮 文档版本：20210806（发布日期）15 Function Compute构建高弹性大数据采集系统 创建数据采集函数 步骤17 此时的代码非常简单，就是接收用户传来的参数，可以在下方看到该函数对应的接口：步骤18 开启函数的日志追踪和链路追踪。打开日志查询页签，单击一键开通。步骤19 开启函数的...
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中，常常需要对用户行为日志进行分析，通过数据挖掘，来更好地支持业务运营，比如用户轨迹，热力图，登录行为分析，实时业务大屏等。当业务数据量达到千亿规模时，常常导致分析不实时，平均响应时间长达10分钟，影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据，实现秒级响应的实时用户行为分析，并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析，得到用户特征和画像，实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓，对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能，千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高，支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用，免运维，全球多Region部署，快速支持新游戏开服。 Flink+ClickHouse+QuickBI
文档版本：20201224 53 基于 Flink+ClickHouse构建实时游戏数据分析 实时流处理 步骤5 修改云数据库 ClickHouse配置文件,本案例代码实现已经做了代码和配置分离，请直 接打开 clickhouse.properites，将 clickhouse的 JDBC连接字符串更新为自己创建的 实例（注意这里采用 ClickHouse内网地址）。步骤6 修改云数据库 Kafka...
基于ECI+FaaS构建游戏战斗结算服
在游戏行业的很多SLG游戏作品中，为了防止客户端作弊，在每局战斗之后，在客户端预判玩家胜利的情况下，需要服务端来进行战斗数据的结算，从而确定玩家是不是真正的胜利。战斗结算是强CPU密集型，结算系统每日需要大量的计算力，尤其是开服或者活动期间忽然涌入的大量玩家，导致需要的计算量瞬间几倍增长，同时需要结算系统保持稳定的延时来保证玩家的用户体验。 1. ECI支持500台实例30S弹出，快速解决业务模块扩容压力。FaaS毫秒级伸缩扩容，化解算力瓶颈，平滑解决暴增调用请求。 2. 降低成本：ECI每天弹性运行8小时，与6代同规格包月相比节省成本40%+，FaaS按需付费，即开即用，节省预留资源消耗。 3. 免运维：FaaS和ECI都是全托管免运维的服务，客户专注业务开发即可。 4. 模块公共化：减轻游戏逻辑服的压力，结算需求复用到类似需求的游戏。
文档版本：20201127 14 基于ECI+FaaS构建游戏战斗结算服 游戏架构搭建篇 步骤11 保存代码，调试通过后，复制触发器地址，并确保更新游戏服配置文件里面的地址。步骤12 本次案例代码简单，没有涉及调用内部的其他云服务，比如 Kafka、RDS、NAS、OSS 等，在真实场景中，常常会涉及到内部服务间调用，通常需要进行函数配置。...
新零售商超基于Serverless服务化改造
某零售商超行业龙头企业，主要业务涵盖购物中心、大卖场、综合超市、标准超市、精品超市、便利店、无人值守智慧商店等零售业态，涉及全渠道零售、仓储物流、餐饮、消费服务、数据服务、金融业务、跨境贸易等领域。为了持续支持业务高速且稳定地发展，其在快速上云后，将核心业务改造为全Serverless架构的中台模式，采用函数计算 + API网关 + 表格存储OTS 作为计算网络存储核心，弹性支撑日常和大促峰谷所需资源，轻松支撑618/双11/双12大促。 核心价值 l 全 Serverless 架构：FC + API 网关 + OTS Serverless 解决方案。 l 弹性高可用：毫秒级弹性扩容、充足的资源池水位、跨可用区高可用。 l 敏捷开发免运维：函数式极简编程可专注于业务创新，无采购和部署成本、提供监控报警等完备的可观测能力。
除此 之外还有横向的扩容，例如用户交易系统的 API 接口，随着业务的发展需要 由原来的 2 台机器扩到 8 台机器，这种情况下用户只需去申请机器，然后将 镜像扩展到不同的机器上即可。不足 ￚ 资源预算困难 由于无法预估业务遇到大促等活动时所能达到的体量，因此无法准确计算出所 需硬件的数量。ￚ 水平扩展 水平扩展对研发...
基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测
本篇最佳实践先创建EMR集群作为数据湖对象，Hive元数据存储在DLF，外表数据存储在OSS。然后使用阿里云数据仓库MaxCompute以创建外部项目的方式与存储在DLF的元数据库映射打通，实现元数据统一。最后通过一个毒蘑菇的训练和预测demo，演示云数仓MaxCompute如何对于存储在EMR数据湖的数据进行加工处理以达到业务预期。
基于统一的元数据管 理能力，在完全兼容HDFS文件系统接口的同时，提供充分的POSIX能力支持，能更 好地满足大数据和AI等领域的数据湖计算场景。基于湖仓一体架构使用MaxCompute对OSS湖数据分析预测 1.4.检查EMR集群 本示例使用CADT架构模式创建了EMR集群，配置Hive元数据存储到数据湖构建。步骤1 快速登录到EMR控制台：点击...
基于ECI、RI和EIP降成本方案
场景描述 随着企业逐步将自己的业务搬移到使云上， 越来越多的企业也开始重视云上的使用成 本。 针对客户的使用场景，特别是无状态服务、 易于容器化的场景，基于ECI+RI+EIP的组 合方式能有效降客户成本。预留实例券RI， 可以灵活的抵扣相关资源费用；弹性容器实 例ECI，在资源使用率、启动速度、灵活性、 成本上的具有一定的优势。 本文以部署一个无状态的网站为例，使用 ECI+RI+EIP的组合方式，通过RI抵扣计 算资源费用，按量支付流量费用，旨在能够 帮助客户快速验证云上服务，有效控制云上 资源成本。 方案优势 1.使用RI，可以灵活的抵扣相关资源费 用。 2.使用ECI支作为应用运行环境，更加 灵活、低成本，提高资源使用率。 3.ECI+RI+EIP的组合方式，资源使用率 高，通过RI抵扣计算资源费用，按量 支付流量费用，能有效降低整体成本 费用。 产品列表 专有网络VPC 预留实例券RI 弹性容器实例ECI 弹性公网IP
Docker的镜像实际上由一层一层的文件系统组成，实现上主要依赖 UnionFs（联合文 件系统）：union文件系统（UnionFs）是一种分层、轻量级并且高性能的文件系统，它支持对文件系统的修改作为一次提交来一层层的叠加，同时可以将不同目录挂载到 同一个虚拟文件下。在这种分层结构下，可以做到资源共享，例如多个镜像从相同的 ...
AK防泄漏
场景描述 用户名密码是开发运维人员访问阿里云控制台 的凭据，AK是软件程序访问阿里云资源的凭据。 如果AK被泄露，那么会造成非常严重的后果， 比如资源被释放导致业务不可用、大量服务器被 创建用来挖矿，等等。采用合适的方式来使用、 保护AK，是每一个云客户都必须关注的问题。 解决问题 1.避免AK被泄露 2.改进已经错误使用AK的方法 产品列表 访问控制RAM 云服务器ECS 操作审计Action Trail 云安全中心
直传数据：企业 A不希望所有 App都通过企业的服务端应用服务器（Application Server）来进行数据中转，而希望能够直连 OSS上传或下载数据。2.安全管控：企业 A不希望将访问密钥（AccessKey）保存到移动设备中，因为移 动设备是归属于用户控制，属于不可信的运行环境。3.风险控制：企业 A希望将风险控制到最小，每个 App直连...
在线教育流量洪峰
1. 通过Tair缓存的性能增强型解决高并发读的性能问题，通过持久内存型解决大并发写性能及数据可靠性问题。 2. PolarDB作为主数据库保存业务的交易数据，通过弹性能力和并发SQL解决性能瓶颈。 3. ADB+QuickBI提供的数据仓库方案通过分时弹性能力和实时业务展现能力。
yum-y install git git clone https://github.com/brianfrankcooper/YCSB.git 可以在本最佳实践 GIT获取 YCSB.zip文件，上传到客户端 ecs上。步骤2 替换文件。从本最佳实践 git库下载文件 RedisClient.java：cp RedisClient.java/root/YCSB/redis/src/main/java/site/ycsb/db/步骤3 安装 JDK。下载 JDK。...
基于DDH+MyBase降本合规
出版、金融、保险等传统行业一方面希望能借助云计算以更好地适应业务发展需求（政策上云），另一方面出于对降低单实例部署成本（CPU 超分超配）以及满足更严格合规和监管要求的考虑，希望能对云上资源有更多的自主控制权（监管合规）。从业务系统架构云上部署的角度，基于专有宿主机DDH 和云数据库专属集群MyBase 的解决方案，可以很好地满足这两方面的需求。 解决问题： 1. 国家政策上云趋势和需求 2. 更严格的云上安全合规要求 3. 对云上资源有更灵活的管控权 4. 有效降低企业上云的整体拥有成本（TCO） 方案优势： 1、单租户隔离 DDH和 MyBase都可以提供宿主机级别物理隔离，可以独占资源，可以开放更多接口 , 同时杜绝 多租户间 干扰 。 2、安全合规：在完备的隔离基础之上，开放更多数据库权限和 OS权限 。 3、资源灵活部署和调度 创建 ECS实例、从共享宿主机迁移 ECS实例至专有宿主机或在专有宿主机之间迁移 ECS实例时，若您不指定专有宿主机，系统将自动帮您选择专有宿主机部署实例。 针对于初始部署数据库实例时，提 供紧凑型和均衡型两种方式将数据库实例分不到不同的主机上。 4、超配 降本 DDH和 MyBase组合的方式可以实现资源自定义 CPU内存 配比以及CPU超分 ，可以降低单 ECS实例以及云数据库实例的部署成本。
国家政策上云趋势和需求 更严格的云上安全合规要求 对云上资源有更灵活的管控权 有效降低企业上云的整体拥有成本（TCO）技术架构 文档版本：20220414 1 基于 DDH+MyBase降本合规最佳实践 最佳实践概述 方案优势和注意事项 单租户隔离：DDH和 MyBase都可以提供宿主机级别物理隔离，可以独占资源，可以开放更多接口,同时杜绝...
云原生数据库
PolarDB是阿里云自研的云原生数据库，在存储计算分离架构下，利用了软硬件结合的优势，为用户提供秒级弹性、高性能、海量存储、安全可靠的数据库服务。100%兼容MySQL和PostgreSQL生态，支持分布式扩展，高度兼容Oracle语法。
物理存储层方面，采用Share Everything架构，与Oracle保持一致文件组织结构、ACID概念与机制.迁移可行性免费评估.数据库和应用迁移ADAM数据库评估、在线数据库改造及应用评估等云上功能全部免费，提供包括数据库与应用评估（兼容性、关联关系、性能、风险点、应用改造点）、转换建议（转换不兼容点、引擎特征优化转换）和...
来自：
云产品
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中，以图片，视频，音频居多。举一个图片处理的场景，现在各种终端种类繁多，不同的终端对图片的格式、分辨率要求也不同，所以一张图片往往会有很多张衍生图，那如果所有的衍生图都存在OSS中，那存储的成本会增加，所以就可以通过OSS Object FC的方案，在不同的终端请求时，对OSS中的原图基于终端的要求做实时处理，然后响应返回，这样OSS中只需要存储原图即可。音视频也有类似的场景。
文档版本：20240304 15基于OSSObjectFC实现非结构化文件实时处理最佳实践 场景验证 地域：选择华北1（青岛） 对象FC接入点名称：根据实际情况填写，这里填写opap-oss-object-fc 支持的接入点：选择上节中创建的接入点，oss-object-fc-ap OSSAPI： 勾选GetObject FC函数服务：选择通过CADT创建的函数服务fc_...
文件下载加速及成本优化
通过分布于全球的CDN节点来缓存源站的文件内容，并且调度用户请求到最近的CDN节点上快速下载所需文件，因此能够加快文件下载速度，提高网站性能。
02创建存储空间创建OSS存储空间并上传文件到Bucket。03设置CDN加速添加CDN加速域名，将加速域名的DNS解析记录指向CNAME域名，并配置CDN缓存。04验证及清理验证静态资源缓存策略生效和加速效果，方案使用完毕后可清理资源。一键部署手动部署方案权益优惠购买免费试用询价中.加入购物车立即购买询价中.加入购物车立即购买询价...
来自：
解决方案
低成本跨境文件传输
场景描述 1.跨境对象存储数据传输需求。 2.对跨境传输成本控制严苛。 3.能接受一定程度网络抖动带来的文件同步 延迟。 4.系统需要有足够的弹性和扩展性应对大规 模文件的写入。 方案优势/解决问题 1.运维低成本：开发人员关注代码逻辑即可； 2.网络成本低：相比CEN高速通道的方式网 络成本降低； 3.同步服务部署成本低：文件发生变化触发函 数计算任务，按量触发，不用准备ECS； 4.弹性高效：一个文件同步触发一个函数工作 流任务，充分利用资源高效同步。 产品列表 专用网络VPC 云服务器ECS 弹性公网IP 函数计算 对象存储OSS 函数工作流
文档版本：20211025（发布日期）15 低成本跨境文件传输最佳实践 配置实验环境 第 三 组 是 超 大 文 件。initMultipartUpload，uploadParts，completeMultipartUpload 函数负责处理超大文件。项目详细流程图和处理逻辑参考：https://github.com/awesome-fnf/oss-copy 步骤1 下载 oss-copy源码 cd/opt yum install-y git git...
数据库文件存储DBFS
阿里云数据库文件存储DBFS基于共享存储架构，支持数据库定制和共享读写的线性扩展能力，提供低成本、高性能、高可用的存储服务，助力客户数据库业务无缝迁移上云。
支持存放Oracle Home及Oracle Grid的二进制文件、数据文件、控制文件、redo文件、OCR及Voting Disk等.挂载即用，不需要感知底层磁盘，也无需配置Disk Group及冗余度.性能好，接近RAW I/O。针对数据库场景优化.云服务器ECS.块存储EBS.推荐搭配使用.Oracle RAC最佳实践.Oracle RAC最佳实践.POSIX兼容.数据库无缝迁移云端，...
来自：
云产品
云速搭部署 NAS 文件系统
本实践通过云速搭构建一个 NAS，并将 NAS 文件系统挂载到 ECS 的目录上。
云速搭部署 NAS文件系统 文档版本信息 云速搭 部署 NAS文件系统 最佳实践 文档版本：20211027（发布日期）云速搭部署 NAS文件系统 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 云速搭部署 NAS文件系统 文档编号 245 文档版本 V1.0 版本日期 2021-10-27 文档状态 对外发布 制作人 洁谦 文档变更记录 版本编号 ...
- 产品推荐
- 这些文档可能帮助您