基因计算工作
基因<em>计算工作</em>流
场景描述 适合利用容器服务Kubernetes版上的工作流 引擎进行大规模基因测序的场景。阿里云工作流 引擎基于开源项目Argo实现,支持并发、循环、 重试等多种执行策略。典型的基因计算过程会把 数据分批进行计算,按照规定好的步骤依次完成 计算,这符合工作流的特点:多层次,有向无环 图。 解决问题 1.基因计算如何构建工作流 2.容器服务Kubernetes版结合 共享文件存储NAS提供数据 服务 3.构建单POD工作流 产品列表 容器服务Kubernetes版 文件存储NAS
兼容 POSIX 文件接口,可支持千台计算节点共享访问,可以挂载到 弹性计算 ECS、神龙裸金属、容器服务 ACK、弹性容器 ECI、批量计算 BCS、高 文档版本:20191127 III 基因计算工作流最佳实践 前言 性能计算 EHPC,AI训练 PAI等计算业务上提供高性能的共享存储,用户无需修 改应用程序,即可无缝迁移业务系统上云。...
来自: 最佳实践 相关产品:块存储,云服务器ECS,文件存储NAS,容器服务 ACK
蚂蚁链摩斯多方安全计算平台解决方案
蚂蚁链摩斯多方安全计算平台解决方案利用多方安全计算、隐私保护、区块链技术,打造数据安全共享的基础设施。解决企业之间数据合作过程中的数据安全和隐私保护问题,打通数据孤岛,将计算移动到数据端,达成数据可用不可见,安全促进业务创新。
蚂蚁链摩斯隐私计算平台解决方案.蚂蚁链摩斯隐私计算平台基于多方安全计算、可信执行环境、联邦学习等技术,解决企业数据协同计算过程中的数据安全和隐私保护问题,实现数据可用不可见。经过5年多打磨和大规模商业化应用,广泛应用于联合营销、联合风控、政务数据开放、联合科研等领域.图文卡片(支持一行2、3、4).靖鑫,也...
来自: 解决方案
视图计算VEC
视图计算(VEC)依托阿里云边缘节点,是面向视图设备(如摄像头、车载终端等)上云场景,提供连接、视图AI计算、视图云存储的云PAAS服务,通过OpenAPI被应用集成。
视图计算(Visual Edge Computing)依托阿里云遍布全球的边缘节点,是面向视图设备(如摄像头、车载终端、消费电子等)上云场景提供连接、视图AI计算、视图云存储的云PAAS服务,让终端设备在最近的边缘节点便捷上云计算,大大降低网络延时提升视图类数据处理效率,通过开放OpenAPI易于被行业场景应用集成.谢赟辉,靖鑫,也树....
来自: 云产品
蚂蚁隐私计算服务平台
蚂蚁隐私计算服务平台是阿里云基于多方安全计算等隐私计算技术体系,支撑机构在用户隐私保护、算法知识产权保护的基础上,高效地进行数据注册等一站式服务。
蚂蚁隐私计算服务平台.蚂蚁隐私计算服务平台是蚂蚁集团在金融风控、联合营销等多业务场景中长期打磨并沉淀的工业级应用平台。基于多方安全计算等隐私计算技术体系,在用户隐私保护、算法知识产权保护、数据合法合规流通的基础上,为企业提供数据注册、统计分析、模型训练和节点部署等一站式服务,助力企业实现数智驱动创新....
来自: 云产品
计算服务GraphCompute
阿里云图计算服务GraphCompute是一站式图数据管理和分析平台,支持图数据建模、导入与修改,支持Gremlin语言进行图查询,具备数据加载快、规模可扩展、查询延时低等优势。
计算服务 GraphCompute.图计算服务 GraphCompute 是一站式图数据管理和分析平台,支持图数据建模、导入与修改,支持 Apache TinkerPop 标准 Gremlin 语言进行图查询,具备数据加载快、规模可扩展、查询延时低(毫秒级)等优势,通过数据版本快速迭代和智能运维能力,帮助开发者轻松搭建海量关系数据的图应用服务.新用户可...
来自: 云产品
阿里云最佳实践离线大数据workshop
阿里云最佳实践离线大数据workshop
本最佳实践,首先搭建一个简化的电商 demo 系统,然后为此 demo 系统构建一套离 线大数据分析系统。 实践目标 1. 学习搭建一个离线大数据分析系统,学习从数据采集到数据存储和业务分析的业 务流程。 2. 整个离线大数据分析系统全部基于阿里云产品进行搭建,学习掌运用各个服务组 件及各个组件之间如何联动。 背景知识要求 熟练掌握 SQL 语法 对大数据体系系统知识有一定的了解
num DOUBLE COMMENT '购买个',order_count BIGINT COMMENT '当日下单单',order_amount DOUBLE COMMENT '当日下单金额')COMMENT '用户单交易行为宽表' PARTITIONED BY(ds STRING);4.6.2.将表导入03dws文件夹 文档版本:20210802(发布日期)70阿里云最佳实践金融大数据WorkShop 构建离线大数据分析系统 4.6.3.建立dws_...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,对象存储 OSS,日志服务(SLS),大数据计算服务 MaxCompute,DataV数据可视化,数据总线,Quick BI,云速搭
云上持续审计合规最佳实践
云上持续审计合规最佳实践
本方案是面向云上资源的操作审计和配置审 计,提供的最佳实践。适用于企业型客户。通过最佳实践帮助客户在本场景下更好的使用 阿里云,涉及到配置审计、操作审计、函数计算、SLS、OSS 等服务的实践操作。 解决问题 企业会面临外部对企业云上信息系统的合规要求,如等保2.0法规要求。 同时当云上资源达到一定规模时,在内部会制定合规管控的基线,满足自身管理效率和安全合规的需 求。 包括记录云上资源管理的操作日志、资源配置变更日志,还需依赖云平台提供的持续监控和自动告警能力,实现合规性的自主监管。
函数计算会为客户准备好 资源,并以弹性、可靠的方式运行您的代码。详见:https://www.aliyun.com/product/fc 日志服务(SLS):一站式提供数据收集、清洗、分析、可视化和告警功能。全面 提升海量日志处理能力,实时挖掘数据价值,智能助力研发/运维/运营/安全等场景。详见:https://www.aliyun.com/product/sls 对象...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,函数计算,操作审计,配置审计
大数据近实时数据投递MaxCompute
大数据近实时数据投递MaxCompute
本文介绍离线大数据场景使MaxCompute构建云 上近实时数仓,打通云下数据上云链路,解决数据复杂类型支持和动态分区问题,满足高级数据处理需求的最佳实践。 l混合云环境下,现有业务系统零改造,打通数据上云链路。 l使用UDF实现复杂数据类型转换和数据动态分区。 l使用DataWorks配置周期调度业务流程,数据自动入仓。 l借助MaxCompute优化计算引擎,实现降本增效。 产品列表 云服务器ECS 专有网络VPC 访问控制RAM 数据总线DataHub E-MapReduceEMR DataWorks 大数据计算服务MaxCompute
MaxCompute支持 SQL、MapReduce、UDF(Java/Python)、Graph、基于 DAG的处理、交互式、内存计算、机器学习等 类型及 MPI迭代类算法。大幅简化了企业大数据平台的应用架构,具有强数据安 全、低成本、免运维、极致弹性扩展等特点。MaxCompute已与数据集成、DataWorks、QuickBI、机器学习 PAI、ADB、推荐引擎、移动数据...
来自: 最佳实践 | 相关产品:块存储,专有网络 VPC,云服务器ECS,访问控制,E-MapReduce,DataWorks,大数据计算服务 MaxCompute,数据总线,云速搭CADT
自建Hadoop迁移MaxCompute
自建Hadoop迁移MaxCompute
场景描述 客户基于ECS、IDC自建或在友商云平台自建了大数 据集群,为了降低企业大数据计算平台的成本,提高 大数据应用开发效率,更有效保障数据安全,把大数 据集群的数据、作业、调度任务以及业务数据库整体 迁移到MaxCompute和其他云产品。 解决的问题 自建Hadoop集群搬迁到MaxCompute 自建Hbase集群搬迁到云Hbase 自建Kafka或应用数据准实时同步到 MaxCompute 自建Azkaban任务迁移到Dataworks任务 产品列表 MaxCompute,Dataworks、云数据库Hbase版、Datahub、VPC,ECS。
自建 Hadoop迁移 MaxCompute 场景描述 解决的问题 客户基于ECS、IDC自建或友商自建了大数据集群,自建Hadoop集群搬迁到 MaxCompute 为了降低企业大数据计算平台的成本,提高大数 自建Hbase集群搬迁到云 Hbase 据应用开发效率,更有效保障数据安全,把大数据 自建 Kafka 或服务器数据实时同步到 集群的数据、作业、调度任务...
来自: 最佳实践 | 相关产品:云服务器ECS,DataWorks,大数据计算服务 MaxCompute,云数据库 HBase 版,数据总线,云速搭
Function Compute构建高弹性大数据采集系统
Function Compute构建高弹性大数据采集系统
当前互联网很多场景都存在需要将大量的数据信息采集起来然后传输到后端的各类系统服务中,对数据进行处理、分析,形成业务闭环。比如游戏行业中的游戏发行、游戏运营,产互行业中的数字营销,物联网、车联网行业中的硬件、车辆信息上报等等。这些场景普遍存在数据采集量大、数据传输需要稳定且吞吐量大的特点,给整个数据采集传输系统带来很大的挑战。在这个场景中,有三个关键的环节,数据采集、数据传输、数据处理。该最佳实践主要涉
cd fc cp~/219/fun02-index.py.txt index.py 部署函数 fun deploy 注意:此处需要执行两次,第一次会提示失败,如下图:文档版本:20210806(发布日期)39 Function Compute构建高弹性大数据采集系统 创建削峰填谷函数 再执行一次:fun deploy 步骤3 然后在函数计算控制台就可以看到我们刚才部署上去的函数:文档版本:...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,日志服务(SLS),函数计算,消息队列 Kafka 版,云速搭CADT
低成本跨境文件传输
低成本跨境文件传输
场景描述 1.跨境对象存储数据传输需求。 2.对跨境传输成本控制严苛。 3.能接受一定程度网络抖动带来的文件同步 延迟。 4.系统需要有足够的弹性和扩展性应对大规 模文件的写入。 方案优势/解决问题 1.运维低成本:开发人员关注代码逻辑即可; 2.网络成本低:相比CEN高速通道的方式网 络成本降低; 3.同步服务部署成本低:文件发生变化触发函 数计算任务,按量触发,不用准备ECS; 4.弹性高效:一个文件同步触发一个函数工作 流任务,充分利用资源高效同步。 产品列表 专用网络VPC 云服务器ECS 弹性公网IP 函数计算 对象存储OSS 函数工作流
开通 ECS、OSS、函数计算工作流、函数计算、日志服务等服务 本方案的资源规划仅作为实践演示,实际业务场景资源以用户需求为准。付费方式:为了便于演示,默认按量付费。为简化架构,本例仅使用一台 ECS模拟了境内和境外用户的访问,实际情况建议 分别用两台 ECS模拟,境外 ECS通过 OSS公网 Endpoint访问以节省费用。为简化...
来自: 最佳实践 | 相关产品:云服务器ECS,对象存储 OSS,函数计算,Serverless 工作流
新零售商超基于Serverless服务化改造
新零售商超基于Serverless服务化改造
某零售商超行业龙头企业,主要业务涵盖购物中心、大卖场、综合超市、标准超市、精品超市、便利店、无人值守智慧商店等零售业态,涉及全渠道零售、仓储物流、餐饮、消费服务、数据服务、金融业务、跨境贸易等领域。为了持续支持业务高速且稳定地发展,其在快速上云后,将核心业务改造为全Serverless架构的中台模式,采用函数计算 + API网关 + 表格存储OTS 作为计算网络存储核心,弹性支撑日常和大促峰谷所需资源,轻松支撑618/双11/双12大促。 核心价值 l 全 Serverless 架构:FC + API 网关 + OTS Serverless 解决方案。 l 弹性高可用:毫秒级弹性扩容、充足的资源池水位、跨可用区高可用。 l 敏捷开发免运维:函数式极简编程可专注于业务创新,无采购和部署成本、提供监控报警等完备的可观测能力。
另外计算也是一个非常重要的问题,客户经过探索发现阿里云函数计算”非常契合 其业务场景。比如定时抢购、优惠券投放等活动造成巨大的 burst 冲击,当发现计算 资源不够的时候再去买机器肯定是来不及的,而函数计算及时扩容的功能就很好地解 决了这个问题。另外其数据观测和异常报警功能,也吸引到了客户。客户架构中将...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,数据传输,函数计算,API网关,表格存储
云上成本优化workshop
云上成本优化workshop
某金融科技公司,它主要提供信贷,理财,电商等 服务,目前已经拥有千万级注册用户。该公司在将 在线业务系统和大数据业务从自建 IDC 机房迁移 到阿里云后,今年大数据集群经历过多次因为资 源不足导致弹性扩容失败的故障,运维负责人非 常苦恼。由于该公司从事互联网金融的借贷业务, 白天的催收非常依赖晚上大数据计算的结果,若 因为资源不足导致计算结果失败则意味着白天催 收业务员无事可做,会对公司业务造成严重影响。 后来,通过阿里云解决方案架构师建议的方案,将 大数据集群迁移到资源较充足的可用区以及配置 弹性伸缩多规格 ECS 选型增加交付成功率等方 法,目前已阶段性的解决因资源不足导致弹性扩 容失败的问题,但该方案在 Spot 计算资源不足 时,启用大量按量收费算力,带来了较高的成本, 并且抢占式实例和按量付费实例都不保证资源 100%交付,还是存在交付失败的可能性,特别是 在双 11 期间由于其他客户的资源需求上升带来 的资源挤兑客观上存在,就进一步增加了弹性扩 容失败的风险,从而影响业务正常运行。
实例优化 在开发和测试环境,我们往往能够通过停机不收费的方式,大大节约资源,降低成本,比如非工作日、每日下班时间,都可以通过脚本或者定时任务将云服务的资源进行停 机操作,本实践将以 ECS的停机不收费来练习。2.1.停机不收费 停机不收费功能可以在保留云服务器 ECS 的前提下回收部分资源,从而降低整体费 用。支持...
来自: 最佳实践 | 相关产品:云服务器ECS,负载均衡 SLB,弹性公网IP,容器服务 ACK,日志服务(SLS),NAT网关,函数计算,E-MapReduce,云数据库PolarDB,弹性容器实例 ECI,存储容量单位包,预留实例券,Hologres
基于Flink+ClickHouse构建实时游戏数据分析
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中,常常需要对用户行为日志进行分析,通过数据挖掘,来更好地支持业务运营,比如用户轨迹,热力图,登录行为分析,实时业务大屏等。当业务数据量达到千亿规模时,常常导致分析不实时,平均响应时间长达10分钟,影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据,实现秒级响应的实时用户行为分析,并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析,得到用户特征和画像,实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓,对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能,千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高,支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用,免运维,全球多Region部署,快速支持新游戏开服。 Flink+ClickHouse+QuickBI
本实践介绍如何快速收集海量用户行为 据,实现秒级响应的实时用户行为分析,并 通过实时流计算、云数据库 ClickHouse等 技术进行深入挖掘和分析,得到用户特征和 画像,实现个性化系统推荐服务。产品列表 最佳实践频道 阿里云最佳实践分享群 专有网络 VPC 弹性公网 IP EIP 云服务器 ECS 消息队列 Kafka版 云数据库 ...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,实时计算,Quick BI,消息队列 Kafka 版,云数据库 ClickHouse
Serverless图片分类和身份证过滤
Serverless图片分类和身份证过滤
场景描述 场景一:大型图库智能管理通过深度学习算法,自动识别图像中的常见的场景,客户可以基于函数计算对接智能媒体管理的图像识别功能,轻松实现图片的自动管理和分组,完成大型图像库的智能管理。 场景二:身份证图片过滤 通过扫描存储在OSSbucket中的图片,通 过智能媒体管理进行身份证识别,找到海量图片中的身份证图片,对敏感信息进行处理。 解决问题 1.通过无服务器计算实现图片处理自动化 2.OSS触发器的使用 3.使用函数计算调用阿里云的AIP或SDK 产品列表 函数计算 智能媒体管理IMM 对象存储OSS
图片自动分类 说明:本节介绍使用函数计算对图片进行自动分类,当图片上传到 OSS后会通过 计算的 OSS触发器触发函数计算函数计算调用 IMM的图形识别 API对图片进行 分类,分类后的结果再写入到 OSS。2.1.创建函数计算服务及函数 步骤1 登录函数计算控制台(如果不是最新版请先将控制台切换到最新版本)。...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算,智能媒体管理
基于ECI+FaaS构建游戏战斗结算服
基于ECI+FaaS构建游戏战斗结算服
在游戏行业的很多SLG游戏作品中,为了防止客户端作弊,在每局战斗之后,在客户端预判玩家胜利的情况下,需要服务端来进行战斗数据的结算,从而确定玩家是不是真正的胜利。战斗结算是强CPU密集型,结算系统每日需要大量的计算力,尤其是开服或者活动期间忽然涌入的大量玩家,导致需要的计算量瞬间几倍增长,同时需要结算系统保持稳定的延时来保证玩家的用户体验。 1. ECI支持500台实例30S弹出,快速解决业务模块扩容压力。FaaS毫秒级伸缩扩容,化解算力瓶颈,平滑解决暴增调用请求。 2. 降低成本:ECI每天弹性运行8小时,与6代同规格包月相比节省成本40%+,FaaS按需付费,即开即用,节省预留资源消耗。 3. 免运维:FaaS和ECI都是全托管免运维的服务,客户专注业务开发即可。 4. 模块公共化:减轻游戏逻辑服的压力,结算需求复用到类似需求的游戏。
什么是函数计算 函数计算(Function Compute)是一个事件驱动的全托管 Serverless 计算服务,您 无需管理服务器等基础设施,只需编写代码并上传,函数计算会为您准备好计算资源,并以弹性、可靠的方式运行您的代码。所有客户,我们都将提供每月 100万次函数调 用、400,000(CU-秒)函数实例资源的免费 Serverless 力支持...
来自: 最佳实践 | 相关产品:容器服务 ACK,函数计算,弹性容器实例 ECI
Function Compute搭建前端CICD系统
Function Compute搭建前端CICD系统
场景描述 传统动静不分离的产品架构,随着访问量在增 长,性能会成为瓶颈。在这种情况下,用户可以 通过利用OSS和CDN对网站进行架构优化, 做到网站文件的动静分离,提升用户访问体验, 实现成本可控。本方案使用函数计算监听前端代 码库提交的分支变更,上传分支文件至OSS,通 过CDN进行前端资源加速。 方案优势 1.面向serverless:无需购买服务器 2.免运维:无需部署配置Jenkins 3.提供日志查询、性能监控和报警等功能 4.一站式:事件驱动方式触发响应 5.费用极低:按需付费 产品列表 专有网络VPC 对象存储OSS 日志服务SLS 函数计算 CDN
配置函数计算服务 步骤1 在 CADT架构图中,单击下方的资源清单,找到创建的函数服务,单击进入控制台。步骤2 可以看到对应的函数已创建,单击函数名称。步骤3 在代码编辑框中,替换本实践提供的演示代码。代码下载方式参见代码地址。文档版本:20211008 7 Function Compute计算搭建前端 CICD系统 环境搭建 步骤4 替换代码...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,日志服务(SLS),函数计算,CDN
ECS+EAIS弹性伸缩最佳实践
ECS+EAIS弹性伸缩最佳实践
弹性加速计算实例EAIS通常与ECS配合使用,在大规模的弹性推理场景中,需要实现ECS弹性扩容的过程中自动创建弹性EAIS实例,并绑定到ECS上。当前弹性伸缩组ESS暂不满足此特殊场景的弹性伸缩需求。 本方案将通过结合CADT API、函数计算和Serverless工作流,演示如何快速且以可视化的方式进行此场景的弹性伸缩。
释放完成:SLB服务器组已没有该实例:文档版本:20220810 41 ECS+EAIS弹性伸缩 模拟定时扩缩容任务 云服务器只剩下 1台:EAIS也自动被释放:总结 上述过程简单模拟了通过 CADT API,结合函数计算和 Serverless工作流,制定了一 个通用场景的定时扩缩容流程,后续可以通过参数的变化,CADT模板的变化,来适 配更多,更复杂的...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,负载均衡 SLB,函数计算,Serverless 工作流,云速搭CADT,弹性加速计算实例
EHPC工业仿真
EHPC工业仿真
场景描述 本实践适用于使用弹性高性能计算EHPC+ 对象存储OSS运行仿真软件进行模型仿真 的场景中,这里运行的是LAMMPS这款开 源的仿真软件,数据通过OSS上传。 解决问题 1.使用EHPC运行工业仿真软件 2.使用OSS存储数据和代码 3.可视化计算结果 产品列表 弹性高性能计算E-HPC 对象存储OSS
我们以 LJ函数为例建模,运行 1000次(也可以减少运行次数,这样计算时间会缩短),将作业 放在 OSS,从 OSS下载作业,计算结束后将计算结果上传到 OSS。2.2.1.下载 demo文件 步骤1 通过如下链接下载作业 demo文件 https://code.aliyun.com/best-practice/21/raw/master/LammpsTest.zip 解压以后该文件包含以下几个文件:lj....
来自: 最佳实践 | 相关产品:云服务器ECS,对象存储 OSS,弹性高性能计算E-HPC
E-HPC低成本实现量化策略回测
E-HPC低成本实现量化策略回测
在量化交易场景下,量化策略的构建流程一般包括:想法、数据获取、建模、回测、结果分析等,在回测过程中往往需要海量的算力,进行大量数据的分析和处理,如何快速、高效和低成本的进行批量任务的调度,并快速获取结果是量化领域遇到的普遍挑战,这也是云计算能够带给客户的巨大优势。
E-HPC低成本实现量化策略回测 最佳实践 业务架构图 场景描述 在量化交易场景下,量化策略的构建流程一般包 括:想法、数据获取、建模、回测、结果分析等,在回测过程中往往需要海量的力,进行大量 据的分析和处理,如何快速、高效和低成本的进 行批量任务的调度,并快速获取结果是量化领域 遇到的普遍挑战,这也是...
来自: 最佳实践 | 相关产品:专有网络 VPC,对象存储 OSS,弹性公网IP,文件存储NAS,弹性高性能计算E-HPC,云速搭
< 1 2 3 4 >
共有4页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用