基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
基于云速搭CADT快速构建药物筛选<em>批量计算</em>环境-serverless版
本方案基于云速搭 CADT提供一个快速构建云上Serverless版HPC批量计算环境的模板,针对生物制药领域的药物筛选场景,提供开箱即用的整套解决方案工具包,整个云上环境仅需1个小时即可完成自动化部署搭建。
基于云速搭 CADT快速部署药物筛选批量计算环境-Serverless版 场景描述 部署架构 本方案基于云速搭 CADT 提供一个快速构建云上 Serverless版 HPC批量计算环境的模板,针对生物 制药领域的药物筛选场景,提供开箱即用的整套解 决方案工具包,整个云上环境仅需 1个小时即可完 成自动化部署搭建。解决问题 快速构建适用于药物...
来自: 最佳实践 相关产品:弹性公网IP,文件存储NAS,日志服务(SLS),容器镜像服务 ACR,操作审计,密钥管理服务,云防火墙,弹性高性能计算E-HPC,云速搭
批量计算BCS
阿里云批量计算(BatchCompute)是一种适用于大规模并行批处理作业的分布式云服务。支持海量作业并发规模,系统自动完成资源管理,作业调度和数据加载,并按实际使用量计费。可广泛应用于电影动画渲染、生物数据分析、多媒体转码、金融保险分析、科学计算等领域。
批量计算(BatchCompute)是一种适用于大规模并行批处理作业的分布式云服务。可支持海量作业并发规模,系统自动完成资源管理,作业调度和数据加载,按实际使用计费。广泛应用于电影动画渲染、生物数据分析、多媒体转码、金融保险分析、科学计算等领域.查看全部日志.丰富的资源类型.支持按使用常见ECS实例类型及批量...
来自: 云产品
基于函数计算FC实现阿里云Kafka消息轻级ETL处理
基于函数<em>计算</em>FC实现阿里云Kafka消息轻<em>量</em>级ETL处理
在大数据ETL场景,Kafka是数据的流转中心,Kafka中的数据一般是原始数据,可能存在多种数据混杂的情况,需要进一步做数据清洗后才能进行下一步的处理或者保存。利用函数计算FC,可以快速高效的搭建数据处理链路,用户只需要关注数据处理的逻辑,数据的触发,弹性伸缩,运维监控等阿里云函数计算都已经做了集成,函数计算FC也支持多种下游,OSS/数据库/消息队列/ES等都可以自定义的对接
使用函数 ,您无需采购与管理服务器等基础设施,只需编写上传代码或镜像。函数计算为您准 备好计算资源,弹性地、可靠地运行任务,提供日志查询、性能监控和报警等功能。云消息队列 Kafka 版:云消息队列 Kafka 版是阿里云提供的分布式、高吞吐、可扩展的 消息队列服务。云消息队列 Kafka 版广泛用于日志收集、监控...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算,消息队列 Kafka 版
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数<em>计算</em>FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
使用函数 ,您无需采购与管理服务器等基础设施,只需编写上传代码或镜像。函数计算为您准 备好计算资源,弹性地、可靠地运行任务,提供日志查询、性能监控和报警等功能。 云消息队列Kafka 版:云消息队列Kafka 版是阿里云提供的分布式、高吞吐、可扩展的 消息队列服务。云消息队列Kafka版广泛用于日志收集、监控...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
基于函数<em>计算</em>FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
整体方案通过 CADT 可以一键拉起依赖的产品,完成了大多数的配置,用户只需要到函数 和 MongoDB 控制台做少量配置即可。方案优势 l 可以实现根据 Kafka 消息的具体内容判断,该对 MongoDB 做哪种 DML 操作,灵活性和可 扩展性极高。l 函数计算具有完善的日志系统、容错机制。可以清晰的看到对每条消息的处理日志,...
来自: 最佳实践 | 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
批量计算可支持海量作业并发规模,系统自动完成资源管理,作业调度和数据加载,按实际使用计费。Serverless函数计算 FC事件驱动的全托管计算服务,通过函数计算,您无需管理服务器等基础设施,只需上传编写代码。Serverless 应用引擎 SAE帮助 PaaS 层用户免运维 IaaS,按需使用,按计费,实现低门槛微服务应用上云,...
来自: 云产品
基于Flink+ClickHouse构建实时游戏数据分析
基于Flink+ClickHouse构建实时游戏数据分析
在互联网、游戏行业中,常常需要对用户行为日志进行分析,通过数据挖掘,来更好地支持业务运营,比如用户轨迹,热力图,登录行为分析,实时业务大屏等。当业务数据量达到千亿规模时,常常导致分析不实时,平均响应时间长达10分钟,影响业务的正常运营和发展。 本实践介绍如何快速收集海量用户行为数据,实现秒级响应的实时用户行为分析,并通过实时流计算Flink/Blink、云数据库ClickHouse等技术进行深入挖掘和分析,得到用户特征和画像,实现个性化系统推荐服务。 通过云数据库ClickHouse替换原有Presto数仓,对比开源Presto性能提升20倍。 利用云数据库ClickHouse极致分析性能,千亿级数据分析从10分钟缩短到30秒。 云数据库ClickHouse批量写入效率高,支持业务高峰每小时230亿的用户数据写入。 云数据库ClickHouse开箱即用,免运维,全球多Region部署,快速支持新游戏开服。 Flink+ClickHouse+QuickBI
本实践介绍如何快速收集海量用户行为数 据,实现秒级响应的实时用户行为分析, 通过实时流计算、云数据库 ClickHouse等 技术进行深入挖掘和分析,得到用户特征和 画像,实现个性化系统推荐服务。产品列表 最佳实践频道 阿里云最佳实践分享群 专有网络 VPC 弹性公网 IP EIP 云服务器 ECS 消息队列 Kafka版 云数据库 ...
来自: 最佳实践 | 相关产品:云服务器ECS,弹性公网IP,实时计算,Quick BI,消息队列 Kafka 版,云数据库 ClickHouse
EHPC药物筛选
EHPC药物筛选
场景描述 本方案适用于使用弹性高性能计算 EHPC和文件存储NAS来搭建基础环 境,运行药物筛选应用AutodockVina 的场景中,这里采用批处理方式来提交 作业,并可以可视化计算结果。 方案架构 1.计算之前,将数据通过互联网/闪电立方/高速通道上传到阿里云OSS 2.计算时,将数据从OSS拉取到文件共享存储NAS上 3.计算时,在EHPC集群上进行,计算节点从NAS上读写数据 • 容量型NAS:低成本,大容量 • 性能型NAS:适合高IOPS应用,作为临时目录 • CPFS:适合超大规模,并行度极高的作业 4.计算节点: • 如果对计算时间不敏感,希望低成本运算,可选ECS实例 • 如果时效性要求高,建议采用SCC超级计算集群 5.可视化 • 如果可视化部分计算量不大,可以采用EHPC自带的可视化服务 解决问题 1.使用EHPC运行药物筛选应用 2.使用nas存储计算数据 3.使用OSS保存计算结果 • 通过分子对接(moleculardocking)模拟计算进行药物筛选,是模拟小分子配体和生物大分子受体的 相互作用,预测配体和受体的结合模式和亲和力。 • 通常,有很多已有的配体库,如商业化的Specs、Enamine和ChemDiv化合物库。提供大量配体,模 拟计算就是计算这些配体和给定受体的相互作用。 • 每次模拟计算通常处理一个配体和一个受体,不同配体之间没有依赖,因此可以同时大规模并行处 理。 本解决方案同样适用于有批量、高并发处理需求的其它生物、医药等场景。 产品列表 弹性高性能计算E-HPC 文件存储NAS 对象存储OSS
使用数组作业解决批处理任务 从批处理和数组作业介绍看,数组作业适用批处理计算的场景,但做到简易使用,还存在以 下问题:1.批处理任务与作业的对应关系?当任务数量巨大时,是一个任务就是一个作业,还是一个作业包含多个任 务?2.如何从$PBS_ARRAY_ID 到不同任务的关联?能够方便对应不同任务的不同参数?3.如何跟踪...
来自: 最佳实践 | 相关产品:云服务器ECS,对象存储 OSS,文件存储NAS,弹性高性能计算E-HPC
游戏数据运营融合分析
游戏数据运营融合分析
场景描述 1.游戏行业有结构化和非结构化数据融合分 析需求的客户。 2.游戏行业有数据实时分析需求的客户,无法 接受T+1延迟。 3.对数据成本有一定诉求的客户,希望物尽其 用尽量优化成本。 4.其他行业有类似需求的客户。 方案优势/解决问题 1.秒级实时分析:依托ADB计算密集型实例, 秒级监控DAU等数据,为广告投放效果提 供有力的在线决策支撑。 2.高效数据融合分析:打通结构化和非结构化 数据,支撑产品体验分析;广告买量投放效 果实时(分钟级)分析,渠道的评估更准确。 3.低成本:DLA融合冷数据分析+ADB存储密 集型温数据分析+ADB计算密集型热数据分 析,在满足各种分析场景需求的同时,有效 地降低的客户的总体使用成本。 4.学习成本低:DLA和ADB兼容标准SQL语 法,无需额外学习其他技术。 产品列表 专有网络VPC、负载均衡SLB、NAT网关、弹性公网IP 云服务器ECS、日志服务SLS、对象存储OSS 数据库RDSMySQL、数据传输服务DTS、数据管理DMS 分析型数据库MySQL版ADS 数据湖分析DLA、QuickBI
数据融合分析:文档版本:20210224 3 游戏数据运营融合分析 最佳实践概述 ᅳ DLA融合分析(冷数据,全周期,低频查询、大范围跨度查询、关联 ADB 维度数据分析)+ADB存储密集型分析(温数据,1-3个月批量数据分析)+ADB计算密集型(热数据,实时分析)。ᅳ 真正实现云原生数据处理、分析链路闭环,极大提高客户收益。方案...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,对象存储 OSS,云原生数据仓库AnalyticDB My,数据湖分析,Quick BI
云原生多模数据库Lindorm
云原生多模数据库Lindorm提供各规模、多模型的云原生数据库服务。可兼容HBase/Cassandra、OpenTSDB、Solr、SQL、HDFS等多种开源标准接口。支持海量数据的低成本存储处理和弹性按需付费,是互联网、IoT、车联网、广告、社交等场景首选数据库,也是为阿里核心业务提供支撑的数据库之一。
一体化设计,支持多种分布式计算模型,多种存储模式融合,多种访问模式融合,开箱即用.海量数采测点数据高通量、高并发、低延迟写入,库内高效数据统计、计算、处理等分析任务执行.工业数据云IT&OT融合存储分析.使用Lindorm存储广告营销中的画像特征、用户事件、点击流、广告物料等重要数据,提供高并发、低延迟、灵活...
来自: 云产品
云原生分布式数据库PolarDB-X
阿里云云原生分布式数据库PolarDB-X(原DRDS升级版),可解决分库分表、海量数据存储、超高并发吞吐、复杂计算效率等问题。最高可支撑千万级并发和百PB级海量存储。
可线性扩展数据存储空间,提供PB级存储能力,高效解决单机数据库存储瓶颈.PolarDB-X集群将业务压力分散至多个计算、存储节点之上,平稳解决在线业务超高并发难题.PolarDB-X提供 Parallel Query 以及 MPP 并行加速能力,可大幅提升海量数据下复杂分析查询的执行效率.HTAP混合负载.提供丰富的算法放置数据,将数据分散到多个...
来自: 云产品
风险识别
风险识别是一套实时分析、精准识别、全场景覆盖的业务风险管理产品。基于海量攻防样本、机器学习算法以及流式计算等技术,帮助企业一站式管理用户注册、营销活动、交易、信贷申请等关键业务中的欺诈风险。
基于阿里云力、网络等基础设施优势,实现高维运算下毫秒级、超高并发能力,支持全球多地入网.对网站或者APP的业务流量进行恶意特征识别及防护,将正常、安全的流量回源到服务器.Web应用防火墙.提供身份信息真实性核验的服务,包含证件 OCR 识别、活体检测、人脸对比等能力.注册场景风控方案.精准识别批量注册、垃圾小号...
来自: 云产品
FPGA云服务器
FPGA云服务器是提供现场可编程门阵列(FPGA)的计算实例,基于阿里云弹性计算框架,用户可以在几分钟内轻松创建并自定义的专用硬件加速器。
在后台服务日志压缩、网站静态资源文件压缩、批量计算任务压缩、分布式存储压缩等方面均可使用FPGA进行加速.适用多种类型压缩.云服务器ECS.对象存储OSS.推荐搭配使用.云端压缩的计算加速.云端压缩的计算加速.以大型互联网公司为例,每天处理的数据量级都在PB,每天更新的网页以亿,每24小时更新的日志超过PB,因此需要...
来自: 云产品
实时数仓Hologres
Hologres(原交互式分析)是一站式实时数据仓库引擎,支持海量数据实时写入、实时更新、实时分析,支持标准SQL(兼容PostgreSQL协议),支持PB级数据多维分析(OLAP)与自助分析(Ad Hoc),支持高并发低延迟的在线数据服务(Serving),与MaxCompute、Flink、DataWorks深度融合,提供离在线一体化全栈数仓解决方案。
采用可扩展的MPP架构全并行计算,向量化算子发挥CPU极致力,ORC格式列存优化索引,SSD存储优化IO,支持PB级数据亚秒级交互式分析体验.高性能主键点查(Serving).基于行存表的主键索引和查询引擎的短路径优化,支持每秒数十万QPS高性能服务型点查,支持高吞吐更新,相比开源系统性能提升10倍以上.联邦查询,外表加速...
来自: 云产品
云上大数据仓库解决方案
阿里云云原生大数据仓库,包含离线实时一体化数仓和实时数仓解决方案,为企业提供一站式云上智能开发、调度、服务、质量、安全的全链路服务。
全实时数据链路:实时数据与批量数据高速写入导出,全实时数据接入/数据计算/数据存储/数据查询.计算与存储分离:资源弹性伸缩,计算存储分离。支持 Scale-Out 水平扩展.实时计算 Flink 版.实时数仓 Hologres.实时数仓架构.实时数仓架构特点.配套产品套餐.阿里云云上大数据仓库是集数据计算、存储和开发的整体大数据解决...
来自: 解决方案
模型在线服务PAI-EAS
模型在线服务PAI-EAS( Elastic Algorithm Service ) 是阿里云人工智能PAI的模型在线服务平台,将模型一键部署为在线推理服务或AI-Web应用,高吞吐低延时,支持自动扩缩容和完整运维监控体系等能力。
在专属资源组内资源占满的情况扩容,服务会自动将扩容的实例弹到公共资源组的按计费的机器资源上,保障服务的稳定性.通过自动扩缩容等诸多方法,帮助客户在业务的波峰波谷中更高效的管理集群资源,达到降本增效.支持各类型的CPU规格,其中倚天710成本可降低30%.支持各类型的GPU规格,其中GU30规格成本可降低45%.PAI-EAS ...
来自: 云产品
云数据库HBase
阿里云云数据库 HBase 版(ApsaraDB for HBase)是基于 Hadoop 且100%兼容HBase协议的高性能、可弹性伸缩、面向列的分布式数据库,轻松支持PB级大数据存储,满足千万级QPS高吞吐随机读写场景。
计算能力水平扩展,满足不同力需求.千万级高吞吐.低成本,一体化,免运维处理平台.云服务器 ECS.推荐搭配使用.实时数据大屏场景.实时数据大屏场景.查看全部日志.查看云数据库HBase版使用文档.查看云数据库HBase版试用案例.查看云数据库HBase版快速入门.加群交流HBase相关技术.原系统只能存储1个月的包裹数据,数据交换...
来自: 云产品
阿里云大数据&AI
阿里云大数据和AI产品服务。开放数据处理服务ODPS提供强大的数据分析和管理功能;开源大数据产品支持更加灵活地构建大数据平台;AI和机器学习产品提供AI工程平台和智算服务。
案例和最佳实践.SaaS模式云数仓解决方案,高效处理海量数据.ODPS大规模批量计算引擎.提供离在线一体化全栈数仓解决方案.ODPS实时交互式计算引擎.实时数仓Hologres.一站式大数据开发&治理平台.Flink创始团队出品,秒处理能力25.5亿条.实时计算 Flink 版.帮助用户简单快速地构建云原生数据湖解决方案.集中式存储库.数据湖构建...
来自: 云产品
弹性容器实例
阿里云弹性容器实例是阿里云弹性计算提供的敏捷安全的Serverless容器运行服务。您无需管理底层服务器,只需要提供打包好的镜像,即可运行容器,并仅为容器实际运行消耗的资源付费。
无服务器的容器基础设施,通过事件触发,提供高并发、低成本的容器实例调度及事件处理能力.提供稳定的运行环境,满足复杂事件的运行诉求.复杂事件调度.秒级启动和弹性伸缩.容器实例根据资源规格及使用时长付费.消息服务 MNS.对象存储 OSS.推荐搭配使用.通用:事件驱动容器引擎.无服务器容器基础设施.<查看全部产品.阿里云...
来自: 云产品
消息服务MNS
消息服务 MNS 是一款易集成、高并发、可弹性扩展的轻量消息队列服务。消息服务的轻量队列模型、按量后付费的计费模式、自动适应高并发的弹性可扩展能力,让开发者低成本快速构建分布式、松耦合系统,高效地传递数据和通知消息。
支持多个生产者和消费者并发访问同一个队列,无需特殊设置即可自由调整并发度,能确保某条消息在取出之后的特定时间段内,无法被其他消费者获得.消息投递保障.在消息有效期内,确保消息至少能被成功消费一次。用户间资源隔离,确保您队列中的消息不会被非法获取.队列模型(Queue).支持通知消息.服务端主动将消息发送给...
来自: 云产品
< 1 2 3 >
共有3页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用