基于函数计算FC实现大语言模型部署
基于函数<em>计算</em>FC实现大语言模型部署
在现代AI应用中, Qwen /chatglm2-6b 和Stable Diffusion等模型因其强大的功能而受到关注。然而,这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑,而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境,包括冷启动、弹性伸缩等,确保模型能够在大规模的请求下稳定运行。
方案优势 简化模型部署流程 链路自适应弹性,无需为流量峰谷做频繁的手工处理 内置CICD平台能力,灰度,回滚,监控开箱即用 按量付费模式,没有资源闲置费用 产品介绍 函数计算 FC(Function Compute):函数计算是事件驱动的托管计算服务。使 用函数计算,您无需采购与管理服务器等基础设施,只需编写并上传代码或镜 ...
来自: 最佳实践 相关产品:函数计算
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步
基于函数<em>计算</em>FC实现企业级权限精准控制Kafka跨实例消息同步
应用场景 在大数据场景,企业的Kafka实例可能存在多种情况,比如使用阿里云Kafka服务,可能是自建开源Kafka,或者是其他云上的云Kafka。不同的业务使用不同类型的Kafka实例,在这个前提下Kafka实例之间可能会需要消息同步的情况: 同帐号容灾场景:比如Kafka实例都是阿里云Kafka,但是Kafka实例会有主备之分,需要将主Kafka实例的消息实时同步到备Kafka。 跨帐号或异地容灾:这类场景比如主Kafka是阿里云Kafka,备Kafka是IDC开源自建Kafka,或者是其他云上的Kafka。 不同业务之间消息同步:因为现在的业务通常不会是信息孤岛,都需要消息互通,所以可能是A业务的Kafka实例消息需要同步到B业务的Kafka实例,并且这两个Kafka实例归属不同的RAM角色,有自己独自的权限控制。 解决问题 解决使用开源组件做消息同步的高成本问题。 解决使用开源组件做消息同步的并发性能、稳定性问题。 解决使用开源组件做消息同步的可靠性问题(重试机制,容错机制,死信队列等)。 大幅提升构建消息同步架构的效率,降低构建复杂度问题。
基于函数计算FC实现企业级权限精准控制Kafka跨实例消息同步最佳实践 场景描述 业务架构 基于阿里云函数计算FC实现同帐号阿里云Kafka实 例之间消息、元数据同步,跨帐号阿里云Kafka实例 之间消息、元数据同步,阿里云Kafka实例和IDC 自建Kafka(其他云Kafka)之间消息、元数据同步。应用场景 在大数据场景,企业的Kafka实例...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,函数计算,消息队列 Kafka 版
基于函数计算FC实现阿里云Kafka消息内容控制MongoDB DML操作
基于函数<em>计算</em>FC实现阿里云Kafka消息内容控制MongoDB DML操作
在大数据ETL场景,将Kafka中的消息流转到其他下游服务是很常见的场景,除了常规的消息流转外,很多场景还需要基于消息体内容做判断,然后决定下游服务做何种操作。 该方案实现了通过Kafka中消息Key的内容来判断应该对MongoDB做增、删、改的哪种DML操作。 当Kafka收到消息后,会自动触发函数计算中的函数,接收到消息,对消息内容做判断,然后再操作MongoDB。用户可以对提供的默认函数代码做修改,来满足更复杂的逻辑。 整体方案通过CADT可以一键拉起依赖的产品,并完成了大多数的配置,用户只需要到函数计算和MongoDB控制台做少量配置即可。
步骤1 双击 CADT 架构图中 mongodb 图标,点击前往控制台,进入阿里云 MongoDB 控制台 步骤2 可以看到刚才通过 CADT 创建好的 MongoDB 实例,进入数据安全性/白名单设置菜单。修改 default 分组允许访问的 IP 名单,为方便演示,可以暂时设置为 0.0.0.0/0,后续强 烈建议修改为和业务相关的 IP 名单,增加安全性。23 文档...
来自: 最佳实践 | 相关产品:函数计算,消息队列 Kafka 版,云数据库 MongoDB版
基于云速搭CADT快速构建药物筛选批量计算环境-serverless版
基于云速搭CADT快速构建药物筛选批量<em>计算</em>环境-serverless版
本方案基于云速搭 CADT提供一个快速构建云上Serverless版HPC批量计算环境的模板,针对生物制药领域的药物筛选场景,提供开箱即用的整套解决方案工具包,整个云上环境仅需1个小时即可完成自动化部署搭建。
产品介绍 弹性高性能计算(E-HPC):基于阿里云基础设施,为用户提供一站式公共云 HPC/AI 平台服务,面向科研,生产,教育和行业大计算,提供快捷,弹性,安全和与阿里 文档版本:20240204 2 基于云速搭 CADT部署药物筛选批量计算环境-Serverless版 最佳实践概述 云产品互通的云超平台。文件存储 NAS:阿里云文件存储 NAS...
来自: 最佳实践 | 相关产品:弹性公网IP,文件存储NAS,日志服务(SLS),容器镜像服务 ACR,操作审计,密钥管理服务,云防火墙,弹性高性能计算E-HPC,云速搭
车辆数据安全稳定上云和分析
阿里云物联网平台提供全托管的企业级实例服务,无需自建物联网基础设施即可实现车辆数据的安全稳定上云。
产品解决方案文档与社区权益中心定价云市场合作伙伴支持与服务了解阿里云备案控制台车辆数据安全稳定上云和分析方案介绍方案优势应用场景方案部署车辆数据安全稳定上云和分析该方案为车企提供安全稳定的车辆数据上云和分析服务。阿里云物联网平台提供托管的企业级实例服务,无需自建物联网基础设施即可实现车辆数据的安全...
来自: 解决方案
基于OSS Object FC实现非结构化文件实时处理最佳实践
基于OSS Object FC实现非结构化文件实时处理最佳实践
现在绝大多数客户都有很多非结构化的数据存在OSS中,以图片,视频,音频居多。举一个图片处理的场景,现在各种终端种类繁多,不同的终端对图片的格式、分辨率要求也不同,所以一张图片往往会有很多张衍生图,那如果所有的衍生图都存在OSS中,那存储的成本会增加,所以就可以通过OSS Object FC的方案,在不同的终端请求时,对OSS中的原图基于终端的要求做实时处理,然后响应返回,这样OSS中只需要存储原图即可。音视频也有类似的场景。
使用函数 ,您无需采购与管理服务器等基础设施,只需编写并上传代码或镜像。函数计算为您准 备好计算资源,弹性地、可靠地运行任务,并提供日志查询、性能监控和报警等功能。 内容分发网络(ContentDeliveryNetwork,CDN):是建立并覆盖在承载网上,由不同区 域的服务器组成的分布式网络。将源站资源缓存到全国各地...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
数据安全解决方案
数据是企业的核心资产,如何保护企业的云上数据,是每个企业管理者都应当重视的课题。在云平台提供更为安全便捷的数据保护能力的同时,阿里云根据自身多年的经验积累,结合大量云上客户的最佳实践,提供了一套完整的数据安全解决方案,帮助企业提升云上数据风险防御能力,实现企业核心及敏感数据安全可控。
阿里云提供堡垒机服务和终端DLP服务.GB/T 37988-2019《数据安全能力成熟度模型》(Data Security Maturity Model,简称DSMM),是阿里巴巴结合多年数据安全实践经验总结并贡献的,旨在助力提升社会、行业数据安全水位的一份评估标准以及能力建设参考。该标准的发布也填补了数据安全领域在能力成熟度评估标准方面的空白...
来自: 解决方案
DataWorks数据安全合规服务
DataWorks数据安全合规服务是基于蚂蚁安全实验室核心能力,结合已获取多项专利的AI检测能力,对App进行隐私安全合规分析的专家服务,助力客户全面、准确、高效地规避合规风险。
DataWorks数据安全合规服务基于蚂蚁安全实验室核心安全能力沉淀及已获取多项专利的AI检测能力,为客户提供专业隐私合规服务.严格参照国家相关法律,以及网信办、工信部、公安部、市场监管总局四部门发布的相关执行标准进行APP合规检测和隐私合规检测,对App隐私风险进行逐项检查.自动化隐私风险发现和检测,对App收集使用...
来自: 云产品
容器计算服务 ACS
容器计算服务 ACS 是以 K8s 为使用界面供给容器算力资源的云计算服务,提供符合容器规范的算力资源。
灵活调配,了解 ACS 如何管理计算资源安全合规基础设施安全数据安全:默认加密容器计算服务 ACS 管控侧用户数据,保证客户数据在容器计算服务 ACS 管控侧传输链路 TLS 加密,同时提供完备的审计和控制面组件日志投递能力。供应链安全安全左移:提供镜像构建、安全扫描、全球同步和部署的自动化集成应用交付链能力,帮助...
来自: 云产品
数据安全中心
敏感数据保护(Sensitive Data Discovery and Protection),在满足等保v2.0“安全审计”、等保v3.0及“个人信息保护”的合规要求的基础上,为客户提供敏感数据识别、分级分类、数据安全审计、数据脱敏、智能异常检测等数据安全能力,形成一体化的数据安全解决方案。
数据安全中心 Data Security Center 为客户提供敏感数据自动识别、分级分类、大数据安全审计与数据脱敏等数据安全能力,形成一体化的云上全域数据防泄漏与安全解决方案,在帮助客户实现等保 2.0 二级有关“安全审计”与三级有关“个人信息保护”的合规要求的同时,并满足《数据安全法》中提出的有关要求.数据安全中心(敏感...
来自: 云产品
企业上云数据安全
企业上云<em>数据安全</em>
场景描述 企业是否选择上公共云,或者哪些系统或数据上 公共云,对数据安全的关心是重要因素之一。本 最佳实践重点在于介绍狭义的数据加密存储安 全范畴,即首先使用SDDP产品进行敏感数据发 现和分级分类,然后对高级别敏感数据进行按 需、不同类型的全链路加密存储。 解决问题 1.帮助客户发现敏感数据 2.对敏感数据进行分类、分级 3.对不同级别的数据如何选择加密方式 4.具体如何进行加密 产品列表 敏感数据识别SDDP 密钥管理服务KMS 云数据库RDS 对象存储OSS
流程如下图:对于客户端加密方式,分为用户自己管理密钥加密(CSE-C)和 KMS 托管密钥(CSE-KMS)加密两种,如下图所示:文档版本:20210809 28 企业上云数据安全 OSS数据加密 使用客户端加密,可以使用客户端加密 SDK,在本地进行数据加密,并将加密后的 上传到 OSS。在这种场景下,用户需要管理加密过程以及加密密钥...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,密钥管理服务,敏感数据保护,云速搭CADT
基于FC实现的Web端视频录制最佳实践
基于FC实现的Web端视频录制最佳实践
场景描述在很多互娱场景,在线教育领域会有直播视频录制的需求,但是往往一个页面上的内容是多种多样的,不止有直播流,可能还有白板,评论等其他元素,如果只是录直播流,那内容是不完整的,所以需要将整个屏幕的内容录制为视频。该最佳实践可以有效解决这个场景。
审阅人 文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 2024-03-25 缘 增加了停止任务需要配置 V1.1 2024-04-03 缘 权限的步骤 更新了停止任务章节截图 文档版本:20240325 I 基于 FC实现的 Web端视频录制最佳实践 前言 前言 名词解释 函数计算 FC(Function Compute):函数计算是事件驱动的托管计算服务。...
来自: 最佳实践 | 相关产品:对象存储 OSS,函数计算
数据中台安全解决方案
针对阿里云提供的数据中台解决方案,基于数据全生命周期安全管控,结合云上客户最佳实践,为客户提供可参考的数据中台安全解决方案。
基于数据安全维度思考沉淀,从事前规划防御、事中检测响应到事后审计追溯,打通数据中台安全链路,并重点关注数据“进出中台”以及在中台“内部流转”的可见和可控.全面可扩展的数据中台安全能力覆盖.根据阿里巴巴自身在双中台领域的多年经验沉淀,结合阿里云为众多客户构建安全的云上数据中台项目积累,指导企业从平台...
来自: 解决方案
计算巢服务
阿里云计算巢服务是一个面向ISV、SI、MSP和开发者的云集成PaaS平台,方便服务商更好的将产品、服务集成,借助云原生的能力提升软件服务交付、部署及后续管理。
数据安全环境登录安全性:无需交换登录凭证,安全运维通道,自动完成授权鉴权。通过内网打通,无需网络放行,杜绝网络安全隐患。追溯和审计能力:提供操作系统运维录屏,保留运维现场,提升服务可信度。运维操作记录存档可追溯,安心服务无纠纷。客户案例“计算巢的自动化交付完美的解决了在给客户交付过程中云资源采购及...
来自: 云产品
基因计算分析解决方案
基因测序技术日新月异,围绕着基因组学的基础科学研究和临床医学应用,也正在取得突破性的进展。阿里云为海量基因组学数据的计算分析提供高效安全的完整解决方案,帮助生物科技公司、科研人员和医疗健康机构构建广泛可靠、敏捷智能的基础平台和业务系统。
阿里云为海量基因组学数据计算分析提供高效安全的完整解决方案,帮助生物科技公司、科研人员和医疗健康机构构建广泛可靠、敏捷智能的基础平台和业务系统.基因计算分析解决方案.Canu 软件同时适用于 PacBio SMRT 与纳米孔测序两款主流的单分子测序平台的数据,可以执行 reads 的纠错与组装部分的工作。阿里云优化三代组装...
来自: 解决方案
弹性计算
阿里云弹性计算提供弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。经十年深厚技术积淀,阿里云弹性计算技术先进、性能优异、 稳如磐石,致力于提供永不停机的计算服务。
在AI算法这块,不论是NLP还是OCR,都需要大量的计算资源和比较多的CPU机器,依托阿里云自研的软硬一体的神龙架构提供的超强力和高稳定性,帮助达观数据有效提升了AI算法的研发效率,极致的弹性也让达观数据可以根据客户的需要,随时地快速扩容,超强的稳定性也让达观数据为客户提供了更加稳定、安全的服务.依托阿里云六代...
来自: 云产品
弹性高性能计算E-HPC
弹性高性能计算(E-HPC)基于阿里云基础设施,拥有公有云、专有云等多种产品形态,为用户提供一站式HPC/HPDA平台服务,面向科研、生产、教育和行业大计算,提供快捷,弹性,安全的服务和拥有与阿里云产品互通的高性能计算服务平台。
链路数据安全.云端存储的高并发、高性能和良好的可扩展性,极大的缩短了 EDA 工作流作业的运行时间.缩短作业运行时间.领先的高性能计算产品构建了健壮的超算集群,兼容业内主流的各类调度器和域控方案,支持构建多种形态的混合云方案.支持构建多种形态的混合云方案.无影可以帮助半导体企业构建多地统一的办公、研发环境,...
来自: 云产品
视觉AI计算和训练
视觉计算服务VCS是阿里云推出的按实际算力计费的产品,AI计算成本节省可达30%。内置20+常用视觉AI算法,也可运行您指定的视觉AI算法,应用支撑达百万级QPS,体验毫秒级响应。
将全网、全量、视频海量数据进行汇聚融合计算,基于千亿级视频数据底座进行秒级检索,充分挖掘视频数据价值,提高IDC资产安全管理效率.支持上万路实时视频的并行计算能力.从摄像机出现目标到应用可检索数据为秒级.对象存储 OSS.弹性公网 IP.推荐搭配使用.IDC资产安全:高并发、高性能场景.提供高并发、高性能的视频分析...
来自: 云产品
< 1 2 3 4 ... 6 >
共有6页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用