超级计算集群实现自然语言处理训练
超级计算集群实现自然语言处理训练
场景描述 本方案适用于自然语言训练场景,使用神龙 GPU云服务器(SCCGN6)+CPFS进行NLP的 训练,采用Bert模型。这里不使用容器,直接 使用裸机进行NLP的Bert训练,使用飞天AI加 速训练工具可以有效提升多机多卡的训练效率。 解决问题 使用神龙GPU云服务器搭建NLP训练环 境 使用SCC的RDMA网络 使用CPFS存储训练数据 使用飞天AI加速训练工具加速训练 产品列表 神龙GPU云服务器(SCCGN6) SCC超级计算集群 CPFS共享存储
步骤5 返回NAS控制台后,可看到新开通的CPFS实例,创建成功后,记录挂载点信息。步骤6 至此CPFS创建成功。单击cpfs的实例id,可进入cpfs的详情页面查看详细信息。3.2.创建挂载 步骤1 在文件系统列表中,点击cpfs实例链接,进入挂载使用,点击添加挂载。步骤2 在弹出的窗口中添加vpc信息,点击确定。13企业上云实践 基于...
来自: 最佳实践 相关产品:文件存储NAS,超级计算集群
基于Flink的资讯场景实时数仓
基于Flink的资讯场景实时数仓
场景描述 本实践针对资讯聚合类业务场景,Step by Step介绍 如何搭建实时数仓。 解决问题 1.如何搭建实时数仓。 2.通过实时计算Flink实现实时ETL和数据流。 3.通过实时计算Flink实现实时数据分析。 4.通过实时计算Flink实现事件触发。 产品列表 实时计算 专有网络VPC 云数据库RDSMySQL版 分析型数据库MySQL版 消息队列Kafka 对象存储OSS NAT网关 DataV数据可视化
注:本实践通过云数据库 RDS存储维表 。3.数据分析:采用实时计算 Flink+AnalyticDB for MySQL实现实时数据分析+多维数据分析。数据分析包括以下两步:a)通过实时计算 Flink抽取 DWD中对应信息并进行轻度汇总(如部分业务指标 计算),生成 DWS(Data Warehouse Summary,汇总数据层),并将数据存 储到 AnalyticDB for...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,NAT网关,云原生数据仓库AnalyticDB My,云速搭CADT
数据湖-在线学习场景数据分析
数据湖-在线学习场景数据分析
场景描述 本场景以在线教育中一个答题闯关类的应用为 例,使用WebServer来模拟演示这类日志数据 的分析处理。通过Nginx和Pythonflask搭建 WebServer,模拟应用中的关键页面,比如登 录、课程内容等,之后构造若干用户使用的模拟 日志数据,投递到数据湖进行分析后获取应用 PV、UV、课程内容访问排行、平均得分等等。 解决问题 基于数据湖(EMR+OSS)搭建大数据平台。 EMR和OSS使用和配置。 数据统一存储到OSS。 产品列表 E-MapReduce 对象存储OSS 云服务器ECS 访问控制RAM 专有网络VPC
文档版本:20200331 20数据湖-在线学习场景数据分析 部署EMR集群 2.5.EMR集群界面介绍 步骤1 打开EMR控制台:https://emr.console.aliyun.com/ 单击EMR集群名称进入详情页,可以看到集群信息:步骤2 在集群管理页面可以查看服务状态和监控信息。文档版本:20200331 21数据湖-在线学习场景数据分析 部署EMR集群 步骤3 在左侧...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,对象存储 OSS,访问控制,E-MapReduce
视频直播
阿里云视频直播服务(ApsaraVideo Live)是基于领先的内容接入与分发网络和大规模分布式实时流媒体转码技术打造的直播平台,提供便捷接入、高清流畅、低延迟、高并发的音视频云高清直播直播服务。
直播加速费用(标准直播、超低延时直播、边缘转推、中心转推、实时日志等),媒体处理费用(直播转推、录制、时移、截图、审核、延播、加密、美颜特效等),其他服务费用(云导播、广目播、互动直播、互动消息等)免费试用计费方式提供灵活的计费方式,帮您节省使用成本。按量计费(后付费)定义:按照各计费项的实际用量...
来自: 云产品
云数据库Redis
云数据库 Redis 版是一种全托管、兼容Redis协议的内存数据库服务,包含社区版Redis和企业版Tair,支持主从、集群和读写分离架构,具备低延迟、大吞吐、弹性扩缩容的特点。Tair提供多种系列满足不同场景的性价比要求,更有全球多活、数据闪回、大热Key探测与优化、丰富的数据结构,赋能大规模高性能要求的在线数据业务。
提供CPU利用率、连接数、磁盘空间利用率等实例信息实时监控及报警,随时随地了解实例动态.可视化管理平台.管理控制平台对实例克隆、备份、数据恢复等高频高危操作可便捷的进行一键式操作.可视化DMS平台.专业的DMS数据管理平台,提供可视化的数据管理,全面提升研发、运维效率.数据库内核版本管理.主动升级,快速修复缺陷,...
来自: 云产品
阿里云最佳实践容器workshop
阿里云最佳实践容器workshop
通过本篇最佳实践,可以熟悉容器及k8s的基本操作。基于eci的高弹性架构,能有效的应对业务流量洪峰,同时提升资源使用效率。
阿里云ACK容器服务workshop 文档版本信息 阿里云 云原生应用 workshop 最佳实践 文档版本:20220301(发布日期)文档版本:20220301(发布日期)I 阿里云ACK容器服务workshop 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 阿里云 ACK容器服务 workshop 文档版本 V2.4 版本日期 2022-03-01 文档状态 对外发布 ...
来自: 最佳实践 | 相关产品:容器服务 ACK,日志服务(SLS),访问控制,容器镜像服务 ACR,云效,云速搭
AK防泄漏
AK防泄漏
场景描述 用户名密码是开发运维人员访问阿里云控制台 的凭据,AK是软件程序访问阿里云资源的凭据。 如果AK被泄露,那么会造成非常严重的后果, 比如资源被释放导致业务不可用、大量服务器被 创建用来挖矿,等等。采用合适的方式来使用、 保护AK,是每一个云客户都必须关注的问题。 解决问题 1.避免AK被泄露 2.改进已经错误使用AK的方法 产品列表 访问控制RAM 云服务器ECS 操作审计Action Trail 云安全中心
步骤5 为了实现这个检查功能的正常状态,需要确保以下几:1.确保云产品的操作审计日志处于开启状态,可以帮助您分析是否有异常的调用行 为。2.确保使用的是 RAM子用户的 AK,而不是主账号 AK,并且遵守最小权限原则。这 样 AK发生泄漏问题不至于失去整个云账号的控制权限。3.确保开启主账号双因素认证(MFA)。开启多因素...
来自: 最佳实践 | 相关产品:云服务器ECS,访问控制,云安全中心,操作审计,云速搭CADT
云数据库RDS MySQL版备份恢复
云数据库RDS MySQL版备份恢复
场景描述 用户数据库数据, 部分需要快速、 小颗粒度恢复、 部分需要异地备份、部分需求长期归档。 当前自建 MySQL 上建立完善的备份/恢复系统无法完美满足用户需求, 且建设/维护成本很高。 RDS 的完善的备份/恢复方案可以有效帮助到用户。 方案优势 1. 可以方便实现本地备份及库表级别快速恢复, 快速应对误操作误删除等逻辑错误, 降低业务损失。 2. 可以方便实现异地备份, 实现数据级容灾, 满足合规要求。 3. 可以方便将数据进行归档, 实现长期数据的高性价比保存方案。 4. 有效提升用户数据备份效率, 降低维护工作量。 解决问题 1. 自建数据库发生误操作时恢复复杂 2. 部分数据发生错误进行恢复时可能影响其他数据访问 3. 异地备份操作复杂 4. 长期数据保存成本较高 5. 备份恢复系统维护所需人力成本较高
而对于 RDS MySQL 实例,这些操作仅需在控制台进行简单配置,需要恢复时填写必 要的信息(比如需要恢复到的具体时间、需要恢复的库表名称等)即可轻松实现。适用场景 业务测试等场景,需要基于线上数据进行验证查询,又需要保护线上生产数据库。生产库发生误操作时快速恢复 部分表发生错误,快速恢复同时降低对其他数据...
来自: 最佳实践 | 相关产品:专有网络 VPC,云服务器ECS,云数据库RDS MySQL 版,访问控制
新零售商超基于Serverless服务化改造
新零售商超基于Serverless服务化改造
某零售商超行业龙头企业,主要业务涵盖购物中心、大卖场、综合超市、标准超市、精品超市、便利店、无人值守智慧商店等零售业态,涉及全渠道零售、仓储物流、餐饮、消费服务、数据服务、金融业务、跨境贸易等领域。为了持续支持业务高速且稳定地发展,其在快速上云后,将核心业务改造为全Serverless架构的中台模式,采用函数计算 + API网关 + 表格存储OTS 作为计算网络存储核心,弹性支撑日常和大促峰谷所需资源,轻松支撑618/双11/双12大促。 核心价值 l 全 Serverless 架构:FC + API 网关 + OTS Serverless 解决方案。 l 弹性高可用:毫秒级弹性扩容、充足的资源池水位、跨可用区高可用。 l 敏捷开发免运维:函数式极简编程可专注于业务创新,无采购和部署成本、提供监控报警等完备的可观测能力。
架构优势 全 Serverless架构:函数计算+API 网关+表格存储 弹性高可用:毫秒级弹性扩容、充足的资源池水位、跨可用区高可用 敏捷开发免运维:函数式极简编程可专注于业务创新,无采购和部署成本、提供 报警等完备的可观测能力。文档版本:20210519 6 新零售商超基于 Serverless服务化改造 基础环境搭建 2.基础环境搭建 ...
来自: 最佳实践 | 相关产品:云数据库RDS MySQL 版,数据传输,函数计算,API网关,表格存储
运维事件中心
阿里云运维事件中心是企业业务连续性管理平台,提供一站式运维管理、多端协同、基于ITIL的故障管理,帮助企业实现实时的数字化管理、连续的业务体验。
监控系统抑制降噪,降低无效重复报警信息干扰.多监控系统纵向收敛.多监控系统时间窗口内滑动降噪,所有异常报警归一化.流转规则自定义.自定义单监控系统、多监控系统不同降噪场景的报警流转规则.横向抑制、纵向收敛,精准管控每个核心报警,更少的事务性操作.多维降噪,从此告别报警风暴.base ITIL的事件管理能力,支持...
来自: 云产品
SLS多云日志采集、处理及分析
SLS多云日志采集、处理及分析
场景描述 从第三方云平台或线下IDC服务器上采集 日志写入到阿里云日志服务,通过日志服务 进行数据分析,帮助提升运维、运营效率, 建立DT 时代海量日志处理能力。 针对未使用其他日志采集服务的用户,推荐 在他云或线下服务器安装logtail采集并使用 Https安全传输;针对已使用其他日志采集 工具并且已有日志服务需要继续服务的情 况,可以通过Log producer SDK写入日志 服务。 解决问题 1.第三方云平台或线下IDC客户需要使用 阿里云日志服务生态的用户。 2.第三方云平台或线下IDC服务器已有完 整日志采集、处理及分析的用户。 产品列表 E-MapReduce 专有网络VPC 云服务器ECS 日志服务LOG DCDN
步骤4 在 DCDN全站加速实时监控可以看到流量已经经过 DCDN启动加速。文档版本:20211203 59 SLS多云日志采集、处理及分析 编写 Spark作业源码解读及问题排查 附录 1:编写 Spark作业源码解读及问题排查 Spark作业源码解读 说明:本节介绍 Spark作业源码编写过程、源码解读及常见问题排查。本作业使用了 github 开源的 kafka...
来自: 最佳实践 | 相关产品:云服务器ECS,日志服务(SLS),NAT网关,E-MapReduce,全站加速 DCDN,云速搭CADT
互联网、电商Elasticsearch搜索
互联网、电商Elasticsearch搜索
场景描述 每一个生活在互联网中的用户,每天都在经 历各种各样的“搜索”,查找电商网站商品、 信用卡账单、查电子发票、查附近的餐厅酒 店、查偶像、查交通等等。相对于传统的关 系型数据库,Elasticsearch只需要几毫秒的 时间,即可查询PB级数据并从中找到匹配 信息。利用Elasticsearch高可用性和易用 性,能够快速处理网站、APP丢给它的文本、 数字、日期、IP以及地理数据。 解决问题 1.电商网站商品、订单、物流等搜索 2.保险行业保单查询 3.互联网教育行业课程搜索 4.O2O行业地理位置搜索等 产品列表 云服务器ECS 专有网络VPC 负载均衡SLB 云数据库RDSMySQL版 Dataworks Elasticsearch 数据传输服务DTS
更多 ,请参见 Dataworks简介:(https://data.aliyun.com/product/ide)。数据传输服务(Data Transmission Service):DTS支持关系型数据库、NoSQL、大 数据(OLAP)等数据源间的数据传输。它是一种集数据迁移、数据订阅及数据实时 同步于一体的数据传输服务。数据传输致力于在公共云、混合云场景下,解决远距 离、毫秒级...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,数据传输,DataWorks,Elasticsearch
阿里云时序时空数据库TSDB
时序时空数据库 ( Time Series and Spatial-Temporal Database , 简称 TSDB) 是一种集时序数据高效读写,压缩存储,实时计算能力为一体的数据库服务,可广泛应用于物联网和互联网领域,实现对设备及业务服务的实时监控,实时预测告警。
数据写入实时监控,实时反馈写入情况.实例写入能力监控.随时获取存储使用情况,提早扩容或释放存储空间.存储空间监控.实例的资源和能力监控,使用情况一目了然.实例安全管理.实例只提供VPC网络访问,外部网络隔离,安全可靠.网络内部访问白名单限制,提升数据访问安全级别.实例保护和数据保护方案.精心打造的功能.物联网...
来自: 云产品
音视频终端 SDK
音视频终端 SDK集成了阿里云视频直播和视频点播业务中拍摄、编辑、上传、推流和播放的核心能力,同时融合视频特效、音频特效等音视频AI能力,为用户提供一体化SDK,支持多终端接入,搭配产品级Demo,支持用户根据业务需求快速集成所需
通过手势识别算法识别出手指关键的轨迹,同时通过判断用户的手处于落笔或抬笔的状态信息,把用户写的内容渲染在视频内,从而实现 AR 隔空书写的效果。可广泛应用于直播、教学、在线互动等各种场景.可以实现在一般场景下对人物主体进行处理的同时,减少对背景的色调和纹理的影响。目前美白、红润、磨皮、锐化、智能美颜...
来自: 云产品
应用诊断分析平台
应用诊断分析平台ATP它可以帮助您高效定位Java应用性能问题、Java异常行为、Java内存泄漏、Java GC异常、程序崩溃等问题。
暂停信息、内存统计.GC阶段、GC原因.Java GC日志分析.堆转储差异对比.线程栈日志差异对比.GC日志差异对比.欢迎访问开发者社区,专家常驻,答疑解惑.欢迎访问开发者社区,专家常驻,答疑解惑.<查看全部产品.应用诊断分析平台(Application Troubleshooting Platform,简称“ATP”)是一款分析功能丰富、诊断能力完备的平台,...
来自: 云产品
本地数据中心基于SMB/NFS协议访问对象存储最佳实践
本地数据中心基于SMB/NFS协议访问对象存储最佳实践
1. 云存储扩容和迁移 集成智能缓存算法,自动识别冷热数据,将热数据保留在本地缓存,保证数据访问体验,无感知的将海量云存储数据接入本地数据中心,拓展存储空间。同时在云端 保留全量数据(冷+热)保证数据的一致性 2.云容灾 随着云计算的普及,越来越多的用户把自己的业务放到了云上。但是随着业务的发展,如何提高业务的可靠性和连续性,跨云容灾是一个比较热门的话题。借助云存 储网关对虚拟化的全面支持,可以轻松应对各种第三方云厂商对接阿里云的数据容灾。 3. 多地数据共享和分发 通过多个异地部署的文件网关实例,对接同一个阿里云OSS Bucket,可以实现快速的异地文件共享和分发,非常适合多个分支机构之间互相同步和共享数据。 4. 适配传统应用 有很多用户在云上的业务是新老业务的结合,老业务是从数据中心迁移过来的使用的是标准的存储协议,例如: NFS/SMB/iSCSI。新的应用往往采用比较新的技 术,支持对象访问的协议。如何沟通两种业务之间的数据是一个比较麻烦的事情,云存储网关正好起到一个桥梁的作用,可以便捷的沟通新旧业务,进行数据交换。 5. 替代 ossfs 和 ossftp ossfs 和 ossftp 都是基于文件协议的开源工具,用户可以通过它们直接上传文件到OSS。但是这两个开源文件都不建议在生产环境使用(POSIX 兼容度低),同时挂 载在用户的客户端需要额外的配置和缓存资源,对于多个客户端的情况安装配置繁琐。通过文件网关的服务可以完美替代 ossfs 和 ossftp。通过创建文件网关,用 户只需要执行简单的挂载(NFS)和映射(Windows SMB)就可以像使用本地文件系统一样使用 OSS。
本地数据中心基于 SMB/NFS协议访问对象存储 最佳实践 业务架构 场景描述 本地数据中心在本地存储有限的情况下可以基 于云存储网关搭建一个海量文件系统的文件存 储服务,实现多个数据中心互相之间高效的同步 和...监控服务 本地网关控制台监控云存储网关的 CPU、内存、缓存 IOPS、缓存吞吐、网络等信息。文档版本:20210525 61
来自: 最佳实践 | 相关产品:对象存储 OSS,云存储网关
云原生可观测运维解决方案
阿里云云原生可观测运维解决方案基于SLS云原生可观测平台实现,以大数据源为支撑,兼容开源标准,可实现多场景适配AI算法,进行大规模数据处理分析。是阿里云针对企业级大数据运维场景推出的解决方案,帮助企业在日常运维工作中轻松实现异常检测、根因分析、秒级响应以及实时预测。
并根据用户的打标信息,训练监督模型,实现算法的不断优化,提高准确率。支持自动识别数据特征实时建模的异常检测能力.根据您提交的需求,将有售前专家免费服务!根据您提交的需求,将有售前专家免费服务!售前专家免费服务.该方案基于 SLS 云原生可观测平台实现,以大数据源为支撑,兼容开源标准,可实现多场景适配 AI ...
来自: 解决方案
电商网站数据埋点及分析
电商网站数据埋点及分析
场景描述 数据埋点是数据产品经理、数据运营以及数据分 析师,基于业务需求(例如:CPC点击付费广 告中统计每一个广告位的点击次数),产品需求 (例如:推荐系统中推荐商品的曝光次数以及点 击的人数)对用户行为的每一个事件对应的位置 进行开发埋点,并通过SDK上报埋点的数据结 果,记录数据汇总后进行分析,推动产品优化或 指导运营。 解决问题 1.电商网站广告位效果统计分析 2.电网网站推荐商品曝光、点击、购买等行为统 计分析 3.电商网站用户分布分析 4.电商网站页面热点图分析等 产品列表 日志服务SLS Dataworks 云服务器ECS 云数据库RDS版 负载均衡SLB 专有网络VPC
文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 电商网站数据埋点及分析最佳实践 文档编号 031 文档版本 V1.3 版本日期 2022-01-27 文档状态 外部发布 制作人 洁谦 审阅人-文档变更记录 版本编号 日期 作者 审核人 说明 V1.0 2019-04-24 弦望 创建文档 V1.1 2019-05-06 弦望 增加最佳实践概述、优化 模板 V1.2 ...
来自: 最佳实践 | 相关产品:云服务器ECS,云数据库RDS MySQL 版,日志服务(SLS),DataWorks,云速搭CADT
基于DataWorks的大数据一站式开发及数据治理
基于DataWorks的大数据一站式开发及数据治理
概述 基于Dataworks做大数据一站式开发,包含数据实时采集到kafka通过实时计算对数据进行ETL写入HDFS,使用Hive进行数据分析。通过Dataworks进行数据治理,数据地图查看数据信息和血缘关系,数据质量监控异常和报警。 适用场景  日志采集、处理及分析  日志使用Flink实时写入HDFS  日志数据实时ETL  日志HIVE分析  基于dataworks一站式开发  数据治理 方案优势  大数据一站式开发,完善的数据治理能力。  性能优越:高吞吐,高扩展性。  安全稳定:Exactly-Once,故障自动恢复,资源隔离。  简单易用:SQL语言,在线开发,全面支持UDX。  功能强大:支持SQL进行实时及离线数据清洗、数据分析、数据同步、异构数据源计算等Data Lake相关功能 ,以及各种流式及静态数据源关联查询。
通过 日志数据实时 ETL Dataworks进行数据治理,数据地图查看数据信息和 血缘关系,数据质量监控异常和报警。日志 HIVE分析 基于 DataWorks一站式开发 数据治理 产品列表 最佳实践频道 阿里云最佳实践技术分享群 实时计算、EMR EIP、VPC ECS DataWorks 云服务器 ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 ...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,E-MapReduce,DataWorks,实时计算,云速搭
< 1 2 3 4 ... 8 >
共有8页 跳转至: GO
产品推荐
这些文档可能帮助您

新品推荐

切换为电脑版

新人特惠 爆款特惠 最新活动 免费试用