场景描述 本方案适用于自然语言训练场景,使用神龙 GPU云服务器(SCCGN6)+CPFS进行NLP的 训练,采用Bert模型。这里不使用容器,直接 使用裸机进行NLP的Bert训练,使用飞天AI加 速训练工具可以有效提升多机多卡的训练效率。 解决问题 使用神龙GPU云服务器搭建NLP训练环 境 使用SCC的RDMA网络 使用CPFS存储训练数据 使用飞天AI加速训练工具加速训练 产品列表 神龙GPU云服务器(SCCGN6) SCC超级计算集群 CPFS共享存储
tcp_tx_rate和tcp_rx_rate是tcp网 络流量。以上脚本使用perseus框架来进行测试,如果要使用horovod框架,需要将脚本中use_perseus 改成use_horovod就可以了。修改后脚本如下:[root@scc001perseus]#catpre_train_horovod.sh#!bin/bash if[$#-ne2];then echo"Usage:$0workersgpus_per_worker"exit-1 fi 46企业上云实践 基于...