场景描述 本方案适用于自然语言训练场景,使用神龙 GPU云服务器(SCCGN6)+CPFS进行NLP的 训练,采用Bert模型。这里不使用容器,直接 使用裸机进行NLP的Bert训练,使用飞天AI加 速训练工具可以有效提升多机多卡的训练效率。 解决问题 使用神龙GPU云服务器搭建NLP训练环 境 使用SCC的RDMA网络 使用CPFS存储训练数据 使用飞天AI加速训练工具加速训练 产品列表 神龙GPU云服务器(SCCGN6) SCC超级计算集群 CPFS共享存储
rate=2e-5\-save_checkpoints_steps=${total_save_steps}\-use_fp16=True\ 42企业上云实践 基于超级计算集群的自然语言处理AI训练-use_xla=True\-use_perseus=True 步骤2 提交一个作业,单机单卡。[root@scc001perseus]#./pre_train_perseus.sh11 使用说明:[root@scc001perseus]#./pre_train_perseus.sh Usage:./pre_train...