场景描述 本方案适用于自然语言训练场景,使用神龙 GPU云服务器(SCCGN6)+CPFS进行NLP的 训练,采用Bert模型。这里不使用容器,直接 使用裸机进行NLP的Bert训练,使用飞天AI加 速训练工具可以有效提升多机多卡的训练效率。 解决问题 使用神龙GPU云服务器搭建NLP训练环 境 使用SCC的RDMA网络 使用CPFS存储训练数据 使用飞天AI加速训练工具加速训练 产品列表 神龙GPU云服务器(SCCGN6) SCC超级计算集群 CPFS共享存储
文件格式转换:TensorFlow官方提供了一个freeze_grpah.py脚本用来将ckpt文件转为pb文件。链接如下 https://github.com/tensorflow/tensorflow/blob/master/tensorflow/python/tools/freeze _graph.py 步骤6 另外打开一个终端窗口,查看作业运行时,GPU的负载情况。44企业上云实践 基于超级计算集群的自然语言处理AI训练 ...