pytorch多GPU并行运算的实现
2019-09-27 11:45
2576 查看
Pytorch多GPU运行
设置可用GPU环境变量。例如,使用0号和1号GPU'
os.environ["CUDA_VISIBLE_DEVICES"] = '0,1'
设置模型参数放置到多个GPU上。在pytorch1.0之后的版本中,多GPU运行变得十分方便,先将模型的参数设置并行
if torch.cuda.device_count() > 1: print("Let's use", torch.cuda.device_count(), "GPUs!") model = nn.DataParallel(model)
将模型参数设置使用GPU运行
if torch.cuda.is_available(): model.cuda()
踩坑记录
在训练中,需要使用验证集/测试集对目前的准确率进行测试,验证集/测试集的加载也会占用部分显存,所以在训练开始时,不要将所有显存都几乎占满,稍微留一些显存给训练过程中的测试环节
pytorch并行后,假设batchsize设置为64,表示每张并行使用的GPU都使用batchsize=64来计算(单张卡使用时,使用batchsize=64比较合适时,多张卡并行时,batchsize仍为64比较合适,而不是64*并行卡数)。
参考
https://www.zhihu.com/question/67726969
以上就是本文的全部内容,希望对大家的学习有所帮助
您可能感兴趣的文章:
相关文章推荐
- pytorch之GPU数据并行
- 将Pytorch模型从CPU转换成GPU的实现方法
- PyTorch使用并行GPU处理数据
- 如何处理Pytorch使用GPU后仍有GPU资源未释放的情况
- clang编译器实现openmp 支持NVIDIA Gpu并行计算
- pytorch------cpu与gpu load时相互转化 torch.load(map_location=)
- pytorch cnn 识别手写的字实现自建图片数据
- Ubuntu16+pytorch -GPU环境配置(超详细步骤,有图)
- win10+Anaconda3安装pytorch/torchvision cpu/gpu版本
- 解决win10(2080ti)+CUDA9.2+pytorch-gpu(RuntimeError: cuDNN error: CUDNN_STATUS_EXECUTION_FAILED)
- Windows下Anaconda Python2和3切换 实现Jupyter Notebook & Spyder 双版本切换+Pytorch+torchvision安装心路历程
- windous10下+Anaconda+深度学习框架(TensorFlow cpu/gpu 、Keras、Pytorch)+Cuda+Cudnn+pycharm安装教程及避坑手册
- Javascript的并行运算实现代码
- Attention is all you need pytorch实现 源码解析02 - 模型的训练(1)- 模型的训练代码
- Attention is all you need pytorch实现 源码解析03 - 模型的训练(2)- transformer模型的代码实现以及结构
- pytorch-multi-gpu
- ResNet34之pytorch实现
- Pytorch实现简单的回归
- pytorch 实现的cnn卷积神经网络
- Torch load model from gpu to cpu, so can convert to pytorch