这篇文章主要介绍了pytorch如何使用指定GPU训练，具有一定借鉴价值，感兴趣的朋友可以参考下，希望大家阅读完这篇文章之后大有收获，下面让小编带着大家一起了解一下。
创新互联建站是一家专业提供
遵义企业网站建设,专注与
网站制作、网站设计、
H5页面制作、小程序制作等业务。10年已为遵义众多企业、政府机构等服务。创新互联专业网站建设公司优惠进行中。
虽然pytorch提供了指定gpu的几种方式，但是使用不当的话会遇到out of memory的问题，主要是因为pytorch会在第0块gpu上初始化，并且会占用一定空间的显存。这种情况下，经常会出现指定的gpu明明是空闲的，但是因为第0块gpu被占满而无法运行，一直报out of memory错误。
解决方案如下：
指定环境变量，屏蔽第0块gpu
CUDA_VISIBLE_DEVICES = 1 main.py
这句话表示只有第1块gpu可见，其他gpu不可用，此时要注意第1块gpu已经变成第0块，因此代码里应该使用编号0来指定gpu。如果依然使用cuda:1会报invalid device ordinal。
当然也可以在代码里使用os模块达到同样效果：
import os
#多块使用逗号隔开
os.environ['CUDA_VISIBLE_DEVICES'] = '1'
使用torch.cuda.device
with torch.cuda.device(1):
...
注意这种情况下gpu编号也会改变
感谢你能够认真阅读完这篇文章，希望小编分享的“pytorch如何使用指定GPU训练”这篇文章对大家有帮助，同时也希望大家多多支持创新互联，关注创新互联行业资讯频道，更多相关知识等着你来学习!
网站名称：pytorch如何使用指定GPU训练-创新互联
本文网址：
http://cdkjz.cn/article/doghpd.html
