PyTorch中的torch.backends.cudnn.benchmark的作用是什么

本篇文章给大家分享的是有关PyTorch中的torch.backends.cudnn.benchmark的作用是什么,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。

成都创新互联公司于2013年创立,先为巫山等服务建站,巫山等地企业,进行企业商务咨询服务。为巫山企业网站制作PC+手机+微官网三网同步一站式服务解决您的所有建站问题。

设置 torch.backends.cudnn.benchmark=True 将会让程序在开始时花费一点额外时间,为整个网络的每个卷积层搜索最适合它的卷积实现算法,进而实现网络的加速。适用场景是网络结构固定(不是动态变化的),网络的输入形状(包括 batch size,图片大小,输入的通道)是不变的,其实也就是一般情况下都比较适用。反之,如果卷积层的设置一直变化,将会导致程序不停地做优化,反而会耗费更多的时间。

一般代码放在开头:

if args.use_gpu and torch.cuda.is_available():device = torch.device('cuda')torch.backends.cudnn.benchmark = Trueelse:device = torch.device('cpu')

以上就是PyTorch中的torch.backends.cudnn.benchmark的作用是什么,小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注创新互联行业资讯频道。


网页题目:PyTorch中的torch.backends.cudnn.benchmark的作用是什么
URL网址:http://azwzsj.com/article/jppded.html