pytorch设置随机种子

pytorch设置随机种子 - 保证复现模型所有的训练过程在使用 PyTorch 时，如果希望通过设置随机数种子，在 GPU 或 CPU 上固定每一次的训练结果，则需要在程序执行的开始处添加以下代码：def seed_everything():'''设置整个开发环境的seed:param seed::param device::return:'''import osimport randomimp

大虾飞哥哥

3732人浏览 · 2022-05-27 10:59:18

大虾飞哥哥 · 2022-05-27 10:59:18 发布

pytorch设置随机种子 - 保证复现模型所有的训练过程

在使用 PyTorch 时，如果希望通过设置随机数种子，在 GPU 或 CPU 上固定每一次的训练结果，则需要在程序执行的开始处添加以下代码：

def seed_everything():
    '''
    设置整个开发环境的seed
    :param seed:
    :param device:
    :return:
    '''
    import os
    import random
    import numpy as np

    random.seed(seed)
    os.environ['PYTHONHASHSEED'] = str(seed)
    np.random.seed(seed)
    torch.manual_seed(seed)
    torch.cuda.manual_seed(seed)
    torch.cuda.manual_seed_all(seed)
    
    # some cudnn methods can be random even after fixing the seed
    # unless you tell it to be deterministic
    torch.backends.cudnn.deterministic = True