搜索内容

最新文章
  • Pytorch因nn.Parameter导致实验不可复现的一种情况
    Python

    Pytorch因nn.Parameter导致实验不可复现的一种情况

    已阅: 35 没解决,只是记录这种情况。 也可以多次实验取均值以避免结果复现。场景自己的模块中,包含一个与x相加的可学习参数,导致单卡同种子下结果无法复现。去掉该模块,能正常复现。 保留声明,注释使用后,能正常复现。且结果与无该模块的结果一致。除了在训练前设定种子外,我还在模块内部再次设置了种子,但依然无效。相关代码 def __init__(self): self.pos = torch.nn.Parameter(torch.zer……
    MWHLS 2023/10/07