搜索内容

最新文章
  • 模型权重不匹配的解决思路——PyTorch预训练权重shape修改
    Python

    模型权重不匹配的解决思路——PyTorch预训练权重shape修改

    已阅: 62 前言最近太忙没时间细致的写,所以这篇讲的是思想,不是实际代码,大家意会一下。 因为GPU有限,这篇文章讲的有些东西只是我自己的观点,缺乏实验证明,欢迎大家批评指正。 今天题图在实验室用轨迹球画的,比较艺术一点。为什么要修改预训练权重shape?预训练能大幅提升精度是毋庸置疑的,但间断加载预训练权重有效吗? 我试过一些网络结构的修改,这些都会使得预训练权重shape mismatch,其中最简单……
    MWHLS 2022/10/25