论文地址:Improved Baselines with Momentum Contrastive Learning

MoCo v2:增加none-linear和数据增强策略等取得更好结果

  1. 把SimCLR的MLP projection head和更多数据增强拿来用,同时增加了cos学习率,训练更多个epoch,刷新了成绩
  2. 相较SimCLR能在更短时间取得更好的结果,同时需要的显卡/内存等更少,更小的batch size

<HR align=left color=#987cb9 SIZE=1>