Deep Learning, Machine Learning, Self Supervised Learning, Artificial Intelligence.
average、batch normalization、L2 loss BYOL 的模型架構與 MoCov2 類似，MoCov2 是基於 MoCov1 融合 SimCLRv1 的作法，加入 Projection head 以及更多的 data augmentation (增加了 blur augmentation)。 整體流程如下： 先將影像 x 做兩種不同的 data augmentation t, t′，分別送入不同的分支，其中一個分支稱為 online (該分支多加了 prediction 層)、另一個稱為 target。 各自經過 view (得到 data augmentation