Deep Learning, Machine Learning, Self Supervised Learning, Artificial Intelligence.
augmentation，論文提到只單純用 random crop 沒太大效果，需要結合 color distortion，這是因為 random crop 後的圖像與原本圖像在 pixel value 的分布差異不大 (下圖左)。同時也實驗了使用兩種 data augmentation combination 的結果會更好 (下圖右)。 SimCLRv1 的整體流程如下圖所式，由 Encoder 得到的 representation 會再經過 Projection head 映射到較低維的空間中，得到新的 representation z_i、z_j。該 Projection head