Deep Learning, Machine Learning, Self Supervised Learning, Artificial Intelligence.
pair 都要計算 (每次只計算一個 batch 是為了降低運算量)。 計算正樣本 pair 的相似度機率，分子為正樣本相似度、分母為所有正、負樣本的相似度之和。值得注意的是對於同一個 pair 需要交換順序再計算一次。公式中的 N 表示為一個 batch 所擁有的圖像張數，經過 data augmentation 後會有 2N 張圖像。 將每一個 batch 中的所有 pair 計算出來的 loss 加總取平均 source1, source2 Booststrapping methods 由於 Contrastive methods