BYOL: Aprender sem Negativos sem Entregar Tudo ao Colapso

No SimCLR, cada imagem encontra uma companheira positiva e uma multidão de negativas. Vamos retirar a multidão. Se pedirmos apenas que duas views da mesma imagem produzam a mesma representação, a rede pode resolver o problema atribuindo o mesmo vetor a tudo. Cães, pontes e torradeiras finalmente unidos, embora por uma geometria inútil.

O BYOL, de Bootstrap Your Own Latent (algo como construir a própria representação por autoalimentação), aceita o risco e remove todos os pares negativos. Duas views da mesma imagem devem concordar, mas nenhuma imagem diferente entra no denominador. O método funciona apesar da solução constante, apoiado em uma arquitetura assimétrica e em uma dinâmica em duas escalas. A distinção importa: observamos resistência ao colapso; não recebemos uma prova universal de que a função constante seja impossível.

1. Duas redes, três cabeçalhos

Uma view $v=t(x)$ percorre a rede online, cujos parâmetros são $\theta$. Chamaremos de $y_{\theta }$ a representação do encoder, de $z_{\theta }$ a saída do projector e de $q_{\theta }(z_{\theta })$ a previsão final:

$$y_{\theta }=f_{\theta }(v),z_{\theta }=g_{\theta }(y_{\theta }),q_{\theta }(z_{\theta }).$$

O encoder $f_{\theta }$ produz a representação, o projector $g_{\theta }$ leva essa representação ao espaço da tarefa pretexto e o predictor $q_{\theta }$ tenta alcançar o alvo.