Abbastanza ovvio guardando indietro. Google sta scommettendo su più architetture, non solo sui trasformatori. Questo è stato quando Google ha annunciato un modello linguistico basato sulla diffusione.