Ganske åpenbart når jeg ser tilbake. Google satser på flere arkitekturer, ikke bare transformatorer. Dette var da Google kunngjorde en diffusjonsbasert språkmodell.