(3/5)2016-2021 adalah periode yang luar biasa untuk penelitian AI justru karena laboratorium terkemuka pada saat itu – FAIR, Deep Mind, Google, Open AI – semuanya mempublikasikan secara bebas dan membangun hasil satu sama lain. Jika kertas transformator pada tahun 2017 dirahasiakan di dalam penelitian Google, itu tidak akan berdampak sebanyak itu.