Google TPU v6e, AMD MI300X ja NVIDIA H100/B200 -suorituskykyvertailu on tulossa! Keinotekoisen analyysin laitteistovertailut osoittavat, että Nvidia on edellä päättelykustannuksissa: 5-kertainen tokenien määrä dollaria kohden on 5-kertainen TPU v6e:n ja kaksinkertainen AMD:n verrattuna. Viiteprosentilla 30 tokenia sekunnissa NVIDIA H100 maksaa vain 1,06 dollaria miljoonaa tokenia kohden, kun taas MI300X:n hinta on 2,24 dollaria ja TPU v6e:n 5,13 dollaria. TPU v7 on pian tulossa markkinoille, mikä on suuri suorituskyvyn harppaus, mutta hinnoittelu on tuntematon.

Yksityiskohtaiset tulokset Artificial Analysis -järjestelmän kuormitustestin suorituskyvystä samanaikaisella skaalausmenetelmällä.