Helt feil. Modellstørrelser vil bli mye større i 2026 som følge av større oppskaleringsverdener i Nvidia-rack (og Google TPU-rack også), fra B200-er med 1,4 TB per 8-brikkes skaleringsverden til GB300 med 20 TB per oppskaleringsverden.
expatanon
expatanon18. mars, 03:04
Altman innrømmet at transformatormodellene har støtt på veggen. De fleste forbedringene de siste 9 månedene skyldes mer verktøyene rundt modellen enn modellene selv. Med andre ord modnes denne teknologien raskt uten tegn til et nytt sprang.
De imponerende datasenterinvesteringene for 2024/2025 begynner nå å komme på nett, med mye bedre maskinvare enn dagens modeller er optimalisert for slutning på.
88