Úplně špatně. Velikosti modelů se v roce 2026 výrazně zvětší díky větším škálovacím světům v rackech Nvidia (a také Google TPU), z B200 s 1,4 TB na 8-chipový škálovací svět na GB300 s 20 TB na každý škálovací svět.
expatanon
expatanon18. 3. 03:04
Altman přiznal, že modely transformerů narazily na zeď. Většina vylepšení za posledních 9 měsíců je spíše způsobena nástroji kolem modelu než samotnými modely. Jinými slovy, tato technologie rychle dozrává a neexistují známky dalšího skoku.
Ohromující investice do datových center pro roky 2024/2025 začínají být nyní online, s mnohem lepším hardwarem, než na kterém jsou současné modely optimalizovány pro odvozování.
104