Populární témata
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Decentralizované úložiště právě změnilo ekonomiku distribuce AI modelů.
Náklady na centralizované hostingové modely rostou lineárně s využitím. Každý požadavek na inferenci zasáhne stejné servery, náklady na šířku pásma se sčítají a poskytovatelé tyto náklady přenášejí na uživatele prostřednictvím cen API. Proto jsou volání API GPT-4 tak drahá: někdo platí za výpočetní výkon I šířku pásma ve velkém měřítku.
U decentralizovaného úložiště, jako je vrstva DA v 0G, jsou váhy modelů rozděleny mezi uzly. Uživatelé stahují z nejbližšího uzlu místo toho, aby zatěžovali centrální servery. Náklady na šířku pásma jsou rozloženy po celé síti. Najednou hostování modelu s parametry 70B nevyžaduje infrastrukturu, která stojí šest cifer měsíčně.
To neznamená jen levnější umělou inteligenci. Díky tomu jsou zcela nové distribuční modely životaschopné: modely, které se často aktualizují, modely s regionálními variantami, modely, které uživatelé mohou spustit lokálně po prvním stažení. Omezením nikdy nebyla kvalita modelu, ale ekonomika distribuce.
Top
Hodnocení
Oblíbené
