Spád Když mluvíme o decentralizované AI infrastruktuře, projekty v této části jsou všechny finanční monstra, protože schopnost vyprávět příběhy je velmi silná, ale kde ji lze v této fázi implementovat, je reálné a jaké různé zážitky lze z @Gradient_HQ pohledu přinést: Pomocí nejjednodušší struktury k rozkladu AI lze ji v podstatě rozdělit do 4 vrstev: orchestrace aplikací/výkonu/trénování modelů/data, což lze pochopit doslovně. Většina projektů DeAI se zaměřuje na vrstvu orchestrace provádění, přičemž přidává funkce související s kryptoměnami, jako je vypořádání a pobídky, ověřitelnost ZK atd. Část tréninku a provádění modelové vrstvy je v současnosti nejkoncentrovanější a nejdražší a je obtížné decentralizovat v této fázi. Pro nováčky nejdřív udělejte popularizaci základní vědy, a tuto část můžete přeskočit, pokud máte odborné znalosti. Provádění a orchestraci lze chápat jako rozdělení požadavků výpočetní síle a modelům, jako je trh výpočetní výkonu, plánování úkolů atd., nejprve pochopení "výpočetního výkonu", jednoduše řečeno, aby model fungoval, vyžaduje mnoho matematických operací, a schopnost tyto operace provádět je výpočetní výkon. V tradičním AI oboru například při chatování s ChatGPT potřebujete výpočetní výkon v zákulisí pro provádění inferenčních operací, které převážně pocházejí z datového centra v cloudu (GPU/AI akcelerátor na serveru), a váš vstupní obsah → posílán do backendu přes síť → sady GPU/akcelerátorů v backendovém datovém centru, aby model spustil a dokončil inferenční → a výsledky poslal zpět do prohlížeče. Současný hlavní Infra: Parallax Gradientu, který se liší od výpočetních systémů H100 a H20, které obvykle vidíme, spočívá v tom, že to, co dělá, je ekvivalentní rozdělení inference na zařízení různých modelů, různé video paměti a různých síťových podmínek, a automaticky rozděluje model na vhodné velikosti, aby každý stroj mohl běžet. Většina projektů se stále snaží "usadit se na řetězci" offline H100, ale Gradient zde udělal odvážnější pokus a umožnil spojit dva 4090 v hodnotě 4 000 dolarů do jednoho A100 v hodnotě blízkého 20 000 dolarů. Zde jsou povoleny dva případy použití: 1/ Každý může doma používat několik počítačů k samoobslužnému uvažování velkých modelů, což plně chrání osobní soukromí. 2/ Každý se může připojit ke clusteru inferenčních sítí, spolupracovat s přáteli na usuzování modelů a dokonce vytvořit větší inferenční síť. Gradient zde také navrhl sadu relativně složitých algoritmů, včetně optimalizace počtu řezů a segmentů a vyžadujících dynamické směrování. Samozřejmě, Gradient nedělá jen tohle, je to open source AI infrastruktura. Zahrnuje také řadu témat, která jsou v současnosti v čele AI kruhu, například posilované učení, což ukazuje, že jde o velmi ambiciózní tým, který úzce sleduje inovace v AI. V poslední době byl tým také uznán a podporován AI laboratořemi, jako jsou Dark Side of the Moon, Ali Qianwen a další, což je v tomto okruhu stále poměrně vzácné, a tento způsob zlepšování AI nejprve absorbuje různorodé zdroje a vytváří open source open system, který umožňuje více lidem snadno spouštět velké modely a vytvářet zábavnější aplikace. Ve srovnání s pronájmem výpočetního výkonu to do určité míry snižuje náklady, snižuje rizika jednoho bodu a zlepšuje odolnost vůči cenzuře, což je v kryptografii známější, a z hlediska soukromí mohou být citlivá data ponechána v regionu nebo blízkém k zpracování. Mnoho průmyslových gigantů je také pozitivní vůči DeAI a David O. Sacks, jeden z největších podporovatelů DeAI Narrative, opakovaně veřejně zdůrazňoval, že AI přetvoří svět, ale její centralizovaná vývojová cesta je plná rizik. Decentralizovaná AI infrastruktura je jediný způsob, jak zajistit, že inovace budou nadále volně konkurovat. Gradient má v současnosti investici 10 milionů dolarů, kterou vedou hvězdní investoři jako Multicoin Capital, Pantera, HSG (dříve Sequoia China) a další. "Pokud se AI stane monopolizovanou, je konec hry. Budoucnost závisí na tom, zda může být zpravodajství otevřené — decentralizované, distribuované a přístupné všem." — David O. Sacks