Gradient Porozmawiajmy o zdecentralizowanej infrastrukturze AI. Projekty w tej dziedzinie to prawdziwe potwory finansowe, ponieważ mają bardzo silne umiejętności opowiadania historii, ale na obecnym etapie trudno określić, gdzie można je wdrożyć i jakie różne doświadczenia mogą przynieść, z perspektywy @Gradient_HQ: Najprostsza struktura AI może być podzielona na 4 warstwy: aplikacja, wykonanie, modelowanie i dane, co można zrozumieć dosłownie. Większość projektów DeAI koncentruje się głównie na warstwie wykonania, jednocześnie dodając cechy związane z kryptowalutami, takie jak rozliczenia i zachęty, ZK weryfikowalność itp. Natomiast warstwa modelowania i wykonania jest obecnie najbardziej skoncentrowana i najdroższa, a na obecnym etapie trudno ją zdecentralizować. Dla nowicjuszy warto najpierw zrobić podstawowe wprowadzenie, osoby z wiedzą specjalistyczną mogą pominąć tę część. Wykonanie i organizacja można zrozumieć jako rozdzielanie wymagań na moc obliczeniową i modele, na przykład rynek mocy obliczeniowej, harmonogram zadań itd. Najpierw zrozummy, czym jest "moc obliczeniowa". Mówiąc prosto, aby uruchomić model, potrzebne są liczne obliczenia matematyczne, a zdolność do wykonania tych obliczeń to moc obliczeniowa. W tradycyjnej dziedzinie AI, na przykład podczas rozmowy z ChatGPT, potrzebna jest moc obliczeniowa do przeprowadzania wnioskowania, która pochodzi głównie z chmurowych centrów danych (GPU/akceleratory AI na serwerach). Wprowadzasz treść → przesyłasz przez sieć do backendu → w centrum danych backendu zestaw GPU/akceleratorów uruchamia model, aby zakończyć wnioskowanie → wyniki są przesyłane z powrotem do przeglądarki. Obecnie Gradient koncentruje się na infrastrukturze: Parallax, która różni się od tradycyjnych systemów obliczeniowych opartych na H100 i H20, ponieważ dzieli wnioskowanie na urządzenia o różnych modelach, pamięci i warunkach sieciowych. Automatycznie dzieli model na odpowiednie rozmiary, aby każda maszyna mogła go uruchomić, a jej głównym wyzwaniem jest efektywność komunikacji między maszynami oraz optymalizacja wysokiej wydajności w heterogenicznych środowiskach sprzętowych. Większość projektów nadal próbuje "przenieść" offline H100 na blockchain, podczas gdy Gradient podjął odważniejszą próbę, aby dwie karty 4090 o wartości 4000 dolarów mogły osiągnąć efekty zbliżone do pojedynczej karty A100 o wartości 20000 dolarów. Tutaj umożliwiono dwa przypadki użycia: 1/ Każdy może w domu używać kilku komputerów do samodzielnego wnioskowania dużych modeli, co całkowicie zapewnia prywatność osobistą. 2/ Każdy może dołączyć do sieci klastrów wnioskowania i wspólnie z przyjaciółmi wnioskować modele, a nawet stworzyć większą sieć wnioskowania. W tym Gradient zaprojektował dość skomplikowany algorytm, w tym optymalizację liczby segmentów i dynamiczne routowanie wymagań, ale nie będę się w to zagłębiać, zainteresowani mogą przeczytać artykuł. Oczywiście Gradient nie zajmuje się tylko tym, nie będę się w to zagłębiać, to otwarta infrastruktura AI. Zawiera również szereg aktualnych tematów w dziedzinie AI, takich jak uczenie przez wzmocnienie, co pokazuje, że jest to ambitny zespół, który jest na bieżąco z innowacjami AI. Ostatnio zespół został uznany i wsparty przez takie laboratoria AI jak Moonlight Abyss, Alibaba Qianwen i inne, co jest dość rzadkie w branży. Tego rodzaju podejście do poprawy AI najpierw absorbuje heterogeniczne zasoby, budując otwarty system, który pozwala większej liczbie osób łatwo uruchamiać duże modele i tworzyć więcej interesujących aplikacji. W porównaniu do wynajmu mocy obliczeniowej, w pewnym stopniu obniża koszty, zmniejsza ryzyko punktowe i zwiększa odporność na cenzurę, co jest dobrze znane w kryptowalutach, a także w zakresie prywatności, umożliwia przetwarzanie wrażliwych danych w danym obszarze/na bliskim końcu. Wielu gigantów branżowych również pozytywnie ocenia DeAI, jednym z największych zwolenników narracji DeAI jest David O. Sacks, który wielokrotnie publicznie podkreślał: AI przekształci świat, ale jego scentralizowana ścieżka rozwoju jest pełna ryzyka. Zdecentralizowana infrastruktura AI jest jedynym sposobem na zapewnienie ciągłości innowacji i wolnej konkurencji. Gradient obecnie zdobył 10 milionów dolarów inwestycji, prowadzonej przez Multicoin Capital, Pantera, HSG (dawniej Sequoia China) i innych znanych inwestorów. "Jeśli AI stanie się monopolizowane, to koniec gry. Przyszłość zależy od tego, czy inteligencja może być otwarta — zdecentralizowana, rozproszona i dostępna dla wszystkich." — David O. Sacks