Gradientti Puhuttaessa hajautetusta tekoälyinfrastruktuurista, tämän linjan projektit ovat kaikki rahoitushirviöitä, koska tarinoiden kertominen on hyvin vahvaa, mutta missä se tässä vaiheessa on toteutettavissa ja millaisia erilaisia kokemuksia @Gradient_HQ näkökulmasta voidaan tuoda: Yksinkertaisimmalla rakenteella tekoälyn hajottamiseksi se voidaan käytännössä jakaa neljään kerrokseen: sovellus/suoritusorkestrointi/mallin koulutus/data, joka voidaan ymmärtää kirjaimellisesti. Useimmat DeAI-projektit keskittyvät toteutuksen orkestrointikerrokseen, samalla kun niihin lisätään kryptoon liittyviä ominaisuuksia, kuten selvitys ja kannustimet, ZK-todennettavuus jne. Mallikerroksen koulutus- ja toteutuspuoli on tällä hetkellä keskittynein ja kallein, ja hajauttaminen on tässä vaiheessa vaikeaa. Aloittelijoille kannattaa ensin tehdä perustieteen popularisointi, ja voit ohittaa tämän osan, jos sinulla on ammatillista osaamista. Suoritus ja orkestrointi voidaan ymmärtää vaatimusten jakamisena laskentateholle ja malleille, kuten laskentatehomarkkinat, tehtävien aikataulutus jne., ensin ymmärretään "laskentateho", yksinkertaisella kielellä, mallin toimivuuden saamiseksi tarvitaan paljon matemaattisia operaatioita, ja näiden operaatioiden suorittaminen on laskentatehoa. Perinteisessä tekoälyssä, esimerkiksi, kun keskustelet ChatGPT:n kanssa, tarvitset kulissien takana laskentatehoa päättelytoimintojen suorittamiseen, jotka tulevat pääasiassa pilven datakeskuksesta (GPU/AI-kiihdyttimestä palvelimella), ja syötteesi sisältö → taustajärjestelmään verkon kautta GPU:n/kiihdyttimien kautta taustadatakeskuksessa → mallin ajamiseksi, päättely→ suorittamiseksi ja tulosten lähettämiseksi selaimelle. Gradientin nykyinen pääasiallinen Infra: Parallax, joka eroaa yleensä näkemistämme H100- ja H20-laskentajärjestelmistä, on se, että se vastaa päättelyjen jakamista eri mallien, eri videomuistin ja verkko-olosuhteiden laitteilla, ja se jakaa mallin automaattisesti sopiviin kokoihin, jotta jokainen kone voi toimia. Useimmat projektit pyrkivät edelleen "asettumaan offline-H100-ketjuun", mutta Gradient on tehnyt rohkeamman yrityksen tässä, mahdollistaen kahden 4090:n yhdistämisen yhdeksi A100:ksi, jonka arvo on lähes 20 000 dollaria. Tässä on käytössä kaksi käyttötapausta: 1/ Jokainen voi käyttää muutamaa tietokonetta kotona itsepalveluun suuriin malleihin, mikä suojaa täysin yksityisyyttä. 2/ Jokainen voi liittyä päättelyverkkoklusteriin, työskennellä ystävien kanssa mallien järkeilyssä ja jopa muodostaa suuremman päättelyverkoston. Tässä Gradient on myös suunnitellut joukon suhteellisen monimutkaisia algoritmeja, mukaan lukien viipaleiden ja segmenttien määrän optimointi sekä dynaamisen reitityksen vaatiminen. Tietenkään Gradient ei tee vain tätä, vaan se on avoimen lähdekoodin tekoälyinfrastruktuuri. Se sisältää myös sarjan aiheita, jotka ovat tällä hetkellä tekoälypiirin eturintamassa, kuten vahvistusoppiminen, joka osoittaa, että tiimi on erittäin kunnianhimoinen ja seuraa tarkasti tekoälyinnovaatioita. Viime aikoina tiimi on saanut tunnustusta ja tukea myös AI Labsilta, kuten Dark Side of the Moon, Ali Qianwen jne., mikä on edelleen melko harvinaista piireissä, ja tämä tapa parantaa tekoälyä ensin imee heterogeenisiä resursseja ja rakentaa avoimen lähdekoodin avoimen järjestelmän, joka mahdollistaa useammille ihmisille suurten mallien helpon ajamisen ja hauskimpien sovellusten luomisen. Verrattuna laskentatehon vuokraamiseen, se vähentää kustannuksia jonkin verran, vähentää yksittäisiä riskejä ja parantaa sensuurin vastustuskykyä, joka on kryptolle tutumpaa, ja yksityisyyden kannalta arkaluonteiset tiedot voidaan jättää alueelle/lähelle käsiteltäväksi. Monet alan jättiläiset suhtautuvat myös myönteisesti DeAI:hin, ja David O. Sacks, yksi DeAI Narratiivin suurimmista tukijoista, on toistuvasti julkisesti korostanut, että tekoäly muokkaa maailmaa, mutta sen keskitetty kehityspolku on täynnä riskejä. Hajautettu tekoälyinfrastruktuuri on ainoa tapa varmistaa, että innovaatio kilpailee vapaasti. Gradientilla on tällä hetkellä 10 miljoonan dollarin sijoitus, jota johtavat tähtisijoittajat kuten Multicoin Capital, Pantera, HSG (entinen Sequoia China) ja muut. "Jos tekoäly monopolisoituu, peli on ohi. Tulevaisuus riippuu siitä, voiko tiedustelu olla avointa — hajautettua, hajautettua ja kaikkien saatavilla." — David O. Sacks