Distribuer til forhåndsvisning på under 3 sekunder kaldt med VMUX! Jeg fortalte en venn at jeg ikke hadde noen modalkreditter igjen på lørdag, og mandag kveld laget jeg min egen CPU-modal – det virker vanlig at hvis LLM-er kan kode, bør du gi dem enkel tilgang (bortsett fra SSH) til å provisjonere, kjøre kode og distribuere containere raskt
Noen begrensninger: opptil ~24 MB sendes direkte i forespørselen eller opptil ~100 MB hvor pakken din sendes til en R2 med forhåndssignert URL uten offentlig tilgang 1/4 CPU, 1 GB RAM og 4 GB diskplass, ideelle arbeidsbelastninger er nettverkstunge /og bare klienter
Noen begrensninger: ~24 MB pakker sendes underveis, opptil ~100 MB sendes til en ikke-offentlig R2 med forhåndssignert URL fra vår interne arbeider Jeg eier fra et gammelt prosjekt, og det finnes globale begrensninger. Du får bare 0,25 CPU, 1 GB RAM, 4 GB disk, så ideelle bruksområder er nettverkstunge
185