Hva er en billig big bowl-modell, taktisk bakover. Den gode nyheten om lokal distribusjon av store modeller er her! Gir deg den tekniske analysen av den nylig utgitte Kimi-Linear-48B-A3B av Dark Side of the Moon! La oss starte med en setningsversjon - dette er den billige hurtigmatmodellen med stor bolle. 48B-A3B oppnår 1M kontekst, og deretter lineær oppmerksomhet, noe som er veldig minnebesparende. Minneforbruket forårsaket av veksten av tradisjonell oppmerksomhetskontekstlengde er eksponentiell, som er lineær, så denne modellen er fin på CPU. Jeg laster den allerede ned og forbereder meg på å legge den til i min lokale fellesmodell. Den største usikkerheten for øyeblikket er at jeg ikke vet hva tilbakekallingsnivået er, jeg skal laste det ned og fylle det med noen romaner, spørre detaljene i romanen og se hvordan modellen svarer for å evaluere tilbakekallingseffekten. Hvis du vil se resultatene, vennligst lik det, og mer enn 100 vil gi ut evalueringen for deg i helgen.