Olen hienosäätänyt LLM-tiedostoja yli kaksi vuotta! Tässä ovat viisi parasta LLM:n hienosäätötekniikkaa, jotka on selitetty visuaalisesti: Ensinnäkin, mikä LLM:n hienosäädössä on niin erilaista? Perinteinen hienosäätö on epäkäytännöllistä LLM-malleille (miljardeja parameja; 100 sataa GB). Koska tällainen laskenta ei ole kaikkien saatavilla, parametritehokas hienosäätö (PEFT) tuli käyttöön. Ennen kuin menemme yksityiskohtiin jokaisesta tekniikasta, tässä on taustatietoa, joka auttaa sinua ymmärtämään näitä tekniikoita paremmin: LLM-painot ovat matriiseja luvuista, joita säädetään hienosäädön aikana. Useimmat PEFT-tekniikat perustuvat näiden matriisien alempiarvoisen mukautuksen löytämiseen, pienemmän ulottuvuuden matriisiin, joka voi silti edustaa alkuperäiseen tallennettua tietoa. Nyt kun meillä on perustiedot matriisin arvosta, olemme hyvissä asemissa ymmärtämään eri hienosäätötekniikat. (katso alla olevasta kuvasta visuaalinen selitys kummastakin tekniikasta) 1) LoRA - Lisää kaksi matalan tason koulutettavaa matriisia, A ja B, painomatriisien rinnalle. - W:n hienosäädön sijaan säädä päivityksiä näissä matalan tason matriiseissa. Jopa suurimmilla LLM:illä LoRA-matriisit vievät muutaman MB:n muistia. 2) LoRA-FA Vaikka LoRA vähentää merkittävästi koulutettavien kokonaisparametrien määrää, se vaatii merkittävää aktivointimuistia matalan tason painojen päivittämiseksi....