@LiquidAI_ LFM2-Audio-1.5 pähkinänkuoressa:
- sekä teksti että ääni
- Sekä teksti- että äänilähtö
- 1,5 miljardia -> toimii paikallisesti
- avoimen painon lisenssi
Koulutimme @LiquidAI_ LFM2-350M-mallimme 1400x "laskentaoptimaalisen" yli
> Chinchillan skaalauslait: ~20 tokenia per parametri
> LFM2-350M: ~28 000 tokenia per parametri (1400 kertaa enemmän)
Miksi?
Koska Chinchilla koskee vain laskennan kouluttamista, kun taas me välitämme päättelykustannuksista