Yılki hedefim: Yerel yapay zekayı telefonunuzda, dizüstü bilgisayarınızda, kodlama ajanlarınızda, Discord'da, tarayıcınızda ve hatta ESP'de kullanımı kolay ve keyifli hale getirmek. Apple Watch ile konuşabilir, çağrıda yerel bir model çalıştırabilir, sizin için kodlayabilir vb. Kimi 150gb vram üzerinde 150GB vram üzerinde GLM-5 MiniMax-M2.5 48gb vram üzerinde QuantForge, herhangi bir modeli, herhangi bir donanımda almanızı sağlıyor. Bir hedef boyut ve kalibrasyon veri setleri seçin, ardından budayıp kuantize eder. Macbook'umda çalışıyorum, küçük modelleri biçiyorum ve quant ediyorum. Yıl sonuna kadar benim ve herkesin herhangi bir modeli herhangi bir donanıma uyacak şekilde ayarlayabileceğimi sağlayacağım. RN yerel donanım kullanıyor ama Prime Intellect ile entegre olacağım. Veri setlerini paylaşmak için bazı özellikler ekleyeceğim ve birçok bağımsız bileşenden birini oluşturacağım.