LLM'ler SEÇİNEBILIR BILGISAYARLAR olabilir mi? Percepta, bir transformatörün bir bilgisayar olabileceğini gösterdi. Derlenmiş ağırlıklar, deterministik yürütme, 30k token/s. Ama kimse bariz bir takip sorusunu sormadı: Doğru hesaplandığını nereden biliyorsunuz? Bu yüzden doğrulama katmanını oluşturdum. Bunu kanıtlayan bir SERT 👇
Christos Tzamos
Christos Tzamos12 Mar 05:30
1/4 LLM'ler araştırma notu matematik problemlerini çözüyor ama temel hesaplamalarda zorlanıyor. Bu boşluğu kapatarak onları bilgisayarlara dönüştürüyoruz. Bir transformatorun içinde, milyonlarca adımda programları çalıştırabilen, en zor Sudoku'ları bile %100 doğrulukla çözebilen bir bilgisayar inşa ettik
Derlenmiş hesaplamanın sorunu güvendir. Derleyiciye güveniyorsunuz. Çalışma süresine güveniyorsun. Dikkat mekanizmasına güveniyorsunuz. Eğer bunlardan herhangi biri yanlışsa, çıktı yanlıştır. Bu, bilgisayar dünyasının en eski sorunudur. Ya makineye güvenirsiniz ya da çıktıyı doğrularsınız. Üç doğrulama seviyesi oluşturduk: Seviye 1: Program transformatör içinde çalışıyor (Percepta ile aynı) Seviye 2: Dört bağımsız motor aynı sonucu verir (transformatör, yerli, Burn, ONNX) Seviye 3: STARK kanıtı, uygulamayı tekrar çalıştırmadan doğrular
60