Mohou být LLM PROVÉZTELNÝMI počítači? Percepta ukázal, že transformátor může být počítačem. Kompilované váhy, deterministické provedení, 30k tokenů za sekundu. Ale nikdo se neptal na zřejmou doplňující otázku: jak víte, že to bylo správně vypočítáno? Tak jsem vytvořil ověřovací vrstvu. STARK, který to 👇 dokazuje
Christos Tzamos
Christos Tzamos12. 3. 05:30
Čtvrtina LLM řeší matematické úlohy na úrovni výzkumu, ale mají potíže se základními výpočty. Tuto propast překleneme tím, že je proměníme v počítače. Postavili jsme počítač UVNITŘ transformátoru, který dokáže spouštět programy miliony kročů za sekundy a řešit i ty nejtěžší Sudoku s 100% přesností
Problémem kompilovaného výpočtu je důvěra. Důvěřuješ kompilátoru. Důvěřujete době stopy. Důvěřujete mechanismu pozornosti. Pokud je některý z těchto problémů špatný, výstup je špatný. To je nejstarší problém v informatice. Buď stroji důvěřujete, nebo ověřujete výstup. Vytvořili jsme tři úrovně ověřování: Úroveň 1: Program běží uvnitř transformátoru (stejně jako Percepta) Úroveň 2: Čtyři nezávislé motory produkují stejný výsledek (transformátor, nativní, Burn, ONNX) Úroveň 3: STARK důkaz ověřuje provedení bez opakovaného spuštění
58