Czy LLM mogą być KOMPUTERAMI, które można UDOWODNIĆ? Percepta pokazała, że transformator może być komputerem. Skonstruowane wagi, deterministyczne wykonanie, 30k tokenów/sek. Ale nikt nie zadał oczywistego pytania: jak wiesz, że obliczenia były poprawne? Więc zbudowałem warstwę weryfikacyjną. STARK, który to udowadnia 👇
Christos Tzamos
Christos Tzamos12 mar, 05:30
1/4 LLM-y rozwiązują problemy matematyczne na poziomie badawczym, ale mają trudności z podstawowymi obliczeniami. Wypełniamy tę lukę, przekształcając je w komputery. Zbudowaliśmy komputer WEWNĄTRZ transformatora, który może uruchamiać programy przez miliony kroków w ciągu sekund, rozwiązując nawet najtrudniejsze Sudoku z 100% dokładnością.
Problemem z kompilowanym obliczeniem jest zaufanie. Ufasz kompilatorowi. Ufasz środowisku uruchomieniowemu. Ufasz mechanizmowi uwagi. Jeśli którykolwiek z tych elementów jest błędny, wynik jest błędny. To najstarszy problem w informatyce. Ufasz maszynie lub weryfikujesz wynik. Zbudowaliśmy trzy poziomy weryfikacji: Poziom 1: Program działa wewnątrz transformera (tak jak Percepta) Poziom 2: Cztery niezależne silniki produkują ten sam wynik (transformer, natywny, Burn, ONNX) Poziom 3: Dowód STARK weryfikuje wykonanie bez ponownego uruchamiania go.
59