Possono gli LLM essere computer PROVABILI? Percepta ha dimostrato che un trasformatore può ESSERE un computer. Pesi compilati, esecuzione deterministica, 30k token/sec. Ma nessuno ha posto la domanda ovvia: come sai che ha calcolato correttamente? Quindi ho costruito il livello di verifica. Un STARK che lo prova 👇
Christos Tzamos
Christos Tzamos12 mar, 05:30
1/4 I LLM risolvono problemi matematici di livello di ricerca ma faticano con i calcoli di base. Colmiamo questa lacuna trasformandoli in computer. Abbiamo costruito un computer DENTRO un trasformatore che può eseguire programmi per milioni di passaggi in secondi risolvendo anche i Sudoku più difficili con il 100% di accuratezza.
Il problema con il calcolo compilato è la fiducia. Ti fidi del compilatore. Ti fidi del runtime. Ti fidi del meccanismo di attenzione. Se uno di questi è sbagliato, l'output è sbagliato. Questo è il problema più antico nell'informatica. O ti fidi della macchina o verifichi l'output. Abbiamo costruito tre livelli di verifica: Livello 1: Il programma viene eseguito all'interno del trasformatore (stesso di Percepta) Livello 2: Quattro motori indipendenti producono lo stesso risultato (trasformatore, nativo, Burn, ONNX) Livello 3: Una prova STARK verifica l'esecuzione senza rieseguirla
57