Podem os LLMs ser computadores PROVÁVEIS? A Percepta mostrou que um transformer pode SER um computador. Pesos compilados, execução determinística, 30k tokens/seg. Mas ninguém fez a pergunta óbvia: como você sabe que ele computou corretamente? Então eu construí a camada de verificação. Um STARK que prova isso 👇
Christos Tzamos
Christos Tzamos12/03, 05:30
1/4 Os LLMs resolvem problemas matemáticos de nível de pesquisa, mas têm dificuldades com cálculos básicos. Nós preenchemos essa lacuna transformando-os em computadores. Construímos um computador DENTRO de um transformador que pode executar programas por milhões de passos em segundos, resolvendo até os Sudokus mais difíceis com 100% de precisão.
O problema com a computação compilada é a confiança. Você confia no compilador. Você confia no tempo de execução. Você confia no mecanismo de atenção. Se algum desses estiver errado, a saída estará errada. Este é o problema mais antigo da computação. Você confia na máquina ou verifica a saída. Construímos três níveis de verificação: Nível 1: O programa é executado dentro do transformador (igual ao Percepta) Nível 2: Quatro motores independentes produzem o mesmo resultado (transformador, nativo, Burn, ONNX) Nível 3: Uma prova STARK verifica a execução sem reexecutá-la
64