Si vous êtes à l'ICML et intéressé par l'inférence vérifiable, n'oubliez pas de passer voir notre affiche ! Nous présenterons TOPLOC, une méthode de hachage d'activation efficace qui fonctionne dans une variété de contextes, par exemple, en changeant les configurations d'inférence ou même les modèles. 16 juillet, 16h30, E-1106
Voici le fil original sur TOPLOC qui explique les idées derrière cela :
Prime Intellect
Prime Intellect29 janv. 2025
Aujourd’hui, nous publions TOTOPLOC : A Locality Sensitive Hashing Scheme for Verifiable Inference - Détecte les modifications apportées aux modèles, aux invites ou à la précision - Robuste sur tous les types de GPU, les configurations parallèles tensorielles et les noyaux d’attention - Validation jusqu’à 100 × plus rapide que la génération - Réduit de 1000 la surcharge de mémoire des épreuves× Construire la base de protocoles de calcul décentralisés et vérifiables.
1,42K