ICMLにいて、検証可能な推論に興味がある方は、ぜひポスターにお立ち寄りください。 ここでは、推論設定やモデルの切り替えなど、さまざまな設定で機能する効率的なアクティベーションハッシュ方式であるTOPLOを紹介します。 7月16日午後4時30分、E-1106
以下は、TOPLOCに関する元のスレッドで、その背後にある考え方を説明しています。
Prime Intellect
Prime Intellect2025年1月29日
本日、TOPLOC: A Locality Sensitive Hashing Scheme for Verifiable Inference をリリースします - モデル、プロンプト、または精度に対する変更を検出します - GPUタイプ、テンソル並列構成、アテンションカーネル全体で堅牢 - 生成よりも最大100×速い検証 - 証明のメモリオーバーヘッドを1000削減します× 分散型で検証可能なコンピューティングプロトコルの基盤を構築します。
1.38K