Cuối năm 2025 đánh dấu một điểm chuyển mình lớn cho DeepProve, nâng cấp hệ thống chứng minh từ một prover đơn lẻ thành một hệ thống zkML phân tán, được tăng tốc bằng GPU, được thiết kế cho các khối lượng công việc suy diễn trong thế giới thực. Đọc bản cập nhật kỹ thuật đầy đủ tại liên kết bên dưới: 🧵

2/ Chúng tôi đã thiết kế lại DeepProve dựa trên một đồ thị thực thi phân tán. Thay vì một trình chứng minh đơn khối, logic chứng minh giờ đây được biểu diễn dưới dạng các đồ thị con có thể song song hóa, có thể được chia nhỏ giữa các máy và thực thi đồng thời. Điều này mở ra khả năng mở rộng theo chiều ngang cho việc tạo chứng minh.

3/ Đại số tuyến tính giờ đây là einsum-first. Tất cả các lớp tuyến tính, bao gồm các lớp dày đặc và các phép chiếu QKV, đã được thống nhất dưới các công thức einsum rõ ràng, hỗ trợ các bậc tensor tùy ý. Kết quả: một mã nguồn đơn giản hơn, ít lớp tùy chỉnh hơn và nhiều linh hoạt hơn cho các kiến trúc mô hình trong tương lai.

4/ Chúng tôi đã khắc phục một nút thắt lớn, các lớp phi tuyến, bằng cách giới thiệu một lớp Lookup tổng quát duy nhất xử lý softmax, ReLU, GELU, chuẩn hóa lớp và nhiều hơn nữa, với việc tái định lượng được tích hợp sẵn. Tức là ít lớp hơn, ít chi phí hơn và hiệu suất tốt hơn.

5/ Độ chính xác được giữ vững khi hiệu suất tăng lên. So với PyTorch FP32: • GPT-2 cho thấy độ chênh lệch perplexity <1% • Gemma-3 cho thấy độ chênh lệch perplexity ~4% DeepProve duy trì độ chính xác số cao ngay cả khi tối ưu hóa nặng hơn.

6/ Suy diễn giờ đây thân thiện với bộ nhớ đệm và chạy trên GPU. Chúng tôi đã thêm: • Bộ nhớ đệm vị trí cho các chuỗi dài • Bộ nhớ đệm nối tensor cho việc tái sử dụng K/V Tất cả các lớp giờ đây chạy trên GPU, cho phép chứng minh lạc quan: kết quả trả về ngay lập tức, chứng minh theo sau một cách không đồng bộ.

7/ Thông lượng đã đạt được một cột mốc quan trọng. Sau khi phân tích và tối ưu hóa nút thắt cổ chai từ đầu đến cuối, DeepProve hiện duy trì ~1.5 bằng chứng mỗi giây. Điều này xác nhận rằng zkML có thể theo kịp với suy diễn thực tế, không chỉ là khối lượng công việc ngoại tuyến hoặc theo lô.

8/ Tóm tắt: Quý 4 năm 2025 đã đưa DeepProve vào một cấp độ kiến trúc quy mô sản xuất mới. Chứng minh phân tán, thực thi GPU, chứng minh lạc quan và thông lượng bền vững hiện đã trở thành hiện thực và có thể mở rộng, cung cấp nền tảng cần thiết cho AI có thể xác minh. Còn nhiều điều sắp tới.